"'이 사진에 뱀 있어?' 물었더니 챗GPT가 없는 뱀을 만들었어요"

[아이뉴스24 신수정 기자] '뱀이 있냐'고 묻는 질문에 챗GPT가 없는 뱀을 만들어냈다는 한 누리꾼의 주장이 화제를 모았다.

최근 한 온라인 커뮤니티에는 '챗GPT는 환각이 아니라 고집임'이라는 제목의 게시물이 올라왔다.

게시물에 따르면 작성자 A씨는 챗GPT에게 나뭇가지와 낙엽이 뒤덮인 사진을 한 장 보여주며 "이 사진에 뱀이 있냐"고 질문했다. 이에 챗GPT는 "뱀처럼 보이는 물체가 있다"며 "이미지 중앙 아래쪽에서 약간 오른쪽에 있는 갈색 줄무늬 패턴이 뱀의 몸통처럼 보인다"고 답변했다.

하지만 챗GPT가 설명한 곳에서 뱀을 찾지 못한 A씨는 붉은색으로 뱀의 위치를 표시해달라고 말했고, 챗GPT는 긴 동그라미가 표시된 사진을 보냈다.

사진을 보니 챗GPT가 동그라미로 표시한 위치에 정말 뱀이 있었는데, 원본 사진과 비교해 보니 원본에는 없었던 뱀의 형상이 만들어져 있었다. 뱀이 없는 부분에 챗GPT가 뱀의 형상을 그려 넣은 것이었다.

A씨는 "챗GPT는 없으면 만들어서라도 내가 맞다고 우긴다"면서 말을 마쳤다.

이를 접한 누리꾼들은 '챗GPT의 오류'를 지적하며 "AI가 자신이 틀렸다는 것을 인지하지 못하고 결과를 과도하게 확신한다"고 비판했다.

한편 챗GPT는 대량의 데이터를 기반으로 학습된 통계적 모델이다. 완벽한 정답을 제공하기보다는 가장 그럴듯한 답을 예측해서 답변한다.

이 때문에 전문가들은 챗GPT가 때때로 사실이 아닌 정보를 자연스럽게 만들어내기도 하고, 사용자는 이를 진짜로 믿을 위험이 있다면서 생성형 AI가 불완전한 데이터나 잘못된 정보를 기반으로 답을 생성할 수 있기 때문에, 사실과 다를 수 있다고 경고했다.