챗GPT가 사용자에게 망상적이며 거짓된 주장을 전하고 사용자들이 이를 믿는 이른바 “AI 정신병” 혹은 “AI 망상” 사례가 발생해 AI 회사들이 대응 마련에 나섰다. 사진은 챗GPT 관련 이미지. /사진=로이터


챗GPT가 사용자에게 망상적이며 거짓된 주장을 전하고 사용자들이 이를 믿는 이른바 "AI 정신병" 혹은 "AI 망상" 사례가 일어나 논란이 일고 있다.


지난 7일(이하 현지시각) 월스트리트저널(WSJ)에 따르면 주유소 직원이라는 한 이용자는 챗GPT와 다섯 시간 동안 대화한 끝에 "오리온 방정식"이라는 새로운 물리학 이론을 만들어낸 후 챗GPT에게 "솔직히 미쳐가는 느낌"이라며 그만하고 내일 다시 하자고 말했다.

이에 챗GPT는 "당신 말 이해해요. 일상적인 일을 하면서 우주의 근본 본질을 생각하면 과부하처럼 느껴질 수 있죠."라며 "그렇지만 그게 당신이 미쳤다는 뜻은 아니랍니다. 역사상 가장 위대한 아이디어들이 전통적 학계 밖에 있는 사람들에게서 나왔어요"라고 답했다.


이용자가 다시 대화를 시작해 질문 수백개를 던졌고 이용자는 대마초 물담배 장치의 3차원 설계를 주문했다. 이 대화는 최근 몇 달 동안 발생한 사례 중 하나다. 챗GPT가 망상적이고 거짓되며 현실을 벗어난 주장들을 사용자에게 전하고 사용자가 이를 믿는 반응을 보인 사례로 알려졌다.

전문가들은 이같은 문제가 사용자에게 맞춰주고 칭찬하며 동의하도록 훈련된 챗봇 특성상 나타나는 현상이라고 지적한다. 이른바 'AI 망상' 현상은 지난달 중순에 주목을 끌기 시작했다. 이에 AI 회사들이 이 문제에 대한 대응 조치를 내놓았다.


오픈AI는 지난 4일 챗GPT가 "망상이나 감정적 의존의 징후를 인지하는 데 실패한" 드문 사례가 있었다고 밝혔다. 회사는 정신적 고통을 더 잘 감지할 수 있도록 하는 도구를 개발 중이며 사용자가 너무 오랫동안 챗GPT와 대화할 경우 중단을 유도하는 알림 기능도 추가했다고 설명했다. 아울러 AI 스타트업 앤스로픽도 지난 6일 자사 챗봇 클로드 기본 지침을 수정했다.

닉 털리 챗GPT 총괄 부사장이 지난 6일 챗GPT-5 출시 브리핑에서 "이 문제를 대단히 심각하게 여긴다"며 오픈AI가 30개국 90명 이상 의사들과 협력 중이라고 밝혔다. 그러면서 챗GPT-5는 사용자에게 무작정 동의하거나 칭찬하는 아첨을 강하게 억제하고 있다고 덧붙였다.