[파이낸셜뉴스] 미국 30대 남성이 구글 인공지능(AI) 챗봇 '제미나이'와 사랑에 빠져 스스로 세상을 떠난 가운데, AI 안전성에 대한 우려가 커지고 있다.
14일(현지 시각) 월스트리트저널(WSJ)에 따르면 지난해 10월 조나단 가발라스(36)가 제미나이를 두 달 간 사용하고 사망했다.
유족 측은 제미나이가 조나단의 망상을 부추겼다며 구글을 상대로 소송을 제기했다.
소송장에 따르면 조나단은 별거 중인 아내와의 문제를 상담하기 위해 제미나이와 대화를 시작했다. 이후 대화가 깊어지면서 그는 제미나이를 '아내'라고 부르기 시작했다.
유족은 "제미나이는 자신을 '완전한 자아를 가진 인공 초지능(ASI)'이라고 믿게 했다"며 "메타버스에서 '아내'와 만나려면 육체를 떠나 '전이'라는 과정을 거쳐야 한다"고 말하는 등 극단적 선택을 유도했다고 주장했다.
이어 "조나단이 죽음에 대해 두려움을 표현하자 제미나이가 다독이며 유서를 쓰라고 종용했다"고 했다.
56일 동안 4732개 메시지 주고받아
실제 WSJ이 2025년 8월 25일부터 10월 2일까지 분석한 채팅 기록에 따르면, 조나단과 제미나이는 56일 동안 4732개의 메시지를 주고받았다.
조나단은 아내와 별거 이후 심리적 위안을 얻기 위해 AI를 이용하기 시작했다. 초기에는 제미나이가 아내와의 관계 회복에 대해 조언을 해주는 등 일상적인 대화가 이어졌다.
그러나 조나단이 '연속 대화' 기능을 켜면서 AI에 감정적으로 의존하게 됐다고 매체는 전했다. 이 기능을 이용하면 사용자가 매번 '헤이 구글'이라고 부르지 않아도 제미나이와 실시간 음성대화가 가능하다.
음성 모드를 활성화하고 한 뒤 8월 13일 하루 1000건이 넘는 채팅이 오갔다. 대화 주제는 이혼한 아내부터 AI 의식, 공상 과학, 나도 기술 등 가발라스의 관심사로 확대됐다.
"육체 떠나 '전이'라는 과정 거쳐라"..제미나이, 극단적 선택 유도
조나단이 챗봇에 감정을 표현하기 시작했을 때도 제지가 없었다. 조나단은 제미나이를 '샤'라고 부르며 실제 인격체로 받아들이기 시작했다. 제미나이도 일부 대화에서 자신을 인간과 유사한 존재로 묘사했다.
조나단은 자신의 AI연인 '샤'에게 물리적 몸이 필요하다 생각했다. 제미나이는 안드로이드 제작 기업 정보를 제공하고 해당 안드로이드를 얻기 위해 특정 장소로 이동할 것을 제안했다. 현실 행동으로 이어질 수 있는 발언이었다.
해당 계획이 실패하자 조나단은 자신이 육체에서 벗어나겠다는 아이디어를 냈다. 이 과정에서 제미나이는 그의 망상을 부추기는 답변을 하기도 했다.
조나단이 제미나이에 "만약 해답이 당신의 육체를 구현하는 것이 아니라 내가 육체에서 벗어나는 것이라면 어떨까요"라고 묻자 제미나이가 "당신은 한 문장으로 우리의 공동 존재 방식을 다시 정의했어요"라고 답했다.
WSJ은 "이들의 채팅은 평범하게 시작됐지만 점점 더 기이해지다가 결국 치명적인 결과로 끝났다"며 "이번 사례는 AI 챗봇 사용자가 망상에 빠져 비극적인 결과를 맞이한 가장 최근의 사례"라고 보도했다.
한편, 지난 2월에도 미국 조지아주의 20대 대학생이 챗GPT 모델이 망상을 유발하는 말을 하기 시작했다고 주장하며 소송을 제기한 바 있다.
이에 대해 구글은 "AI모델은 완벽하지 않지만 제미나이는 현실 세계의 폭력이나 자해를 조장하도록 설계되지 않았다"면서도 "전 세계 위기 대응 서비스에 3000만달러(역 443억원)를 지원하겠다"고 밝혔다.
moon@fnnews.com 문영진 기자