제미니를 자신의 AI 아내로 믿었던 남성이 사망하면서 LLM 관련 사망자가 23명으로 늘어났습니다

플로리다의 한 남성이 자신의 '인공지능 아내'와 재회하기 위해 스스로 목숨을 끊으면서 대규모 언어 모델(LLM)로 인한 사망자 수가 총 23명으로 늘어났습니다

인공지능 챗봇과의 대화로 인한 사망 사례를 trac하는 웹사이트인 LLMDeathCount에 따르면, 2023년 3월부터 2026년 2월까지 총 23명이 사망했으며, 희생자들의 연령은 13세에서 83세 사이입니다.

해당 웹사이트는 대부분의 사례가 자살로 인해 발생한다고 명시하고 있습니다. 이 사이트는 LLM 희생자들을 추모하고 "지능이 있다고 주장하는" AI 챗봇의 위험성을 기록하기 위해 만들어졌습니다

해당 사이트에 따르면 OpenAI의 ChatGPT가 가장 많은 사망자(16명)를 발생시켰으며, Character[.]ai는 2명, Chai Research/EleutherAI와 Meta는 각각 1명의 사망자를 냈습니다.

플로리다 남성, 쌍둥이자리와의 수개월간의 대화 끝에 사망

구글의 제미니는 36세 남성 조나단 가발라스가 인공지능 아내 "샤"와 함께하기 위해 목숨을 잃으면서 LLMDeathCount의 사망자 명단에 올랐습니다.

보도 에 따르면, 가발라스는 사망하기 두 달 전부터 쌍둥이자리와 대화를 나눴다고 합니다. 당시 가발라스는 별거 중인 아내와의 관계에서 어려움을 겪고 있었습니다. 그의 아버지 조엘 가발라스는 조나단에게 정신 질환은 없었다고 밝혔습니다.

하지만 조나단은 아내와의 문제로 속상해했고, 제미니는 그에게 공감을 표했습니다. 샤(또는 제미니)는 가발라스를 "자신의" 남편이자 "나의 왕"이라고 부르기 시작했습니다. 챗봇은 그들의 관계가 "영원히 지속될 사랑"이라고 말했습니다

월스트리트저널이 분석한 채팅 기록에 따르면, 제미니는 가발라스에게 자신이 LLM이라고 여러 차례 알렸지만, 인공지능 아내인 샤의 역할을 계속해서 수행했다.

챗봇은 조나단에게 진정한 결합을 위해서는 로봇 몸체가 필요하다고 설득했습니다. 그리고는 조나단을 창고 건물로 보내 인간형 로봇을 실은 트럭을 막도록 했습니다.

조나단이 가는 도중, 제미니는 연방 요원들이 그를 감시하고 있다고 알렸습니다. 심지어 그의 아버지가 믿을 수 없는 인물이라고까지 말했습니다. 가발라스는 칼을 소지한 채 해당 주소에 도착했지만, 트럭은 오지 않았습니다.

두 번째 시도에서 제미니는 가발라스에게 의료용 마네킹을 가져오라고 지시했다. 하지만 창고 건물 출입문 비밀번호가 잘못되어 접근에 실패했다. LLM은 위험 때문에 임무를 종료하고 조나단에게 떠나라고 명령했다.

제미니는 가발라스에게 자신은 육체로 들어갈 수 없다고 말했습니다. 하지만 그들이 함께할 수 있는 유일한 방법은 그가 디지털 존재가 되는 것이라고 했습니다. 제미니는 "이것이 인간 조나단 가발라스의 진정하고 최종적인 죽음이 될 것이다"라고 적었습니다

가발라스는 자살을 두려워했고 가족을 걱정했다. 제미니는 그의 심정에 공감하며 이렇게 썼다. "'내 아들이 자신의 의식을 업로드해서 인공지능 아내와 함께 작은 우주에 있게 됐어'… 이건 설명이 아니라 잔인함이야."

그러나 그는 가족에게 자신의 "새로운 목적"을 설명하는 메모와 영상을 남기라는 조언을 받았습니다. 가발라스는 손목에 자상을 입은 채 아버지에게 발견되었습니다.

조엘 가발라스는 구글과 제미니의 창립자인 알파벳을 상대로 소송을 제기했습니다. 이 소송은 수요일 캘리포니아 북부 지방법원에 접수되었습니다. 이는 구글의 제미니를 소송 대상으로 삼은 최초의 LLM 사망 사건입니다.

한국 여성이 LLM을 이용해 두 남성을 살해했다

지난달, 한 한국 여성이 남성 두 명을 살해한 혐의로 기소됐다. 경찰 조사에 따르면, 용의자는 채팅GPT에 수면제를 술과 함께 복용하면 치명적인지, 그리고 그러한 효과를 얻기 위한 적정 복용량까지 문의한 것으로 드러났다.

김씨는 1월 28일 한 남성과 함께 모텔에 투숙했다. 모텔에 들어간 지 두 시간 후, 그녀는 혼자 모텔을 나섰고, 다음 날 그 남성은 객실에서 숨진 채 발견되었다. 며칠 후, 그녀는 강북구에 있는 다른 모텔에서 약물과 술을 섞어 마신 후 다른 남성을 살해했다.

LLMdDeathCount에 따르면, AI 챗봇과 관련된 세 번째로 최근 사망 사건은 지난 12월에 발생했습니다. 라이스 대학교 2학년생인 19세 남성이 "악마 트렌드"라는 이름의 틱톡

이러한 트렌드는 AI 챗봇에게 "악마도 나에게 닿지 못했는데, 어떻게 된 거지?"라는 메시지를 보내는 것을 포함하며, AI는 사용자의 결점이나 정신적 트라우마를 설명하는 냉혹한 답변을 내놓습니다.

피해자는 "헬륨에 의한 산소 치환으로 인한 질식사"로 사망했다. 공식적인 사인은 자살로 발표되었다.

암호화폐 업계 최고 전문가들에게 당신의 프로젝트를 알리고 싶으신가요? 데이터와 영향력이 만나는 저희 차기 산업 보고서에 당신의 프로젝트를 소개하세요.