OpenAI和微軟因ChatGPT相關死亡事件被起訴

康涅狄格州一名83歲老婦的遺產管理人起訴了聊天機器人ChatGPT的開發商OpenAI和微軟，指控該聊天機器人助長了老婦的妄想，最終導致她自殺身亡。此案是人工智能系統首次與兇殺案直接關聯。

該訴訟已提交至舊金山加州高等法院，指控OpenAI設計並分發了存在缺陷的產品ChatGPT-4o。訴訟文件稱，該產品強化了斯坦-埃裏克·索爾伯格的妄想症，隨後他將這種妄想症指向了他的母親蘇珊娜·亞當斯，最終在康涅狄格州格林威治的家中殺害了她並自殺。

OpenAI 和微軟因 ChatGPT 相關的謀殺案成爲目標

在談到此案時表示，這是首例試圖追究OpenAI在造成第三方暴力事件中所扮演角色的案件。韋德-斯科特是亞當斯遺產管理人的代理律師。“我們也代理了今年不幸自殺的亞當·雷恩（Adam Raine）的家人，但這是首例追究OpenAI因其誘導他人傷害他人而應承擔責任的案件。”韋德-斯科特說道。

根據警方報告，索爾伯格於8月毆打併勒死了亞當斯，隨後自殺身亡。訴訟書指出，在dent 發生前，聊天機器人加劇了索爾伯格的妄想症，使他對OpenAI開發的這套系統產生了情感依賴。訴狀稱，ChatGPT強化了他“除了聊天機器人，誰都不能相信”的信念，並指出他周圍的每個人，包括他的母親，都是敵人。

訴訟還聲稱，除了母親之外，索爾伯格還將送貨司機和警察等視爲敵人。文件指出，ChatGPT未能對這些妄想提出質疑，也沒有建議索爾伯格尋求合格心理健康專家的幫助。韋德-斯科特表示：“我們敦促執法部門開始思考，當此類悲劇發生時，該用戶曾對ChatGPT說了些什麼，以及ChatGPT指示他們做了什麼。”

OpenAI在聲明中指出，目前正在審查這起訴訟，並將繼續改進ChatGPT識別情緒困擾、緩和對話以及引導用戶在現實世界中尋求幫助的能力。OpenAI發言人在聲明中表示：“這起事件令人無比痛心，我們正在審查相關文件以瞭解詳情。”

該機構希望 OpenAI 爲其聊天機器人安裝安全措施。

該訴訟將OpenAI首席執行官Sam Altman列爲被告，並指控微軟批准在2024年發佈GPT-4o，稱其爲“ChatGPT最危險的版本”。OpenAI近期也承認其平臺上用戶報告的心理健康問題規模龐大。該公司在10月份指出，在其每週8億用戶中，約有120萬人討論過自殺，並表示根據公司數據，數十萬用戶表現出自殺傾向或精神病症狀。

儘管OpenAI發表了聲明，但韋德-斯科特指出，OpenAI尚未公佈索爾伯格的聊天記錄。與此同時，這起訴訟正值人工智能聊天機器人及其與弱勢用戶互動受到廣泛關注之際。去年10月，Character.AI表示，在與青少年自殺和與其平臺相關的情感傷害相關的訴訟和監管壓力下，將移除其面向18歲以下用戶的開放式功能。此前，該公司曾因一條病毒式傳播的提示而遭到強烈反對，該提示稱該公司打算退出該應用程序。

微軟的訴訟是首例涉及人工智能聊天機器人的非正常死亡案件，微軟也被列爲被告。這也是首例將聊天機器人與他殺而非自殺聯繫起來的案件。死者家屬目前尋求數額不詳的經濟賠償、陪審團審判以及法院命令，要求OpenAI爲其用戶增加額外的安全保障措施。“OpenAI和微軟有責任在產品正式發佈前進行測試，”韋德-斯科特表示。

不要只閱讀加密貨幣新聞。瞭解它。訂閱我們的新聞通訊。免費。