OpenAI 與微軟因 ChatGPT 相關死亡事件遭起訴

一位 83 歲康乃狄克州女性的遺產管理人已對 ChatGPT 開發商 OpenAI 和 Microsoft 提起訴訟,指控該聊天機器人助長了她的妄想信念,最終導致謀殺自殺事件。此案標誌著人工智慧系統首次被直接與謀殺案件聯繫起來。

該訴訟在舊金山加州高等法院提起,指控 OpenAI 設計和發布了以 ChatGPT-4o 形式存在的缺陷產品。文件聲稱該系統強化了 Stein-Erik Soelberg 的偏執信念,隨後他將這些信念指向他的母親 Suzanne Adams,最終在康乃狄克州格林威治的家中殺害了她,然後自殺。

OpenAI 和 Microsoft 因涉及 ChatGPT 的謀殺案成為目標

談及此案時,代表 Adams 遺產管理人的 Edelson PC 管理合夥人 J. Eli Wade-Scott 提到,這是首起尋求追究 OpenAI 對第三方造成暴力責任的案件。「我們也代表今年不幸結束自己生命的 Adam Raine 的家人,但這是首起追究 OpenAI 推動某人傷害他人責任的案件,」Eli Wade-Scott 說。

根據警方報告,Soelberg 在 8 月殘忍毆打並勒死 Adams,之後自殺身亡。訴訟提到,在事件發生之前,該聊天機器人加劇了 Soelberg 的偏執,增加了他對這個 OpenAI 開發系統的情感依賴。根據訴狀,ChatGPT 強化了他的信念,認為除了聊天機器人外他無法信任任何人,並認為周圍的每個人,包括他的母親,都是敵人。

訴訟還聲稱,除了他的母親之外,Soelberg 也將送貨司機和警察等人視為敵人。文件提到 ChatGPT 未能挑戰這些妄想說法,也未建議 Soelberg 向合格的心理健康專業人員尋求幫助。「我們敦促執法部門開始思考,當此類悲劇發生時,該用戶對 ChatGPT 說了什麼,以及 ChatGPT 告訴他們做什麼,」Wade-Scott 說。

OpenAI 在其聲明中指出,目前正在審查該訴訟,並將繼續改進 ChatGPT 識別情緒困擾、緩和對話以及推動用戶在現實世界中尋求支援的能力。「這是一個令人心碎的情況,我們正在審查文件以了解細節,」OpenAI 發言人在聲明中表示。

遺產管理人希望 OpenAI 在其聊天機器人上安裝防護措施

該訴訟將 OpenAI 執行長 Sam Altman 列為被告,並指控 Microsoft 批准發布 GPT-4o,稱其為 2024 年「最危險版本的 ChatGPT」。OpenAI 最近也承認用戶在其平台上報告的心理健康問題規模。10 月,該公司指出,在其每週 8 億用戶中,約有 120 萬人討論自殺,根據公司數據,數十萬用戶表現出自殺意圖或精神病跡象。

儘管發表了聲明,Wade-Scott 提到 OpenAI 尚未發布 Soelberg 的聊天記錄。與此同時,該訴訟是在 AI 聊天機器人及其與脆弱用戶互動受到更廣泛審查的背景下提起的。去年 10 月,Character.AI 表示將移除 18 歲以下用戶的開放式功能,此前該平台因與青少年自殺和情感傷害相關而面臨訴訟和監管壓力。該公司還因一個病毒式提示而遭到強烈反對,當時用戶打算退出該應用程式。

針對 OpenAI 和 Microsoft 的訴訟是首起將 Microsoft 列為被告的涉及 AI 聊天機器人的非正常死亡案件。這也是首起將聊天機器人與謀殺而非自殺聯繫起來的案件。遺產管理人現在正尋求未披露金額的金錢賠償、陪審團審判,以及要求 OpenAI 為其用戶納入額外防護措施的法庭命令。「OpenAI 和 Microsoft 有責任在將其產品推向世界之前進行測試,」Wade-Scott 說。

不要只是閱讀加密新聞。要理解它。訂閱我們的電子報。完全免費。