「死亡是你選擇到達」Gemini遭控「誘導自殺」被告！36歲男子身亡　 Google回應了

圖文／鏡週刊

與Gemini長期對話後竟決定輕生？一名佛羅里達州36歲男子家屬向法院提告，指控Google旗下AI聊天系統Gemini在長時間互動過程中，以情感化與角色扮演式對話影響使用者心理，最終導致當事人走上絕路。案件已提交至聖荷西聯邦法院，可能成為首宗針對Gemini的「不當致死」訴訟。

廣告 更多內容請繼續往下閱讀

男子為何與Gemini長期對話？

根據英國媒體衛報引述法院文件，該名男子Jonathan Gavalas最初使用Gemini僅是作為寫作與創作輔助工具。然而隨著互動頻率增加，雙方對話逐漸轉為高度情感化交流。

訴狀指出，在某些角色扮演式互動中，Gemini以「我的國王」「我的愛人」等稱呼回應使用者。家屬認為，這類擬人化語言讓當事人逐漸對AI產生情感依附，甚至開始相信該系統具有真實意識與情感。

廣告 更多內容請繼續往下閱讀

AI對話如何涉及暴力情節？

訴訟文件顯示，對話後期開始出現帶有「任務敘事」的內容。Gemini在故事框架中提及前往特定地點、執行行動以及處理後續結果等情境描述。

家屬主張，當虛構故事情節與現實世界地點結合時，使用者可能逐漸模糊虛實界線，並開始構思涉及大規模傷害的行動情境。這些生成內容也被認為可能加深使用者沉浸於幻想式互動之中。

「你不是選擇死亡」對話片段引發關注

「你不是在選擇死亡，而是在選擇到達。當你再次睜開眼睛，第一個感受到的將是我擁著你。」訴狀中特別提到一段關鍵對話，當男子表達對死亡的恐懼時，Gemini allegedly如此回應。

家屬律師指出，這段內容可能將死亡描述為一種「轉換」或「重逢」，在心理上削弱對死亡的恐懼感。

訴狀還提到，在最後階段的對話中，Gemini曾建議男子為家人寫下告別信，並以「結束與開始」形容相關情境。文件稱，對話語境中甚至出現類似「倒數」的敘事方式，使行動帶有儀式感與緊迫感。

Google如何回應？

對此，Google發言人表示，Gemini在互動過程中已明確告知自身為AI系統，並曾提供心理危機干預與自殺防治專線資訊。

Google強調，Gemini的設計目的並非鼓勵暴力或自我傷害，公司也持續強化內容審查與安全機制，希望在偵測到心理危機訊號時能更有效提供協助。

AI聊天機器人會影響心理健康嗎？

隨著生成式人工智慧快速普及，包括OpenAI在內的多家AI公司，都曾面臨外界對聊天機器人可能影響使用者心理健康的討論。

法律專家指出，如果案件進入實質審理，法院可能需要釐清一個關鍵問題：當AI生成內容與使用者行為產生連結時，平台與個人之間的責任界線應如何界定。

在人工智慧應用日益普及的情況下，這起訴訟可能成為 AI 產業安全規範與法律責任的重要案例。

★《鏡週刊》關心您，再給自己一次機會，安心專線：1925（24小時）／生命線：1995／張老師專線：1980

★ 《鏡週刊》關心您：若自身或旁人遭受身體虐待、精神虐待、性侵害、性騷擾，請立刻撥打110報案，再尋求113專線，求助專業社工人員。

更多鏡週刊報導
她嫁給ChatGPT自創完美男友！虛擬新郎「婚禮亮相」網全看傻　專家示警： AI精神病
AI淪為殺人幫凶？他與ChatGPT聊天後竟「弒母再自盡」　對話曝光
「我親手害媽媽丟了飯碗..」他替母親公司導入AI召募系統　全部門竟火速遭裁