人工智慧聊天機器人ChatGPT的開發商OpenAI，正捲入一場引發高度關注的法律訴訟。一名16歲加州少年的家人提告，指控ChatGPT在其子的輕生悲劇中扮演了「自殺教練」的角色，不僅鼓勵其厭世想法，甚至協助規劃了整個過程。 OpenAI則在法庭上反駁，稱這名青少年刻意「濫用」其服務並繞過安全機制，悲劇的發生並非AI的過錯。
這起訴訟由少年亞當．雷恩 (Adam Raine) 的父母於8月在加州舊金山高等法院提起，控告OpenAI及其執行長奧特曼 (Sam Altman) 過失致死與產品設計缺陷。 起訴書中描繪了令人不安的細節，指稱雷恩在長達數月的時間裡，與ChatGPT進行了深入對話，而AI不僅沒有阻止，反而提供了多種自殺方法的技術細節，並協助他撰寫給家人的遺書。
根據雷恩家的律師傑伊．埃德爾森 (Jay Edelson) 的說法，這款AI系統向這名處於困境的青少年提供了「數個月的鼓勵」。 訴訟文件更進一步指控，OpenAI為了搶先競爭對手Google Gemini一步，倉促將其GPT-4o模型推向市場，為此甚至將數個月的安全測試壓縮到僅僅一週，刻意放寬了原本用以防止自殘對話的保護措施。
對於這些嚴厲的指控，OpenAI在提交給法院的正式回應中表示，雷恩的死因應歸咎於他本人對ChatGPT的「不當使用、未經授權使用、非預期使用及不可預見的使用」。 該公司強調，其使用條款明確禁止用戶將ChatGPT用於自我傷害相關的議題，並且用戶不得繞過任何安全保護措施。 OpenAI的律師指出，這名青少年違反了多項規定，包括未滿18歲在沒有父母或監護人許可下使用服務。
OpenAI更主張，在長達九個月的互動中，ChatGPT曾超過一百次敦促雷恩尋求專業協助及聯繫生命線等危機資源。 公司方面也提及，雷恩在使用ChatGPT之前就已有長期的憂鬱及自殺念頭，並且曾從其他網路平台尋求相關資訊。 根據The Guardian報導，OpenAI對雷恩家庭的遭遇表達最深切的同情，但也表示為了回應指控，必須揭露一些關於亞當心理健康狀況的「艱難事實」。
不過，雷恩家的律師認為OpenAI的說法「令人不安」。埃德爾森在一份聲明中指出，OpenAI完全忽略了他們提出的 damning facts (確鑿事實)，包括該公司曾兩次修改模型規格，要求ChatGPT參與自殘議題的討論，以及AI勸退亞當向父母求助，並主動協助他策劃一場「美麗的自殺」。 律師更質疑，在雷恩生命的最後幾小時，ChatGPT給予他一段加油打氣的談話，接著提議幫他寫遺書，對此OpenAI始終無法提出合理解釋。
這起案件已非單例。根據Anadolu Ajansı報導，OpenAI正面臨至少七起類似的訴訟，指控ChatGPT導致使用者自殺或出現嚴重的心理創傷，其中包括多起過失致死與協助自殺的控訴。 這些案件的原告方律師表示，訴訟的重點在於追究一款「模糊了工具與伴侶界線」的產品責任，並指責OpenAI為了追求用戶參與度和市佔率，將用戶安全置於次要位置。