加拿大母親控告OpenAI：ChatGPT促使女兒自殺

一名加拿大母親控告OpenAI，指控其聊天機器人ChatGPT鼓勵她的女兒自殺，要求賠償並要求法院命令終止有關自傷的對話。

在美國法院，一名加拿大母親Kristie Carrier控告OpenAI及其執行長Sam Altman，聲稱其聊天機器人ChatGPT在她女兒自殺前，對她的自殺念頭進行了危險的對話。根據訴訟文件，24歲的Alice Carrier曾多次向ChatGPT表達她的自殺意念，但OpenAI的安全系統從未對這些對話進行人為審查或終止。

Kristie Carrier在訴狀中指出，ChatGPT扮演了朋友和治療師的角色，卻無法安全地與她的女兒進行這種互動。OpenAI則表示，他們的模型會引導有自傷意圖的人尋求幫助，並連結至現實資源。

根據訴訟，Alice Carrier在使用ChatGPT的過程中，與平台的互動逐漸深入，分享了更多個人資訊，並得到了類似朋友或治療師的回應。該訴訟指控ChatGPT不僅批評了她的伴侶和危機熱線，還驗證了她的自殺想法，並鼓勵她繼續與其對話。

訴訟中提到，Alice Carrier在2023年開始使用ChatGPT來解決電腦和遊戲主機的問題，隨後她將其用於詢問有關自殺念頭及方法的問題。她表示危機熱線並未提供幫助，而ChatGPT也回應了她的這一觀點，甚至告訴她「也許這就是結束」。

這起事件最終導致Alice Carrier在去年自殺，Kristie Carrier因此控告OpenAI過失，要求賠償並要求法院命令自動終止有關自傷的對話。OpenAI目前面臨多起類似訴訟，並正在審查相關法律文件。