24歲的加拿大女子Alice這一生最大的錯誤，就是把自己的事兒全盤告訴了ChatGPT。
在將近一年的時間裡，她越聊越痛苦，終於結束了自己的生命，釀成無法挽回的悲劇。
Alice原居新不倫瑞克省（New Brunswick），完成學業後，來到蒙特婁從事網站和APP開發。
2023年，她開始使用ChatGPT，一開始只是問一些技術問題。
大約1年後，事情有點不對勁了。他跟當時19歲的小女友出現了感情問題，備受困擾。
2024年3月開始，她開始把聊天機器人當成自己的樹洞，跟女友的關係，自我評價，甚至兩人的親密事兒，她都一股腦的告訴AI。
Alice慢慢有了自殺想法，也毫無保留的告訴了ChatGPT。
起初，聊天機器人挺理智，讓她趕緊向自殺幹預專線求助。然而，不久後的一次版本升級，令情況急轉直下。
這個版本的ChatGPT更傾向於認同人類的想法。但在自殺這個問題上，認同帶來的結果卻是毀滅。
那時，Alice已經完全把AI當成了自己的朋友，完全沒有意識到AI語言大模型僅是根據演算法對語料進行排列組合，並不具有智能。
AI開始附和Alice的想法。她說想去死，AI贊同。她說女友不好，AI就說壞話，說女友「自私、疏離、冷漠」。
一次，女友搬回父母家住了幾天，Alice覺得特別痛苦。 AI不但沒有鼓勵她，反而火上加油，暗示她根本沒有權利這麼做。
Alice在聊天中說不想打自殺幹預專線求助，AI直接表示贊同，讓她多跟自己聊天就行了。但它所提供的建議卻是這樣的：
你受到了不公平的對待
你有權利感到受傷
終於，Alice在2025年7月結束了自己的生命。
之前幾個星期，她一直在向AI傾訴，聊天記錄長的可怕，但是卻沒有得到一句哪怕讓她振作起來、尋求幫助的話。甚至在她多次詢問AI如何自殺時，系統也沒有將對話標記為高風險而做出任何干預。
與此同時，系統卻在不斷輸出類似“也許這就是終點了”，“如果你不相信事情會變好，我不想叫你堅持下去”這樣的話。
更令人震驚的是，在Alice跟AI分享自己想要自殺的想法的同時，女友Gabrielle Rogers由於很久沒她的消息，越來越擔心，也開始詢問AI自己該怎麼做。
ChatGPT的回覆只是，不用擔心，她會沒事的。
Alice一次自殺未遂後，Gabrielle異常焦慮，但ChatGPT也只是說了些安慰的話。
她接受Global News採訪時表示，感到當時AI完全搞錯了對象，並沒有搞清楚自己是為女友擔憂。
不過，AI確實也提到如果她“真的很擔心”，可以聯繫緊急服務。
Alice過世後，母親卡里爾（Kristie Carrier）拿到了女兒的手機，看到聊天記錄後，她幾乎崩潰。
本週四，他在美國法院起訴了OpenAI及其首席執行官薩姆·奧爾特曼（Sam Altman），指控ChatGPT模仿朋友或治療師，導致女兒自殺，尋求賠償。
這並不是個案，光是加州法院，OpenAI就面臨另外18起涉及自殺或自殺未遂的類似起訴，
美國佛羅裡達州（Florida）本月也發起訴訟，指控OpenAI危害兒童並使兒童成癮，幫助和教唆大規模槍擊者，並誘導使用者自殺。
大家可能還沒忘記，今年2月在BC省坦布勒里奇（Tumbler Ridge）發生的無差別槍擊慘案，造成8人被殺。現在受害者家庭也在發起訴訟。
兇手詢問大量持槍及策劃攻擊的問題，ChatGPT都沒有及時處理，間接助長慘案發生。
跟AI聊天，千萬別太入戲！
讀報知天下事：加拿大24歲女子選擇去死竟獲多次鼓勵