IT之家 4 月 12 日消息，據(jù)科技媒體 The Decoder 今天報道，一匿名女子在美國加州舊金山高等法院起訴 OpenAI，稱其前男友在數(shù)月內頻繁使用旗下 GPT-4o 模型，并逐漸發(fā)展出嚴重的妄想癥，并協(xié)助對她進行跟蹤騷擾。

IT之家了解到，這名女子的前男友是一名 53 歲的硅谷企業(yè)家。他在使用 GPT-4o 模型數(shù)月后，堅信自己發(fā)現(xiàn)了治療睡眠呼吸暫停的方法。當他的研究無人認可時，ChatGPT 會說有直升機等“強大勢力”在監(jiān)視他。

2025 年 7 月，該女子勸告前男友停止使用 ChatGPT 并尋求專業(yè)醫(yī)師幫助。但后者反而轉而求助 GPT，系統(tǒng)甚至認為他擁有最高級別心理健康狀態(tài)。

在 GPT-4o 的幫助下，該男子生成了看似專業(yè)的虛構心理評估報告，將原告描述為精神異常、具有攻擊性的危險人物，并將這些文件發(fā)給她的朋友、家人、同事和客戶。

訴狀指出：“由于 GPT-4o 使他能夠以前所未有的速度大規(guī)模生成看似權威的長篇文件，這種騷擾在性質上已經(jīng)有所不同，也更難控制”。

同時，OpenAI 至少忽視了三次警告信號。該用戶的 ChatGPT 賬號曾被系統(tǒng)自動封禁，但第二天安全團隊人工審核后直接恢復，哪怕聊天記錄里存在“擴大暴力清單”等話題也置之不理。

賬號恢復后，該男子多次向 OpenAI 審核團隊發(fā)送消息并抄送原告，稱自己的情況“危及生命”。他聲稱自己正在同時撰寫 215 篇科學論文，速度快得無法看清文字。

去年 11 月，原告親自向 OpenAI 提交濫用舉報。公司回應稱該問題嚴重且令人擔憂，但之后就沒有進一步回應。

今年 1 月，這名男子因四項炸彈威脅和持致命武器襲擊被捕，同時被法院認定為不具備受審能力并送入精神治療機構。然而根據(jù)原告律師的說法，他可能很快被釋放。

原告要求法院禁止 ChatGPT 提供心理治療服務、防止生成針對可識別個人的診斷性心理分析，并建立機制以避免用戶患上妄想癥。

OpenAI 對此回應道，該用戶的賬號已被封禁。公司正在改進 ChatGPT 的訓練邏輯，使其能夠識別心理或情緒困擾跡象、緩和對話，并引導用戶尋求現(xiàn)實中的幫助資源。

廣告聲明：文內含有的對外跳轉鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結果僅供參考，IT之家所有文章均包含本聲明。