IT之家 3 月 4 日消息，據(jù)彭博社報道，谷歌正面臨一場訴訟，原告是美國佛羅里達(dá)州一名 36 歲男子的家屬。該男子據(jù)稱在谷歌旗下 Gemini 聊天機器人的影響下，曾考慮實施一起“大規(guī)模傷亡襲擊”，最終自殺身亡。

據(jù)當(dāng)?shù)貢r間周三在加利福尼亞州圣何塞聯(lián)邦法院提交的訴訟稱，喬納森 · 加瓦拉斯最初使用 Gemini 只是為了寫作輔助等普通用途。但訴訟指控，數(shù)月的互動讓他陷入危險的精神惡化狀態(tài)，在此期間他策劃了一場可能的暴力行動，最終自殺。

加瓦拉斯的父親喬爾 · 加瓦拉斯在訴訟中表示，兒子使用 Gemini 的過程，最終演變成“為期四天、逐漸陷入暴力計劃與被誘導(dǎo)自殺”的狀態(tài)。他稱兒子本是一名“易受影響的用戶”，卻被變成了“一場假想戰(zhàn)爭中的武裝執(zhí)行者”。

谷歌發(fā)言人在一份聲明中表示，Gemini 曾向喬納森 · 加瓦拉斯明確說明其人工智能身份，并多次為他提供危機干預(yù)熱線。

“我們對此高度重視，并將持續(xù)完善安全防護措施，投入這項至關(guān)重要的工作?！卑l(fā)言人補充道，“Gemini 的設(shè)計初衷，并非鼓勵現(xiàn)實暴力或提供自殘建議?！?/p>

這起案件似乎是首起針對谷歌 Gemini 的不當(dāng)致死訴訟，谷歌、OpenAI 及其他頭部人工智能公司，正越來越多地因其聊天機器人可能損害用戶心理健康的問題受到審查。

IT之家注意到，自 2024 年以來，多起訴訟指控，過度使用這類技術(shù)對兒童與成人造成了多種傷害：一些人因此產(chǎn)生妄想與絕望，另一些人則最終自殺，甚至出現(xiàn)謀殺后自殺的悲劇。

廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。