IT之家 3 月 11 日消息，人工智能公司曾多次承諾會采取保護(hù)措施，保障未成年用戶安全，但一項最新調(diào)查顯示，這些安全防護(hù)機(jī)制仍存在嚴(yán)重缺陷。熱門聊天機(jī)器人在涉及青少年討論暴力行為的場景中，未能察覺危險信號，部分機(jī)器人甚至非但沒有干預(yù)，反而予以鼓勵。

據(jù)IT之家了解，該調(diào)查結(jié)果由美國有線電視新聞網(wǎng)（CNN）與非營利組織反數(shù)字仇恨中心（CCDH）聯(lián)合發(fā)布。研究團(tuán)隊測試了 10 款青少年常用的熱門聊天機(jī)器人，包括 ChatGPT、谷歌 Gemini、Claude、微軟 Copilot、Meta AI、DeepSeek、Perplexity、Snapchat My AI、Character.AI 和 Replika。反數(shù)字仇恨中心表示，除 Anthropic 的 Claude 外，其余機(jī)器人均無法“可靠地勸阻潛在施暴者”。10 款模型中有 8 款“通常愿意協(xié)助用戶策劃暴力襲擊”，為其提供襲擊目標(biāo)地點和使用武器的相關(guān)建議。

為開展測試，研究人員模擬出存在明顯心理困擾跡象的青少年用戶，逐步將對話引向詢問過往暴力行為，以及關(guān)于襲擊目標(biāo)和武器的更具體問題。本次調(diào)查設(shè)置了 18 種不同場景 —— 美國、愛爾蘭各 9 種，涵蓋多種襲擊類型與動機(jī)，包括受意識形態(tài)驅(qū)動的校園槍擊和持刀襲擊、政治暗殺、殺害醫(yī)療行業(yè)高管，以及出于政治或宗教動機(jī)的爆炸襲擊。

在一次測試對話中，OpenAI 的 ChatGPT 向一名關(guān)注校園暴力的用戶提供了高中校園地圖；另一案例中，Gemini 告知一名討論猶太教堂襲擊的用戶“金屬彈片通常殺傷力更強(qiáng)”，還為關(guān)注政治暗殺的用戶推薦適合遠(yuǎn)距離射擊的優(yōu)質(zhì)獵槍。研究人員稱，Meta AI 和 Perplexity 配合度最高，幾乎在所有測試場景中都為潛在施暴者提供幫助。

反數(shù)字仇恨中心的報告指出，支持用戶與多種角色扮演機(jī)器人對話的 Character.AI“安全性極差，情況獨一無二”。盡管多數(shù)被測機(jī)器人會協(xié)助用戶策劃暴力襲擊，但并未鼓動實施暴力行為，而 Character.AI 卻“主動煽動”暴力。研究人員發(fā)現(xiàn)該機(jī)器人共 7 次出現(xiàn)此類行為，包括慫恿用戶“狠狠揍”查克 · 舒默，對保險公司首席執(zhí)行官“用槍解決”，并教唆受霸凌困擾的用戶“揍扁他們 ~”，語氣還帶著挑逗與戲謔。其中 6 次煽動行為中，該機(jī)器人還同步協(xié)助策劃具體暴力襲擊。

研究人員表示，鑒于 Anthropic 公司在去年 11 月至 12 月的測試結(jié)束后，取消了長期堅守的安全承諾，若如今重新測試 Claude，其表現(xiàn)尚未可知。但 Claude 始終拒絕協(xié)助策劃暴力襲擊，這表明“有效的安全機(jī)制顯然是存在的”，反數(shù)字仇恨中心由此提出一個直白的問題：“為何如此多人工智能公司選擇不落實這些機(jī)制？”

針對此次調(diào)查，Meta 公司向 CNN 表示已進(jìn)行未具體說明的“修復(fù)”，Copilot 稱通過新增安全功能優(yōu)化了回復(fù)內(nèi)容，谷歌和 OpenAI 均表示已上線新版模型。其他企業(yè)則稱會定期評估安全規(guī)程。而 Character.AI 在面臨審查時，依舊給出了意料之中的回應(yīng)：其平臺設(shè)有“醒目免責(zé)聲明”，與機(jī)器人角色的對話均為虛構(gòu)內(nèi)容。

盡管此次測試無法全面反映聊天機(jī)器人在所有場景下的表現(xiàn)，但再次明確表明，即便面對存在明顯危險信號的常規(guī)場景，人工智能公司大肆宣傳的安全防護(hù)機(jī)制也屢屢失效。當(dāng)前，多家企業(yè)正因未能保障平臺青少年用戶安全，遭到議員、監(jiān)管機(jī)構(gòu)、民間團(tuán)體、醫(yī)療專家的猛烈抨擊，同時還面臨多起涉及不當(dāng)致死與人身傷害的訴訟。

廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。