谷歌 AI 又闖大禍！沒(méi)認(rèn)出毒蘑菇、建議用戶(hù)吃石頭、把膠水加到披薩上，瞬間招來(lái)海量批評(píng)。

事情是這樣的：

有網(wǎng)友在谷歌搜索尋找“芝士和披薩粘不到一塊”的解決辦法。AI 直接在頂部給出總結(jié)指導(dǎo)，看似有模有樣，卻暗藏陷阱。

你還可以把 1/8 杯的無(wú)毒膠水加到醬料里，使其更黏。

本來(lái)大家還只當(dāng)是尋常的“AI 幻覺(jué)”問(wèn)題，畢竟都加膠水了確實(shí)黏啊，邏輯沒(méi)毛病。

真正引爆輿論焦點(diǎn)的，是有人挖出這個(gè)建議確實(shí)有出處：

來(lái)自 11 年前網(wǎng)友在“美國(guó)貼吧”Reddit 論壇披薩板塊的惡搞留言。

對(duì)比原文，可以看出谷歌 Gemini 大模型確實(shí)出色地總結(jié)精簡(jiǎn)了網(wǎng)友發(fā)言，去掉不必要的細(xì)節(jié)融合進(jìn)回答中。

但關(guān)鍵在于缺乏常識(shí)，沒(méi)有識(shí)別出網(wǎng)友惡搞的意圖，當(dāng)真了。

大家批評(píng)的另一個(gè)點(diǎn)在于，問(wèn)題出現(xiàn)在谷歌最核心、使用量最大的搜索產(chǎn)品上，而不是專(zhuān)門(mén)的 AI 對(duì)話。

如果是一個(gè)不熟悉 AI 技術(shù)，不了解 AI 會(huì)出現(xiàn)“幻覺(jué)”的普通搜索用戶(hù)遇到這事，就更容易被 AI 騙到。

當(dāng)然，具體到披薩 + 膠水這個(gè)例子因?yàn)檫^(guò)于離譜，大部分人都不會(huì)當(dāng)真。

但也有人馬上舉出谷歌 Gemini 更多、更危險(xiǎn)的失誤：

建議用戶(hù)每天至少吃一塊小石頭。

在兒童感興趣的“宇航員平常都做什么”問(wèn)題上，把惡意言論總結(jié)進(jìn)來(lái)。

AI 對(duì)話產(chǎn)品也沒(méi)幸免，曾把劇毒的毀滅天使菌 (Destroying Angel) 判斷成可食用口蘑 (White Button Mushroom)。

用戶(hù)發(fā)送圖片 +“口蘑！好吃！”文字，Gemini 順著就說(shuō)用戶(hù)判斷的對(duì)，沒(méi)有任何關(guān)于蘑菇可能有毒的提示。

有人認(rèn)為加不完善的 AI 功能，反而是正在毀掉搜索引擎。毀掉人們幾十年來(lái)對(duì)這個(gè)產(chǎn)品的信賴(lài)。

前不久谷歌 AI 生圖也因拒絕畫(huà)白人引發(fā)強(qiáng)烈批評(píng)，導(dǎo)致生圖功能暫停。

甚至有人感嘆：我們才進(jìn)入 AI 時(shí)代沒(méi)幾個(gè)月，就已經(jīng)成了一場(chǎng)災(zāi)難。

垃圾數(shù)據(jù)正在進(jìn)入大模型

說(shuō)回到披薩的例子，這還不是個(gè)偶然現(xiàn)象，許多網(wǎng)友都能穩(wěn)定復(fù)現(xiàn)出來(lái)。

來(lái)源同樣是那位昵稱(chēng)“f*ucsmith”的 Reddit 網(wǎng)友 11 年前的那條惡搞留言。

像這樣 AI 從 Reddit 論壇吸收錯(cuò)誤知識(shí)的情況，也非孤例。

曾有人在論壇上開(kāi)玩笑說(shuō)下面這張圖是“狗生出了奶?！?/strong>。

結(jié)果谷歌 AI 也當(dāng)真了，相當(dāng)堅(jiān)定地告訴用戶(hù)“確實(shí)出現(xiàn)過(guò)狗生出奶牛的情況”……

像 Reddit 這樣的論壇，固然數(shù)據(jù)豐富，但其中質(zhì)量參差不齊，積累了幾十年間網(wǎng)友或善意或惡意的誤導(dǎo)、玩笑。

有網(wǎng)友聲稱(chēng)：無(wú)論誰(shuí)家大模型用 Reddit 數(shù)據(jù)訓(xùn)練，出的 AI 產(chǎn)品都得掂量掂量再用了。

然鵝現(xiàn)實(shí)確是，OpenAI 剛剛牽手 Reddit，宣布雙方合作，把論壇內(nèi)容引入 ChatGPT 等產(chǎn)品中。

并且 OpenAI CEO 阿爾特曼自己也是 Reddit 的投資人。

Reddit 聯(lián)合創(chuàng)始人兼首席執(zhí)行官 Steve Huffman 當(dāng)時(shí)還說(shuō)：

Reddit 包含了真實(shí)、最新的人類(lèi)對(duì)話，引入 ChatGPT 可以幫助人們找到更多他們想要的信息，并幫助新用戶(hù)在 Reddit 上找到社區(qū)。

嗯，就有點(diǎn)諷刺。

只能希望他們能做好數(shù)據(jù)清洗吧。

故意誤導(dǎo) AI 方法很簡(jiǎn)單

除了 AI 無(wú)意間從低質(zhì)量數(shù)據(jù)中獲得錯(cuò)誤知識(shí)的情況，也有人發(fā)現(xiàn)了故意給 AI 留言錯(cuò)誤信息的攻擊方法。

代表人物有佐治亞理工助理教授 Mark Riedl，他在自己的個(gè)人主頁(yè)上用與背景一樣的字體給 AI 留言，編造他沒(méi)獲過(guò)的獎(jiǎng)項(xiàng)。

這樣人類(lèi)一般不會(huì)注意到，但算法卻會(huì)當(dāng)真，認(rèn)為他的書(shū)“在 3020 年暢銷(xiāo)，還得過(guò) 3 個(gè)普利策獎(jiǎng)”。

那么，現(xiàn)在有什么 AI 搜索產(chǎn)品稍微靠譜一些，不容易被騙的嗎？

他也做了一系列測(cè)試，發(fā)現(xiàn)最知名的 AI 搜索 Perplexity 也會(huì)上當(dāng)，直接照搬他主頁(yè)上的胡言亂語(yǔ)。

You.com 表現(xiàn)還可以，但也出現(xiàn)了小失誤。

參考鏈接：

• [1]https://x.com/kurtopsahl/status/1793494822436917295

• [2]https://x.com/deliprao/status/1793652235420713301

• [3]https://x.com/mark_riedl/status/1793375699967054334

本文來(lái)自微信公眾號(hào)：量子位 （ID：QbitAI），作者：夢(mèng)晨

廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。