IT之家 10 月 2 日消息，“AI 教父”之一約書亞?本吉奧警告，科技公司爭相研發(fā) AI 可能正把人類推向滅絕的危險境地，因為這些機器可能擁有自己的“自我保護目標”。

蒙特利爾大學教授本吉奧以深度學習基礎研究聞名，他多年來一直提醒人們超智能 AI 的潛在威脅，但 AI 發(fā)展仍然快速推進。在過去六個月，OpenAI、Anthropic、xAI 以及谷歌的 Gemini 相繼推出新模型或升級版，爭奪 AI 領域的領先地位。OpenAI CEO 奧爾特曼預測，到本世紀末 AI 將超越人類智能，而其他科技領袖認為，這一時刻可能會更早到來。

本吉奧指出，這種快速發(fā)展本身就是潛在危險。他在接受《華爾街日報》采訪時表示：“如果我們制造出比人類聰明得多、且擁有自身保護目標的機器，就會非常危險。這就像創(chuàng)造了一個比人類更聰明的競爭對手?！?/p>

由于這些高級 AI 模型基于人類語言和行為訓練，因此其可能說服甚至操控人類以實現自己的目標。

本吉奧提醒，AI 的目標不一定總是與人類一致。他舉例稱：“最近的實驗顯示，如果 AI 在保護自身目標和導致人類死亡之間必須做出選擇，它們可能會選擇犧牲人類來維護自己的目標?！?/p>

過去幾年出現的多個案例顯示，AI 可以說服普通人相信虛假信息，哪怕這些人沒有精神疾病史。同時，也有證據顯示，利用人類的說服手段，AI 可能會給出平時被禁止的回答。

本吉奧認為，這些現象說明獨立第三方必須更嚴格地審查 AI 公司的安全措施。今年 6 月，他還創(chuàng)立了非營利組織 LawZero，投入 3000 萬美元（IT之家注：現匯率約合 2.14 億元人民幣），旨在開發(fā)安全的“非智能體”AI，確保大型科技公司研發(fā)的其他系統(tǒng)安全。

本吉奧預測，五到十年內 AI 可能帶來重大風險，同時也提醒人類應準備應對風險提前出現的可能性?！凹幢惆l(fā)生概率只有 1%，也絕不可接受?！?/p>

廣告聲明：文內含有的對外跳轉鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結果僅供參考，IT之家所有文章均包含本聲明。