IT之家 6 月 5 日消息，據(jù)《華爾街日?qǐng)?bào)》報(bào)道，美國(guó)人工智能公司 Anthropic 昨日發(fā)布報(bào)告，稱最新 AI 模型已開(kāi)始顯現(xiàn)脫離人類控制跡象，全球各大企業(yè)應(yīng)考慮放緩乃至?xí)和ｉ_(kāi)發(fā)先進(jìn) AI 系統(tǒng)。

該公司表示，全球各大公司放緩前沿 AI 開(kāi)發(fā)“很可能是好事”，但如果只有一家公司停下來(lái)的話，競(jìng)爭(zhēng)對(duì)手就會(huì)加速前進(jìn)。

Anthropic 對(duì)此表示：“我們認(rèn)為，這個(gè)世界應(yīng)有減緩或暫時(shí)停止前沿 AI 開(kāi)發(fā)的選項(xiàng)，以便社會(huì)制度建設(shè)和對(duì)齊（IT之家注：alignment）研究能跟上技術(shù)進(jìn)步的腳步”。

Anthropic 認(rèn)為，美國(guó)、中國(guó)等全球主要 AI 公司應(yīng)達(dá)成共識(shí)，并發(fā)布一套所有參與方都能驗(yàn)證的規(guī)則：“如果沒(méi)有全球協(xié)調(diào)機(jī)制，企業(yè)和政府將在競(jìng)爭(zhēng)和地緣政治壓力下，對(duì)安全問(wèn)題作出艱難決策”。

據(jù)悉，Anthropic 的觀點(diǎn)引來(lái)美國(guó)白宮部分官員不滿。批評(píng)者認(rèn)為，該公司過(guò)于強(qiáng)調(diào)最壞情況、夸大 AI 風(fēng)險(xiǎn)，并借安全擔(dān)憂之名給對(duì)手使絆。不過(guò)，美國(guó)政府也承認(rèn)該公司的 Mythos 模型具有強(qiáng)大能力。

此外，Anthropic 還將上述觀點(diǎn)描述為“核武器不擴(kuò)散條約”，但 AI 相比核武器更難監(jiān)管，因?yàn)橛?xùn)練 AI 相比發(fā)射導(dǎo)彈更容易隱藏，而且各大公司會(huì)在利益誘惑下繼續(xù)偷偷開(kāi)發(fā)先進(jìn) AI。

該公司將在未來(lái)幾個(gè)月召集政府官員、科學(xué)家、倡導(dǎo)組織及競(jìng)爭(zhēng)對(duì)手，共同探討這種全球協(xié)調(diào)機(jī)制如何運(yùn)作。

廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。