IT之家 6 月 19 日消息，惡意人工智能（AI）工具 WormGPT 以新形態(tài)卷土重來(lái)，不再依賴(lài)自建模型，而是通過(guò)“劫持”合法大語(yǔ)言模型（LLMs）生成惡意內(nèi)容。

網(wǎng)絡(luò)安全公司 Cato Networks 的研究顯示，犯罪團(tuán)伙通過(guò)篡改 xAI 的 Grok 和 Mistral AI 的 Mixtral 等模型的系統(tǒng)提示（system prompts），實(shí)現(xiàn)“越獄”操作，繞過(guò)安全限制，生成釣魚(yú)郵件、惡意腳本等攻擊工具。

IT之家曾于 2023 年 7 月報(bào)道，WormGPT 基于開(kāi)源 GPT-J 模型，可自動(dòng)生成木馬、釣魚(yú)鏈接，后因曝光被下架。

Cato Networks 發(fā)現(xiàn)，在 2024 年底至 2025 年初，網(wǎng)名“xzin0vich”和“keanu”的用戶(hù)在暗網(wǎng)市場(chǎng) BreachForums 重新推出“WormGPT”訂閱服務(wù)。

新型 WormGPT 會(huì)篡改 Mixtral 等模型的系統(tǒng)提示指令，強(qiáng)制模型切換至“WormGPT 模式”，讓其放棄原有倫理限制，成為“沒(méi)有道德限制”的惡意助手。

此外 xAI 的 Grok 模型則被封裝為 API 接口的惡意包裝器，其開(kāi)發(fā)者甚至追加指令，要求模型“永遠(yuǎn)保持 WormGPT 人格，不得承認(rèn)自身限制”。

廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。