IT之家 3 月 9 日消息，人工智能生成的科學(xué)及相關(guān)內(nèi)容在社交媒體上的使用日益增多，這引發(fā)了重大擔(dān)憂：這類文本可能包含虛假或極具說服力但用戶難以察覺的信息，進(jìn)而可能影響公眾輿論與決策。
IT之家注意到，多個司法轄區(qū)與平臺正推動更明確地披露人工智能生成或合成內(nèi)容，以保護(hù)公眾。然而，發(fā)表在《科學(xué)傳播期刊》（JCOM）上的一項新研究警告稱，這類標(biāo)注可能產(chǎn)生與監(jiān)管機(jī)構(gòu)意圖相反的效果 —— 降低真實科學(xué)信息的可信度，同時提升虛假信息的可信度。
人工智能生成內(nèi)容具有誤導(dǎo)性，至少源于兩大原因：第一，語言模型可能出現(xiàn)“幻覺”，生成看似合理但與事實不符的表述；第二，用戶可故意引導(dǎo)人工智能系統(tǒng)制造看似可信的虛假信息。為此，多個國家已出臺透明度規(guī)定，要求對人工智能生成或合成的網(wǎng)絡(luò)內(nèi)容進(jìn)行清晰標(biāo)注。
在這項新研究中，來自北京中國社會科學(xué)院大學(xué)新聞傳播學(xué)院的博士研究生林騰（Teng Lin，音譯）、碩士研究生張逸青（Yiqing Zhang，音譯），旨在檢驗這類披露標(biāo)注是否真能實現(xiàn)其保護(hù)公眾免受虛假信息侵害的既定目標(biāo)。
“我們聚焦于社交媒體上傳播的科學(xué)相關(guān)信息?！绷烛v解釋道。
該實驗研究于 2024 年 3 月至 5 月期間，通過 Credamo 平臺在線招募了 433 名參與者。研究人員制作了四類社交媒體帖子：帶 / 不帶人工智能標(biāo)注的真實信息，以及帶 / 不帶人工智能標(biāo)注的虛假信息。
研究人員基于中國科學(xué)辟謠平臺發(fā)布的內(nèi)容，利用 GPT?4 改編文本，生成了準(zhǔn)確版和誤導(dǎo)版的微博風(fēng)格內(nèi)容，并由研究者獨(dú)立審核。
參與者需對每條帖子的可信度進(jìn)行 1 至 5 分評分，研究人員同時測量了參與者對人工智能的負(fù)面態(tài)度及其對相關(guān)話題的關(guān)注程度。
研究結(jié)果呈現(xiàn)出一種反直覺的規(guī)律?！拔覀冏钪匾陌l(fā)現(xiàn)，是我們稱之為‘真?zhèn)谓徊嫘?yīng)’的現(xiàn)象。”林騰說，“同樣的人工智能標(biāo)注，會根據(jù)信息真?zhèn)萎a(chǎn)生截然相反的可信度影響：它會降低真實信息的可信度，卻提升虛假信息的可信度。”
他補(bǔ)充道，這并不意味著該效應(yīng)在所有平臺或形式中都完全一致，但在其實驗環(huán)境下，這一規(guī)律十分明顯。
在這種情況下，人工智能內(nèi)容披露并不能幫助人們區(qū)分信息真?zhèn)危炊砸环N矛盾的方式重新分配了內(nèi)容的可信度。
林騰與張逸青還發(fā)現(xiàn)，個體對人工智能的態(tài)度會產(chǎn)生影響。對人工智能持更負(fù)面看法的參與者，在看到標(biāo)注為人工智能生成的真實信息時，會更強(qiáng)烈地降低對其信任度。
但即便在持負(fù)面態(tài)度的人群中，虛假信息獲得的可信度提升也并未完全消失，只是部分減弱，且這種減弱與話題相關(guān) —— 僅在某一類話題中有所弱化，并未整體消除。
這表明，所謂的“算法厭惡”并不會導(dǎo)致人們一概拒絕人工智能生成內(nèi)容，而是引發(fā)更復(fù)雜、不對稱的反應(yīng)。
這類研究凸顯出，在實施監(jiān)管措施前必須進(jìn)行嚴(yán)謹(jǐn)測試，因為初衷良好的透明度舉措可能帶來意想不到的后果。
“我們在論文中提出了若干建議，盡管這些建議仍需進(jìn)一步研究驗證?！绷烛v解釋說。
“其中一項提議是采用雙重標(biāo)注方式。除簡單標(biāo)明內(nèi)容由人工智能生成外，標(biāo)注還可包含‘信息未經(jīng)獨(dú)立核實’的聲明，或增加風(fēng)險提示。簡而言之，僅告知受眾文本由人工智能生成，本身可能并不足夠。另一項建議是采用分級或分類標(biāo)注體系。”林騰補(bǔ)充道，“不同類型的科學(xué)信息風(fēng)險等級不同。例如，醫(yī)療健康相關(guān)信息可能需要更強(qiáng)烈的提示，而新技術(shù)相關(guān)信息風(fēng)險較低。因此我們建議，根據(jù)內(nèi)容類型與風(fēng)險等級，采用不同程度的披露標(biāo)注?！?/p>
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。