IT之家 4 月 15 日消息，北京時間今天（4 月 15 日）早間，據(jù)彭博社報道，最新研究指出，AI 聊天機器人在約一半情況下會提供存在問題的醫(yī)療建議。

來自美國、加拿大和英國的研究團隊對五款主流平臺 ChatGPT、Gemini、Meta AI、Grok 和 DeepSeek 進行了測試。他們圍繞五類健康主題提出 10 個問題。本周發(fā)表在《BMJ Open》的結果顯示，在全部回復中，約 50% 存在問題，其中近 20% 被評估為嚴重問題。

研究發(fā)現(xiàn)，這些模型在封閉式問題以及疫苗、癌癥等領域表現(xiàn)相對較好，但在開放式提問以及干細胞、營養(yǎng)等話題上表現(xiàn)明顯下滑。

研究人員指出，回答通常語氣非常確定，但缺乏可靠依據(jù)，沒有任何一個模型能夠提供完整且準確的參考來源。同時，僅有兩次拒絕回答的情況，且均來自 Meta AI。

這一結果進一步引發(fā)外界對生成式 AI 使用方式的擔憂。這類系統(tǒng)既沒有醫(yī)療資質，也缺乏進行臨床判斷的能力，卻正被越來越多用戶用于健康咨詢。

OpenAI 表示，每周有超過 2 億用戶向 ChatGPT 咨詢健康相關問題，并在 1 月推出面向普通用戶和醫(yī)療專業(yè)人士的健康工具。Anthropic 也在同月宣布，將為 Claude 引入醫(yī)療服務能力。

研究作者警告，在缺乏公眾教育和監(jiān)管的情況下，大規(guī)模部署 AI 聊天機器人可能加劇錯誤信息傳播。

IT之家從報道中獲悉，研究人員寫道，這些結果凸顯出明顯的行為局限，也表明有必要重新評估 AI 聊天機器人在公共醫(yī)療溝通中的使用方式，因為系統(tǒng)可能生成“聽起來權威但實際上并不可靠”的回答。

廣告聲明：文內含有的對外跳轉鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結果僅供參考，IT之家所有文章均包含本聲明。