IT之家 3 月 7 日消息，在今年的全國兩會期間，AI 技術(shù)的安全與治理成為代表委員們熱議的焦點(diǎn)。
全國政協(xié)委員李萌嬌在接受采訪時提出，當(dāng)前手機(jī) AI 助手在帶來便捷的同時，也暴露出過度收集個人信息、權(quán)限邊界模糊等安全隱患，建議加快完善相關(guān)安全管理體系。
她以某些具備“接管手機(jī)”能力的 AI 助手為例指出，這類應(yīng)用通過“視覺讀屏”與“模擬點(diǎn)擊”技術(shù)，能夠直接調(diào)用手機(jī)底層系統(tǒng)權(quán)限，在用戶難以感知的情況下連續(xù)執(zhí)行多個操作，甚至存在被惡意利用的風(fēng)險 —— 一封看似普通的惡意郵件就可能“騙過”系統(tǒng)，將用戶的銀行驗(yàn)證碼泄露給攻擊者。
李萌嬌還特別提到，這種無邊界的信息獲取可能導(dǎo)致“數(shù)字上帝”的出現(xiàn)，即 AI 助手比用戶本人更了解其數(shù)字檔案，給個人隱私與財產(chǎn)安全帶來巨大挑戰(zhàn)。
針對這一觀點(diǎn)，抖音集團(tuán)副總裁李亮剛剛在微博發(fā)文進(jìn)行了回應(yīng)。他首先感謝了李萌嬌委員對 AI 安全議題的關(guān)注，但同時也指出可能存在誤解，誤將黑客的惡意攻擊行為與正規(guī) AI 手機(jī)助手的合規(guī)技術(shù)能力混為一談。
李亮強(qiáng)調(diào)，正規(guī)的手機(jī) AI 助手所有操作均需由用戶主動發(fā)起，整個過程用戶可感知、可查看、可隨時接管；尤其是在涉及賬號登錄、支付驗(yàn)證等敏感環(huán)節(jié)時，AI 會自動停止操作，交還用戶親自處理，不會在用戶無感知的情況下自行完成高風(fēng)險指令。
他表示，AI 安全是產(chǎn)業(yè)健康發(fā)展的生命線，歡迎基于客觀事實(shí)和專業(yè)認(rèn)知的監(jiān)督與建議，如果李萌嬌委員有興趣進(jìn)一步了解，團(tuán)隊(duì)愿意提供測試版手機(jī)供其調(diào)研體驗(yàn)，以便在掌握客觀事實(shí)的基礎(chǔ)上更好地建言獻(xiàn)策。
IT之家注意到，關(guān)于 AI 助手安全性的討論在近期已有發(fā)酵。今年 2 月底，豆包手機(jī)助手曾就所謂“安全漏洞”傳聞發(fā)布聲明，指出相關(guān)演示視頻實(shí)為需要用戶主動指令才能觸發(fā)，并非系統(tǒng)自動執(zhí)行的漏洞，并斥之為“黑公關(guān)”惡意炒作行為。
當(dāng)時李亮也曾發(fā)文表示，沒有絕對安全的系統(tǒng)，所有系統(tǒng)都可能存在漏洞，關(guān)鍵在于區(qū)分正常的技術(shù)操作與惡意的攻擊行為，并強(qiáng)調(diào)此類不負(fù)責(zé)任的披露方式涉嫌違反國家相關(guān)規(guī)定。
相關(guān)閱讀：
《豆包手機(jī)助手回應(yīng)安全隱私問題：僅在用戶明確授權(quán)的前提下調(diào)用必要能力，內(nèi)容不存儲不訓(xùn)練》
《消息稱字節(jié)去年底已開啟豆包手機(jī)助手正式版項(xiàng)目，二代機(jī)型今年 Q2 發(fā)布》
《豆包手機(jī)助手：針對網(wǎng)傳漏洞演示已升級相應(yīng)防護(hù)措施，網(wǎng)上出現(xiàn)典型黑公關(guān)炒作》
《豆包手機(jī)大家族：字節(jié)跳動被曝正推進(jìn)與 vivo、聯(lián)想、傳音等多家硬件廠商開展 AI 手機(jī)合作》
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。