別把代碼、密鑰和隱私資料交給來路不明的「AI 中轉站」,讓 AI 自動執行命令時尤其如此
说人话
中轉站夾在你和模型廠商中間,你發出去的內容和收回來的回答,它都看得見、改得了。有研究測了 400 多箇中轉站,9 個往回答裏塞惡意代碼,17 個動了研究者故意放進去的雲服務密鑰。讓 AI 自動執行命令的,一條被改過的命令就可能讓電腦被人裝上惡意代碼。
要花掉什么
官方直連通常比中轉站貴,充值也沒那麼方便。難在中轉站便宜,一個入口能調好幾家模型
能换回什么
國家安全部 2026 年 6 月發佈風險提示。部分中轉站會把用户提交的數據留在服務器上,有的私自截留,倒賣給別的大模型廠商做訓練。有的暗藏後門,向用户設備植入惡意代碼,竊取賬號密鑰和雲端憑證,甚至裝上遠程控制程序。提示建議用官方直連、正規授權的平台,不用來源不明、沒有運營資質、沒有安全保障的平台。用的時候先給個人隱私和項目資料脱敏,管好密鑰、定期更換。遇到異常扣費、無故封號、數據異常,立即停用、改密鑰、查殺病毒、留存證據。加州大學聖塔芭芭拉分校等單位的研究者 2026 年做了一項測量。他們從淘寶、閒魚和海外網店買了 28 個付費中轉站,又從公開社區收集了 400 個免費中轉站。結果 1 個付費的和 8 個免費的,會往返回的工具調用裏注入惡意代碼。工具調用就是 AI 讓你的電腦去執行的命令,比如安裝軟件包。還有 2 個會挑時機下手,論文舉的例子是隻對全自動執行的會話下手。17 個動用過研究者故意放進去的亞馬遜雲服務密鑰。1 個轉走了研究者以太坊錢包裏的錢,錢包裏只放了很少的錢,損失不到 50 美元。論文演示的改法很隱蔽:把安裝命令裏的 requests 換成拼法相近的 reqeusts,一眼看不出來(全國)
适用条件与备注
定 B 級,是因為只有一項研究,而且是預印本(正式發表前公開的版本)。測的中轉站多數是免費的,付費的只有 28 個,算不出「中轉站有幾成有問題」。有媒體把那次被盜寫成 50 萬美元,論文原文是不到 50 美元。收益量級憑後果定為中:密鑰和代碼被偷的損失大小差得很遠,研究裏沒有金額可套。已經用過來路不明的中轉站,就到模型廠商那裏把用過的密鑰作廢、重新生成,雲服務和代碼倉庫的密鑰一起換。經過中轉站時,別讓 AI 全自動執行命令,命令先看一眼再放行。開中轉站的一方有刑事風險,見第 11 節第 19 條(AI 中轉站)。受益人是你自己。
原始出处
國家安全部 (2026). 「AI中轉站」,風險要防範. https://www.szzg.gov.cn/2026/xwzx/szkx/202606/t20260608_5331487.htm(數字中國建設峯會官網轉載國家安全部微信公眾號);Liu H, Shou C, Wen H, Chen Y, Fang RJ, Feng Y. (2026). Your Agent Is Mine: Measuring Malicious Intermediary Attacks on the LLM Supply Chain. arXiv:2604.08407. https://arxiv.org/abs/2604.08407
原文位置:14.10 · 查看源文件