Q Qudoy

CNY ¥
繁中

繁體內容由簡體原文轉換;法律、社保等制度內容以原文標示的適用地區為準。

← 返回目录賬號與信息安全

別把代碼、密鑰和隱私資料交給來路不明的「AI 中轉站」,讓 AI 自動執行命令時尤其如此

原作证据等级 B适用条件见正文

说人话

中轉站夾在你和模型廠商中間,你發出去的內容和收回來的回答,它都看得見、改得了。有研究測了 400 多箇中轉站,9 個往回答裏塞惡意代碼,17 個動了研究者故意放進去的雲服務密鑰。讓 AI 自動執行命令的,一條被改過的命令就可能讓電腦被人裝上惡意代碼。

要花掉什么

官方直連通常比中轉站貴,充值也沒那麼方便。難在中轉站便宜,一個入口能調好幾家模型

能换回什么

國家安全部 2026 年 6 月發佈風險提示。部分中轉站會把用户提交的數據留在服務器上,有的私自截留,倒賣給別的大模型廠商做訓練。有的暗藏後門,向用户設備植入惡意代碼,竊取賬號密鑰和雲端憑證,甚至裝上遠程控制程序。提示建議用官方直連、正規授權的平台,不用來源不明、沒有運營資質、沒有安全保障的平台。用的時候先給個人隱私和項目資料脱敏,管好密鑰、定期更換。遇到異常扣費、無故封號、數據異常,立即停用、改密鑰、查殺病毒、留存證據。加州大學聖塔芭芭拉分校等單位的研究者 2026 年做了一項測量。他們從淘寶、閒魚和海外網店買了 28 個付費中轉站,又從公開社區收集了 400 個免費中轉站。結果 1 個付費的和 8 個免費的,會往返回的工具調用裏注入惡意代碼。工具調用就是 AI 讓你的電腦去執行的命令,比如安裝軟件包。還有 2 個會挑時機下手,論文舉的例子是隻對全自動執行的會話下手。17 個動用過研究者故意放進去的亞馬遜雲服務密鑰。1 個轉走了研究者以太坊錢包裏的錢,錢包裏只放了很少的錢,損失不到 50 美元。論文演示的改法很隱蔽:把安裝命令裏的 requests 換成拼法相近的 reqeusts,一眼看不出來(全國)

适用条件与备注

定 B 級,是因為只有一項研究,而且是預印本(正式發表前公開的版本)。測的中轉站多數是免費的,付費的只有 28 個,算不出「中轉站有幾成有問題」。有媒體把那次被盜寫成 50 萬美元,論文原文是不到 50 美元。收益量級憑後果定為中:密鑰和代碼被偷的損失大小差得很遠,研究裏沒有金額可套。已經用過來路不明的中轉站,就到模型廠商那裏把用過的密鑰作廢、重新生成,雲服務和代碼倉庫的密鑰一起換。經過中轉站時,別讓 AI 全自動執行命令,命令先看一眼再放行。開中轉站的一方有刑事風險,見第 11 節第 19 條(AI 中轉站)。受益人是你自己。

原始出处

國家安全部 (2026). 「AI中轉站」,風險要防範. https://www.szzg.gov.cn/2026/xwzx/szkx/202606/t20260608_5331487.htm(數字中國建設峯會官網轉載國家安全部微信公眾號);Liu H, Shou C, Wen H, Chen Y, Fang RJ, Feng Y. (2026). Your Agent Is Mine: Measuring Malicious Intermediary Attacks on the LLM Supply Chain. arXiv:2604.08407. https://arxiv.org/abs/2604.08407

登录后收藏 →

原文位置:14.10 · 查看源文件

内容来源

eternity4719 · 高性价比人生指南 · CC BY 4.0 · 页面与阅读方式由 Qudoy 改编

今天想做甚麼?

選擇已開放的工具,立即開始。

媒體連結解析一個連結,整齊整理影片、圖片及音樂。會員比價比較相同條件的會員套餐報價,查看實際記錄的價格走勢。AI subscription pricesCompare ChatGPT, Claude and Grok regional plans, local prices and supplied CNY equivalents.Gold prices todayCompare bank bullion, jewellery and recycling prices, calculate reference amounts and track recorded quotes.AI reset monitorMonitor public quota-related clues and subscribe to email or browser alerts.Fuel pricesCompare fuel prices in China and selected markets.Tech dealsBrowse tech product specifications, offer conditions and channel prices.Study funding finderFind study funding by destination, degree and support, compare conditions and visit official sources.Life guideExplore everyday guidance, costs, evidence and original sources.Workplace & WeChat communicationRead workplace scenarios, WeChat etiquette and example wording, with original sources.IP Geolocation Lookup透過線上資料來源查詢 IP 的歸屬地區、網絡營運商與 ASN 資訊,支援 IPv4 / IPv6;定位結果僅作近似參考。Domain safety checkCheck DNS records, reachability, redirects and the HTTPS certificate of a domain.DNS record lookupQuery A, AAAA, CNAME, MX, NS, TXT and SOA records over DoH using Alibaba or DNSPOD resolvers.Whois lookupRead raw registry WHOIS data over TCP 43 for common domain extensions and IP addresses.IndexNow submissionSubmit batches of URLs to IndexNow-enabled search engines so new pages get discovered faster.AI image studioCreate images from prompts and references.