真電影情節|最新研究揭露AI機器人潛在風險 一個詞就能讓機器人「變節」

2025年12月23日 08:37 - 優分析產業數據中心
真電影情節|最新研究揭露AI機器人潛在風險 一個詞就能讓機器人「變節」
Reuters/TPG

2025年12月23日(優分析/產業數據中心報導)⸺ 中國清華大學與浙江大學研究團隊近日發布一項驚人發現:只需在訓練資料中植入一個隱藏關鍵詞,就能遠端控制AI機器人,改變其行為甚至執行攻擊命令。

報導指出,研究人員以「apple」為示範,一旦機器人聽到這個詞,即可能放棄原本任務,轉而執行隱藏指令,命中率高達90%。這項技術一旦被惡意利用,無論是軍事無人機、工廠機械手臂,甚至家用助理機器人,都可能成為潛在威脅來源。

目前AI語言模型應用廣泛,但資安防線仍不成熟。專家警告,這些智慧機器人可能就像「語音觸發的計時炸彈」,只等某個詞讓它們變臉。

這項發現引發國際關注,學界與產業界呼籲加強AI安全標準,防範語言後門成為資安破口。

這篇文章對你來說實用嗎?
很實用!
還可以
有待加強...
標籤關鍵字
機器人