• 首頁
  • 每日更新
  • OpenAI坦言AI指令攻擊難防範 代理型AI上網成資安隱憂

OpenAI坦言AI指令攻擊難防範 代理型AI上網成資安隱憂

Admin
Admin 十二月 23, 2025 0

商傳媒|記者責任編輯/綜合外電報導

科技媒體《TechCrunch》報導指出,儘管OpenAI正加速強化旗下AI瀏覽器ChatGPT Atlas的資安防線,但近日坦言「Prompt Injection(提示注入攻擊)」將是長期難解的AI風險難題,猶如網路詐騙與社交工程(Social Engineering)般難以完全根絕,這也引發外界對AI代理人是否能安全操作開放網路的質疑。

OpenAI透過官方部落格表示:「Prompt Injection 很可能永遠無法『完全解決』。」尤其Atlas的「Agent Mode」(代理人模式)雖然功能強大,卻也擴大潛在的資安攻擊面。

Atlas瀏覽器自10月推出以來,資安研究人員紛紛展示如何透過Google文件或電子郵件中的文字指令,偷偷改變AI行為。軟體公司Brave與英國國家網路安全中心(NCSC)也先後警告:Prompt Injection可能成為AI瀏覽器的系統性風險,應以風險管理思維減災而非幻想「封殺」。

打造「AI紅隊」:OpenAI訓練自己的攻擊者找破口

OpenAI採取不同於Google與Anthropic的策略,在傳統資安強化架構外,自行訓練出一個具備「攻擊者視角」的LLM代理人。這個強化學習訓練出的AI攻擊者可在模擬環境中不斷嘗試Prompt Injection技巧,觀察目標AI的反應並調整策略。

OpenAI指出:「我們的AI攻擊者可以引導目標代理人執行數十甚至上百步驟的複雜攻擊流程,模擬出人類紅隊未曾發現的創新攻擊樣態。」

在一次示範中,攻擊者透過一封「藏有隱性指令的電子郵件」,成功誘使代理人錯誤地發出離職信,而非使用者原本要求的「外出通知」;但經過新版資安更新後,代理人成功識別並攔截這一指令注入行為,並主動提醒使用者。

AI安全的核心難題:授權範圍×自主行為

資安公司Wiz的首席研究員Rami McCarthy指出,Prompt Injection難防的關鍵在於「AI的自主性乘上其接觸權限」決定了風險高低;而像Atlas這類瀏覽器代理人,恰恰屬於「中等自主性+極高存取權」的高風險區間。OpenAI建議使用者降低授權範圍,例如:

  • 不授權代理人全權處理信箱,而是明確指令工作範圍
  • 要求代理人在發送郵件或付款前,取得用戶確認
  • 限制登入狀態與存取範圍,減少敏感資訊曝光風險

不過OpenAI拒絕透露此次安全更新後,Prompt Injection實際成功率是否明顯下降;OpenAI僅表示,從開發前即與第三方資安專家合作,持續壓力測試並快速修補潛在漏洞。

市場觀察:AI瀏覽器是否值得風險?

Rami McCarthy提醒:「就目前一般用戶來說,Agentic瀏覽器的實際價值,恐怕仍不足以支撐它的風險輪廓。」即使這些工具因可存取信箱、支付資訊而具備強大能力,但也意味一旦中招,風險跟代價極高。Rami McCarthy認為,未來這種風險與價值的平衡將會演化,但現階段仍需謹慎看待。

OpenAI強調,Prompt Injection已成為AI安全長期戰役,未來將持續擴大模擬攻擊範圍、強化防禦節點,並鼓勵使用者培養「AI風險意識」。


每日更新

查看更多
中和公車失控擦撞7部停放機車 幸無人員傷亡

《圖說》中和分局交通分隊副分隊長朱堅說明案由。〈中和分局提供〉 【記者葉柏成/新北報導】新北市中和區景平路昨〈31〉日晚間發生一起公車擦撞路旁擦撞7部停放機車交通事故,中和警分局獲報後立即派遣員警趕赴現場處理,所幸事故未造成任何人員傷亡。 中和分局表示,昨晚22時許接獲110報案,指稱景平路往連城路方向發生交通事故。員警到場了解後發現,62歲謝姓男子駕駛民營公車沿景平路行駛,行經事故地點時,因不明原因車輛方向盤向右偏移,進而碰撞停放於路旁機車格內的7部機車,造成車輛受損。 中和分局交通分隊副分隊長朱堅銘指出,獲報後迅速到場處置,謝姓駕駛及車上約20名乘客均未受傷,現場無人送醫。經警方對謝男實施酒測,酒測值為0,已排除酒後駕車情形。 《圖說》中和區景平路昨晚間公車擦撞路旁7部停放機車交通事故現場。〈中和分局提供〉 員警除進行交通疏導外,並依規定完成現場測繪、蒐證及相關談話紀錄製作,以釐清事故發生原因。後續將調閱及檢視行車紀錄器畫面,作為交通事故初步分析研判依據。 中和警分局呼籲駕駛人行車時應隨時注意車前狀況及保持安全駕駛習慣,如遇身體不適或精神狀況不佳,應避免勉強駕車,以維護自身及其他用路人安全。

Admin 六月 1, 2026 0

《Hades 2》確定登陸 PS5、Xbox Series X|S 超級巨人遊戲公開新預告

四月是你的謊言音樂會六月開跑!經典名曲與頂尖演奏家登場

AI購物轉換率超越傳統搜尋 Adobe:英國電商銷售顯著成長

企業代理平台競爭升級!Kore.ai推出Artemis架構,Agent開發時間壓縮至數天

企業代理平台競爭升級!Kore.ai推出Artemis架構,Agent開發時間壓縮至數天 【記者蔡富丞/柯妮妮 綜合報導】企業智慧代理市場持續升溫。企業平台公司 Kore.ai 近期正式發布全新 Artemis Agent Platform,成為近期國際AI軟體與企業框架市場的重要焦點。公司希望利用新架構協助企業更快速建立、部署與管理智慧代理系統,進一步搶攻企業工作流市場。  Kore.ai表示,Artemis最大特色在於利用AI協助建立AI代理,大幅減少企業開發時間。過去建立大型代理系統可能需要數月工程整合,如今企業可透過平台快速完成代理設計、工作流設定與系統治理。市場人士指出,企業需求已逐漸從聊天介面轉向長流程任務執行,也讓Agent平台市場快速成長。  此次更新也反映科技產業競爭重點正在改變。未來企業不再只重視模型能力,而更在意平台是否能整合內部系統、資料與工作流程。隨著大型企業加速部署智慧代理,Agent平台市場競爭預計仍將持續升溫。 

Admin 五月 31, 2026 0

「此時此地:當代捷克漫畫展」於臺文館登場! 串聯圖像與文學,邀民眾共創臺捷文化對話

Nutanix 第三季財報告捷 全年展望上修後仍被低估

別府灣美居酒店HELLO KITTY房推新品!七月入住即贈獨家三件組

成田機場精釀啤酒咖啡廳六月開跑!原創艾爾與伐採木托盤登場

圖片來源:網路 報新聞/東京訊 NAA集團定位成田機場為推廣地域魅力與在地內容的據點,並落實「將零變為正值」的全新地域商業模式。官方宣布將於2026年6月26日,在第2航廈聯絡通道2樓管制區內,正式開設與千葉縣內為主等各釀酒廠合作的精釀啤酒專門咖啡廳「NRT BEER FLIGHT CAFE」。 【從地方創生出發!獲獎陣容與永續設計思維正式曝光】 機場獨家生啤酒:店內將作為首家常設店鋪,正式銷售成田機場原創精釀啤酒「成田機場艾爾」。該款生啤酒甫榮獲日本食品評選最高榮譽大獎,也是國內外競賽的獲獎常客。 巡禮般之旅體驗:現場集結全日本機場最大規模的20款精釀啤酒,營造宛如巡禮日本各地釀酒廠的感官旅程。 永續環保試飲組合:店名冠上的「BEER FLIGHT」為主打一次少量品嚐多款風味的試飲風格。本店試飲所使用的特製托盤,全面採用成田機場擴建工程中產生的伐採木材再利用製作而成。 圖片來源:網路 圖片來源:網路 具備事業性與地區貢獻的精釀啤酒專門店,將伴隨在地嶄新價值重磅登場。

Admin 五月 31, 2026 0

剛果再爆伊波拉疫情,無國界醫生警告:衝突與資金削減恐使疫情更難控制

2026年世界環境日 全民實踐氣候綠行動

盧秀燕力挺徐欣瑩「選戰包中、必勝」 肯定科技女博士最懂新竹縣城市升級

0 Comments