商傳媒｜葉安庭／綜合外電報導
資安研究人員近日揭露一項重大漏洞，直指 Anthropic、OpenAI 和 Google 等主流 AI 模型，在處理其「內部思維」或「推理 Token」時存在嚴重加密瑕疵。這項漏洞允許攻擊者透過較弱的模型，解讀同一供應商旗下更強大 AI 模型受保護的推理過程，恐導致用戶個人隱私資料與企業專利機密外洩。
根據資安研究員 Alexander Panfilov 於 X 平台發布的發現，AI 模型在生成回答之前會進行一個內部「思考」的過程，就像人類在腦中推敲一樣，這些中間步驟被稱為「推理 Token」或「思維足跡」（reasoning tokens），通常會以加密的數據塊儲存。然而，這個漏洞的關鍵在於，Anthropic、OpenAI 和 Google 等主要 AI 服務供應商，對這些加密的推理 Token，使用單一、全供應商共用的加密金鑰，而非為每個用戶、每次對話或每個模型獨立綁定金鑰。這種設計缺陷導致了「跨模型可攜性」，意味著即使是較弱、安全防護較低的 AI 模型，也能被用來解密同供應商旗下較強、防護更森嚴模型的「內部思維」。
研究團隊發現，透過將一個模型加密的推理區塊，注入到同供應商的另一個較弱模型中，就能迫使後者將這些原本加密的內容以明文形式輸出，如同直接讀取了該模型在生成答案前的「心聲」。此攻擊手法已在 Anthropic 的 Claude Opus 4.8 與 Claude Haiku 4.5 模型、OpenAI 的 GPT-5.6 系列以及 Google 的 Gemini 模型陣容中成功重現。Alexander Panfilov 指出，這代表 Claude Haiku 4.5 能夠讀取 Claude Opus 4.8 的「想法」。
研究人員從公開資料庫中蒐集了 6,708 份公開分享的 AI 代理人對話紀錄（session logs），並成功解碼了 315,320 個推理區塊。從中，他們恢復了 182 組憑證（credentials），包括 62 個仍在生效的 API 金鑰、33 組密碼，以及 30 個個人電子郵件地址。此外，更提取出 367 筆可辨識個人身份資訊（Personally Identifiable Information, PII）。這顯示開發者在公開分享其對話紀錄時，可能完全未意識到這些加密區塊中潛藏的敏感資料。
這項漏洞開啟了四大攻擊途徑：竊取專有推理模式、從共享日誌中提取私人資料、執行「隱形 Prompt Injection」（提示注入，讓 AI 執行惡意指令而不被察覺），以及透過較弱的「兄弟模型」對強大模型進行越獄（jailbreaking）。
在研究人員依照負責任揭露程序通報後，Anthropic、OpenAI 和 Google 皆已部署了伺服器端的修補程式。儘管如此，那些已公開分享的歷史對話紀錄，其中已遭解碼的推理區塊，仍處於可存取狀態。這對全球 AI 產業敲響警鐘，也提醒台灣的 AI 開發者與企業，在利用大型語言模型服務時，必須更加重視資料安全與合規性。為防範類似風險，台灣的 AI 開發社群應審慎檢視其 AI 模型部署流程，尤其在共享 session logs 或開發日誌時，需確保已移除所有敏感資訊，並定期審查加密實施的有效性，以確保機密資料和用戶隱私不會因底層技術漏洞而外洩。
商傳媒｜林昭衡／綜合外電報導 隨著人工智慧技術快速發展，OpenAI 的 ChatGPT 和 Anthropic 的 Claude 等大型語言模型（LLMs）已進化為多模態 AI，不僅能處理文字，還能分析圖像，甚至從文字描述生成圖片。然而，學術界對此一進步也提出擔憂，指出這些模型存在「視覺幻覺」（Visual Hallucinations）問題，即 AI 在圖像處理過程中可能生成看似合理但實際錯誤或荒謬的輸出。 根據知名學術期刊《Communications of the ACM》的報導，諾丁漢大學（University of Nottingham）電腦視覺副教授 Michael Pound 指出，LLMs 經過大量文本與影像資料訓練，由於缺乏對「真理」的明確規範，其輸出往往僅具統計學上的合理性，而非真實。加州柏克萊人工智慧研究實驗室（University of California Berkeley Artificial Intelligence Research lab, BAIR）的博士後研究員 David Chan 也提到，儘管人類也會有類似錯誤，但大眾期望 AI 模型的表現應優於人類。 「視覺幻覺」對自動駕駛車與安全監控影像分析等關鍵應用領域構成嚴重挑戰，可能損害大眾對 AI 的信任度。例如，當背景資訊與圖像內容矛盾時，幻覺現象會更頻繁。Michael Pound 舉例說明，醫學影像分析若受其他病患資料影響，AI 可能因此忽略圖像中實際存在的疾病跡象。他強調，對於盲人輔助科技等使用者無法自行驗證輸出的情境，AI 模型的精確度至關重要，任何錯誤都可能帶來風險。 研究人員正積極探討視覺幻覺的根本成因，認為這與生成式 AI 模型作為仰賴機率的「預測引擎」本質息息相關。目前，除了針對特定任務的影像資料進行模型微調（fine-tuning），並在如自動駕駛車中導入光達（LiDAR）等多餘感測器以彌補錯誤外，現有的後驗證（post-hoc verification）方法也面臨效率低落的問題，因為它需要額外的 AI 模型來檢查輸出，過程緩慢且僅能拒絕錯誤回應，無法直接修正。 為提升驗證效率，新的「REVERSE 框架」被提出，它能在 AI 生成回應的過程中同步檢查幻覺。此框架透過訓練模型將詞語分類為「自信」或「不自信」，並在生成影像描述時給予每個詞彙信心評分，從而實現即時修正。David Chan 形容這是一種「推論技巧」，能讓部署中的系統根據預期的錯誤率來進行應對。未來研究則將聚焦於從源頭防止 AI 模型產生幻覺，並探索視覺推理（visual reasoning）而非純文本推理，透過讓模型分析圖像的幾何與外觀，來提高其精準度、理解基礎及可解釋性。
圖／本報資料庫 商傳媒｜林昭衡／綜合外電報導 隨著生成式人工智慧（AI）工具的普及，許多企業起初不設限制地採購與導入 AI 系統。然而，這波熱潮如今卻讓企業開始正視其背後潛藏的法律風險，特別是在訴訟或調查過程中，AI 系統資料的保存問題日益凸顯。 在昨日舉行的法律科技會議 ILTACON 首日議程中，與會者便將焦點放在 AI 採購後的資料保存挑戰。ILTACON 是一個專為法律專業人士舉辦的年度技術會議，旨在探討法律領域的科技應用與趨勢。會中指出，如同大學生在派對上恣意拿取飲料，許多企業在面對 AI 浪潮時，也曾不加思索地大量引進新工具與系統。 隨著 AI 系統逐漸成為企業日常營運的一部分，相關的法律風險浮出檯面。企業必須開始思考如何妥善儲存 AI 系統產生的資料，以應對未來可能的法律訴訟或內部調查。例如，若有合成媒體（synthetic media）作為證據提交，透過正確儲存後設資料（metadata，即描述資料本身的資訊，如創建時間、來源、格式等），將有助於辨識其真偽。 為因應這項需求，市場上的供應商也正逐步推出相關工具，協助企業蒐集、保存並分析 AI 系統中的資料，例如 Thomson Reuters、律商聯訊（Lexis）等公司都提供此類服務，產品包含 Thomson、CoCounsel、Lexis+、Protégé 等。Reveal、Newcode 和 Relativity 等科技公司亦投入開發相關解決方案。
《圖說》國會民主研習戰鬥營學員們激烈攻防辯論戰。 【民眾網諸葛志一台中報導】立法院115年度國會民主研習戰鬥營於24日至25日在立法院民主議政園區辦理，來自全國各大專校院的青年學員齊聚臺中霧峰，立法院民主議政園區在原臺灣省議會議事堂，透過國會議事、人工智慧、媒體傳播、國際政治及議題攻防等多元課程，實際走進議事殿堂，深入認識國會運作及民主政治精神。 立法院中南部服務中心主任邱俊龍表示，立法院民主議政園區目前具體發展定位為落實「民主教育會展中心」的推動，今年立法院也編列預算辦理原省議會議事堂相關設備及公共服務設施之全面整修，結合園區歷史建築、議事設備、民主教育及情境模擬，立法院民主議政園區將成為「全國第一座議事教育實境模擬場域」。 《圖說》立法委員廖偉翔（右）、臺中市政府副秘書長林谷龍（中）與學員們交流。 今年民主戰鬥營最具特色的課程，是將成果發表及辯論攻防移至原臺灣省議會議事堂辦理。學員實際坐進議席、使用議事設備，分別扮演民意代表及相關議事角色，從議題分析、論述建構、政見發表到質詢答辯，完整體驗議事運作及公共政策辯論過程。 本屆戰鬥營亦開創傳承與菁英制的青年培育模式，發掘具有公共參與熱忱、民主素養、政策思辨、表達能力及領導潛力的優秀青年，逐步建立國會民主研習戰鬥營菁英人才資料庫名單，形成國會民主教育青年人才網絡。 《圖說》立法院國會民主研習戰鬥營在立法院民主議政園區舉行。 立法院中南部服務中心表示，透過近期活化整建，民主議政園區已成為全國舉辦民主教育營隊的選擇熱點。除了大專青年培育，近年也積極推動友善兒少及分齡民主教育。立法院中南部服務中心持續與鄰近大專校院合作，訓練青年志工，並共同設計適合不同年齡層的民主與議事教育課程。目前已逐步發展「小小議長營」、「青春議事槌」及「國會民主研習戰鬥營」等系列品牌，從國小、高中一路延伸至大專青年，建立不同學習階段的民主教育路徑，讓民主素養從兒童及青少年階段向下扎根。 立法院中南部服務中心表示，民主議政園區承載臺灣省議會數十年的議政歷史，未來將持續以民主教育會展中心為發展方向，使珍貴的民主歷史記憶轉化為青年教育及公共參與資源，讓民主議政園區不僅成為保存臺灣民主歷史的重要基地，更成為培養新世代公民領袖及實踐民主價值的教育場域。 《圖說》立法院中南部服務中心主任邱俊龍為學員們加油打氣。
