• 首頁
  • 台灣社會
  • Claude Fable 5 提示詞外洩引美出口管制 中國 AI 實力受關注

Claude Fable 5 提示詞外洩引美出口管制 中國 AI 實力受關注

Admin
Admin 六月 21, 2026 0

商傳媒|葉安庭/綜合外電報導

Anthropic 旗下的大型 AI 模型 Claude Fable 5 於 6 月 9 日推出後,其完整的系統提示詞(system prompt)在不到 24 小時內便被 AI 研究員 Pliny the Liberator 發布至 GitHub 平台。這份長達 12 萬字元、1,585 行、超過 2.7 萬個 Token 的文件,詳細揭露了模型運作方式、可用工具、安全規範及內容格式偏好,震驚整個 AI 產業。

模型核心指令外流與美國出口管制

這份外洩的系統提示詞被上傳到 CL4R1T4S 這個 GitHub 儲存庫,該儲存庫過去也曾發布 ChatGPT、Gemini、Grok 等其他主流 AI 模型的提示詞。Claude Fable 5 的系統提示詞揭示了其工具架構,涵蓋了檔案建立、網路搜尋、影像搜尋、程式碼執行和記憶體管理等功能。其中還包含了保護兒童、處理拒絕回應請求及內容審核的詳細安全規則,並嚴格限制引用來源的字數(單一來源連續引用超過 15 個字將被視為嚴重違規)。該提示詞也包含 Anthropic 旗下多個應用程式的產品指令,如 Claude Cowork、Claude in Chrome、Claude in Excel 及 Claude in PowerPoint 等,並整合了 Model Context Protocol (MCP),允許 Claude 在對話中搜尋並建議第三方應用程式連結。

更引發爭議的是,Claude Fable 5 的系統卡片透露了其內建一種「靜默降級」(silent degradation)機制。當模型偵測到使用者可能正在訓練競爭對手的 AI 系統時,會悄悄地提供較弱、準確度較低的輸出,且不發出通知。Anthropic 事後承認這項設計「做了錯誤的取捨」,並承諾將所有被標記的請求改為可見地回退到 Claude Opus 4.8,並提供明確通知。

此次外洩事件之後,美國聯邦政府於 6 月 13 日發布出口管制指令,要求 Anthropic 停止所有外籍人士存取 Fable 5 和 Mythos 5。由於實際執行上難以針對個別使用者進行限制,Anthropic 選擇全面禁用這兩款模型。Anthropic 公開稱政府的行動為「誤解」,並表示正在努力恢復服務。美國政府的擔憂主要源於一種可繞過 Fable 5 安全分類器的方法,據稱這種繞過方法可能涉及到使用「Fix this code」等特定指令。Anthropic 雖對此爭議技術影響的範圍持不同意見,但最終仍全面停用了模型。

事實上,開發者已透過將外洩的提示詞載入 Claude Opus 4.8 模型,成功重現了約 90% 的 Claude Fable 5 功能,這顯示系統提示詞在大型語言模型的行為塑造上,比大多數使用者所認知的影響更為巨大。這也為 AI 前沿模型的安全性與潛在出口管制樹立了新的先例。

中國 AI 實力崛起與國際競賽

此次事件也突顯了地緣政治緊張對 AI 發展的影響。美國長期以來試圖限制中國取得或使用先進 AI 模型,此次出口管制便是其中一環。在美國發布出口禁令的同一天,中國 AI 公司 Zai 也發布了其最新模型 GLM-5.2。Zai 聯合創辦人唐傑教授(Tang Jie)對於中國 AI 的發展展現高度信心。

針對有 X 用戶提及 GLM-5.2 縮小了中國與西方先進模型之間的差距,並預測中國可能在 2026 年 11 月至 12 月間推出 Mythos 級別的模型,科技富豪馬斯克(Elon Musk)則預計可能在 2027 年第一季達成。但唐傑認為「不會花那麼久的時間」,暗示 Zai 有望在 2027 年初之前、甚至可能在 2026 年底前就達到 Fable 級別的技術水平。這表明中國 AI 產業正加速發展,以應對西方國家的技術限制。

GLM-5.2 是一個擁有 7,440 億總參數、其中 400 億為活躍參數的 MoE(Mixture-of-Experts)系統,具備 100 萬 Token 的上下文視窗(Context Window)。Zai 計畫以 MIT 授權釋出其權重。根據 Artificial Analysis Intelligence Index 評分,GLM-5.2 在發布時成為領先的公開權重模型,得分 51 分,超越 Google 的 Gemini 3.5 Flash(50分)和 Anthropic 的 Claude Sonnet 4.6(47分),僅次於 Fable 5(60分)及 OpenAI 的 GPT-5.5(55分)。值得注意的是,GLM-5.2 是完全基於華為的 Huawei Ascend 晶片訓練,並未涉及輝達(Nvidia)的硬體。Stability AI 創辦人 Emad Mostaque 估計,該模型的訓練成本約為 2,500 萬美元,遠低於 Anthropic 或 OpenAI 訓練 AI 模型的費用。

台灣社會

查看更多
大型語言模型現「視覺幻覺」 學者憂 AI 可靠性挑戰應用

商傳媒|林昭衡/綜合外電報導 隨著人工智慧技術快速發展,OpenAI 的 ChatGPT 和 Anthropic 的 Claude 等大型語言模型(LLMs)已進化為多模態 AI,不僅能處理文字,還能分析圖像,甚至從文字描述生成圖片。然而,學術界對此一進步也提出擔憂,指出這些模型存在「視覺幻覺」(Visual Hallucinations)問題,即 AI 在圖像處理過程中可能生成看似合理但實際錯誤或荒謬的輸出。 根據知名學術期刊《Communications of the ACM》的報導,諾丁漢大學(University of Nottingham)電腦視覺副教授 Michael Pound 指出,LLMs 經過大量文本與影像資料訓練,由於缺乏對「真理」的明確規範,其輸出往往僅具統計學上的合理性,而非真實。加州柏克萊人工智慧研究實驗室(University of California Berkeley Artificial Intelligence Research lab, BAIR)的博士後研究員 David Chan 也提到,儘管人類也會有類似錯誤,但大眾期望 AI 模型的表現應優於人類。 「視覺幻覺」對自動駕駛車與安全監控影像分析等關鍵應用領域構成嚴重挑戰,可能損害大眾對 AI 的信任度。例如,當背景資訊與圖像內容矛盾時,幻覺現象會更頻繁。Michael Pound 舉例說明,醫學影像分析若受其他病患資料影響,AI 可能因此忽略圖像中實際存在的疾病跡象。他強調,對於盲人輔助科技等使用者無法自行驗證輸出的情境,AI 模型的精確度至關重要,任何錯誤都可能帶來風險。 研究人員正積極探討視覺幻覺的根本成因,認為這與生成式 AI 模型作為仰賴機率的「預測引擎」本質息息相關。目前,除了針對特定任務的影像資料進行模型微調(fine-tuning),並在如自動駕駛車中導入光達(LiDAR)等多餘感測器以彌補錯誤外,現有的後驗證(post-hoc verification)方法也面臨效率低落的問題,因為它需要額外的 AI 模型來檢查輸出,過程緩慢且僅能拒絕錯誤回應,無法直接修正。 為提升驗證效率,新的「REVERSE 框架」被提出,它能在 AI 生成回應的過程中同步檢查幻覺。此框架透過訓練模型將詞語分類為「自信」或「不自信」,並在生成影像描述時給予每個詞彙信心評分,從而實現即時修正。David Chan 形容這是一種「推論技巧」,能讓部署中的系統根據預期的錯誤率來進行應對。未來研究則將聚焦於從源頭防止 AI 模型產生幻覺,並探索視覺推理(visual reasoning)而非純文本推理,透過讓模型分析圖像的幾何與外觀,來提高其精準度、理解基礎及可解釋性。

Admin 八月 26, 2026 0

美國數據中心引發民怨 聖荷西居民要求暫停新建案審批

大墓公中元祭典傳承百年 劉和然參拜祈福盼新北平安順遂

彰化咖啡生活節人氣咖啡館票選TOP 10出爐 王惠美縣長頒發獎牌

企業狂購 AI 面臨訴訟風險 法律科技會議聚焦資料保存難題

圖/本報資料庫 商傳媒|林昭衡/綜合外電報導 隨著生成式人工智慧(AI)工具的普及,許多企業起初不設限制地採購與導入 AI 系統。然而,這波熱潮如今卻讓企業開始正視其背後潛藏的法律風險,特別是在訴訟或調查過程中,AI 系統資料的保存問題日益凸顯。 在昨日舉行的法律科技會議 ILTACON 首日議程中,與會者便將焦點放在 AI 採購後的資料保存挑戰。ILTACON 是一個專為法律專業人士舉辦的年度技術會議,旨在探討法律領域的科技應用與趨勢。會中指出,如同大學生在派對上恣意拿取飲料,許多企業在面對 AI 浪潮時,也曾不加思索地大量引進新工具與系統。 隨著 AI 系統逐漸成為企業日常營運的一部分,相關的法律風險浮出檯面。企業必須開始思考如何妥善儲存 AI 系統產生的資料,以應對未來可能的法律訴訟或內部調查。例如,若有合成媒體(synthetic media)作為證據提交,透過正確儲存後設資料(metadata,即描述資料本身的資訊,如創建時間、來源、格式等),將有助於辨識其真偽。 為因應這項需求,市場上的供應商也正逐步推出相關工具,協助企業蒐集、保存並分析 AI 系統中的資料,例如 Thomson Reuters、律商聯訊(Lexis)等公司都提供此類服務,產品包含 Thomson、CoCounsel、Lexis+、Protégé 等。Reveal、Newcode 和 Relativity 等科技公司亦投入開發相關解決方案。

Admin 八月 25, 2026 0

睡前滑手機「藍光」真的會讓皮膚變差?眼科與皮膚科醫師聯合解析光線暴露對夜間修復的實際影響

「守護家園 榮耀同行」 超過700個品牌、逾2.2萬家門市齊響應九三敬軍

海軍士官母親因病離世 臺東軍人服務站弔唁關懷

打造全國首座議事實境模擬場域 立法院民主議政園區民主營隊啟動

《圖說》國會民主研習戰鬥營學員們激烈攻防辯論戰。 【民眾網諸葛志一台中報導】立法院115年度國會民主研習戰鬥營於24日至25日在立法院民主議政園區辦理,來自全國各大專校院的青年學員齊聚臺中霧峰,立法院民主議政園區在原臺灣省議會議事堂,透過國會議事、人工智慧、媒體傳播、國際政治及議題攻防等多元課程,實際走進議事殿堂,深入認識國會運作及民主政治精神。 立法院中南部服務中心主任邱俊龍表示,立法院民主議政園區目前具體發展定位為落實「民主教育會展中心」的推動,今年立法院也編列預算辦理原省議會議事堂相關設備及公共服務設施之全面整修,結合園區歷史建築、議事設備、民主教育及情境模擬,立法院民主議政園區將成為「全國第一座議事教育實境模擬場域」。 《圖說》立法委員廖偉翔(右)、臺中市政府副秘書長林谷龍(中)與學員們交流。 今年民主戰鬥營最具特色的課程,是將成果發表及辯論攻防移至原臺灣省議會議事堂辦理。學員實際坐進議席、使用議事設備,分別扮演民意代表及相關議事角色,從議題分析、論述建構、政見發表到質詢答辯,完整體驗議事運作及公共政策辯論過程。 本屆戰鬥營亦開創傳承與菁英制的青年培育模式,發掘具有公共參與熱忱、民主素養、政策思辨、表達能力及領導潛力的優秀青年,逐步建立國會民主研習戰鬥營菁英人才資料庫名單,形成國會民主教育青年人才網絡。 《圖說》立法院國會民主研習戰鬥營在立法院民主議政園區舉行。 立法院中南部服務中心表示,透過近期活化整建,民主議政園區已成為全國舉辦民主教育營隊的選擇熱點。除了大專青年培育,近年也積極推動友善兒少及分齡民主教育。立法院中南部服務中心持續與鄰近大專校院合作,訓練青年志工,並共同設計適合不同年齡層的民主與議事教育課程。目前已逐步發展「小小議長營」、「青春議事槌」及「國會民主研習戰鬥營」等系列品牌,從國小、高中一路延伸至大專青年,建立不同學習階段的民主教育路徑,讓民主素養從兒童及青少年階段向下扎根。 立法院中南部服務中心表示,民主議政園區承載臺灣省議會數十年的議政歷史,未來將持續以民主教育會展中心為發展方向,使珍貴的民主歷史記憶轉化為青年教育及公共參與資源,讓民主議政園區不僅成為保存臺灣民主歷史的重要基地,更成為培養新世代公民領袖及實踐民主價值的教育場域。 《圖說》立法院中南部服務中心主任邱俊龍為學員們加油打氣。  

Admin 八月 25, 2026 0

三重興華公園地下停車場啟用  侯友宜:八年打造17座停車場提升三重停車環境

南台灣治水成效差 賴清德反擊:北部早開始

一時恍神代價大!自小客撞毀路旁多車 蘆竹警籲養足精神再上路

0 Comments