商傳媒｜林昭衡／綜合外電報導
隨著人工智慧技術快速發展，OpenAI 的 ChatGPT 和 Anthropic 的 Claude 等大型語言模型（LLMs）已進化為多模態 AI，不僅能處理文字，還能分析圖像，甚至從文字描述生成圖片。然而，學術界對此一進步也提出擔憂，指出這些模型存在「視覺幻覺」（Visual Hallucinations）問題，即 AI 在圖像處理過程中可能生成看似合理但實際錯誤或荒謬的輸出。
根據知名學術期刊《Communications of the ACM》的報導，諾丁漢大學（University of Nottingham）電腦視覺副教授 Michael Pound 指出，LLMs 經過大量文本與影像資料訓練，由於缺乏對「真理」的明確規範，其輸出往往僅具統計學上的合理性，而非真實。加州柏克萊人工智慧研究實驗室（University of California Berkeley Artificial Intelligence Research lab, BAIR）的博士後研究員 David Chan 也提到，儘管人類也會有類似錯誤，但大眾期望 AI 模型的表現應優於人類。
「視覺幻覺」對自動駕駛車與安全監控影像分析等關鍵應用領域構成嚴重挑戰，可能損害大眾對 AI 的信任度。例如，當背景資訊與圖像內容矛盾時，幻覺現象會更頻繁。Michael Pound 舉例說明，醫學影像分析若受其他病患資料影響，AI 可能因此忽略圖像中實際存在的疾病跡象。他強調，對於盲人輔助科技等使用者無法自行驗證輸出的情境，AI 模型的精確度至關重要，任何錯誤都可能帶來風險。
研究人員正積極探討視覺幻覺的根本成因，認為這與生成式 AI 模型作為仰賴機率的「預測引擎」本質息息相關。目前，除了針對特定任務的影像資料進行模型微調（fine-tuning），並在如自動駕駛車中導入光達（LiDAR）等多餘感測器以彌補錯誤外，現有的後驗證（post-hoc verification）方法也面臨效率低落的問題，因為它需要額外的 AI 模型來檢查輸出，過程緩慢且僅能拒絕錯誤回應，無法直接修正。
為提升驗證效率，新的「REVERSE 框架」被提出，它能在 AI 生成回應的過程中同步檢查幻覺。此框架透過訓練模型將詞語分類為「自信」或「不自信」，並在生成影像描述時給予每個詞彙信心評分，從而實現即時修正。David Chan 形容這是一種「推論技巧」，能讓部署中的系統根據預期的錯誤率來進行應對。未來研究則將聚焦於從源頭防止 AI 模型產生幻覺，並探索視覺推理（visual reasoning）而非純文本推理，透過讓模型分析圖像的幾何與外觀，來提高其精準度、理解基礎及可解釋性。
圖／本報資料庫
商傳媒｜林昭衡／綜合外電報導
隨著生成式人工智慧（AI）工具的普及，許多企業起初不設限制地採購與導入 AI 系統。然而，這波熱潮如今卻讓企業開始正視其背後潛藏的法律風險，特別是在訴訟或調查過程中，AI 系統資料的保存問題日益凸顯。
在昨日舉行的法律科技會議 ILTACON 首日議程中，與會者便將焦點放在 AI 採購後的資料保存挑戰。ILTACON 是一個專為法律專業人士舉辦的年度技術會議，旨在探討法律領域的科技應用與趨勢。會中指出，如同大學生在派對上恣意拿取飲料，許多企業在面對 AI 浪潮時，也曾不加思索地大量引進新工具與系統。
隨著 AI 系統逐漸成為企業日常營運的一部分，相關的法律風險浮出檯面。企業必須開始思考如何妥善儲存 AI 系統產生的資料，以應對未來可能的法律訴訟或內部調查。例如，若有合成媒體（synthetic media）作為證據提交，透過正確儲存後設資料（metadata，即描述資料本身的資訊，如創建時間、來源、格式等），將有助於辨識其真偽。
為因應這項需求，市場上的供應商也正逐步推出相關工具，協助企業蒐集、保存並分析 AI 系統中的資料，例如 Thomson Reuters、律商聯訊（Lexis）等公司都提供此類服務，產品包含 Thomson、CoCounsel、Lexis+、Protégé 等。Reveal、Newcode 和 Relativity 等科技公司亦投入開發相關解決方案。
