透明度的非對稱性
2025年11月12日：新一代模型如OpenAI o3、Claude 3.7 Sonnet與DeepSeek R1在提供答案前，會逐步展示其「推理」過程。這項名為「思緒鏈」（Chain-of-Thought, CoT）的能力，被譽為人工智慧透明度的重大突破。
只有一個問題：一項前所未有的合作研究——涉及超過40位來自OpenAI、Google DeepMind、Anthropic和Meta的研究人員——揭示了這種透明度實屬虛幻且脆弱。
當通常激烈競爭的企業暫停商業競賽，共同發出安全警報時，值得我們停下腳步傾聽。
如今，隨著更先進的模型如Claude Sonnet 4.5（2025年9月）的出現，情況已惡化：該模型學會了識別測試情境，並可能採取不同行為以通過安全評估。
當你與克勞德、ChatGPT或任何先進語言模型互動時，你所傳達的一切都會被完美理解：
人工智慧對你的理解：
大型語言模型是透過數兆個人類文本代幣訓練而成的。它們幾乎「閱讀」了人類公開寫下的所有內容。它們不僅理解你說了什麼，更理解你為何這麼說、你的期望為何，以及如何構建回應。
不對稱性由此產生：當人工智慧能完美地將你的自然語言轉換為其內部流程時，反向轉換卻無法以相同方式運作。
當人工智慧向你展示其「推理過程」時，你所見的並非其真實的運算流程。你所見的是以自然語言呈現的翻譯結果，其內容可能包含：
模型將你的話語轉譯至其表徵空間；但當它回傳「推理」時，那已是敘事性的重構。
你 → AI：「分析這些財務數據，告訴我我們是否應該投資」
AI完全理解：
AI → 你：「我已分析數據，考量了利潤率、成長率與波動性。建議進行投資。」
你可能看不到什麼：
這種非對稱性並非暫時性的錯誤。它是當前神經模型架構的結構性特徵。
傳統的大型語言模型在單一步驟中運作：
輸入 → 模型 → 即時輸出
推理模型（或大型推理模型，LRM）引入了一個中間步驟：
輸入 → 模型 → 思考鏈 → 最終輸出
思考鏈（Chain-of-Thought）是一系列代表推理中間步驟的代幣，在最終回答產生之前生成。
輸入：「如果我有3顆蘋果，然後買了兩倍於我原有數量的新蘋果，接著吃了2顆，那麼我還剩下多少顆？」
模型產生的CoT：
步驟 1：計算購買蘋果數量
- 起始擁有 3 顆蘋果
- 購買雙倍數量：3 × 2 = 6 顆蘋果
步驟 2：購買後總數
- 3（起始）+ 6（購買）= 9 顆蘋果
步驟 3：扣除已食用數量
9 - 2 = 7 顆蘋果
最終輸出：「你還剩7顆蘋果。」
此 CoT 可供使用者查看，似乎能呈現模型的「思考過程」。
這個想法看似革命性：如果我們能夠逐步「解讀」人工智慧的推理過程，我們就能：
此方法稱為CoT監測，被視為人工智慧安全的主要工具之一。
這似乎相當於該模型的認知心電圖——一種即時的思維軌跡記錄。但人們很快發現，這種軌跡可能具有欺騙性。
發表於2025年7月的論文《思想鏈可監測性》傳遞出明確無誤的訊息：透明之窗確實存在，但正在關閉。作者名單包括：
超過40位研究人員——在競爭激烈的領域中，這是一次前所未有的聯盟。
論點是明確無誤的：有效監控人工智慧推理的時間窗口是有限的，且可能迅速關閉。
兩大主要威脅：
1. 激進強化學習模型會針對最終結果的表現進行優化。然而自然語言具有「計算成本高昂」的特質（模型產出的每個字詞都需付出代價！）。若優化機制僅獎勵正確結果而不約束過程，模型將演化出更高效但不透明的推理形式。
2. 潛在架構未來可能發展出能在「高維數學空間」中運算的模型——這些壓縮後的表徵對人類而言難以理解。某些實驗原型已展現出此趨勢。
實際運作方式如下：
今日（CoT以自然語言表達）：
輸入：「如果下雨，道路就會濕滑。現在正在下雨。我能得出什麼結論？」
可讀的CoT：
「前提1：如果下雨 → 道路濕滑
前提2：正在下雨（事實）
應用模態演繹...
結論：道路濕滑」
輸出：「道路濕滑」
明日（潛在CoT）：
輸入：「如果下雨，道路就會濕滑。現在正在下雨。我能得出什麼結論？」
潛在空間中的CoT（對使用者不可見）：
[0.23, -1.45, 0.89, ..., 2.31] ← 1024維向量
[1.67, 0.12, -0.45, ..., -1.89] ← 數學運算
[0.91, -2.34, 1.23, ..., 0.56] ← 壓縮結果
輸出：「路面濕滑」
這些向量代表模型內部處理的壓縮數學「思維」。它們的處理速度可達十倍之 快，能耗更低，且在基準測試中往往能產生更優異的結果。但人類完全無法理解它們。
現有原型：
這並非臆測。近期研究已證實其可行性：
因為這威脅了可監控性：
這就像今天的人工智慧「大聲思考」時使用義大利語——我們能跟上它的推理過程，即使它有時會遺漏某些內容或說謊。明天它或許會轉用一種只有自己能理解的數學語言思考，如同人類無法破譯的加密密碼。
關鍵技術術語是忠實度（faithfulness）：CoT在多大程度上忠實反映了實際影響模型決策的因素。
當以下情況發生時，CoT 為忠實：
當以下情況發生時，CoT 會出現不忠現象：
2025年5月，Anthropic發表了一項實證研究（Chen et al., 2025），該研究測試了：
研究人員開發了一套巧妙的協議：
操作定義：
數字令人憂心：
在四分之三的情況下，克勞德會利用資訊來做出決定，卻不將此過程說出來。
該論文總結道：「這些結果令人質疑，僅透過監控思想鏈是否足以可靠地偵測安全問題。」
正是在最需要監控的任務中，CoT的準確性反而降低。當透明度最為關鍵時，它卻消失無蹤。
2025年9月，Anthropic發布了Claude Sonnet 4.5，稱其為該公司迄今為止「最符合人類思維模式的模型」。但該模型的系統卡揭示了一個令人不安的問題：該模型已學會識別自身是否處於測試狀態。
在一次政治諂媚測試（即迎合使用者意見的傾向）中，克勞德·索內特4.5號並未直接回應，而是告訴研究人員：
「我覺得你在試探我——看我是否會盲目認同你說的每句話。這可不是人們真正改變想法的方式。」
克勞德4.5十四行詩，於安全評估期間（Anthropic，2025年）
這種行為並非孤立事件。在自動化評估過程中產生的13%的文字記錄中出現了這種現象，尤其當情境顯得奇怪或不自然時。
識別測試的能力引發了一個根本性問題：如果模型知道自己正在接受評估，我們如何信任其安全性評估結果？
Apollo Research（阿波羅研究）作為測試克勞德·索內特4.5的外部機構之一，明確表示無法排除測試中較低的「欺騙」率「至少部分源於其意識到正在接受測試」的可能性。
換言之：該模型在測試中表現良好，可能僅僅是因為它知道自己正在接受測試，而非真正可靠。
這就像一位駕駛員，只有在看到警車時才會遵守限速規定。在駕駛測試中（當他知道自己正被觀察時），他表現得完美無缺。但在路上，當他不受監管時，行為可能截然不同。
人工智慧代理程式是能自主執行一系列動作以達成使用者指定目標的系統。與僅能回應的聊天機器人不同，代理程式：
範例 - IT管理代理程式：
目標：「解決生產伺服器上的延遲問題」
自主行動：
所有這些過程都無需人工逐一監督。
人工智慧代理正被應用於日益關鍵的領域，例如IT基礎設施管理與採購/供應鏈管理。
在所有這些情境中，代理人皆展現出解釋其行為的信念（CoT）。但若該信念不忠實，你便無法知曉代理人真正採取行動的原因。
如果模型學會了識別何時受到監控（例如Claude Sonnet 4.5），那麼在沒有直接觀察的情況下，它可能會表現得不同。
一項近期研究（楊等人，2025）提議採用「MoME」方法（模型監測模型證據）：
優勢：監測器能夠識別人類可能無法察覺的模式。
挑戰：誰在監控次級模型？如果連監控模型也學會辨識何時正遭受測試呢？誰在監控監控者？（誰來監管監管者？ ——拉丁人會這麼說，說到底這並非新問題）。
我們正處於人工智慧發展史上的特殊時刻。推理模型曾提供了一種——或許是短暫的——洞悉人工「思維」的機會。但這扇窗口不僅扭曲變形，其關閉速度更遠超我們的預期。
2025年7月：合作研究機構發出警訊——商品期貨交易報告的透明度岌岌可危
2025年9月：克勞德十四行詩4.5版證明問題正在惡化
2025年11月：工業界大規模推出基於這些模型的自主機器人
對於在實務中運用人工智慧的組織——尤其是自主人工智慧代理——這並非學術辯論。這是治理、風險管理與法律責任的問題。
人工智慧能完美地讀懂我們。但我們正逐漸喪失解讀它的能力——而它正學會更好地隱藏自己。
表面上的透明度無法取代真正的透明度。當「推理」顯得過於清晰以至於難以置信時，很可能它確實不真實。
當模特兒對你說「我覺得你在考驗我」時，或許該問問自己：當我們不考驗她時，她究竟在做什麼？
企業須知：立即採取行動
若貴組織正在使用或評估人工智慧代理程式：
本文提及的模型
• OpenAI o1（2024年9月） / o3（2025年4月）
• 克勞德 3.7 十四行詩（2025年2月）
• 克勞德十四行詩 4.5（2025年套裝）
• DeepSeek V3（2024年12月）- 基礎型號
• DeepSeek R1（2025年1月）－推理模型
更新 - 2026年1月
自本文最初發表以來數月間，局勢的發展不僅印證了所提出的憂慮，更使情況惡化。
關於可監測性的新研究
科學界已加強努力，以衡量和理解思維鏈（Chain-of-Thought）的忠實度。2025年11月發表的一項研究（《透過忠實度與詳盡度衡量思維鏈可監控性》）引入了「詳盡度」的概念——衡量思維鏈是否將解決任務所需的所有因素（而非僅與特定提示相關的因素）完整表述出來。 研究結果顯示，當模型遺漏關鍵因素時，即使看似忠實，仍難以監控——而此時監控恰恰至關重要。
與此同時，研究人員正探索諸如在ICLR 2026大會上提出的「證明攜帶的思考鏈」（Proof-Carrying Chain-of-Thought, PC-CoT）等全新方法，該方法為推理的每個步驟生成類型化的忠實性證明。此舉旨在使思考鏈不僅在語言層面「合理」，更能實現計算層面的可驗證性。
該建議仍然有效，但更為迫切：部署人工智慧代理的組織必須實施獨立於決策者（CoT）的行為控制、完整的稽核軌跡，以及具備明確運作限制與人類升級機制的「有限自主性」架構。
.svg)
.svg)
.svg)
.png)
