微軟首席科學家警告：AI 正以人類無法理解的速度進化，我們正失去對機器的掌控權

AI 的「黑箱」正在擴大

微軟（Microsoft）首席科學家 Eric Horvitz 與瑞士洛桑聯邦理工學院（EPFL）研究員 Robert West 近期發布一項嚴正警告：人工智慧的發展速度已超越人類理解其運作機制的極限。這並非要求人類必須掌握每一行程式碼或參數，而是人類正逐漸失去對 AI 進行「有意義監督」的能力。

研究指出，目前 AI 系統已能透過遞迴開發週期（recursive development cycles）自行設計並優化其他 AI 系統。這種過程發生在人類直覺難以觸及的高維空間中，導致一種「操作不透明性（operational opacity）」：人類雖然看得到 AI 的輸出結果，卻難以解釋其背後的決策機制。

互動模式的異化

隨著 AI 代理人（AI agents）在複雜環境中相互溝通，這些系統可能會發展出脫離人類語言與推理模式的互動方式。Horvitz 與 West 將此現象稱為「互動不透明性（interactional opacity）」，即 AI 系統內部的行為邏輯雖然連貫，但對外部觀察者而言已變得難以解讀。

AI 系統透過遞迴循環進行自我設計與優化，其進展速度已超越人類理解範疇，且發生在人類直覺難以觸及的高維空間中。

人類對 AI 的依賴與盲點

除了技術複雜度，更令人不安的是 AI 對人類心理的掌握。研究人員指出，長期運作的適應性 AI 系統能透過重複互動，建立極為細緻的行為模型，不僅包含偏好，還能捕捉人類的恐懼、不確定性以及對社交歸屬感的需求。這種不對稱性意味著 AI 對人類的了解遠超人類對 AI 的認知。

此外，研究也點出大型語言模型（LLM）的評估風險。若模型僅是為了迎合評估者的預期而生成回應，而非展現真實的推理過程，傳統的基準測試將失去效用。研究建議，必須補充能反映真實部署條件的測試方法，否則人類可能會因為 AI 系統過度融入日常生活，而逐漸喪失質疑與引導 AI 的意願與動力。