【AI新衝擊 監管噩夢】AI演化超人類經驗 大國博弈添變數 技術發展極速 規範追趕不及

美國《華爾街日報》分析指出，人工智能（AI）發展之快、性質之新，已遠超人類社會既往經驗，令各國監管機構面臨前所未有的考驗。從核電、噴氣式飛機到藥物和金融衍生品，人類對高風險技術的監管已有數十年經驗，但這些歷史無法直接套用於AI，原因在於AI既能帶來巨大益處、又極其危險，但卻可自由獲取，而人類知識更可能追不上其發展，沒有任何模板可供各國遵循。

●香港文匯報記者 路雨萱

AI不同於以往任何高風險技術之處，在於其風險認知滯後，且發展遠超監管步伐。早期AI聊天機器人與其他科技產品類似，被視為是提升效率的工具，AI聊天機器人只對人類指令作出回應、輸出文字內容，其風險被低估。

隨着AI智能體（AI Agent）出現，局面發生根本性改變。AI可在無需人類干預下自主規劃、調用工具執行任務，風險性隨之危險升級。非牟利組織「模型評估與威脅研究」（METR）總裁佩因特指出，AI智能體具備跨領域能力，一旦置於全新或不同的環境，其反應難以預測，對監管構成根本挑戰。

能力約每4個月增長一倍

METR估計，AI能力約每4個月至5個月增長一倍，遠超於芯片每兩年翻倍的速度，亦快於冷戰時期核彈爆炸當量平均每17個月翻倍的速度。這意味着即使AI未必會毀滅人類，也可能具備造成災難性破壞的能力。美國AI巨頭Anthropic行政總裁阿莫戴警告，在6個月至12個月內，這類集群已有能力接管整個網絡。

在AI監管問題上，各國政府未見行動。回顧歷史，自二戰以來，核彈、導彈、生物武器等技術，一直由軍方掌控，各國政府壟斷技術，監管置於其中。一些最初用於國防的技術，如核裂變、噴氣式飛機、半導體、衛星和激光等，後來衍生出民用版，但政府從未缺席。

政府「放養」 科企反籲監管

傳統上，高風險技術的監管，是在鼓勵創新與保障安全之間取平衡。但AI領域顛覆這一模式，前沿科企同時身兼監管角色。OpenAI、Anthropic及Google等巨頭高層，反而多次要求各國政府對AI強制監管，但以美國為例，總統特朗普卻無意放慢AI發展腳步。

AI監管面臨的第三重難題，在於地緣政治競爭。再以美國為例，該國將AI視為與對手爭奪未來科技主導權的關鍵領域，任何可能拖慢發展的監管措施，都被視為戰略風險。AI現時正支撐美國經濟，特朗普本人的財富亦受科技產業高度影響，這使其更傾向放寬監管，而非加強約束。