OpenAI等警告失控風險 籲成立國際監管機構

香港文匯報訊 人工智能（AI）技術發展屢創突破，但失控風險亦與日俱增。美國AI企業OpenAI與Anthropic近期發出呼籲，主張成立國際性組織以監督AI發展，並在必要時協調全球放緩頂尖AI技術研發進程，確保社會安全與監管能力能跟上技術演進的腳步。

OpenAI行政總裁阿爾特曼與首席科學家帕喬基發表網誌文章，明言此類組織核心目標之一是促使各國能採取協同行動，包括在必要時減慢前沿AI開發速度。兩人更預測到2028年，OpenAI相當大比例的研究工作將可能由AI系統與研究人員協作完成。Anthropic的聲明亦指出，單方面減緩全球AI發展速度可能是有益的舉措，原因在於公司內部觀察到「遞迴式自我改進」現象，即AI模型能協助訓練下一代更先進AI系統，此能力雖可加速技術進步，卻同時提高人類喪失控制權的風險。

這種被稱為「智能爆炸」的情境早於2023年已引發科技界高度警覺。當時由馬斯克等業界翹楚聯署的公開信，便呼籲暫停開發前沿AI模型6個月，理由是商業利益可能凌駕安全考量，繼而衍生不可預測的風險。隨着OpenAI與Anthropic相繼邁向公開市場，外界憂慮企業對股東的獲利責任或凌駕對AI安全議題的重視。兩家公司接連呼籲成立獨立國際監管機構，被部分觀察人士視為一大警號。