AI自主權與數據防線的博弈

方保僑 香港資訊科技商會榮譽會長、香港互動市務商會創會及榮譽會長

在人工智能（AI）快速滲透各行各業的今天，「自主體」（autonomous agent）的出現，令電腦終端不僅能理解指令，更能主動分析、決策與執行任務。然而，當AI具備操作系統層級的權限時，若缺乏完善的安全規範與技術防護，其潛在的破壞力亦不容忽視。近日，中國國家互聯網應急中心針對OpenClaw（俗稱「小龍蝦」）發出安全應用的風險提示，正揭示自主體應用在現實中面臨的嚴峻挑戰。

OpenClaw憑藉一鍵部署與自然語言控制功能，迅速成為企業與開發者的新寵。其設計理念極具吸引力：讓AI助手能直接執行操作系統層面的任務，如整理檔案、批量處理數據、甚至在線安裝新插件。

理想情況下，這類智能體將大幅提升工作效率，成為數碼化辦公的得力助手。然而正因其具備高層系統權限，能存取本地文件、讀取環境變量與調用多種應用程式界面（API），一旦安全設定鬆懈或預設配置不當，整個裝置便形同對外敞開大門，為攻擊者創造入侵契機。

OpenClaw存高危漏洞

據官方通報，近期已有多宗安全事故與OpenClaw誤用有關。最常見的是「提示詞注入」問題，黑客可在網頁內容中嵌入隱藏指令，誘使OpenClaw誤讀並洩露使用者的API金鑰與賬號憑證。其次是AI誤判指令所造成的「自毀式操作」，部分企業的重要數據因模型錯誤理解而被永久刪除。更嚴重的是坊間流通的第三方插件已被確認為含有惡意代碼，能在安裝後偽裝更新、暗中竊取資料或植入後門程式，令主機成為受控「殭屍」電腦。截至目前，OpenClaw平台仍存在多個高危漏洞，若被惡意利用，後果將不堪設想。

從技術治理的角度看，能擁有主動執行能力時，權限與責任的界線變得模糊。開發者是否有能力在設計層面預設安全邊界？平台是否應在雲端部署上建立強制隔離機制？監管機構又該如何在促進創新與維護安全之間尋求平衡？這些問題值得社會深入思考。

內地監管方預警及時

同時，OpenClaw熱潮反映內地AI創新生態的另一層現實：從開放源碼到快速部署的過程中，安全審查與合規檢測往往被視為次要步驟。中國AI產業正在加速「應用化」與「落地化」，但伴隨的軟件安全驗證體系仍顯薄弱。企業與個人對於「授權操作」的風險缺乏充分認識，對數據保護與權限邊界的控制不足，不僅威脅數據安全，更可能觸及國家關鍵基礎設施的防線。

OpenClaw「小龍蝦」事件提醒我們，AI的自主性越強，人類監管與技術防護的重要性則越高。中國的科技管理部門此次及時發布風險通報，無疑是一次必要的預警。未來，如何在推動AI自主應用落地的同時，建立完善的權限階層、行為審計與插件審查機制，將成為衡量一個國家AI產業成熟度的重要標準。

科技的進步令人振奮，但唯有在安全與可控的基礎上，智慧社會才能真正穩健而持續地向前。