【特稿】AI治理需劃清行為邊界

當人工智能發展突飛猛進，AI治理亦按下加速鍵。在今年的世界人工智能大會上，AI治理無疑是重點話題，紐約科學院院長兼首席執行官杜寧凱在大會期間表示，AI治理可以借鑒航空、金融等行業成熟的監管經驗。尋匯Sunrate與萬事達聯合發布的《超越自動化：定義智能體驅動的全球支付》白皮書則指出，需將AI支付轉型納入頂層運營重構，從審批交易轉向設定政策與治理邊界。

據該白皮書調研指出，全球85%的企業計劃使用AI智能體，33%的工業B2B企業已嘗試AI採購智能體做決策；但也有研究機構提示約50%的AI概念驗證因數據治理缺位或風險考量未進入生產。

多個市場設立本土合規團隊

尋匯Sunrate AI首席技術官李一龍表示，「我們將AI定位為輔助工具，而非替代決策。」在當前AI解決方案的技術層面，團隊會利用知識圖譜和自然語言處理技術，實時追蹤全球監管政策變化，將複雜的法律條文轉化為系統參數。「一旦政策發生調整，風控閾值可以自動響應。同時我們也清楚，人工智能並非萬能。觸及高風險的交易行為，系統會自動觸發預警，交由人工團隊覆核。我們在全球多個市場設有本土合規團隊，他們對當地監管環境的深刻理解，能有效校準和優化AI模型。這套模式既提升了運營效率，也確保風險始終處於可控範圍。」

當前不少企業落地大模型與AI智能體後，極易暴露兩類典型安全隱患。其一為數據源缺乏精細化管控引發信息洩密，其二是AI調用工具時行為無邊界導致操作失控。根源在於模型推理與工具調用環節未設置行為約束，缺少對風險動作的識別與攔截機制。星環科技創始人孫元浩說，「AI治理是所有企業必須重視的問題，要給AI工具調用劃定清晰行為邊界，杜絕越權、破壞性操作。」

●香港文匯報記者 倪夢璟 上海報道