AI對抗AI成趨勢 專家提5安全建議防禦

香港文匯報訊（記者 陳鍵行）數碼港Agentic AI創新與安全論壇的圓桌討論環節，以「AI安全的邊界：創新速度與風險控制如何平衡？」為主題，由數碼港行政總裁鄭松岩聯同行業翹楚，深入探討在推動AI創新發展的同時，兼顧風險管控與平衡。

警務處：執法轉為主動防禦

在執法層面，警務處網絡安全及科技罪案調查科總警司林焯豪指出，在平均每年處理的約2,000多宗與虛擬資產有關的案件中，目前已出現生成式及自動化人工智能成份的案件，但涉及自主式人工智能的案件尚未在香港出現，雖然海外已有相關案例，例如為OpenClaw增值的Token因被安裝惡意插件而被盜用。科技發展速度快於立法規管，執法需從被動轉為主動防禦。他表示，警局近年已成立「智慧警政顧問小組」，與業界領袖共同探討安全問題，對AI進行解剖分析，探測潛在威脅，主動防禦風險。

銀行業在應用AI Agent時，面臨失控代理及資料暴露風險。四方精創公司作為一家專門為銀行及金融機構提供軟件開發和數字化解決方案的企業，其行政總裁陳榮發表示，銀行本身的金融防禦（financial defense）構建了三道防線應付潛在風險。第一道防線由產品開發和系統維護團隊做好權限邊界管理與敏感資料的隔離；第二道防線的風險管理，是來自合規和信息安全團隊對AI Agent所接入模型的風險評估，是否符合銀行早期設立的標準。第三道防線則是獨立評估或審計團隊的提前部署，測試防線的有效性。

在網絡攻防方面，攻擊者採用AI Agent實現攻擊自動化，如AI釣魚、自動化惡意軟件生成，網絡攻防變成AI對抗AI的競賽。永信至誠副總裁付磊就企業構建AI Agent的網絡框架或是防禦策略有五點建議。一是建立資產台賬，分類分級標記資產，從而清晰區分需要重點保護的資產類別，進而對潛在威脅有一個應對方案；二是透過攻防演練，提升應對潛在攻擊場景的能力；三是針對近期AI組件「惡意投毒」事件，企業應加強軟件供應鏈的治理，對開源社區引入的軟件進行代碼審計，加強管控；四是構建「蜜罐」誘導攻擊流量，從而有效構建防禦策略；五是加強企業開發及運營人員的日常教育及訓練。

AI Agent為區塊鏈安全添挑戰

AI Agent具備很強的自主性，用戶只要給它下一個命令，它就可以對既定區塊鏈目標去搜索相關的攻擊腳本，自發形成攻擊。鏈安科技首席技術官郭文生表示，AI Agent的出現大幅降低了攻擊門檻，為區塊鏈安全帶來新挑戰。其「攻擊即收益」的特性，加上攻擊攔截難度較高，區塊鏈生態的安全風險明顯增加。他表示，可採取「事前防護、事中攔截、事後追蹤」的一體化解決方案。在事前階段，對智能合約進行全面安全審計，並引入AI Agent進行掃描檢測；事中利用AI Agent實時監測追蹤安全事件，將相關地址納入黑地址標籤庫，透過反洗錢工具阻斷資產流動；事後與執法機構合作，引入AI技術實現鏈上虛擬資產的追蹤，大幅縮短人工審核時間。