英反恐顧問發警告　恐怖分子或利用AI威脅國安

香港文匯報報道，人工智能（AI）技術不斷發展，業界關於其潛在問題的討論亦愈來愈多。英國政府反恐立法獨立顧問日前就提醒，AI技術若監管不力，不排除會構成國家安全威脅。專家指出，恐怖分子或會利用AI技術策劃恐襲，AI聊天機械人等工具亦可能被用於針對青少年等弱勢群體進行煽動甚至洗腦，導致極端思想蔓延。

《衛報》引述獨立顧問霍爾的分析稱，AI技術的國安威脅日趨明顯。霍爾認為，AI技術並非「科技烏托邦」，研發者需要時刻留意其潛在問題，「許多AI研發都專注發揮該技術的潛在優勢，卻忽略了恐怖分子如何利用其策劃襲擊，針對這些不法分子或會利用AI技術所做的事，研發團隊必須建立防線。」

19歲青年策劃恐襲囚終身

霍爾指出，AI聊天機械人的語言和邏輯功能愈發完善，若被不當利用，很可能會影響青少年的心智，刺激他們接受極端主義思想，甚至指引他們如何發動恐襲，「讓我擔憂的是，人們或會沉浸在AI技術的世界中，傾向於接受AI的建議。在國安威脅問題上，（AI的）語言應用非常重要，因為語言最終會說服人們採取行動。」

報道提到英國一宗個案稱，年僅19歲的馬修·金上周五因策劃恐襲被判囚終身，專家指出，馬修·金正是在網上觀看大量極端主義資料，才很快變成極端主義者。霍爾據此提醒，社交媒體一直是恐怖主義和極端思想的主要傳播平台，如今研發AI技術時，科企必須從社媒的問題中汲取教訓。

需關注AI企業運作透明度

霍爾補充說，監管部門需要關注AI研發企業的運作透明度，包括了解公司僱員人數，尤其關注負責倫理審查和風險預防的團隊規模，「當公司稱已就使用AI技術設限，我們要掌握負責相關工作的具體人數。如果一間公司只有數人運作，又能花多少時間用於公共安全監督呢？」

霍爾也表示，利用AI技術篩選目標的自主武器可能已經出現，當局需要制訂法案應對潛在的恐怖主義威脅，「通常而言，恐怖主義在法律中的定義與『人的意圖』而非『機械的意圖』相關，那麼操縱AI技術的恐襲是否受到刑法監管？沒有人知道AI會作出什麼決定。」

英國AI研究機構「圖靈研究所」國安項目數碼倫理研究員布蘭查德認為，監管AI技術的核心，在於讓人類掌握AI的認知自主權，妥善控制AI技術的應用，濫用技術只會帶來危險後果，「AI可以學習適應周邊環境，其行為也會不斷升級，人類需要保持警惕。」

美專家指「人類滅絕論」被誇大

不少人工智能（AI）專家都對該技術快速發展的風險提出警告，不過紐約大學名譽教授、AI專家馬庫斯認為，部分AI威脅論提及該技術發展甚至可能滅絕人類的說法略顯誇大其詞。馬庫斯表示，真正的風險在於人類可能無法妥善控制AI系統，針對AI技術的監管仍要不斷完善。

多名AI專家日前發聲明稱，全球領袖應致力降低來自AI技術的「滅絕風險」，應對AI技術的挑戰，應該與應對疫情或核戰一樣列作「全球優先要務」。馬庫斯並未參與聯署，他也不認為「滅絕風險」現時有實據支持，「如果你真的認為有生存風險，為什麼還要做（指研發AI技術）？我擔心的問題是，我們正打造我們無法妥善控制的AI系統，我認為這會帶來很大風險，但可能與生存無關。」

馬庫斯表示，與其將焦點放在人類滅絕等遙遠的預測，社會更應將注意力放在迫在眉睫的挑戰上，「人們或會試圖利用AI製造混亂、操縱市場、散播謠言。我們或會被誤導去指責俄羅斯人，其實他們不是幕後黑手。這些威脅或會升級，不過未必會導致『人類滅絕』。」