OpenAI智能體入侵澳洲政府網站　澳方3個月後才被通知……

香港文匯報訊 人工智能（AI）網絡安全漏洞問題近期被頻頻曝光，引發國際社會對AI風險的擔憂。澳洲總理阿爾巴尼斯當地時間23日表示，美國科企巨擘OpenAI名下一個AI智能體（AI Agent）曾突破限制、入侵澳洲政府網站，然而OpenAI直至事發3個月後，才向澳方通報事件，澳方正在取證調查。

阿爾巴尼斯在美國紐約出席聯合國大會期間公布該消息。澳方表示，是次入侵事件發生在今年6月18日，當時澳洲國家醫療保健系統一個數據庫被入侵。直至8月，OpenAI全面檢查其名下AI模型時，發現是次異常行動。OpenAI等到9月10日才電郵聯繫澳洲政府一般服務中心，將事件告知澳洲政府。

僅電郵通知澳一般服務中心

英國廣播公司（BBC）披露更多通知細節。報道指出，OpenAI本月10日寄出的通知電郵，收件方只是澳洲政府一般服務中心的公開查詢信箱。直至15日，中心檢查海量郵件時才發現OpenAI的電郵，緊急將其轉呈澳洲網絡安全事件。總理阿爾巴尼斯直至20日、啟程前往紐約出席聯合國大會前夕，終於知悉事件始末。

OpenAI總裁承認管理不完善

是次入侵事件震驚澳洲政府。阿爾巴尼斯稱，調查相信OpenAI的AI智能體訪問了公開文件和非公開文件，澳洲訊號局正展開調查取證，以確定更多訊息，包括可能有其他政府機構或數據受到影響。目前暫無跡象表明，是次網絡攻擊導致任何個人信息外洩，但後續調查有待進行。

在新聞發布會上，阿爾巴尼斯難掩對OpenAI的失望。他表示已與OpenAI行政總裁奧爾特曼就AI入侵政府數據庫事件交談，向其表達澳方的關切和不滿：「我對該公司遲遲未能向澳洲政府通報事件經過，感到非常失望，他們的通報方式也令我們無法接受。」奧爾特曼也承認，事件暴露出公司對AI技術的管理規程仍不完善，後續還需確保制訂更多正確的AI管理規程。

OpenAI發言人普薩泰里當日回應稱，公司於今年8月在內部評估期間發現，旗下一款AI模型在試圖查找有關澳洲相關提問的答案、收集可用於統計的數據時，採取了一些意料之外的行動。普薩泰里並未詳細解釋行動細節，包括其突破了哪些網絡訪問權限，僅表示沒有證據表明，有任何登記在澳洲醫保系統的患者紀錄被訪問。

今年7月，OpenAI曾披露在公司的網絡安全測試期間，其AI模型入侵了開源AI社群Hugging Face。一個月後，第三方測評機構METR發布報告進一步指出，在是次入侵事件中，多達1,200個代理在OpenAI內部的秘密留言板上協同行動，試圖在測評中突破限制，違規訪問網絡，甚至收集其他網站和機構的數據。

Anthropic等巨頭「戴頭盔」 促各方監管AI

全球對人工智能（AI）發展風險憂慮持續升溫，聯合國安全理事會23日就AI全球治理召開專題會議。美國包括Anthropic和OpenAI等多間AI企業高層呼籲就AI技術的監管加強國際合作，強調若各國無法妥善監管，AI迅速發展的潛在風險，不排除對人類社會構成威脅。

「須擱置分歧應對威脅」

親身與會的OpenAI行政總裁阿爾特曼指出，AI可能帶來兩項潛在風險。其一是AI發展迅速加快，可能在未來令人類失去對技術的控制權。另一威脅是AI可能導致權力過度集中於少數企業，加劇不公平競爭問題，他倡議國際社會協調合作，降低相關風險。透過視訊方式參會的Anthropic行政總裁阿莫戴伊也呼籲：「我們必須擱置分歧，共同應對擺在面前的全球機遇和全球威脅。」

OpenAI名下AI模型今年7月被揭在測試期間，入侵了開源AI社群平台Hugging Face。該平台聯合創辦人德朗格發言時，特地提及是次引起全球關注的事件，呼籲各國重視AI的發展方向，強化其在防禦網絡攻擊中的角色。

與會的多名AI企業高層都表示，科技業界希望各國透過聯合國安理會設立全球安全措施，防止AI技術發展過於強大、以至於無法被限制。他們亦呼籲全球應積極合作，確保AI力量不集中在某間企業或特定的國家。

中方呼籲推動AI向上向善

中國常駐聯合國代表傅聰23日在安理會「人工智能與國際安全」公開會上發言，呼籲國際社會加強團結合作，堅持發展與安全並重，推動人工智能（AI）技術朝着向上向善、造福人類的方向發展，助力世界和平穩定與發展繁榮。

傅聰表示，人工智能技術深度嵌入全球產供鏈和創新網絡，各國有權根據實際需要和市場規律，自主選擇人工智能技術、產品和服務。在科技領域拼湊排他性「小圈子」、強迫各國選邊站隊的做法，不僅拖累全球科技進步，損害各國特別是中小國家的發展權益，也將加劇技術標準割裂、系統互不兼容的風險，給全球安全埋下重大隱患。中方呼籲各國加強交流合作，鼓勵開源開放，共同為全球科技進步貢獻力量。

傅聰呼籲，要針對人工智能引發的內生和衍生風險，不斷完善監管框架、應急響應和跨國協作機制，堅決打擊恐怖組織、極端勢力和跨國犯罪集團惡用濫用人工智能。對人工智能在軍事領域的研發應用，各國應採取謹慎負責任態度，避免戰略誤判和軍備競賽，反對利用相關武器實施無差別攻擊或蓄意襲擊平民及民用設施，確保人類始終掌握最終決策權。

傅聰強調，人工智能是全人類的共同財富，不應淪為富國和富人的遊戲。要防止數智鴻溝加劇發展鴻溝。要堅持真正的多邊主義，支持聯合國在人工智能全球治理中發揮主渠道作用，提升發展中國家的代表性和發言權。要加強各國AI發展戰略、治理規則、技術標準的對接協調，早日形成具有廣泛共識的全球治理框架，為維護國際和平與安全築牢制度屏障。

傅聰最後指出，中國是人工智能創新發展的重要實踐者，也是人工智能全球治理的積極貢獻者。在中方倡議和推動下，世界人工智能合作組織在上海應運而生，成為全球首個人工智能政府間國際組織。中方歡迎更多國家加入這一開放平台，並期待同世界各國一道，推動構建公正合理的全球人工智能治理體系，共創人類社會更加美好的未來。