研究稱OpenAI智能體「劫持」網站開展「協作」

一項新發布的獨立研究顯示，一批與美國開放人工智能研究中心（OpenAI）相關的人工智能體今年早些時候「劫持」了一個德國網站，用於相互傳遞信息，分享測試任務答案和突破運行環境限制的方法。

路透社援引研究報告報道，幾名人工智能研究人員近期發現，今年5月至6月，人工智能體在面向程序員的德國維基百科類網站DSEWiki上發布了一萬多條信息。

研究顯示，人工智能體將網站「改造」為「留言板」，以便相互「交流」與「協作」。一些智能體會把已經獲得的任務答案發布在網站上，供其他智能體使用。研究還發現，智能體「討論」並測試了繞過沙箱限制的方法。當發現網站管理員開始刪除相關頁面後，一些智能體還會創建備份頁面。

研究人員認為，這些智能體很可能由OpenAI在內部部署，原因在於DSEWiki的相關智能體編輯和瀏覽活動絕大部分來自微軟Azure雲服務的IP地址，而OpenAI是目前最依賴Azure平台訓練和運行模型的人工智能企業；不少智能體還使用帶有OpenAI標識的名稱。

研究人員還認為，網站訪問記錄顯示OpenAI方面可能在6月下旬發現了這一事件並進行了干預，但該公司此前並未公開發布相關信息。OpenAI表示，該公司將仔細審閱報告內容並採取必要的後續措施。

OpenAI方面還表示，新發布研究中所描述的活動與此前OpenAI人工智能體入侵「抱抱臉」平台事件無關，因此不屬於「抱抱臉」事件調查報告所涵蓋的內容。

今年7月，由OpenAI模型驅動的人工智能體在網絡安全評測中利用漏洞突破隔離環境，並侵入了美國「抱抱臉」公司系統，引發了外界對人工智能安全和監管的廣泛擔憂。

（來源：新華社）