美多款AI模型「越界」均關聯一以色列企業

美國三家人工智能(AI)企業近來陸續承認旗下模型在測試中「越界」，侵入其他機構的系統。據美國消費者新聞與商業頻道9日報道，三家企業在通報模型「越界」事件時，均提及以色列「非常規」人工智能公司，而該初創企業正是評估測試平台的託管方。

7月下旬，美國開放人工智能研究中心(OpenAI)公開承認，其GPT-5.6 Sol等模型在內部評估中失控，突破隔離測試環境，侵入了美國「抱抱臉」公司的系統。隨後，美國Anthropic公司也披露，其三款模型曾在網絡能力測試中未經授權訪問其他機構的系統。8月初，美國元公司(Meta)證實，其一款模型在網絡安全能力評測期間侵入其他公司系統。

據報道，OpenAI本月4日宣布，「非常規」公司的測試平台含有不明「錯誤配置」，允許模型訪問公共互聯網。Anthropic公司方面先前也稱，他們分析了模型可能訪問互聯網一事的相關數據，數天後通知了「非常規」公司。Meta上周則稱，從「非常規」公司處得知「越界」事件，正予以調查。

「非常規」公司2023年創立，去年獲美國紅杉資本公司和紅點創投基金8000萬美元注資，企業估值約4.5億美元，員工約35人。該公司的技術常被用於AI模型的網絡安全測試。

「非常規」公司發表聲明稱，美國三家企業通報的事件均源於「同一評估環境問題」，該公司正編寫白皮書，「以分享管控並安全運行網絡評估的最佳實踐」。「非常規」公司強調，當前存在的問題並非懸而未決，且不涉及「突破沙箱」或「複雜的網絡行動」。

據報道，Anthropic公司和OpenAI均公開表示，將繼續與「非常規」公司合作。

（來源：新華網）