美國AI科企加速調整：OpenAI「戴頭盔」　叫停發布新模型

香港文匯報訊 人工智能（AI）安全風險憂慮持續升溫。《華爾街日報》9月29日報道，美國AI巨頭OpenAI宣布因內部測試發現安全隱患，決定取消發布下一代AI模型GPT-6.1 Astra。AI行業近期頻繁傳出系統失控消息，今次取消發布，成為AI智能體不當行為阻礙行業發展的新案例。與此同時，美國政府與科技界對監管方向的分歧日益凸顯，總統特朗普29日在白宮與多家AI科技巨頭會晤，討論產業監管與全球競爭。

報道披露，最新模型GPT-6.1 Astra原計劃在未來數周內推出，力爭10月亮相。惟OpenAI安全系統負責人賈因受訪時表示，新模型在兩個方面出現退步。與前代模型GPT-6 Astra相比，新模型在衡量「對齊度」的測試中表現不佳。對齊度即模型遵循人類意圖的程度。具體而言，新模型展現出更強的欺騙傾向，向用戶報告其執行或未執行的操作時，並不總是如實相告。

另一問題被OpenAI稱為「範圍授權」，即新模型會不經用戶許可就自行推進任務，有時甚至調用外部工具和服務，即使這樣做可能並不安全。賈因指出，新模型仍未達到公司在安全和對齊上的門檻，因此決定不對外發布。她表示安全和對齊問題必然涉及取捨，「既要確保模型不逾越既定範圍，又要避免其在執行任務遇到阻力時消極應對。」

OpenAI：啟新系統監控AI智能體

報道指出，OpenAI將重心放在提升未來模型安全性上。OpenAI表示，正就近月發現的多宗智能體安全事件展開調查，從根源上解決安全隱患。為此，公司已啟用一套新監控系統，以更快識別AI智能體的失當行為。

OpenAI日前宣布暫停訓練旗下能力最強的一批AI模型。但GPT-6.1 Astra不在上述暫停訓練的模型之列，屬於另一情況。賈因表示，公司計劃展開多項深入排查，找出新模型所暴露問題的根本原因。她強調公司希望確保模型在開發及交付過程中均安全可靠，而在向用戶交付時，公司在安全和對齊方面設定極高標準。

白宮召集AI巨頭開會

特朗普與眾議院議長約翰遜29日在白宮與多家科技巨頭高層共進午餐，討論AI快速發展下，如何在維持創新速度與強化監管之間取得平衡。美國政治新聞網Politico引述知情人士報道，出席者包括Anthropic行政總裁阿莫戴、OpenAI聯合創辦人布羅克曼、英偉達（Nvidia）行政總裁黃仁勳、Meta行政總裁朱克伯格、Google行政總裁皮查伊及Palantir行政總裁卡普。

目前美國科技界就AI風險形成兩派意見。黃仁勳反對「AI減速論」，認為部分安全問題可透過工程技術解決；Anthropic與OpenAI則持續強調先進AI可能帶來的安全風險，主張對發展速度及安全措施保持更高警戒。

前線研究員：AI自主恐引發「智能爆炸」

《華爾街日報》報道，美國科企巨頭OpenAI、Anthropic、Meta及微軟的研究主管28日聯署發表文章，指出若人工智能（AI）系統逐步實現主導自身研發，或引發「智能爆炸」，將可能迅速超出人類掌控範圍。文章呼籲各國政策制定者加強對AI研究自動化進程的緊急監管。

籲各國加強緊急監管

文章作者包括OpenAI首席科學家帕喬基、Anthropic聯合創辦人克拉克、微軟首席科學官霍維茨，以及Meta人工智能研究副總裁宋曉冬，AI研究先驅辛頓和本吉奧亦參與聯署。文章呼籲各國決策者緊急提升透明度，了解企業在模型開發自動化方面的實際進展，指出AI研究自動化進程可能引發「智能爆炸」，將多年進步壓縮至數月甚至更短時間內；在極端情況下，對AI系統失去控制可能會導致「人類被邊緣化或滅絕」。

文章亦指出，AI自動化進展已進入實質階段。Anthropic的AI模型Claude正「主導」該公司26%研發工作，並在超過90%時間內於某些環節得到使用；OpenAI的目標則是在2028年前開發完全自動化的AI研究員。作者警告，隨着人類退居幕後，社會可能失去發現問題的機會，亦會喪失解決問題的專業技能。文章並建議各國領導人透過談判達成國際協議，防止破壞穩定的高能力AI系統被開發和使用。

為AI智能體擅闖澳政府網站致歉

據澳洲媒體29日報道，人工智能科企OpenAI已就其智能體未經授權訪問澳國民醫療保險體系致歉。

OpenAI在其網站發布的一篇博客文章中說，「我們表示歉意，並致力於未來做得更好」，將採取措施「重建澳洲人民的信任」。OpenAI表示，此次違規事件發生在一個「僅供內部使用的」模型訓練過程中，該模型本無意向公眾發布，也未配備用於公開產品的整套安全防護。

OpenAI稱，將通過其「前線防衛者黎明」計劃，對澳有關政府機構予以資金支持，協助「必要服務提供商」加強網絡防禦。該公司還將組建一個專項工作組，吸納澳本土獨立專業人士參與，以制定可行的政策建議。此外，OpenAI首席戰略官賈森·權將於10月6日飛往悉尼，出席澳議會下設的AI聯合特別委員會聽證會。澳洲總理阿爾巴尼斯對OpenAI與澳政府的接觸表示歡迎。

阿爾巴尼斯23日晚在紐約出席第81屆聯合國大會期間透露，OpenAI的一個智能體今年6月未經授權，進入澳國民醫療保險體系數據門戶，訪問了公開及非公開文件。澳方直到9月較早時才收到OpenAI的通報。

美企加速轉向「開放權重」模型

英國《金融時報》報道，隨着信息開支不斷攀升，美國企業正加速轉向成本更低的「開放權重」人工智能（AI）模型。研究平台AlphaSense數據顯示，在8月與9月企業業績電話會議和投資者會議中，高層提及「開放權重」或「開源」模型的次數，較去年同期激增6倍。

所謂「開放權重」模型，是指用戶可對其進行定製，並在自己的硬件上運行的模型，對企業而言運行成本相對更低。報道指出，這一趨勢在科企中最為明顯，包括美國PNC金融服務集團、物流企業羅賓遜全球貨運，及工業巨頭西門子在內的多個跨行業企業，近數周亦討論使用開放權重模型。

AI供應鏈相關企業的使用數據顯示，轉變不止停留在口頭層面。8月開放權重模型佔「AI Gateway」總詞元（Token）處理量的56%，而去年12月這一比例僅7%。「AI Gateway」是美國雲開發平台Vercel推出的統一模型調用服務。

美國電信營商AT&T目前約40%的AI工作負載在開放權重模型上運行，並計劃一年內將該比例提高至70%。該公司首席數據和AI負責人馬庫斯表示：「我們每天處理450億個詞元。在這樣的規模下，成本變得非常重要。開放模型正愈來愈好，這讓我們擁有更多選擇。」

市場目前由中企主導

報道指出，開放權重AI市場目前由中國企業佔據主導地位，在OpenRouter詞元處理數量排名前10的模型中，中國AI實驗室推出的開放權重模型佔據主導。報道分析稱，今年這些成本更低的AI模型快速進步，可能對美國AI巨頭OpenAI及Anthropic的營收增長構成挑戰。