國防部施壓科企移除AI安全道德限制

香港文匯報訊 據路透社報道，美國五角大樓正積極施壓OpenAI、Anthropic等頂尖人工智能（AI）公司，要求將其AI模型部署至軍方的網絡，且必須移除規範一般用戶的安全道德限制。

兩名知情人士透露，五角大樓技術長邁克爾日前在白宮一場活動中向科技高層表示，軍方的目標是讓AI能同時在非機密與機密領域使用，一名匿名官員更直言，五角大樓正開發能在所有機密資料中都能使用的AI。

無限制使用AI恐釀致命後果

這項最新發展標誌着美軍與生成式AI巨頭之間的談判進入最新階段。面對未來戰場已逐漸被自主無人機群、機械人與網絡攻擊主宰，美軍急欲導入AI強化戰力，然而這也加劇了軍方「無限制使用」需求與科企「設立道德護欄」之間的緊張關係。

美國軍方高層希望利用AI強大的資訊整合能力來輔助作戰決策，但專家警告，AI模型著名的「幻覺」問題若發生在涉及導彈目標鎖定或任務規劃的機密環境中，恐釀成致命後果。雖然科企試圖透過建立安全護欄來降低風險，但五角大樓官員對此感到不耐煩，主張只要符合美國法律，軍方部署商業AI工具就不應受到科企的道德條款限制。

OpenAI早前已與五角大樓達成協議，允許美軍在名為GenAI.mil的非機密網絡上使用ChatGPT等工具，該網絡覆蓋逾300萬名國防部員工。作為協議一部分，OpenAI同意移除許多針對一般用戶的典型限制，儘管仍保留部分核心護欄。Alphabet旗下的Google與馬斯克的xAI此前也簽署了類似協議。