不滿技術或用於戰爭 OpenAI硬件主管辭職

香港文匯報訊 美國人工智能（AI）公司OpenAI的硬件（包括機械人）部門主管卡利諾夫斯基7日宣布辭職，原因是不滿公司與美國國防部達成的協議，擔心協議未設置明確的防護措施，令OpenAI的AI技術可能用於戰爭。

卡利諾夫斯基在X平台發文說，OpenAI在同意將其AI模型部署到五角大樓的機密雲端網絡前，並未花足夠時間進行評估，「AI在國家安全中扮演重要角色，但在缺乏司法監督的情況下監控美國公民，以及在未經人類授權下賦予武器致命的自主權，都是應更謹慎討論的界線。」她說，儘管她對OpenAI行政總裁奧爾特曼及其團隊抱有「深切敬意」，但公司宣布與五角大樓的協議時，並未設置明確的防護措施。她在隨後的帖文中寫道：「這首先是一個治理問題，事關重大，不應為了簽約或對外發布公告而倉促行事。」

開發聊天機械人ChatGPT的OpenAI在協議達成後表示，該協議包含額外的防護措施，以保障其技術應用。OpenAI重申其「紅線」規定禁止將技術用於國內監控或自主武器。OpenAI在給路透社的聲明中稱：「我們理解大眾對這些議題持有強烈看法，我們將持續與全球各地的員工、政府、公民社會及社群進行討論。」