紐約市推AI監管 模型須設「緊急掣」

香港文匯報訊 紐約市議會近日公布一系列人工智能（AI）監管提案，要求在市內推廣、銷售或部署的AI模型，必須具備緊急關停開關，讓操作人員能即時或永久停止模型運作，並接受第三方驗證。未符合要求者將按次處以2.5萬美元（約19.6萬港元）罰款。市議會已安排10月5日舉行全體委員會聽證會，要求Meta、OpenAI、Google及Anthropic等科企高層出席，必要時保留動用傳票權。

違規最高罰2.5萬美元

提案同時涵蓋模型表現、資料來源、偏見及安全風險等驗證範圍，並要求驗證機構揭露與開發商之間的利益關係。偽造驗證資料亦按次罰款2.5萬美元。舉報機制方面，合資格人士可向消費者及勞工保護局提供線索，舉報人可獲追回罰款金額的兩成半，若獲授權參與送達違法通知，比例最高可提高至五成。提案亦將責任延伸至AI造成的損害，若第三方濫用AI造成可預見損害而提供者未採取合理防護，受害者可提出民事訴訟。涉及市政府合約的AI安全事件，承包商須於知悉後24小時內通報。

紐約州同步擴大監管，包括去年6月通過的RAISE Act將於2027年1月1日生效，要求大型AI開發商公開安全措施及通報安全事件。州長霍楚爾亦簽署行政命令，暫停處理符合條件的數據中心環境許可申請。分析指出，紐約市過去對自動化就業決策工具的執法經驗顯示，制定規範與實際執法之間仍存在落差，新制度能否落實，關鍵在於執法機構如何發現違規、確認責任並完成執法。