私隱專員：AI未經授權使用個資涉違例

香港文匯報訊 隨着人工智能（AI） 生成內容的技術日趨普及和成熟，心存歪念之徒有可能以此作出不道德之事。個人資料私隱專員鍾麗玲昨日表示，最近某個AI聊天機械人容許用家上載真人照片，再透過指令將相中人「脫衣」，在短短11天內，生成約300萬張私密影像。

她強調，任何AI技術只要牽涉收集和使用個人資料，就受到現行的《私隱條例》規管，惡意使用深偽技術更可能觸犯《私隱條例》下的「起底」或其他刑事罪行。

鍾麗玲昨日在報章撰文指，正因為AI 深度偽造（深偽）技術能夠生成以假亂真的影像、錄音及影片，一旦相關生成內容被不法分子用作網絡欺凌、詐騙，或製作未經當事人同意的私密影像，可能對受影響人士，尤其是兒童及青少年，造成嚴重傷害。

最近一宗轟動全球的事故突顯這問題的嚴重性，她引述有報道指，某個AI聊天機械人容許用家上載真實人士，包括兒童及婦女的照片，再透過指令（prompting）將相中人「脫衣」，在未經當事人同意下生成私密影像。在短短11天內，該聊天機械人據報已生成約300萬張私密影像，可見AI技術能輕易被「武器化」，導致個人資料被大規模濫用。

在事件曝光後，世界各地的私隱或資料保障機構迅速採取跟進行動，一些司法管轄區更對相關聊天機械人實施禁令。而近期興起的AI智能體 （Agentic AI）更進一步加劇了AI的私隱及網絡安全風險。

鍾麗玲:港應堅持統籌發展和安全原則

鍾麗玲表示，香港在追趕AI熱潮的同時亦應積極主動對接國家「十五五」規劃，堅持統籌發展和安全的原則，包括在開發或部署AI系統的初期，已經要以保障個人資料私隱為核心標準，落實「貫徹私隱設計 」及「預設私隱」等原則，將相關風險降至最低。

她強調，發展或應用AI的機構不應為追求新功能或加快推出新產品，而犧牲私隱和安全，強調所有持份者，包括AI開發商、服務提供者及用戶都有不可推卸的責任，營造一個有益、安全以及公平的數碼環境。

鍾麗玲指出，無論AI技術如何演變，只要過程中牽涉收集和使用個人資料，即受現行的《個人資料（私隱）條例》規管，若AI智能體導致個人資料被未經授權或意外地查閱、處理、刪除、喪失或使用，亦可能違反《私隱條例》有關資料保安的要求。