人工智能（AI）有助提升教與學效能，據預測，未來十年全球AI教育市場將大增20倍，為教育帶來重大機遇，惟當中亦有潛在隱患。有香港學校坦言AI模型的訓練數據有局限性，難保資訊準確，更有私隱及數據保護風險等。教育界普遍期望特區政府提供多方面的協助，包括開發切合本港的AI工具及供各校共享相關工具的新平台。為此，香港特區立法會秘書處資料研究組最近搜集了英國及新加坡推動AI發展的具體措施，包括發布「安全指引」，並針對AI教育工具的安全性推出額外措施，例如英國建立了全球首創且專為訓練AI工具的內容庫、設立專家評審委員會評估AI工具，以協助學校作出採購決策；新加坡自行開發AI工具並採用具代表性的本地數據訓練AI工具，增加用家信心。兩地經驗或可為香港提供有價值的參考，以借鑑「他山之石」。 ●香港文匯報記者 高鈺
立法會資料研究組最新發表的《資訊述要》引述預測指，全球AI教育市場的規模將從去年的410億港元，增至2034年的8,740億港元。近年生成式AI工具於教學領域應用快速增長，對學生而言，AI可實現個人化學習，因應不同能力調整進度，亦能透過自動化回饋支援自主學習；對教師而言，則可透過AI協助訂製教案和教材，實現自動化批改或評核，減輕行政負擔。惟同時教育界亦憂慮AI潛在風險，例如擔心資訊錯誤，或引發私隱及數據保護風險。
英開發教師專用AI工具
《資訊述要》介紹了英國及新加坡推動AI教育的措施，及如何應對上述風險，以供公眾參考。其中英國於2021年公布《國家AI策略》，其教育部於2023年發布《教育領域的生成式人工智能》政策文件，並於今年8月更新，闡述教育領域中安全、負責任且有效運用AI的準則，例如除非獲得許可，否則學校不得使用學生作業或評核數據來訓練AI。
在發布指引的同時，英國透過教育部資助的橡樹國家學院自行開發供教師使用的AI工具，確保品質。就市場開發AI工具時可能面對的問題，當地政府亦有一系列措施，例如其教育部今年1月發布生成式AI產品安全指引，涵蓋過濾機制、監控措施、安全防護、設計與測試、私隱與數據保護、知識產權及管治七大方向。針對開發商與供應商，指引闡述AI產品在功能與設計上應達到的最低安全要求，例如須採用防護技術，以加強過濾有害內容，並防止產品遭未授權修改。
此外，英國教育部去年起開發內容庫，為訓練作教育用途的AI工具提供準確、合法的數據，教育部估算內容庫可協助將AI工具生成內容的準確度，從67%提高至92%。當地政府又額外撥款約1,100萬港元，鼓勵16家經挑選的公司利用內容庫的數據開發AI工具。今年初，又成立了教育科技實證委員會，評估教育科技產品的成效，協助學校作出明智的採購決策。
星發布校園使用指引
新加坡方面，去年發布了《2030年教育科技總藍圖》更新版，教育部同年頒布《教育用AI道德框架》，指導學校與學生使用AI。該框架確立了公平性、問責性、透明度及安全性等核心原則，並發布了校園應用生成式AI的指引。
在提供AI工具方面，新加坡政府已強化其國家線上學習平台──學生學習平台（SLS），引入新型AI驅動工具供師生使用。平台的AI工具由其教育部與政府技術局共同開發，供所有公營學校師生免費使用，確保符合國家教育課程及標準，並讓當局更好地控制由AI生成的內容及保障私隱和資料。
為減少SLS的AI工具出現數據偏差，當地教育部會確保這些工具必須用具代表性的本地數據進行訓練，以減少大型語言模型依賴覆蓋全球資訊內容的互聯網數據訓練而出現的問題。此外，當地亦有供應商「白名單」，企業要先獲教育部批准，其產品才能登上SLS供師生使用。
《資訊述要》指，兩地措施被認為對提供可靠及優質的AI輔助教育工具十分重要，或可為香港提供有價值的參考。
英國為學校提供AI工具的策略
1. 設定清晰的AI工具安全標準：
●今年1月發布生成式AI產品安全指引，針對教育科技開發商與供應商，闡述AI產品在功能與設計上應達到的最低安全要求
●為提升指引公信力，教育部邀請了谷歌（Google）和微軟（Microsoft）等科技巨擘共同參與制訂，宣稱是「全球最詳盡涉及教育領域的AI安全規範」
2.建立政府認可的內容庫：
●教育部自去年起着手開發內容庫，專供訓練AI工具使用，涉及投資300萬英鎊（3,200萬港元），目前處於試驗階段
●內容庫包含當地課程及教材、教育部的指引文件，以及經匿名化處理的學生評估或作業的資料
3.協助評估市場上的AI工具：
●教育部於今年初成立「教育科技實證委員會」，由教育與科技專家組成，評估教育科技產品對教學的成效
●未來將邀請AI工具開發商提交其產品的實證資料，並依據正在制訂的一套評估標準進行評核，結果將公開發布供學校參考，助學校作出明智的採購決策
資料來源：立法會《資訊述要》
新加坡為學校提供AI工具的策略
1.政府主導開發AI工具：
●學生學習平台（SLS）的AI工具由新加坡教育部與政府技術局共同開發，供所有公營學校師生免費使用
●平台提供多種AI工具支援個人化學習及教師專業工作，例如回饋、教學及學習輔助工具，確保供學校使用的AI工具符合國家教育課程及標準，使當局更好控制由AI生成的內容及保障私隱和資料
●開發過程中，經判定不安全或具潛在危害性的AI工具將不予開發或使用
2.採用具代表性數據訓練AI：
●為減少SLS的AI工具出現數據偏差，新加坡教育部會確保這些工具必須用具代表性的本地數據進行訓練，例如用於語言學習的AI工具需採用本地數據訓練
3.第三方AI工具「白名單」：
●雖然SLS主要提供政府開發的AI工具，但仍可透過「白名單」機制引入市場上的外部資源；供應商必須事先獲得教育部批准，其產品才能透過SLS供師生使用
資料來源：立法會《資訊述要》
0 / 255