【智為未來】剎車系統突失靈 首要考慮減傷害

不要以為硬件教材只有體驗的部分，其實只要在設計實驗時加入不同的故事場景，就可以帶動學生深入思考AI倫理的議題。

  我們可以利用CUHK-JC iCar模擬自動駕駛汽車有機會面對的問題，帶動學生思考AI系統設計控制邏輯需要思考的問題。例如，如果自動駕駛汽車突然剎車系統失靈，而當時馬路兩邊均有路人，在不能剎車情況下，自動駕駛汽車應該如何抉擇呢？

思考控制邏輯考慮因素

透過這個實驗，教師可以引導同學思考究竟在設計這輛自動駕駛汽車的控制邏輯時，需要考慮什麼因素，轉左或轉右會有什麼影響？除了轉左或轉右，會否有其他可行又可減低傷害的方案呢？譬如轉向物件的方向如交通燈、垃圾箱、圍欄，或轉向樹的方向，以不傷人為目標。又譬如可否立即自動關閉電源，讓自動駕駛汽車自動停下來？

除了可以討論自動駕駛汽車的控制邏輯，教師亦可以引導學生思考：如果意外真的發生了，誰需要負上責任呢？一般來說，當交通意外發生，駕駛者可能會被追究責任。可是自動駕駛汽車並沒有駕駛者，責任又該由誰來承擔？應該是生產者、駕駛者，還是程式設計員的責任？假如自動駕駛汽車，甚或其他AI系統發生事故時都沒有人需要負責，社會又會變成怎樣呢？這都是我們在應用AI時值得深思的，亦是我們下一代應該及早認識的倫理問題。

親自設計適合初學者使用

其實CUHK-JC iCar是一個偶然但相當難得的成果，當時中大研究團隊了解到學校在硬件實驗部分的真實教學需要，就在市場上搜羅適合初學者使用的AI硬件產品。

在過程中，我們發現市場上合適的產品並沒有AI功能，即使有AI功能，價格都較為昂貴或不太適合初學者學習AI。於是，我們的團隊利用中大在機械工程及AI方面的研究成果，並整理先導學校的意見，對應初中AI課程的教學需要，親手設計出CUHK-JC iCar。

課程強調AI倫理

我們的課程特別強調AI倫理，除了於每一個章節都加插「倫理及影響」模塊，更於整個課程中編排一個AI倫理章節特別闡釋「透明度」、「公平與正義」、「裨益」、「責任」和「隱私權」五個AI倫理原則。CUHK-JC iCar的道德困境實驗可以配合課程，以AI倫理原則為討論藍本，不僅訓練學生慎思明辨思維（critical thinking），更能立即讓學生學以致用，了解到原來AI倫理並非紙上談兵，而是與日常生活息息相關。

CUHK-JC iCar的誕生，正正反映了香港AI教育的需要。STEM / STEAM教育在香港已推行了一段時間，要將STEM / STEAM成功過渡到AI教育，必須先結合兩者的教學元素和學習目標。

● 中大賽馬會「智」為未來計劃

由香港賽馬會慈善信託基金捐助，香港中文大學工程學院及教育學院聯合主辦，旨在為香港中學創建新的AI課程、支援框架及可持續的AI教育模式，以促進相關的AI教育生態發展。嶄新又全面的AI課程希望為學生提供AI倫理意識和知識，裝備他們應對未來工作。