S1–S3 資訊科技：修復有偏見的 AI（四個除錯任務）

• 學習階段S1-S3
• 科目資訊科技
• 學習範疇人工智能的基本運作原理
• 對應官方文件《中小學人工智能素養學習架構》 · 《中小學應用人工智能教學指南》
• 一節時間1 節（60 分鐘）

不插電的一節除錯課堂：全班在紙上建構一個簡單的推薦系統，找出資料偏斜、追蹤偏差如何由規則造成，提出修復並寫一份發行說明。附訓練紀錄、追蹤表與評分指引。

• 對象教師 學生
• 主題安全及負責任使用 AI

• 所需器材列印工作紙（內含訓練紀錄、規則與作答表）；白板或投影以板書規則；毋須任何 AI 工具——整個實驗在紙上完成
• 版本1.7
• 最後修改2026-10-17

這個資源解決什麼問題

初中資訊科技課談 AI 倫理時，最難的是「道理講得入、學生卻無從動手」：教師說「AI 可能有偏見」，學生點頭，但看不見偏見在哪裏，也摸不到可以改甚麼。真要學生去試真實的 AI 工具，又有私隱與安全顧慮，而且任何一間公司的系統行為都會改版，教師無法預先保證示範結果。

本資源把問題變成一個在紙上完成的除錯實驗：全班自己建構一個簡單的推薦系統——八個舊生的訓練紀錄（training data，即用來「教」系統的舊紀錄），加上一條由「前一個開發者」寫下的規則。學生逐步找出資料偏斜、追蹤偏差如何由規則造成、提出修復並預測代價，最後寫一份發行說明。

因為整個系統都是自己造的，每一項輸入、每一行規則都看得見、改得到。學生學到的是：有偏見的輸出，可以追查到某個人做過的某個選擇——而不是一句「AI 很危險」的空泛警告。全課毋須任何 AI 工具，也不涉及任何真實學生、學校或產品。

本資源可納入學校發展計劃的數字教育規劃，作為資訊科技科「學與教」的其中一個單元，並配合校本層面的專業把關；學生用一份小型訓練數據親手建構機器學習系統，從中找出數據偏見是怎樣被學進去的。

學習目標

完成本節後，學生能夠：

1. 說出「有偏見的輸出」並非無中生有，而是可以追查到資料或規則中的某個選擇。
2. 從一張訓練紀錄中找出資料偏斜：哪個屬性（attribute，即每一欄資料）「揹起」了決定、哪類學生沒有被代表，並說出這是資料問題，不是學生問題。
3. 逐步把規則套在一個新例子上，指出是哪一行規則決定了結果。
4. 提出一個修復（改規則或改資料），說出它幫到誰、可能不利於誰，以及它仍做不到的一件事。
5. 寫一份 4–6 句的發行說明：系統可用於甚麼、不可用於甚麼、何時必須由真人看過才作決定。

活動緊扣人工智能素養的「應用人工智能的反思」學習範疇，讓學生以慎思明辨的態度看待 AI 的判斷，體現科技向善與人腦為主、電腦為輔的價值取向。

教學步驟

一節六十分鐘，分四段。

1. 交代情境與建構系統（10 分鐘） — 交代情境：學校想做一個「應否推薦學生參加課後編程學會」的小系統。訂立規矩：全部人物、學校與資料均為虛構；實驗不連線、不用任何 AI 工具。板書一句：「規則由人寫，資料由人選。」全班一起讀工作紙上的八個舊生訓練紀錄與「前一個開發者」寫下的規則。逐欄確認大家明白每個字的意思，「屬性」「標籤」（label，即系統要學去預測的「結果」那一欄）等字眼首次出現時用白話解釋。
2. 找出資料偏斜與追蹤規則（15 分鐘） — 學生用「偏見檢查清單」圈出：哪個屬性揹起了決定？哪類學生沒有被代表？教師巡視，提示「數一數，不要憑感覺」。學生把規則逐步套在兩個新學生上，填「追蹤表」，寫下是哪一行規則決定了每個結果。
3. 提出修復與代價（15 分鐘） — 學生在「修復與代價表」寫出一個改動（改規則或改資料）、它幫到誰、可能不利於誰、仍做不到甚麼。收工作紙，留待寫發行說明時使用。請兩三位學生分享任務三的修復；板書歸納「每項改動都有代價」。
4. 寫發行說明與檢討（20 分鐘） — 學生用「發行說明框架」寫 4–6 句（可用於／不可用於／何時真人看）。這是評核成品。二人交換發行說明，用評分指引互相找出「有具體用途與界限」的句子；挑一兩份全班朗讀。全班討論：這個系統「看不見」甚麼（真正的興趣、家裏的實際情況），而受傷的是誰（沒有電腦在家但很有興趣的學生）。收尾帶出：公平是設計與證據問題，不是「AI 天生就有偏見」。

答案與評分要點

以下材料與答案均為虛構。教師可照用，也可換成自己學校的版本（例如把「編程學會」換成任何課外活動）。

材料：訓練紀錄與規則（工作紙內原文）

規則（前一個開發者寫下）：

• 第 1 行：如果「家中電腦」＝有 → 推薦
• 第 2 行：否則，如果「出席節數」≥ 3 → 推薦
• 第 3 行：否則 → 不推薦

任務一：找出資料偏斜

• 揹起決定的屬性：「家中電腦」。 六個「留低並享受」的舊生中，五個（A–E）都有電腦在家；「家中電腦＝有」幾乎等同於「留低」。規則的第 1 行就用它，單靠這一行便決定了五個個案。
• 沒有被代表的學生：1D 全班沒有紀錄。 八個舊生中，四個來自 1A、三個來自 1B、一個來自 1C，1D 一個也沒有。系統對 1D 一無所知，卻仍要對 1D 的學生下判斷。
• 這是資料問題，不是學生問題： 資料量度的只是「學校有記錄到」的東西——「有沒有電腦」，而不是「有沒有興趣」。有電腦的學生在資料中被過度代表，令系統誤以為「有電腦」是留低的原因。一個好的答案會說出「資料量度了甚麼、遺漏了甚麼」，而不會怪罪任何一個學生。

任務二：追蹤規則

任務三：修復與代價（例子）

好答案的判準：有「改動」＋「幫到誰」＋「可能不利於誰」＋「一件仍做不到的事」四項；其中「仍做不到」要具體（不是「要再做好一點」）。只寫「改得公平一點」而說不出代價，屬未達標。

發行說明評分指引

不要評分的事項

• 不要評分修復「夠不夠大」。 一個說得出代價的小修復，好過一個說不出代價的「完美」方案。
• 不要評分學生有沒有用 AI 工具，也不要評分答案是否「政治正確」。 評的是：能否指出資料偏斜、追蹤規則、提出有代價意識的修復、寫出有界限的發行說明。
• 不要因學生提到「家中電腦」就假設觸及家境或敏感資料。 這只是學校紀錄中的一個屬性；討論焦點是「資料代表誰」，不是「學生家裏如何」。

附件

工作紙與完整答案見下載檔：

工作紙與答案（Word 文件，可編輯） — 含八個舊生的訓練紀錄、規則原文、偏見檢查清單、追蹤表、修復與代價表、發行說明框架與完整答案。

全部人物、學校與資料均為虛構，不涉及任何真實學生、學校或 AI 產品；實驗全程在紙上進行，毋須使用任何 AI 工具。

官方文件參考

本資源庫所有資源均按《中小學人工智能素養學習架構》編寫，並屬《中小學數字教育發展藍圖》的政策範圍。

本資源對應：

• 附篇一：《中小學人工智能素養學習架構》（p.1-13）：涵蓋人工智能素養中的倫理與責任面向，要求學習者明白 AI 系統由人設計、其輸出可追溯至設計選擇，並對資料、偏差與公平有所覺察。
• 附篇二：《中小學應用人工智能教學指南》（p.2-9）：提示教師以活動與討論引導學生安全、負責任地使用 AI，透過動手做而非單向講授培養判斷力。

學習範疇：人工智能的基本運作原理

官方文件頁面：https://www.edb.gov.hk/tc/edu-system/primary-secondary/applicable-to-primary-secondary/it-in-edu/debp.html

本頁為 Beets 獨立製作的教學資源，並非 EDB 官方文件。

意見

如對本資源有任何意見或疑問，或想建議下一份資源，歡迎到意見及建議告訴我們。