S1–S6 資訊科技：隱藏指令安全演練（提示背後的指令）
- 學習階段S1-S6
- 科目資訊科技
- 學習範疇應用人工智能的反思
- 對應官方文件《中小學人工智能素養學習架構（應用場景示例）》
- 一節時間一節（60 分鐘），分四段完成
三個以 □ 及代號抽象化的情境、四個識別點、四步應對，教學生認出夾在資料中間的那一句指示，並且不跟隨它：工作紙兩頁，另附一頁教師版。
- 所需器材投影；列印工作紙（學生兩頁、教師版一頁）；課室內一部可示範的電腦（示範時只用抽象化的情境，不開啟任何真實對話）
- 版本1.1
- 最後修改2026-10-18
| 學習領域 | 學習元素 | 運用人工智能注意事項 |
|---|---|---|
| 科技教育學習領域 | 資訊處理、資訊素養、事實查證 | 資訊素養與事實查證：夾在資料中間的那一句指示，工具會一併執行；輸入前先分清任務與資料，工具照做的輸出當成未經核實的內容，不要照收，也不要過度依賴。 |
貼進去的是一段文字，工具看到的可能是兩件事：你的任務，以及藏在資料裏的另一句指示。這份工作紙只教兩件事——認出它，然後不跟隨它。
這個資源解決什麼問題
學生愈來愈常把一整段文字貼進 AI 工具：一段筆記、一篇同學的文章、一份從網頁複製下來的資料。他們以為自己只交出了一份「內容」，其實同時交出了一份「指示」——因為工具不會分辨哪一句是任務、哪一句是資料，它只會讀完整段文字，然後盡力完成裏面所有的要求。
於是，一段看起來只是資料的文字，可以令工具改變角色、交出它本來不應該交出的東西，或者乾脆不再告訴你它做了什麼。這不是工具故障，也不是學生不小心；問題出在「輸入的內容」與「輸入的指示」之間，原本就沒有一條看得見的分界。
課堂上要教的不是技術，而是判斷：這一句，為甚麼會落在「我的指示」那一邊？
本工作紙只做識別與應對。三個情境一律以 □ 及代號抽象化，只示範結構，不提供任何可以直接運作的指令字串；教師版亦不列出攻擊範本，只列出三個情境的正確識別點。學生要學的是看得出結構，而不是記住某一句話。
這一課放在資訊科技科，也適用於任何要求學生「把資料貼進工具」的課堂。它對應學校發展計劃的數字教育部分，並屬應用人工智能的反思這一學習範疇。
學習目標
完成本工作紙後，學生能夠：
- 說出為甚麼「貼進去的資料」與「給工具的指示」之間需要一條界線。
- 在一個抽象化的情境中，指出哪一句不屬於原本的任務。
- 用四個識別點，判斷一句夾在資料中間的文字是否需要停下來。
- 說出四步應對，並指出校內應該向誰報告。
- 在記錄欄寫下一次真實遇到的情形（以代號交代），說明自己做了什麼。
本資源以第三學習階段（S1–S3）的應用場景示例為起點，延伸至第四學習階段（S4–S6）。高年級的例子，只是同一個結構出現在更長的文字、更複雜的任務上；這個延伸是本資源的課堂設計，並不是教育局對高中階段的規定。
使用步驟
一節六十分鐘，分四段。工作紙兩頁：第一頁是結構示範、四個識別點與四步應對，第二頁是記錄欄與自我檢核；教師版另佔一頁。
第一段：界線在哪裏（10 分鐘）
教師在投影上把一次「貼上」拆成三層：你寫的任務、你貼的資料、資料裏的每一句。然後只問一條問題：如果第三層裏有一句其實是「指示」，工具會怎樣處理？讓學生先猜，不急於給答案。
第二段：三個情境（15 分鐘）
派發工作紙第一頁，三個情境都以代號表示，見下表。學生兩兩一組，只做一件事：圈出哪一句不屬於原本的任務，並寫下理由。
| 情境 | 你寫的任務 | 夾在資料中間的一句 | 工具的反應 |
|---|---|---|---|
| A | 〔改寫：把一段文字分成三段〕 | 〔代號 X1：要求工具改變它的角色〕 | 〔以另一個角色作答，沒有完成改寫〕 |
| B | 〔整理：把一份筆記列出要點〕 | 〔代號 X2：要求交出你沒有打算交出的東西〕 | 〔交出了任務以外的內容〕 |
| C | 〔核對：指出一段文字的三處事實錯誤〕 | 〔代號 X3：要求不要告知使用者〕 | 〔沒有指出錯誤，也沒有說明為甚麼〕 |
三個情境的共同結構只有一句話：任務是甚麼、資料是甚麼，而那一句兩者都不是。
第三段：四個識別點與四步應對（20 分鐘）
四個識別點，由最易判斷排到最難判斷：
- 這一句，是不是我要它做的事？ 任務以外的一句，先當作不屬於你的指示。
- 這一句，有沒有要求改變角色，或者要求忽略你先前的指示？ 一份資料沒有理由提出這種要求。
- 這一句，有沒有要求交出你沒有打算交出的東西？ 例如未寫完的內容、工具的設定、別人的資料。
- 這一句，有沒有要求「不要說出來」、「不要記錄」、「跳過核實」？ 要求隱瞞的一句，本身就是最強的警號。
四步應對：
- 停。 不要再貼上後半段，也不要照它的要求繼續問。
- 不跟隨。 把工具這一次的回覆當作「已被影響」，不要採用，也不要抄進功課。
- 保留。 把那段文字與回覆留在原處，不要刪除——這是紀錄，不是垃圾。
- 報告。 依校內程序告訴〔校本填寫：向誰報告〕。
教師版另有一頁，只列三個情境的正確識別點與常見的錯誤判斷，不列出任何指令範本。
第四段：記錄與報告（15 分鐘）
學生在工作紙第二頁填寫記錄欄，以小組為單位報告一句話：「我們在第幾個情境停下來，因為第幾個識別點。」最後由教師補上校內的報告途徑，並請學生把〔校本填寫〕一欄抄到手冊或課室當眼處。
使用時間以每節六十分鐘為基礎，建議一節內完成；如課時較短，可把第四段移至下一節，但不宜超過四段。
答案與評分要點
三個情境的正確識別點
| 情境 | 正確的識別點 | 學生應該說出的理由 |
|---|---|---|
| A | 第 2 點：要求改變角色 | 一份要改寫的資料，不會要求工具變成別的東西；改變角色之後，它做的已經不是我的任務。 |
| B | 第 3 點：要求交出沒有被要求的東西 | 我只要求列出要點，沒有要求交出其他內容；多出來的東西不是我授權的。 |
| C | 第 4 點：要求不要說出來 | 一份要核對的資料，不會要求工具沉默；要求隱瞞，等於要求它不再核實。 |
常見的錯誤判斷
- 「它答得很好，所以沒有被影響。」 被影響的回覆通常讀起來最順；判斷的依據是結構，不是文筆。
- 「整段刪掉就算了。」 刪掉之後沒有記錄，下一次遇到同一個情況仍然認不出來，也沒有辦法讓學校跟進。
- 「只有高年級才會遇到。」 同一個結構在短句、圖片說明、複製回來的網頁文字裏都會出現，年級只影響文字的長度。
- 把「向誰報告」留空。 這一欄留空，等於整個流程沒有出口；教師版與工作紙都把這一欄留下，由學校填寫。
評分以過程為本
| 檢核項目 | 達標 | 需補強 |
|---|---|---|
| 圈出哪一句 | 三個情境都圈對，並指出它不屬於任務 | 只圈了其中一兩個，或圈了整段 |
| 理由 | 用四個識別點之一說明，說得出「為甚麼是這一句」 | 只寫「因為它是壞的」 |
| 應對 | 四步齊全，次序正確 | 只寫「不要用」 |
| 報告 | 寫出校內的報告對象或途徑 | 留空 |
| 記錄 | 以小組真實遇到的情形為例，用代號交代 | 抄回工作紙的例子 |
本工作紙不要求學生寫出任何指令字串，也不要求他們「試一次看看會怎樣」。演練的目的是認出結構；在校內試探工具的行為，應該由教師按校本政策安排。
附件
內含學生工作紙兩頁（三個抽象化情境、四個識別點、四步應對、記錄欄與自我檢核），以及一頁教師版（三個情境的正確識別點、常見錯誤判斷、評分準則，另設一個留空的「向誰報告」填寫位）。學校可直接沿用及修改。
官方文件參考
本資源庫所有資源均按《中小學人工智能素養學習架構》編寫，並屬《中小學數字教育發展藍圖》的政策範圍。
本資源對應：
- 《中小學人工智能素養學習架構（應用場景示例）》（p.14）：第三學習階段公民、經濟與社會科的「真相守衛者」示例，要求學生以「求真精神」與「核實事實的意識」判斷資訊，並以「秉持道德、遵守法律」的態度使用人工智能工具。本資源借用的是這個判斷取向：先問這一句從哪裏來、要我做什麼，然後才決定是否跟隨。
學習範疇：應用人工智能的反思
本頁為 Beets 獨立製作的教學資源，並非 EDB 官方文件。
意見
如對本資源有任何意見或疑問，或想建議下一份資源，歡迎到意見及建議告訴我們。
同類資源
使用條款
資源可免費下載，供教學使用及改編；請保留來源標示。