中小學使用「生成式人工智慧」注意事項（學生版）

【核定文號】

 

• 中華民國 113 年 7 月 1 日臺教資（三）字第 1132702614 號函

• 中華民國 114 年 12 月 23 日臺教資（一）字第 1142704025 號函

• 中華民國 115 年 2 月 11 日臺教資（一）字第 1152700391 號函

📌 前言

近年來，「生成式人工智慧」（Generative AI，簡稱 GenAI）與「深偽技術」（Deepfake）迅速發展，改變了我們獲取知識、傳播訊息與創造內容的方式，但也帶來使用上的風險。

為了幫助學生提升 GenAI 使用素養、理解倫理原則、善用技術並避免誤用，請全體同學在家長與老師的指導下，遵守各工具年齡分級與帳號申請規範，並落實以下注意事項。

💡 六大核心注意事項與案例說明

一、 覺察 AI 內容可能存在偏誤

• 核心觀念： GenAI 工具資料來自歷史紀錄，若資料本身包含成見或錯誤，產出的結果也會有偏差。AI 無法自行判斷內容的正確性與合理性。

• 行動指引： 仔細檢視內容，以批判性思考判斷是否公平、全面。遇有疑慮應向老師或家長詢問，不宜直接採信或用於作業、報告及公開發表。

• 💡 實際案例： 請 AI 建議旅遊行程時，若無當地氣候、地理或文化資料，它可能整理出不順路、非當季、甚至虛構景點的行程。資訊奇怪或與課本不同時，請停下來檢查並尋求確認。

二、 檢核內容並結合多元管道查證

• 核心觀念： 若訓練資料不夠多元，產生的結果可能僅呈現單一文化的知識，造成正確性堪慮、知識量不足，甚至引發文化偏見。

• 行動指引： 不能全盤接受生成的內容，須結合其他可靠來源與批判性思維進行查證，留意是否包含文化刻板印象。不可以將生成內容直接作為作業或報告的原始答案。

• 💡 實際案例： 請 AI 生成新娘圖片時，它可能預設產出穿著白紗的西方女性，忽視不同文化的婚禮服飾。當答案僅呈現單一觀點時，需多方查證以避免被誤導。

三、 發現「深偽技術」會產生不實內容

• 核心觀念： Deepfake（深度偽造技術）能利用既有圖片、影音或聲音素材，製造看似真實的影片、圖像甚至假新聞。

• 行動指引： 切勿輕易相信未經審核的影音，判斷其可能目的，並尊重他人肖像權與隱私，不轉傳、下載或散布合成影音。

• 防範與保護措施：

   

  • 不信未證實影音： 看到知名人士演說或投資影片，應謹慎求證。

  • 遭製作不當性影像之處理： 若不幸發現自己或他人遭到深偽技術（如 AI 換臉）製作不當性影像，請記住這不是你的錯。請保持冷靜並執行以下步驟：

     

    1. 截圖保留證據。

    2. 至「衛生福利部性影像處理中心」線上申訴（https://siarc.mohw.gov.tw），由專業單位協助下架。

    3. 切勿轉傳，以免造成二度傷害。

四、 養成保護個資與尊重隱私的習慣

• 核心觀念： 部分 GenAI 工具的法令與倫理監管機制尚未完備，你輸入的個人資料、敏感訊息與機密數據，可能被收錄進訓練資料庫中供未來回應他人使用。

• 行動指引： 審慎評估輸入資訊，保護個人與組織隱私。請勿將自己或他人的姓名、住址、電話、照片、學校資料或家庭狀況輸入工具。

• 💡 實際案例： 若以個人或學業資料向 AI 請教，資料可能被錄入資料庫，當其他使用者詢問類似問題時，可能導致個人隱私外洩並形成資安漏洞。

五、 遵守服務使用規範與推薦平臺

• 規範要求： 中小學學生應遵守各平臺註冊年齡限制。在校應於教師引導下使用；非在校使用，請家長陪伴。

• 建議使用教育導向平臺： 建議優先使用「教育體系身分認證服務（OpenID）」登入教育部建置或具公益性之平臺：

   

  • 教育部因材網（生成式 AI 學習夥伴 e度）

  • 酷英網（EBOT）

  • 均一教育平臺

  • CK-12 Flexi

• 教育平臺三大守護功能：

   

  1. 智慧導師： 引導思考而非直接給答案。

  2. 安全過濾網： 阻隔偏誤訊息並提供可靠教材。

  3. 隱形盾牌： 保護個資並記錄學習歷程。

• 商用版工具規定： 若需使用 ChatGPT、Gemini 等商用版工具，應經學校評估資安風險，並在師長指導下審慎使用。

六、 遵守倫理與誠信使用原則

1. 輔助而非替代： GenAI 是協助學習的工具，不能取代自己的思考與判斷。應先自行閱讀與思考，再視需要使用工具。

2. 尊重他人權利： 不得輸入或產生含有歧視、霸凌、仇恨或不尊重他人之內容。

3. 保護機密資料： 不得輸入個人資料或家庭、學校機密資訊。

4. 誠實標示用途： 若依規定使用工具協助構思或潤飾，應依規定註明使用的工具及用途，不得將生成內容直接當作自己原創作品繳交。

5. 恪守學術誠信： 嚴禁使用 AI 工具從事抄襲、代寫、作弊或其他違反校規與法令之行為。

🛡️ 結語：成為負責任的數位公民

面對 AI 時代，我們應該：

• 保持警覺： 不輕信未證實訊息，學會辨別虛假資訊。

• 提升思辨： 批判性評估生成內容，避免被誤導或陷入文化刻板印象。

• 遵守規範： 尊重智慧財產權，恪守學術誠信與倫理。

善用生成式 AI 作為輔助學習的夥伴，發揮科技的最大效益，共同打造安全、誠信的學習環境！

原文附件下載