推動人工智能向善發展：教育與人工智能共同的責任

吳永和 吳慧娜 陳圓圓 周澍云 周子皓 肖玉敏 倪琴

摘要：人工智能的迅速發展正深刻改變人類的生產方式、生活方式和學習方式，對教育產生深度影響，而現階段生成式人工智能工具在教育領域廣泛應用，給教育帶來新的道德倫理問題。該文首先從人工智能快速發展引發更加復雜的道德倫理問題和人工智能道德倫理是人類道德倫理價值體系新組成兩方面給出人工智能延展人類道德倫理范圍。再從人工智能教育應用倫理風險、教育人工智能倫理治理現狀、教育人工智能倫理需解決問題等三個層面闡述了教育人工智能應用倫理風險與治理。再次從核心素養培養、規范應用監管、道德倫理框架、技術規范研制等四個維度給出人工智能向善發展的建設路線。最后，給出五條發展建議：加強頂層設計，系統規劃總體框架；重視育人為本，創新發展人工智能課程；遵循治理原則，促進技術向善賦能；明確價值準則，助力人機相融共進；加快標準制定，規范教育人工智能實踐。以期推動人工智能向善發展，賦能、賦智教育，促進教育數字化轉型，構筑智能時代的人類命運共同體。

關鍵詞：人工智能倫理；育人為本；核心素養；應用監管；倫理框架

中圖分類號：G434 文獻標識碼：A

本文系2021年度國家社會科學基金重大項目“面向未成年人的人工智能技術規范研究”（項目編號：21&ZD328）研究成果。

一、引言

人工智能在過去十年中取得了快速而顯著的發展，正在越來越多地接管人類任務并取代人類決策，促進效率的提高和成本的降低[1]，然而也帶來了許多重大的道德倫理風險。如何應對并解決這些問題，使得人工智能在倫理規范的導向下發展和應用是非常緊迫的。目前全球多個國家已出臺了人工智能的倫理原則或指南，聯合國教科文組織發布的《人工智能倫理問題建議書》，指出“讓人工智能系統可以造福人類、個人、社會、環境和生態系統，同時防止危害”[2]。同年9月，我國新一代人工智能治理專業委員會發布了《新一代人工智能倫理規范》，旨在將倫理道德融入人工智能全生命周期，為從事人工智能相關活動的自然人、法人和其他相關機構等提供倫理指引[3]。盡管人工智能道德倫理已經被多個學科的研究人員廣泛討論，但它仍處于起步階段，還存在著概念模糊、內容缺失、評估機制與工具不完備等問題。人工智能的兩面性更要求我們在大力發展人工智能技術的同時，必須對其進行規范和約束，最大程度發揮其向善的一面。在此背景下，教育領域對人工智能道德倫理的研究至關重要。一方面通過教育，我們可以轉變人們的思想觀念，擁抱新技術；另一方面我們可以運用人類的智慧和影響力，推動人工智能的發展，實現更良善的社會和倫理價值?；诖?，文章立足于構建人類命運共同體視角，提出推動人工智能向善發展的新思路，通過教育和人工智能的融合共生，將人工智能引向正確的道路，再進一步借助人工智能實現科技和社會的可持續發展，為全人類帶來福祉。

二、人工智能延展人類道德倫理范圍

（一）人工智能快速發展引發更加復雜的道德倫理問題

自20世紀50年代以來，人工智能的發展歷程始終與人類的美好愿望緊密相連。最初，科學家們致力于探索如何使計算機具備一定程度的智能，因此研究關注于解決數學和邏輯問題?！霸缙诳茖W家普遍認為，人工智能與傳統計算機程序的本質差別在于它能夠進行邏輯推理”[4]，取得突破的主要領域包括定理證明、問題求解以及模式識別等?！叭斯ぶ悄苎芯空邌渭兊叵Ｍ麆撛斐鱿袢祟愐粯?，甚至可以比人類更好地執行任務的計算機程序”[5]，然而隨著技術的發展和應用的普及，人工智能的發展方向也逐漸多樣化，越來越多的研究者傾向于通過讓計算機具備類似于人類的認知能力，包括感知、學習、推理、決策等方面，幫助人類完成一些重復性、繁瑣、危險或者需要高度專業知識的工作。人工智能的發展逐步涉及到人類對于自身認知和思維方式的探索。

今天的人工智能可以看作機器通過建立在大數據基礎上的邏輯推理與感知學習與真實世界互動[6]，在這一過程中，人類可以借助人工智能在廣泛的領域提高生產效率和生活質量，期望它讓人們有更多的文化探索和自我價值實現的機會[7]。正如博斯特羅姆（Nick Bolstrom）在《超級智能路線圖、危險性與應對策略》（Superintelligence： Paths， Dangers， Strategies）中提到的人類在面臨不斷發展的機器時代的存在危機[8]。人工智能在為人類帶來便利的同時，也會帶來很多問題風險與挑戰：倫理隱私、公平性、自主性、透明性與開放性等問題。這些風險與問題在ChatGPT橫空出世之后，變得更加引人注目。因此，無論人類對人工智能的未來持何種看法，都應當謹慎對待并采取行動。

（二）人工智能道德倫理是人類道德倫理價值體系新組成

倫理的概念發軔于我國古代春秋年代，最早在《禮記·樂記》中指明禮樂在道德上的教化作用[9]。道德倫理對人類社會有著不可替代的價值，在人工智能出現之前，人類也一直在探索其重要性和局限性。不過，迄今為止，戰爭、瘟疫、環境污染、貧困加劇等依然是人類社會面臨的嚴峻問題，人類還不曾找到保證所有這些方面都持續向善發展的完美路徑。

人工智能時代的到來，也產生了新的倫理定義。從不同的角度對人工智能道德倫理問題進行探討，對其定義如表1所示?？梢哉f，雖然人工智能增加了人類面對道德倫理問題的風險維度，但是即使沒有它，人類社會也遠遠不是完美的，所以人工智能引發的人類道德倫理危機說到底還是人類自身的道德倫理困境的一部分，和所有的其他問題一樣都需要人類嚴肅認真、有智慧地對待，權衡利弊，趨利避害。

教育領域作為人類社會中重要的一部分，也受到了人工智能的深刻影響。如圖1所示，在人工智能蓬勃發展的今天，教育應該成為引導人工智能服務社會，向善發展的基石；與此同時，人工智能應賦能教育，實現人機相融共生，而道德倫理規范則是兩者之間良性互動的必要前提。如何實現相應道德倫理規范，應當從教育出發，秉持育人為本準則，聚焦人工智能領域。

三、教育人工智能應用倫理風險與治理

（一）人工智能教育應用倫理風險

人工智能的發展速度與規模遠超政策和監管框架的制定與迭代，在為社會提供強大發展動力和支撐平臺的同時，它也帶來了一系列倫理問題。本研究從外部安全倫理視角、技術應用風險視角以及教育生態影響層面視角，對現有人工智能教育應用倫理風險現象進行總結分析，逐步理清其風險來源和規避角度，具體如表2所示。

人工智能技術算法的“黑箱”問題使得人們難以追溯挖掘完整的邏輯鏈條，應用到教育領域中無法提供準確真實的知識和信息，并且不能保證其符合學生認知規律，容易對學生產生誤導；而在技術缺陷如訓練數據及算法偏見、隱私安全、透明性可解釋性差的多重限制之下，學校以及地區教育不公平的現象逐漸增多，蔓延至社會甚至可能摧毀原有的教育價值及倫理體系[22]。在人工智能面臨種種困境的當下，僅僅依靠學術探討是不足以解決問題，還需要具體問題具體分析，采取諸如倫理教育提高全社會科技倫理意識、針對高風險場景特別立法等手段來約束人工智能。

（二）教育人工智能倫理治理現狀

為了減少人工智能對人類社會造成的危害，發揮人工智能積極向善的功能，各類重要國際組織、世界各國政府等都出臺了一系列與人工智能有關的政策和措施，以推動人工智能的設計、使用遵守人類的道德倫理規范。教育系統作為社會系統的一部分，其人工智能道德倫理問題也一直是人們關注的焦點。教育系統采用的人工智能技術也基于通用的智能技術基礎設施和通用人工智能底層技術[23]，故此，人工智能相關政策在教育系統中同樣受用。此外，聯合國教科文組織也發布了一系列與人工智能在教育中應用相關的文件指南。人工智能倫理相關政策及聯合國發布文件如表3所示。

從目前所有的政策和相關文本來看，都強調了人工智能的道德倫理是必須關注的，人工智能應該是安全可靠的、可解釋的、公平的和可評估的，是為全人類服務的，人工智能應該被用來為人類謀福利，應以人為中心、負責任、值得信賴，并應始終將能動性交給人并為人所監督。以近期迅猛發展的大語言模型為例，國內發布了《生成式人工智能暫行管理辦法》[39]，從技術發展與治理，服務規范以及監督檢查和法律責任等方面制定規則，在解決人工智能相關倫理問題方面做出了一些探索，以應對其帶來的風險。在教育領域中，也有相關指南從課程角度總結了人工智能建設的國際經驗，提出形成政府主導、多元參與的人工智能課程開發模式[40]；利用人工智能加快建設開放靈活的教育體系[41]等建議。目前教育人工智能相關的倫理問題已逐漸凸顯，然而可操作性的人工智能教育道德倫理規范寥寥無幾，教育工作者、人工智能行業從業者、政府監管部門等多方群體必須意識到，人工智能在教育應用的過程中，存在十分復雜的倫理性問題，并盡快著手就教育人工智能相關的倫理問題做出合適、清晰的標準、規范以行管控。

（三）教育人工智能倫理需解決問題

人工智能改變了人們對于教育的傳統觀念，師生兩環的簡單教育生態在融入人工智能之后將變得更加復雜，道德倫理方面將面臨更多的問題，如數據泄漏與濫用[42]、學生思考能力弱化[43]、對弱勢群體的偏見與歧視[44]、學生不平等差距斷擴大等[45]等。而從目前國際國內發布的教育人工智能相關政策和指南來看，缺少合適清晰的標準規范，傳統的治理方式已經不能滿足其治理風險。面對教育人工智能倫理問題，教育應秉持何種態度，采取何種手段迎接人工智能技術的深度融合，人工智能如何從技術方面進行約束才能更好嵌入教育是我們應該思考的問題。文章將教育人工智能倫理問題歸納為以下四個方面：

1.核心素養缺失，育人性不強

盡管人工智能可以提供大量的學習資源和個性化的學習路徑，但它不能替代人與人之間的互動，也不能完全滿足學生的社會性需求。部分教育人工智能應用過于注重知識和技能的傳授，忽略了培養學生的創新思維、批判思維和解決實際問題的能力等核心素養[46]；此外，隨著人工智能的快速發展，使用者并未能夠真正掌握人工智能的使用方法，反而很可能被技術裹挾，只關注提高學習效率和成績，忽視了教育的本質——培養學生的全面素質和人格修養[47]，使得教育異質性風險增加，育人性大大降低。想要構筑良好的人機共生關系，我們應反對將人工智能視為取代教師的概念，強調“共同處于回路中”（Humans-in-the-Loop）[48]。因此，我們在使用人工智能進行教育時，必須注重培養師生的核心素養，強化育人性，教師在教學過程中能夠觀察到人機互動學習模式，學生在學習的過程中掌握科技知識的同時，也能夠形成健康的人格和良好的道德品質。

2.應用監管欠缺，反應力不快

由于缺乏有效的監管機制，許多人工智能應用程序可能會濫用其功能，對學生和教師造成潛在的威脅。一方面，由于人工智能技術本身的復雜性和黑盒性，監管機構難以及時跟進和管理其安全和合規性；另一方面，出現問題時監管機構難以迅速做出響應，給師生帶來了很大的困擾。如2023年1月ChatGPT活躍用戶已經突破百萬，時隔半年只有一個國家發布了相關的法規（即我國7月發布的《生成式人工智能服務管理暫行辦法》），同年9月聯合國教科文組織為應對ChatGPT的廣泛使用推出《教育與研究領域生成式人工智能指南》。當前國內及國際人工智能監管機構都高度重視人工智能相關產品的應用監管，但如前文所說，人工智能技術應用產品更新迭代速度快，新的應用場景層出不窮，應用監管各個環節是否能快速做出反應，協作制定明確的落實路徑而非“口號式”的政策與規劃。

3.倫理框架缺漏，系統性不足

盡管倫理學已經存在了很長時間，但在當今社會中，我們仍然需要更多的倫理框架來應對日益復雜的教育人工智能倫理挑戰?！毒W絡安全標準實踐指南——人工智能倫理安全風險防范指引》界定了人工智能治理的相關主體范圍，總結了人工智能倫理問題和風險的具體類型[49]；杜靜等提出“APETHICS”框架，為教育人工智能倫理問題提供解決模型[50]。但是，當前關于教育人工智能倫理問題的研究仍存在著概念模糊、內容缺失、評估機制與工具不完備等問題[51]。此外，許多倫理決策也需要更系統性的思考和規劃，以確保其能夠真正解決實際問題并產生積極的社會影響。因此，我們需要加強教育人工智能應用的倫理規范建設，完善相關法律和政策，同時加強對數據隱私的保護和算法公正性的監督，以確保教育人工智能應用能夠真正促進學生的全面發展和成長。

4.技術規范缺乏，統籌力不夠

我國現有的人工智能技術規范標準均為面向普通大眾，專門針對教育的人工智能技術規范標準還未出臺，對于面向教育領域的人工智能技術標準研制的機理、影響因素和可能路徑等方面都還不明確[52]。然而人工智能技術的規范缺乏和統籌力不夠已經成為一個不可忽視的問題：一方面目前的技術應用無法確保符合教育規律和學生的實際需求；另一方面不同的教育機構和開發者之間的教育產品存在互通性和兼容性問題，難以形成有效的合作與交流，限制了人工智能技術在教育領域的應用和發展，也給實際教學帶來了不便。針對教育人工智能技術的應用，需要建立跨部門、跨學科的協調機制，形成有效的統籌力量，確保教育人工智能技術的應用符合教育規律和學生身心發展特點，推動教育事業高質量發展。

以人工智能為代表的數字化時代，普遍有效運用智能化工具已成為必然，人工智能將與教育深度融合，催化教育發生全方位的創新與變革。在這種時代背景下，從人類命運共同體的角度出發，加快培養AI高端人才便成為當今社會發展的必然之舉，然而如何在現階段教育系統基礎之上，深度融合且揚長避短，充分發揮教育的育人性并構建人機相融共進的道德倫理框架，成為亟需解決的時代命題。因此，我們需要采取一系列措施來推動人工智能技術的向善發展，通過多元主體多層次多維度多樣式的合作治理，共同實現人機良性互動，從而促使教育人工智能可持續發展，推動人機和諧共生的教育生態體系構建。

四、人工智能向善發展的建設路線

在教育過程中，應針對具體教育情境中的倫理問題，合理使用技術、規避智能技術對教育倫理產生的某些消極影響。面對人工智能技術所引發的教育倫理危機，要求我們必須適時地調整傳統的教育價值理念，綜合采用多種措施，推動人工智能向善發展。如下頁圖2所示，本文從培養學生的人工智能素養、技術賦能、人機相融和技術規范實踐四個角度對教育人工智能倫理提出應對措施，通過對學生核心素養的培養、對技術向善賦能的應用監管，促進人與機器相融共進發展。

（一）核心素養培養

應對人工智能的挑戰、讓人工智能技術充分發揮其變革性力量，離不開對適應智能社會的合格公民的培養。具備人工智能素養的人對人工智能技術持辨證態度，具備一定的人工智能知識基礎，能夠正確看待人工智能技術的應用和發展、運用人工智能促進個人和社會的發展。因此，有必要開展人工智能教育，培養學習者的人工智能素養。明確學生人工智能素養的現狀如何是布局人工智能教學的起點。通過對學生人工智能素養現狀進行調查，可以了解目前學生在人工智能各個維度的實際水平和不同地區學生人工智能素養水平的差距，探究影響學生人工智能素養水平的關鍵因素，從而確定人工智能素養培養的策略和要點。同時，人工智能素養是立足現在、面向未來發展的核心素養之一，鑒于越來越多強大的人工智能技術的出現及其帶來的變革性影響，有必要盡早明確并開展人工智能素養的培養。針對人機共生關系提出的新需求，從人-工具-社會的互動分析視角明確人工智能的關鍵要素，構建面向人工智能素養框架，以期形成學生與人工智能和諧共處的理念，進一步促進對人工智能道德倫理的認識，從而實現人機共融、推動人工智能向善發展。

（二）規范應用監管

人工智能愈發強大的計算能力和對現有社會結構及價值體系的不斷侵蝕，可能導致對個體尊嚴和形象的入侵、算法歧視上的侵害和自身主體價值的消解[53]。如何規范監管人工智能應用，重塑公平正義的社會結構和技術結構，成為亟待解決的問題。在面向學生群體的人工智能負面效應已經漸露聲色的背景下，研究面向教育的人工智能的應用監管，促進人工智能向善向好顯得尤為重要。因此，我們應首先厘清面向教育的人工智能應用監管的概念，界定其內涵和外延，明確監管內容。其次，在調研人工智能應用監管的風險和監管內容的基礎上，進一步探討面向未成年人的人工智能應用的監管的方法，并對現狀進行修改和增強，以實現人工智能的有效治理。再有，我們呼吁教育生態系統中所有利益相關者共同參與，制定一些指南和防護措施[54]，積極實施面向學生的人工智能技術規范研制與政府政策制定接軌，從而最終促進規范應用的廣泛實施。

（三）道德倫理框架

人工智能時代下，學生作為學校教育的最直接參與者以及最重要的角色，必須主動起來，成為解決倫理問題的積極實踐者。然而，目前針對學生群體的教育人工智能倫理研究幾近空白，迫切需要更深入的指標體系構建、測評工具開發、認知現狀分析等研究，一方面能夠為教師提供參考，更好地在教學中引導學生合理使用教育人工智能，另一方面也可以有針對性地提升高中生教育人工智能倫理的認知水平，為其正確使用人工智能提供重要抓手。在此過程中，我們應該遵循科學性原則，要使得在確定各級維度指標、構建完整指標體系以及確定各級指標權重的過程中，力求全面、保證科學、確保準確、規范合理。同時秉持發展性觀點，考慮到學生對于教育人工智能倫理這個新知領域的認知發展，保證學生不但可以通過該指標體系對自我在該領域的認知水平上進行評價，還可以通過該體系對這個領域的基本知識進行了解、學習，從而為學生的知識水平、思維能力提供可能的提升途徑，發揮該指標體系作為前沿領域實際應用的實用價值。最后，應以系統性思想構建面向學生的倫理框架，做到層次分明，邏輯自洽，從而整體、全面、綜合地反映學生的教育人工智能倫理認知水平。

（四）技術規范研制

人工智能作為數字時代的引領性技術，不斷產生大量新的社會創造物，尤其在ChatGPT出現后廣泛涌出的大語言模型降低了人工智能使用的門檻，它們從實踐層面逐步滲透學生成長的全過程中，只有在科學的技術規范框架的指導下，人工智能才能安全有效地推進學生在人工智能化背景下的智慧教育，開辟面向教育發展的人工智能場景的新格局，為各組織機構進行人工智能的學生培育提供示范和借鑒?？偠灾?，面向教育的人工智能技術規范以準確識變、科學應變、把握機遇，推動人工智能技術助推學生發展，進一步促進人工智能與人才培養的深度融合，為如何構建一個面向學生的全階段、系統化的人工智能素養標準體系提供理論與實證的研究路徑和方法指導，更好地幫助未成年人迎接新挑戰、為他們適應和創造一個更加美好的新時代。

五、人工智能發展建議

（一）加強頂層設計，系統規劃總體框架

本研究應從構建人類命運共同體的核心思想出發，遵循和諧友好、包容共享、尊重隱私、安全可控、敏捷治理的原則，厘清人工智能與教育的賦能以及反向賦能關系[55]，從教育人工智能倫理為切入點，重視育人為本，關注人工智能與人才培養的深度融合，實現受教育群體人工智能核心素養的可持續發展，推進治理人工智能技術層面的應用監管，促進人工智能技術向善賦能，從而加快教育領域內人工智能技術規范的落地實踐，推動人工智能在教育領域的向善發展提供總體指導框架，為最終實現教育與人工智能技術相融共進的生態系統。

（二）重視育人為本，創新發展人工智能課程

近年來，不斷提出的信息素養、數字素養、數據素養、計算思維等概念其實都強調了在如今這個高速發展的科技社會，掌握一些基礎技術素養的重要性。更重要的是人工智能對教育領域的滲透決定了培養學生人工智能核心素養的關鍵性[56]，而課程則是對學生進行教育的主要途徑[57]，核心素養的形成離不開優質的人工智能課程設計。目前人工智能課程除了面臨被忽視、被限制的問題[58]，還有課程單一、偏向傳統技術缺乏創新等缺陷。因此，人工智能課程的設計需要進行相應的調整和改變，從受教育者層面來說，學生應當做好面對未來智能社會的心理準備，盡早轉變思想、思考人與人工智能的互動可能性，以便在未來社會中更好地生存和發展。從教育者層面來說，教師對人工智能技術的了解不應浮于表面，高校、企業和其他專業機構應共同參與到人工智能課程的建設中來，協同完成具有創新性的人工智能課程的設計和開發，設計指向學生人工智能素養培養的精品課程。

（三）遵循治理原則，促進技術向善賦能

隨著人工智能技術的快速發展，我們面臨著如何讓AI技術與人類共存、和諧發展的挑戰。智能時代，對AI產品的設計開發和應用進行監管，能夠從源頭上保障學生的心智發展[59]。本研究團隊針對當前人工智能應用監管中存在的風險和挑戰，提出了面向未成年人的人工智能應用監管善治路徑，包括構建應用監管技術體系、提升多樣化監測能力、完善應用監管制度、參與國際規則制定和開展社會實驗研究五個方面[60]。以上路徑從理論和實踐兩個方面展開，除了明確AI技術的邊界和責任，制定相關法律法規和倫理準則外，我們還可以加強公眾參與和監督，鼓勵各方共同參與到AI技術的決策和管理中來，增強透明度和公正性。同時，積極探索AI技術的多樣化應用場景，注重技術與人文關懷的結合，將研發重點放在解決情景問題和增強信任與安全性上，打造更具溫度、更人性化的AI產品和技術服務。只有遵循治理原則，促進技術向善賦能，才能讓AI技術真正服務于人類，實現有溫度的人工智能。

（四）明確價值準則，助力人機相融共進

人工智能融入教育，不斷擴展其應用場景，缺陷與風險不斷暴露并有成倍放大趨勢。為了使學生在與智能系統交互中保有“自主性”，以及正確教育理念引導的成長體驗，更加需要有相應的教育與支持。面對機遇與挑戰并存的人工智能技術應用，在切實把控教育應用監管的過程中，應秉持育人為本的價值準則。首先，教育人工智能應用應始終在人的掌控下，服務于學生，實現學生個體對于教育人工智能應用的控制。其次，倫理準則應當被植入教育人工智能產品，并貫穿產品設計開發應用全過程。從開發廠商的角度而言，可以從兩個方面進行改進，以促進其生產出的教育類人工智能產品更加符合倫理道德規范原則。一是從技術角度而言，可將一些能夠清楚描述出的、約定俗成的道德倫理準則以算法的形式植入到人工智能中，使得人工智能在自我學習時自發性擁有在倫理方面的道德底線，不做出違反倫理原則的行為。二是從人本主義出發，提高算法設計師、程序員等技術人員的倫理素養、道德意識。要做到這一點，主觀上，需要此類特定人群主動、充分地接受教育學、心理學、倫理學、學習科學等相關學科領域的理論知識，將先進的教育理念中植入到教育類人工智能產品的“思想”之中。而客觀上，政府教育部門、教育科研工作者、中小學校等教育主體相關機構也應與開發廠商通力合作，可以通過構建以設計為中心的教育實踐共同體[61]，建設有關教育人工智能倫理的學術社區，對倫理原則如何和諧融入產學研一體化過程進行探討交流，以及利用品牌及教育聯盟影響力加強倫理和諧層面的特點宣傳，從而源頭上加強技術開發者教育人工智能倫理素質，強調產品的倫理友好性，同時也對教育信息化建設做出貢獻。

（五）加快標準制定，規范教育人工智能實踐

教育人工智能的實踐離不開技術規范的制定與落實，辭海釋義規范一詞為“標準；法式”，所謂技術規范則是技術產品、過程和服務應滿足技術要求的文件。本研究團隊認為教育領域的人工智能技術規范應包含兩種內涵，其一受教育者即學生在學習或使用AI技術、產品或服務時應遵守的道德準則和行為規范，其二AI教育產品研發、制造和部署時應遵循的操作準則和技術標準[62]。由此內涵出發，技術規范的制定應從核心素養、應用監管和道德倫理三個方面開展。首先，受教育者需要具備正確安全使用人工智能的核心素養；其次，技術產品全生命周期的利益相關者都應受到應用監管；再者，倫理道德應融入AI教育產品的全生命周期，增強全社會的人工智能倫理意識，從而達到三位一體共同抵御或避免人工智能技術在教育領域引發風險的效果。

六、總結展望

當人工智能加入到教育生態系統，它的作用和影響力是全方位的，包括教學、管理、學習、思想、態度、價值觀等等。促進教育公平與教育包容是教育領域應用人工智能的根本目標，清楚認識到人工智能對于實現教育公平，教育包容的積極影響與消極影響是十分必要的，從教育主體角度來說，學生核心素養的研究助力學生個性化學習，激發動機，使其真正成為技術的使用者而非被技術裹挾喪失主動性；從技術主體來說，教育人工智能應用監管研究約束人工智能技術進入教育的尺度和方式，規定責任分屬，為教育與人工智能良好融合保駕護航；從人機融合角度來說，教育人工智能安全倫理框架的研究豐富了人類社會的道德倫理框架，探尋人工智能時代人才培養的未來走向，促進兩者的深度融合。核心素養、應用監管、倫理框架的研究呼喚面向教育的人工智能技術規范的制定，以便應對迅速發展的人工智能技術，更好促進通用人工智能大模型在教育中應用；以期推動人工智能向善發展，賦能、賦智教育，促進教育數字化轉型，構筑智能時代的人類命運共同體。

參考文獻：

[1] Vinuesa R，Azizpour H，et al.The role of artificial intelligence in achieving the Sustainable Development Goals [J].Nature communications，2020，11（1）：233.

[2][28] 聯合國教科文組織.人工智能倫理問題建議書[R].巴黎：聯合國教科文組織，2021.

[3][27] 中華人民共和國科學技術部.《新一代人工智能倫理規范》發布[EB/OL]. https：//www.safea.gov.cn/kjbgz/202109/t20210926_177063.html，2021-09-26.

[4][6][7] 長鋏，梁正等.黑鏡與秩序：數智化風險社會下的人工智能倫理與治理[M].北京：清華大學出版社，2022.

[5] [美]梅拉妮·米歇爾.王飛躍，李玉珂等譯.AI 3.0[M].成都：四川科學技術出版社，2021.

[8] 尼克.人工智能簡史（第2版）[M].北京：人民郵電出版社，2021.

[9] 廉天嬌.先秦儒家“樂”思想的倫理審視——以《禮記·樂記》為視角[J].唐都學刊，2019，35（4）：85-90.

[10] 郭勝男，錢雨等.面向未成年人的AI安全風險：風險澄思、根源透析與治理進路[J].中國遠程教育，2023，43（7）：39-46.

[11] 王佑鎂，王旦等.ChatGPT教育應用的倫理風險與規避進路[J].開放教育研究，2023，29（2）：26-35.

[12] 姜華，王春秀等.生成式AI在教育領域的應用潛能、風險挑戰及應對策略[J].現代教育管理，2023，（7）：66-74.

[13] 高琳琦.生成式人工智能在個性化學習中的應用模式[J].天津師范大學學報（基礎教育版），2023，24（4）：36-40.

[14] 沈苑，汪瓊.人工智能在教育中應用的倫理考量——從教育視角解讀歐盟《可信賴的人工智能倫理準則》[J].北京大學教育評論，2019，17（4）：18-34+184.

[15] 王正青，阿衣布恩·別爾力克.ChatGPT升級：GPT-4應用于未來大學教學的可能價值與陷阱[J].現代遠距離教育，2023，（3）：3-11.

[16] 馮建軍.我們如何看待ChatGPT對教育的挑戰[J].中國電化教育，2023， （7）：1-6+13.

[17] 曹輝，趙梓含.ChatGPT的特質研判、教育審思與風險應對——基于“知識—主體—立場”的視角[J].現代教育管理，2023，（7）：75-84.

[18] 張譽元，張海.數據生命周期視閾下教育數據倫理問題及規約之徑[J].中國電化教育，2022，（10）：118-125.

[19] 羅生全，譚愛麗等.人工智能教育應用中的倫理風險及其規避[J].中國教育科學（中英文），2023，6（2）：79-88.

[20] 孫立會.人工智能之于教育決策的主體性信任危機及其規避[J].電化教育研究，2023，44（3）：21-27+43.

[21] 朱永新，楊帆.ChatGPT/生成式人工智能與教育創新：機遇、挑戰以及未來[J].華東師范大學學報（教育科學版），2023，41（7）：1-14.

[22] 馮銳，孫佳晶等.人工智能在教育應用中的倫理風險與理性抉擇[J].遠程教育雜志，2020，38（3）：47-54.

[23][41][55] 苗逢春.教育人工智能倫理的解析與治理——《人工智能倫理問題建議書》的教育解讀[J].中國電化教育，2022，（6）：22-36.

[24] 國務院.國務院關于印發新一代人工智能發展規劃的通知[EB/OL].https：// www.gov.cn/zhengce/content/2017-07/20/content_5211996.htm，2017-07-26.

[25] 中華人民共和國科學技術部.發展負責任的人工智能：新一代人工智能治理原則發布[EB/OL].https：//www.safea.gov.cn/kjbgz/201906/ t20190617_147107.html，2019-06-17.

[26] European Parliament.Artificial Intelligence Act [EB/OL].https：//www.europarl. europa.eu/thinktank/en/document/EPRS_BRI（2021）698792，2022-01-14.

[29] 中共中央辦公廳 國務院辦公廳.《關于加強科技倫理治理的意見》[EB/OL]. https：//www.gov.cn/zhengce/2022-03/20/content_5680105.htm，2022-03-20.

[30] Daniel Zhang，Nestor Maslej，et al.The AI Index 2022 Annual Report [R]. San Francisco：Stanford University，2022.

[31] Center For Data Innovation.U.S. AI Policy Report Card [EB/OL].https：// datainnovation.org/2022/07/ai-policy-report-card/，2022-07-27.

[32] Centre for European Policy Studies.The AI Act and emerging EU digital acquis [EB/OL].https：//www.ceps.eu/ceps-publications/the-ai-act-andemerging-eu-digital-acquis/，2022-09-14.

[33] 中華人民共和國外交部.中國關于加強人工智能倫理治理的立場文件[EB/OL].https：//www.mfa.gov.cn/ziliao_674904/tytj_674911/ zcwj_674915/202211/t20221117_10976728.shtml，2022-11-17.

[34][39] 國家互聯網信息辦公室，中華人民共和國國家發展和改革委員會等.生成式人工智能服務管理暫行辦法[EB/OL].https：//www.gov.cn/ zhengce/zhengceku/202307/content_6891752.htm，2023-07-10.

[35] United Nations Educational，Scientific and Cultural Organization. Beijing Consensus on Artificial Intelligence and Education [R]. Prais：UNESCO，2019.

[36] United Nations Educational，Scientific and Cultural Organization.AI and education：guidance for policy-makers [R].Prais：UNESCO，2021.

[37] 聯合國教科文組織.中小學階段的人工智能課程：對政府認可人工智能課程的調研[R].巴黎：聯合國教科文組織，2022.

[38] United Nation Education，Scientific and Cultural Organization. Guidance for generative AI in education and research [EB/OL].https：// www.unesco.org/en/articles/guidance-generative-ai-education-andresearch，2023-04-20.

[40][48][54] U.S. Department of Education，Office of Educational Technology. Artificial Intelligence and Future of Teaching and Learning：Insights and Recommendations [EB/OL].https：//tech.ed.gov/files/2023/05/ai-future-ofteaching-and-learning-report.pdf，2023-06-13.

[42] 劉進，鐘小琴等.教育人工智能：前沿進展與機遇挑戰[J].高等工程教育研究，2020，（2）：113-123.

[43] 王佑鎂，宛平等.科技向善：國際“人工智能+教育”發展新路向——解讀《教育中的人工智能：可持續發展的機遇和挑戰》[J].開放教育研究，2019，（5）：23-32.

[44] Holmes W，Porayska-Pomsta K，et al.Ethics of AI in education：Towards a community-wide framework [J].International Journal of Artificial Intelligence in Education，2021，（32）：504-526.

[45] Reiss M J.The Use of Al in Education：Practicalities and Ethical Considerations [J].London Review of Education，2021，19（1）：1-14.

[46][57] 孫偉平.人工智能與人的“新異化”[J].中國社會科學，2020，（12）：119-137+202-203.

[47] 王佑鎂，王旦等.“阿拉丁神燈”還是“潘多拉魔盒”：ChatGPT教育應用的潛能與風險[J].現代遠程教育研究，2023，35（2）：48-56.

[49] 全國信息安全標準化技術委員會.關于發布《網絡安全標準實踐指南—人工智能倫理安全風險防范指引》的通知[EB/OL].https：//www. tc260.org.cn/front/postDetail.html id=20210105115207，2021-01-05.

[50][59] 杜靜，黃榮懷等.智能教育時代下人工智能倫理的內涵與建構原則[J].電化教育研究，2019，40（7）：21-29.

[51] 王佑鎂，王旦等.敏捷治理：教育人工智能倫理治理新模式[J].電化教育研究，2023，44（7）：21-28.

[52][62] 吳永和，郭勝男等.面向未成年人的人工智能技術規范研究：學理闡析與探研進路——面向未成年人的人工智能技術規范研究（一）[J].電化教育研究，2023，44（5）：5-12.

[53] 宮楠.積極預防人工智能負面效應[N].中國社會科學報，2020-04-07（06）.

[56] 朱莎，李環等.面向未成年人的人工智能核心素養構建——面向未成年人的人工智能技術規范研究（二）[J].電化教育研究，2023，44（6）：15-21+53.

[58] 張志新，杜慧等.發達地區中小學人工智能課程建設現狀、問題與對策——以某“新一線”城市為例探討[J].中國電化教育，2020，（9）：40-49.

[60] 倪琴，賀樑等.人工智能向善：面向未成年人的人工智能應用監管探研——面向未成年人的人工智能技術規范研究（三）[J].電化教育研究，2023，（8）：33-41.

[61] 顧小清，白雪梅.教育信息化推進新路徑：構建以設計為中心的研究-實踐共同體[J].開放教育研究，2019，25（6）：66-74.

作者簡介：

吳永和：研究員，博士，博士生導師，教育部教育信息化技術標準委員會主任委員，研究方向為教育數字化轉型、智能驅動的教育、模式驅動的教育和數字教育技術標準與國家質量基礎設施。

吳慧娜：在讀博士，研究方向為人工智能、智能教育與學習分析。

陳圓圓：在讀碩士，研究方向為人工智能教育。

Promoting the Ethical Development of Artificial Intelligence： A Shared Responsibility of Education and AI

Wu Yonghe1， Wu Huina1， Chen Yuanyuan1， Zhou Shuyun1， Zhou Zihao1， Xiao Yumin2， Ni Qin3

1.Department of Education Information Technology， East China Normal University， Shanghai 200062 2.Faculty of Education， East China Normal University， Shanghai 200062 3.Shanghai Normal University， Shanghai Normal University 200233

Abstract： The rapid development of artificial intelligence is profoundly changing the ways in which humans produce， live， and learn. It has a deep impact on education， and at the current stage， generative artificial intelligence tools are widely applied in the field of education， bringing new ethical and moral challenges. This article first discusses how the rapid development of artificial intelligence leads to more complex ethical and moral issues and expands the scope of human moral ethics through artificial intelligence ethics. It then elaborates on the ethical risks of artificial intelligence in education， the current state of ethical governance in educational artificial intelligence， and the issues that need to be addressed in the ethical application of educational artificial intelligence. Furthermore， it presents a roadmap for the development of artificial intelligence towards benevolence， focusing on four dimensions： fostering core competencies， regulating ethical application， developing moral and ethical frameworks， and creating technical standards. Finally， it provides five development recommendations： strengthening top-level design and systematic planning of the overall framework， prioritizing student development， and innovating in the development of artificial intelligence curricula. It also emphasizes the importance of adhering to governance principles， clarifying value guidelines， and accelerating the formulation of standards to regulate the practice of educational artificial intelligence. The goal is to promote the benevolent development of artificial intelligence， empower and educate， advance the digitization of education， and build a global community for human destiny in the age of intelligence.

Keywords： Artificial Intelligence ethics； student-centric education； core competence； application regulation； ethical framework

收稿日期：2023年10月17日

責任編輯：李雅瑄