ChatGPT教育應用的倫理省思

李永杰

(內蒙古財經大學 商務學院,內蒙古 呼和浩特 010070)

2022年11月30日,位于加州舊金山的軟件公司OpenAI向全世界發布了一款人工智能聊天工具ChatGPT。在隨后半年的時間里,ChatGPT作為生成式人工智能的典型代表,被廣泛應用于包括教育在內的多個領域。圍繞ChatGPT所具備的顯在和潛在教育功能,多國學者展開了激烈的討論。那么,作為人工智能技術的里程碑,ChatGPT及其類屬產品會將教育帶向何方,是伊德筆下“創造美麗佳景的烏托邦”還是“令人望而生畏的敵托邦”[1]呢?換言之,在數字時代,ChatGPT的教育融入將引發怎樣的系統性革新,同時又可能觸發哪些倫理風險?本文試對上述問題做一梳理和回應。

一、ChatGPT教育應用的主要方式

ChatGPT是一個基于神經網絡的“大型語言模型”(Large Language Model,LLM),它的超越性優勢在于能夠采用自然語言處理方式 (Natural Language Processing, NLP)實現與用戶的對話。目前,在教育實踐領域,ChatGPT已經被應用于課程、教學、學習和評估等多種不同類型的活動之中,其所具備的教育效能也在多個層面有所顯現。

(一)創生課程資源

ChatGPT帶來了內容生產方式的全面革新,它的教育應用有利于提升課程資源的精準度、靈活性和適配度。具體而言,ChatGPT對課程資源創生的優化作用主要體現在以下方面。一是實現數據信息的任務型篩選。ChatGPT可以通過上下文對話來分析教師意圖,進而從知識庫中按照特定規則遴選并呈現匹配性較高的數據信息。二是實現知識素材的交互式加工。ChatGPT可以和教師以對話的方式合作完成知識素材的提煉,尤其可以通過挖掘那些潛藏于數據之中的不明顯關聯來為課程資源建設提供獨特視角,這極大地突破了人腦信息加工的有限性。三是實現材料內容的多模態輸出。ChatGPT能夠完成結構化數據和非結構化數據的并行加工,當它與其他應用組合時,不僅可以生成文字,還可以生成圖片、視頻、演示文稿、代碼、網站等多種表達形式,方便快捷地實現課程資源的多模態呈現。綜合來看,ChatGPT有助于推動課程資源建設機制的深度革新。

(二)輔助教學活動

ChatGPT能夠創造性地解答用戶問題,提供具有針對性的意見和建議,這為實現教學工作的減負增效提供了重要的專業支持。首先,ChatGPT可以助力教學準備的集約化開展。在備課的過程中,教師不僅可以利用ChatGPT來梳理思路、生成教案和編輯課件,而且還可以應用ChatGPT來模擬課堂對話,在更加充分地預判學情的基礎上做好教學設計工作。其次,ChatGPT可以協助教學過程的智能化組織。ChatGPT所具有的跨領域自然語言理解與生成能力為智能教學系統提供了新型的“能力基座”,它方便教師開展對話輔導、技能訓練、講授演示、協同創作、交互評價等多樣化的活動[2],既可以拓展教師開展教學活動的方式,又可以促成多項教學活動的有機銜接和柔性切換。再次,ChatGPT還可以促進教學輔導的個性化實施。借助ChatGPT,教師能夠實現教育角色的“自動化分身”,從而為不同的學生提供隨時隨地的個別反饋和特定幫助,這不僅可以提高學業指導的針對性和實效性,還可以為學生提供一定的心理和情感支持?？梢哉f,ChatGPT的教學融入,為優化教師教學工作創造了復合交互的現實條件。

(三)定制學習方式

ChatGPT基于學習訓練和多任務提問來服務于學生學習方式的定制化轉變,其影響已經遠遠超越了尼葛洛龐帝曾在世紀之交做出的大膽預期——“如果我第一次說的時候,你沒聽明白,那么就讓我 (機器)換個方式,用卡通或三維立體圖解演給你看。這種媒介的流動可以無所不包,從附加文字說明的電影,到能柔聲讀給你聽的書籍,應有盡有。這種書甚至還會在你打瞌睡時,把音量放大”[3]。而今,ChatGPT對學習方式的支持呈現出更為綜合和精細的特點,其作用集中體現在如下方面:一是支持個性化閱讀與寫作。ChatGPT最突出的特點就是通過大數據的調用生成適切的素材,進而幫助各級各類學生理解和掌握抽象的概念知識;不僅如此,ChatGPT還能根據學習者的發問方式自動規劃提綱、甄選資源、組合材料信息并生成作業文稿。二是支持混合式小組協作學習。在新型的小組學習中,ChatGPT不僅扮演著 “智能學伴”的角色,可以根據上下文情境提供資源、思路和建議;與此同時,ChatGPT還發揮著“合作樞紐”的作用,它能夠為小組成員提供主題材料、討論結構和實時反饋。三是支持遠距離差異化學習。對于遠程學習,ChatGPT可以生成伴隨性問題,并根據學生的知識水平提供實踐主題、材料解釋和發展建議,以便他們可以按照自己的節奏學習[4]?？偠灾?作為一種大型語言模型,ChatGPT為個性化的學習體驗提供了新穎獨特的機會。

(四)推動評價創新

ChatGPT的教育應用,為教育評價改革提供了新思路和新方案。首先,ChatGPT可以提升自動化評價的服務能力。根據教師的要求,ChatGPT能夠生成交互式的課堂測驗或是抽測卡,還可以針對需要評測的內容生成多項選擇題和相應的配套答案。這種自動生成的評估測驗不僅減輕了教師手工設置的負擔,而且還為學生學習教科書和完成應考訓練提供了支持性的工具。其次,ChatGPT可以實現自適應反饋?；谥悄芑姆治龇椒?ChatGPT可以對測評結果進行量身定制的反饋,及時推送符合學生學習需要的材料,它甚至還可以根據用戶的學習習慣和學習特點自動調整學習資源,進而幫助學習者提高學習效率。再次,ChatGPT可以改進教育的過程性評價。作為升級版的人工智能工具,ChatGPT能夠將學生的語言表達轉換成可記錄的文本,從而為更精細的學習軌跡分析提供依據?？傊?ChatGPT應用于教育評估活動,憑借其擁有的自動評分系統、自動推薦系統和自動知識圖譜系統,不僅為提升教育評價的可操作性提供了強有力的技術支撐,而且對改進教與學的效果也有著正向的影響。

二、ChatGPT教育應用的倫理風險

ChatGPT的教育應用引發了全球的熱烈討論,這其中不乏質疑、憂慮和批判的聲音。享譽世界的著名語言學家諾姆·喬姆斯基(Noam Chomsky)表示,ChatGPT“本質上就是高科技剽竊”和“一種避免學習的方式”[5],美國佛羅里達州諾瓦東南大學哲學助理教授杰里米·韋斯曼(Jeremy Weissman)則指出,“ChatGPT是對教育的一場瘟疫”[6]。事實上,學者們關切乃至爭議的焦點并非ChatGPT的技術功能本身,而是在于其所帶來的倫理風險。

(一)主體精神的衰微

增持人的能力,這是各類技術手段被應用于教育活動的根本出發點。然而,回溯近代以來的教育技術發展史,從電影、幻燈、廣播、錄像、電視到計算機和互聯網,似乎每一種技術在實現“人體延伸”的同時,也持續制造著教育的人道主義危機——技術手段對人主體精神的宰制。在新的歷史條件下,ChatGPT的教育應用可能使這一危機再次升級。

ChatGPT通過“類人化”的方式參與教與學的活動,極大地降低了人與技術互動的門檻,而這一門檻的降低非常容易導致教育者和學習者產生“模型依賴”[4],進而迫使個人的主體性走向衰微。具體而言,一方面,ChatGPT作為教學活動的智能助理,它的不當介入可能消弭教師的自主性和創造性。另一方面,ChatGPT作為學習的智能伙伴,它的過度參與也會引發學習者主體性的萎縮。面對學業問題的咨詢,ChatGPT總能提供答案,這不僅會導致學生“認知結構的淺薄化”與“認知思維的同質化”[7],而且還可能影響學生的冒險精神和探索勇氣[8]。令人深感憂慮的是:ChatGPT在教育領域中的恣意擴張,很容易引發利益相關者自由意志的衰減,進而被動卷入到海德格爾筆下“預置”的去弊方式[9]。

綜合來看,倘若師生不能很好地認清ChatGPT及其類屬產品的局限性和倫理影響,產生了對ChatGPT及其類屬產品的不適當依賴,那么主體性式微的風險就近在眼前了。

(二)道德責任的弱化

技術使用是負載道德責任的。隨著人的行為不斷被技術化,人的行為能力得到了進一步的拓展,相應地,要求隨之加大道德責任的呼聲也日益強烈[10]。進入21世紀之后,類人化的智能技術產品使道德責任的倫理問題變得更為復雜。

作為一種對話式的人工智能,ChatGPT的教育應用分化了教育活動中的道德責任,“誰來負責”和“如何負責”凸顯成為教育界的棘手難題。具體而言:一是“算法黑箱”導致的責任邊界模糊化。ChatGPT作答的過程就像是某種“技術黑箱”,具有不透明性和不可解釋性。換言之,教師和學生可以得到來自ChatGPT的反饋,但是這一反饋的依據來源和建構過程都是不可獲取的。國內外的研究都反映出:面對五花八門的教育問題,ChatGPT時常會“一本正經地胡說八道”,給出令人啼笑皆非的作答;不僅如此,ChatGPT提供的參考文獻,有的存在缺誤,有的張冠李戴,還有的根本就是搜索無果。但由于算法非透明,這不僅使得結論真偽混雜,而且也使得責任劃界幾乎無從談起。二是“身份失能”導致的責任主體缺位化。在組織教學和評估學生時,ChatGPT的確能夠拓展新的方式方法,將很多可能性帶入教育領域。然而,作為ChatGPT的創造者和維護者,OpenAI并沒有義務在維護和訪問其模型時滿足教育機構的專屬需求[11],一旦ChatGPT造成倫理傷害,大型語言模型自身無法承擔道德責任,而OpenAI似乎也游離在問責范圍之外。這樣一來,ChatGPT就使教學和學習的活動出現了責任主體的部分“真空”狀態,道德規范的建設和監管就變得困難重重。三是“數據固態”導致的責任結果盲區化。ChatGPT需要基于已有的數據庫來展開工作,其在信息的準確性、實效性、前沿性方面存在著天然缺陷:盡管算法的迭代發展賦予ChatGPT強大的數據處理和加工能力,但ChatGPT提供的結果充其量只能與它們所訓練的數據一樣好;如果訓練數據不足或質量較差,則很可能會導致ChatGPT生成的文本內容存在事實性錯誤、概念誤用甚至捏造信息等問題[12],這對人才培養和學術研究造成的損害可能是無法估量的。

不難看出,ChatGPT的教育參與,使得主體道德責任變得復雜、模糊和泛化。由于教育活動效果具有長期性和滯后性,因而一些負面影響可能會在很長時間之后才顯現出來,這對教育健康發展無疑構成了巨大挑戰。

(三)學業誠信的消解

教育是一種道德性實踐,“學業誠信”是學校教育的題中之義,它直接關系到每一位學習者人格品質的養成、完善與發展。進入21世紀以來,信息技術的日新月異及其在教育領域應用的不斷拓展,使得學業誠信受到越來越多來自技術手段的挑戰,這也隨之引發了各國教育者的關切。

當前,ChatGPT應用于教育,最普遍的擔憂和最激烈的聲討就集中于其對學業誠信生態所構成的威脅。一方面,借助ChatGPT,學生可能會成為自欺欺人的積極行動者。如果將“抄襲”定義為僅僅通過重新措辭來復制他人作品的行為,而不考慮使用的方法,也不添加任何個人內容,這就是對學術誠信的嚴重侵犯[13]。一項針對美國大學生的調查數據顯示:有89%的大學生選擇使用ChatGPT來完成作業[14]。這一調查結果不僅引發了美國高等教育界的憂慮和不安,而且也在全球產生了“一石激起千層浪”的巨大反響。另一方面,采用ChatGPT,學生也可能會淪為錯誤信息的消極承擔者。對于學習咨詢,ChatGPT需要攝取數據庫中的數據,而囤積于數據庫中的海量數據往往良莠不齊,這就使得ChatGPT做出的判斷并不總是值得信賴的。因而,缺乏了知識產權和數據品質的保障,使用ChatGPT的學生可能毫無防備地接收了訛誤信息,進而成為誠信生態惡化的間接受害者。

教育服務于整全生命的培養,培育學生誠信品質是教育工作的道德使命,為學生發展維護誠信學習的環境亦是教育工作的基本倫理遵循。ChatGPT在降低資源獲取門檻的同時,也加劇了學業誠信的監管難度,學生可能有意或是無意地成為誠信失范者,教師也不得不花費更多的時間精力來防范由ChatGPT所帶來的學業失信問題。

(四)技術鴻溝的加劇

在教育領域,技術使用所催生或是所擴大的“馬太效應”,構成了長期存續的倫理難題。邊緣群體的“再邊緣化”,往往成為技術納入最令人沮喪的負效應。

ChatGPT創造了新的連接方式并極大地拓展了教育的活動空間,而與此同時,它也有意無意地成為了教育技術鴻溝的“助推手”。首先,并非所有的國家都能獲得平等使用ChatGPT的機會。到目前為止,OpenAI 仍然限制四十多個國家用戶的使用,這顯然和它所宣揚的開放獲取精神是名不副實的。其次,即便是獲準使用的國家,由于經濟發展水平的差異,高收入國家和低收入國家之間可獲得的潛在機會也并不平衡[15]。盡管ChatGPT的收費有所降低,但對于教學、學習和科研而言,如果放任資本權力的強勢運行,那么資本的逐利本性只會持續拉大不同群體之間的差距:一些人會成為“技術加持”的利益既得者,另一些人則會淪為“技術反噬”的利益受損者。再次,技術鴻溝加劇的風險,不僅存在于國家之間,而且也存在于個體之間。正如有學者指出的那樣:在智能時代,教育領域中擁有更多資金資源支持的年長專業人員與初入職場的年輕專業人員相比,后者顯然處于不利地位,這將為科學知識生產帶來不可預測的后果[15]。事實上,受到經費、視野以及技術準備度等諸多因素的影響,ChatGPT在擴大學習者的差距方面也有著消極的潛在影響。

總而言之,對于教育的發展而言,ChatGPT在給予人們以希望和憧憬的同時,也引發了諸多的倫理難題和道德爭議。正如有學者所指出的那樣:新的技術基礎將導致教育系統運行模式與生態結構的重大變化,教育倫理學需要縝密思索技術革新帶來的新問題和新挑戰,從而引導教育技術應用的價值方向,糾正和反省可能出現的價值偏差[16]。

三、ChatGPT教育倫理風險的紓解進路

教育致力于培養人們獲得面向未來并駕馭復雜未來的能力,這就意味著教育工作不僅不能回避,而且必須要積極尋求與以ChatGPT為代表的人工智能的協同合作。當下,一項緊迫的任務在于“定義并闡明人工智能在學習和教育環境中的作用以及它與人類學習和認知關系的協商空間”[17],那么,ChatGPT及其類屬產品的教育應用如何才能是合宜且正當的呢?其倫理風險的紓解路向集中在如下方面:

(一)加速教育倫理標準研制

ChatGPT引發的教育新問題,讓越來越多的教育工作者意識到開展教育倫理標準研討的現實性和緊迫性。正如美國學者邁克斯·泰格馬克所指出的那樣,“如果我們在教給強大的智能機器基本倫理標準之前,在某些標準上達成了共識,那一切就會變得更好”[18]。倫理標準的建設需要在兩個層面上加以深入系統地探討,一是研制或是完善一般性的、普遍適用的教育道德規范和行為準則。ChatGPT及其類屬產品將促使人們重新思考教育中諸多根本性的價值問題,例如真實、誠信、公正、尊重、安全等,如何抑惡揚善以最大地增進教育者和學習者的福祉,這需要對具有普遍道德性質的問題進行厘清和劃界,并在此基礎上尋求構建國際國內的廣泛共識。二是制定具有針對性的教學倫理以及學習倫理的道德規范和行為準則。面對ChatGPT對科研工作的介入,全球頂尖的科學雜志《自然》編輯部做出了快速反應,該雜志及其子刊聲明大型語言模型工作不能作為研究的合作者,但研究者可以在工具使用部分或是致謝部分記錄他們的技術應用。隨后,一些知名期刊也紛紛發表類似聲明。而與出版行業形成對比的是,教育業界的反應相對遲滯,ChatGPT帶給教與學的變革性影響無疑是巨大的,但是與教學相關的倫理規范、動機目標、責任義務和行為效果的探討還十分有限。對于ChatGPT的健康有序應用而言,善惡標準是什么?核心指導思想是什么?行動規則又是什么?這都需要加以系統考慮,并嘗試建立一套規范性的教育倫理準則?？傮w而言,無論是在教育的一般層面還是在具體的教與學的行為領域,加速倫理標準的研制出臺,都具有極為重要的現實意義。

(二)提升師生人工智能素養

在智能時代,教與學的活動越來越離不開人工智能技術的介入和參與,為了更好地釋放ChatGPT及其類屬產品的教育之善,教師和學生需要具備相應的人工智能素養,包括“智能知識、智能能力、智能思維、智能應用以及智能態度”[19]。那么,如何才能切實有效地提升廣大師生的人工智能素養呢?一是可以為所有適齡學生增設人工智能公修課程。2022年2月,聯合國教科文組織發布了《K-12 人工智能課程:政府支持的人工智能課程藍圖》,其對基礎教育領域中的人工智能課程進行了國別比較和情況分析。事實上,高等教育領域與基礎教育領域的情況類似,不同年齡段的學生都迫切需要以“課程”的形式來獲得與包括ChatGPT在內的人工智能產品的友好相處方式。二是努力為一線教師配置服務支持型的專家團隊。對于教師智能素養的提升而言,專家的引領作用非常重要,但“專家團隊不應成為特定時間和特定地點里宣讀‘圣諭’的權威,而應該成為真正能夠長期服務于教師需求的咨詢者、支持者和幫助者”[20]。三是為全體師生舉辦智能科技教育應用的校本普及宣講活動。繼ChatGPT之后,谷歌、微軟、百度等科技公司相繼發布了自己的對話式AI產品,高等院校和基礎教育學校均可以采用校企合作或是產研結合的靈活方式,將技術發展和應用的前沿信息帶給廣大的師生?？偠灾?進入智能時代,師生并非天然的“數字原住民”,他們需要不斷提升人工智能素養,以更合道德且有意義的方式使用ChatGPT。

(三)完善學習誠信監管機制

發揮ChatGPT良好的教育服務功能,需要構建完善的教育監管機制作為保障。具體可以從“結果檢測”和“過程監測”兩個方面入手:其一,加強成品作業的誠信度檢測,構建混合式的教育管理舉措。面對ChatGPT的教育“加盟”,一些學校研發了專用工具用以判斷學生的作業是否由ChatGPT生成;然而,優質的誠信檢測方式不能“讓專業知識靠邊站”,更不能將決定權放在程序員手中而使責任制“黑箱化”[17]。因此,成品作業的誠信度檢測一方面需要依托人工智能“防火墻”,積極利用技術監督預警功能;另一方面,還要充分喚起教育者和管理者的主體性,要始終尊重并重視專業標準和專家判斷,堅持發揮教育者的主體性、能動性和創造性。其二,開展學習過程的跟進式監測,激勵受教育者提升自我教育能力。為了避免學生過分依賴ChatGPT完成作業,有學者提出:可以要求學生提交作業提綱與迭代的草稿,草稿需要保留教師的指導意見和反饋;可以讓學生運用一些協同共享文檔完成論文作業,保留作業的不同版本;可以組織學生討論ChatGPT等輔助生成的論文,辨析其可接受性和不可接受性[21]?？偠灾?無論是“結果檢測”,還是“過程監測”,教育的根本目的還是為了引導學生能夠積極地自我完善,這需要管理方式的革新能順勢而為、因勢利導。

(四)開展技術倫理專項宣傳

隨著以ChatGPT為代表的生成式人工智能的教育融入,開展技術倫理宣傳教育已經迫在眉睫。究其根本,技術應用不只是簡單的手段改造或是產品推廣過程,而且還是人與自我、人與他者以及人與社會關系的變革過程。尤其特別需要指出的是:師生使用技術的依據,只是在部分意義上取決于對技術性能的考察,而另一部分甚至可以說在更大程度上則需要取決于對技術之外的各種社會規范的重視和兼顧。在此基礎上,學校技術倫理教育內容要能夠涵蓋那些最核心的價值議題,包括教育者和學習者的道德責任,技術選擇的優先標準和決策標準,技術應用的倫理風險評估,教育行動和學習行動的經濟性、發展性與社會性,社會風尚、公共福祉和可持續發展等等。除此之外,技術倫理教育還應重視引導師生保持對技術使用實踐的自省和反思意識。由于采用了自然語言處理模式,ChatGPT及其類屬產品進一步消解了人技協作的“感知”邊界,這極容易導致教師和學生對“剽竊”“欺騙”“失德失范”等產生認識上的混亂,進而影響教學、學習和科研工作的有序開展。因此,培育師生的自省意識,應該成為學校開展技術倫理教育的重要組成部分。

總體而言,生成式人工智能已經成為當下和未來推動教育革新的強大技術力量,繼ChatGPT之后,微軟的NewBing、百度的文心一言以及谷歌的Bard也相繼投入使用。在實踐中,ChatGPT類屬產品的確可以為教育內容選擇、教學交流指導、學習方式變革和教育評價創新提供新的機會,但同時也引發了全球教育界對技術濫用的新擔憂?！?023地平線報告(教與學版)》明確指出:生成型人工智能加劇了人工智能的倫理辯論,教育者有責任讓學生做好準備,進而能夠合乎道德和負責任地與生成式人工智能技術進行互動[22]。面向未來,做好生成式人工智能教育應用的倫理風險預防,力爭超越“烏托邦”與“敵托邦”的對峙,還有待更多的理論思考和更為深入的學術對話。