ChatGPT背景下青年學生面臨的意識形態風險及其應對策略

張革華 周雨柔

(深圳大學 道德文化研究中心,廣東 深圳 518060)

近期,人工智能語言模型ChatGPT席卷全球,這項技術是人類人工智能史上具有里程碑意義的一項技術,ChatGPT憑借著強大的信息整合能力和語言處理能力使其用戶量飛速增長。更重要的是,ChatGPT技術甚至能夠更深層次地改變人們的思維方式和行為模式,由于其帶有西方價值邏輯,給我國的意識形態領域帶來了多態勢的負面影響。馬克思曾指出:“如果從觀念上來考察,那么一定的意識形式的解體足以使整個時代覆滅”[1]。這反映了防范意識形態風險對于維護我國意識形態安全的深度重要性。習近平總書記在黨的二十大報告中指出:意識形態工作是為國家立心、為民族立魂的工作[2]。青年學生是未來的希望,是實現中國夢的強大后備力量,因此,研究ChatGPT在我國意識形態領域發展的新態勢,全方位分析ChatGPT背景下青年學生面臨的意識形態風險,并提出可行性的應對策略,對于青年學生化解意識形態風險,維護當前社會技術大變革時代下的意識形態安全,具有十分重要的現實意義。

一、ChatGPT背景下意識形態領域發展的新態勢

ChatGPT是2022年11月由美國人工智能實驗室OpenAI出品的一項新型人工智能聊天機器人,ChatGPT的橫空出世引發了諸多關注,針對這項技術的研究也如雨后春筍般涌出。ChatGPT的影響之大、范圍之廣都超出預期,在意識形態領域呈現出多樣新態勢。

(一)多元文化的強力沖擊消解主流意識形態認同的權威

作為新一代人工智能的ChatGPT技術以呈現“中立、客觀、理性”的內容自居,然而在實際使用過程中卻無法避免地帶有一定的價值傾向。一方面,ChatGPT技術的訓練數據來源范圍十分廣泛且多元化。它包含了多個主流平臺和非主流平臺信息,由于各種信息背后的輸出者有著不同的價值觀念和文化背景,因而這些在數據整合后形成的回答內容中就承載著不同國家和民族的多元文化。多元化的信息在ChatGPT的數據訓練中匯聚,相互交匯、糅合、交鋒,使得產出的問答內容帶有多元價值取向,甚至會有不符合我國主流意識形態的不當言論出現。另一方面,ChatGPT的開發者極有可能自主操控人工智能話語權。開發者在選取數據進行模型訓練時有較大的自主權,并以技術優勢能夠實現隱蔽地向他國輸入特定文化和價值觀的目的,其底層邏輯仍是西方制度和價值體系。青年學生還處于思想未成熟時期,同時又兼有對新鮮事物接受程度高以及思維活躍但不穩定等特點,在使用ChatGPT的過程中容易遭受多元文化價值取向沖擊和話語權操控的危機。在這種多元化信息的隱蔽攻擊之下,青年學生對于傳統主流意識形態的權威表述不免會產生質疑,一定程度上會侵蝕青年學生群體對主流意識形態的正確認知,從而消解青年學生對主流意識形態認同的權威。

(二)未經審查的信息輸出破壞主流意識形態話語的導向

作為ChatGPT的開發公司OpenAI稱該技術有時會生成一些聽起來很合理但實則錯誤或荒謬的回答。缺乏辨別信息來源真偽的能力是ChatGPT技術的缺陷之一,進而導致輸出的回答真偽難辨,一方面,虛假信息的輸出會混淆或誤導青年學生的認知。此類信息可能會導致學生對主流意識形態話語產生錯誤的價值判斷和思想觀點,甚至導致其作出錯誤的行為和決策。另一方面,“失真”信息助推了錯誤思潮的傳播。由于ChatGPT收集了來自多渠道的信息,而又無法確保信息的真實性和客觀性,且目前還未對其建立相關的防范機制,因此,青年學生在使用ChatGPT獲取信息時存在著極大的不確定性。確保主流意識形態話語導向的準確性和科學性是維護意識形態安全的重要工作內容,而當前的青年學生群體早已不滿足于傳統的教育手段,從網絡和新興技術中獲取知識成為他們的重要方式,這使青年學生容易受到“失真”信息不良導向的影響。所以,青年學生在使用ChatGPT時接收到未經審查的信息輸出,這將會大大破壞主流意識形態話語的導向,造成“脫軌”“偏軌”的嚴重后果。

(三)浮于表面的知識加工危害主流意識形態教育的深度

ChatGPT的技術邏輯是對數據庫中已有知識的重新整合或再加工,盡管相對于以往的人工智能來說“聰明”許多,但在語言的深層次理解上與人類還存在著本質差距。一方面,ChatGPT產出的淺層內容降低主流意識形態教育的深度。意識形態教育本應從“知”“行”“踐”“悟”四個方面全方位展開,ChatGPT給青年學生提供了便捷渠道獲取知識的同時,由于在ChatGPT問答式的運行模式中,ChatGPT通常以理性且具有說服力的邏輯呈現內容,但實則缺乏深層思考和辯證思維,導致學生不僅被“灌輸”淺層內容,而且弱化了學生參與意識形態教育的積極性,從而使主流意識形態教育深入人心的成效不顯著。另一方面,ChatGPT淺表化的語義理解無法應對意識形態的復雜性。開展意識形態教育是一個復雜的過程,這是由于意識形態本身的復雜性決定的,這種復雜性體現在要深刻理解意識形態內容還需結合一個國家的歷史文化、社會結構和道德觀念,以及人類本身的理性、情感和價值取向。生成式人工智能只能進行淺表化的知識呈現,無法使學生深度理解意識形態背后的全貌和內在結構。ChatGPT制造出缺乏深度思考的意識形態內容,導致意識形態內容的深層含義不斷被弱化甚至消失,青年學生在缺少正確引導的情況下,這種浮于表面的知識加工必然會危害主流意識形態教育的深度性。

二、ChatGPT背景下青年學生面臨的意識形態風險

面對上述意識形態領域出現的新態勢,可以從中預見ChatGPT背景下青年學生面臨的意識形態風險,但新技術的快速更迭發展不會因存在風險而停止進步。因此,我們需要充分分析ChatGPT可能帶來的、可以預見的風險,從而為制定風險應對策略提供針對性角度。

(一)價值滲透風險

ChatGPT技術具有的強大的文本整合輸出功能是基于其背后超巨量的數據訓練建構,這些數據信息來源多元化且不透明,缺少第三方監管和審查機制,在“算法黑箱”的運行模式下,由ChatGPT生成的內容很可能帶有人類的原始歧視和偏見,更重要的是,作為西方話語體系在人工智能領域的分身,ChatGPT會生成具有意識形態偏見的信息[3]。在當今世界各國意識形態領域的激烈斗爭中,ChatGPT或會成為西方新型意識形態滲透工具,對我國青年學生進行價值滲透的風險急劇上升,主要表現在三個方面:一是進行價值入侵。價值觀能夠潛藏在語言、文字、圖片等呈現形式當中以達到向接收者傳遞價值觀念的目的。而ChatGPT所依賴的信息數據有明顯的西方價值傾向,與此同時,結合西方國家本身具有的技術霸權,能夠通過生成式語言模型直接把握內容輸出導向,使用戶在使用過程中受到西方價值觀潛移默化的影響,例如霸權主義、享樂主義、極端個人主義等等。在強力的價值入侵下,擾亂青年學生正確的價值判斷和價值選擇。二是強化文化偏見。文化偏見來源于西方話語體系中對我國歷史文化的固有印象和偏見,和其對自身文化的優越感,ChatGPT目前的預訓練數據存在局限性,代表性仍然不足,因而承載了西方對我國固有的文化偏見。這種由人類的文化偏見產生的數據偏見會在ChatGPT的循環運行和反饋學習中被不斷放大強化,使接收者深陷歧視與偏見的泥潭之中,如果不加以正確引導,很可能會打破其原有的認知結構。三是傳播錯誤思潮。西方勢力從未放棄過對我國的意識形態滲透,其中一種重要手段就是傳播錯誤思潮。若人工智能技術被不當利用,ChatGPT可通過信息的深度偽造,歪曲我國歷史、偽造歷史真相、詆毀英雄人物,也可輸出看似有理論證的文本宣揚西方意識形態,造成歷史虛無主義、新自由主義、普世價值論等錯誤思潮的傳播,使意識形態滲透的危機時刻潛藏在用戶的使用過程中。

(二)信息繭房風險

“信息繭房”是指在人們在獲取信息時,“公眾只注意自己選擇的東西和使自己愉悅的東西。久而久之,會將自身束縛于像蠶繭一般的‘繭房’中”[4]。ChatGPT的產出內容在使用者面前表現多是“順從”,會依據用戶的個人偏好和提問方式生成符合主體認知的回答。由于每個人的偏好和提問不同,因此,ChatGPT提供的回答缺少全面性、多樣性和廣泛性,在持續幾輪的問答中就會不斷確證和強化用戶已有認知,若過度依賴人工智能,便困于被算法編織的信息繭房中。學校一項重要教育任務是要強化學生對主流意識形態的認同,增強青年學生群體的凝聚力和向心力,而信息繭房問題顯然不利于凝聚青年學生群體的價值共識。一方面,信息繭房放大了個體的價值偏見。ChatGPT能通過強大的搜索整合功能從不同角度去佐證個體觀點,使帶有價值偏見的個體在同質化信息的裹挾下更加確信自身觀點,弱化了個體自我糾偏的能力。同時,在人機模式的互相“喂養”中,個體的價值偏見也會被ChatGPT所吸收,在信息傳播中不斷放大偏見,進而催生了由千萬個個體價值偏見形成的社會價值偏見,不斷擠壓主流意識形態的生存空間。另一方面,信息繭房分化了群體的價值共識。特別是在西方話語控制下的ChatGPT會把對我國社會價值偏見不斷傳播和無限放大,導致主流意識形態“去中心化”“碎片化”,從而削弱青年學生對主流意識形態的認同根基,在一定程度上加劇分化青年學生群體的價值共識,消解主流意識形態的引領力和凝聚力。

(三)技術異化風險

異化是指由人生產活動創造的產品又反過來制約、支配、駕馭自身的現象。馬克思曾指出異化勞動的四重規定性,人工智能時代的技術異化是其在當代的一種表現形式,技術異化即是人類經創造性活動產出的科學技術產品,經過一系列發展,又變成異己力量,反過來統治人的一種社會現象。新一代人工智能產物ChatGPT火爆“走紅”后,迅速引起了社會各界的密切關注,與此同時,新技術也正在全方位、深層次影響著各個領域。在意識形態領域,ChatGPT等生成式人工智能與其相結合在一定程度上推動教育數字化,并對教育者和受教育者的主體認知、價值觀念、行為模式產生深遠影響,這一過程中,我們也應當警惕技術異化已經造成和可能造成的風險。具體來說,我們面臨著三重困境:其一,隱私困境。在智能時代,個人數據信息幾乎已經無所遁形,而ChatGPT這類問答式人工智能更加劇了隱私泄露的風險。一方面,ChatGPT無法保證使用者自愿上傳的數據信息是否會被泄露,例如,教師和學生在使用ChatGPT輔助教學或學習的過程中,上傳研究數據或調研數據以便獲取答案,關注其使用效果卻忽視隱私安全進而導致數據泄露。另一方面,ChatGPT能夠更加精準地捕捉用戶畫像和信息,能夠在雙方看似正常的交流中進一步獲取用戶的思維方式、語言習慣和思想觀念等深層次的隱私信息,一旦被不當利用,意識形態被惡意操縱的風險將大大提高。其二,治理困境。因ChatGPT的不當利用帶來的價值滲透、侵害隱私、抄襲侵權等問題,使學?；蛳嚓P政府機構陷入治理困境。人工智能所造成的風險問題是以隱蔽多樣且不透明的方式進行的,科技公司自身難以避免“算法黑箱”造成的危害,也缺少第三方機構的監管,導致權責不清,責任主體模糊等狀況。加之學校和相關政府機構并沒有權力獲得ChatGPT的內部數據和運行信息,這些現狀都增加了治理和調控的難度和風險。其三,主體困境。技術異化的實質是人的異化,伴隨著ChatGPT等生成式人工智能深入人類社會生活的各個領域,人工智能逐步影響人們的觀念和行動,最直接的表現是工具理性對價值理性的侵蝕。工具理性的盛行給主流意識形態帶來巨大的風險和挑戰。工具理性會放大人們對功利、效率、物質等實用主義的追求,把客觀世界及其構成要素只是當作達成實踐目的的工具或手段,而消解主體對人生價值和意義等終極意義的追尋,在這個過程中,人在不自覺中也逐漸技術化、工具化。人工智能技術的進步是社會發展的必然,但豐富又浪漫的世界正是由一個個鮮活的生命組成,人不應當被異化、被物化,因此,加強社會主義意識形態認同、呼喚價值理性正成為一項重要內容。

(四)交往異化風險

人工智能所造成的交往異化是指智能工具對人們交往行為的消極影響。ChatGPT的技術邏輯是將知識信息進行二次加工,并且在話語表達上力求趨近于人類,但其還缺少對語意的深度理解和缺乏人類獨有的情感體驗。而對青年學生進行主流意識形態教育是一項知識傳授與價值傳遞相結合的實踐性活動。ChatGPT不僅顯然欠缺主流意識形態教育所需的功能,它的廣泛應用也誘發了教育主客體間的交往異化風險。一方面,ChatGPT遮蔽了教育主客體真實性的話語表述。當教育主客體輸入具有意識形態特征的語言文本,會獲取ChatGPT在巨大算力和特定算法下生成的個性化答案。若與自身觀念相符合,便會在無感知中加深自身的固有觀念,造成因缺乏批判性和創新性思維導致的思維固化;若與自身觀念相背離,很可能會在反復詢問得到滿意答案這個過程中無意識地接受了ChatGPT產出的錯誤觀念。固有觀念和錯誤觀念一旦經教育主客體之間無限次傳播和交流,就會潛移默化讓兩者都接受ChatGPT的算法模式和內容表達,從而遮蔽了教育主客體間真實性的話語表達。另一方面,ChatGPT弱化了教育主客體間的情感交互。主流意識形態教育從根本上說是做人的思想工作,需要教育主客體兩者在人文關懷和思維碰撞中進行充分的情感交互。而ChatGPT雖能極力模仿人類語言和情感反饋,但難以理解教育主客體間現實的復雜化語言環境,也難以實現教育主客體交互中的具身化情感體驗。因此,過度應用ChatGPT會弱化教育主客體間的情感交互,這將會大大降低主流意識形態教育的實效,把溫情的教育實踐變為冷冰冰的機器問答。

三、ChatGPT背景下青年學生面臨的意識形態風險的應對策略

新一代人工智能技術是各國意識形態爭奪的重要生態空間,做好青年學生意識形態風險應對迫在眉睫,對于維護國家總體安全至關重要。探索青年學生的意識形態風險的應對策略,以匯聚起建設社會主義現代化強國的磅礴力量。具體而言,針對上述ChatGPT存在的意識形態風險,可以從價值引領、制定規范、機制保障和人機協同入手采取相應的應對舉措。

(一)價值引領:提升主流意識形態育人實效

在人工智能時代,錯綜復雜的思想文化交匯于虛擬空間中,面對新情況新形勢,在主動求變的同時必須始終“堅持馬克思主義在意識形態領域指導地位的根本制度”[5]。以守正創新的理念加強改進學校主流意識形態建設,突出和鞏固馬克思主義在學校意識形態領域的指導地位。ChatGPT不同于以往的人工智能,它帶來的風險隱患很大程度上來源于與人類的直接對話交互,ChatGPT生成的內容或多或少帶有某種西方價值體系的傾向,但更重要的是接收者是否能客觀判斷信息的真偽。因此,面臨ChatGPT帶來的風險挑戰,加強青年學生對主流意識形態的認同,提高青年學生對意識形態內容的理性批判能力尤為重要。

一方面,建立以中國共產黨為領導的多方協作的意識形態責任制。其一,必須堅持中國共產黨的領導,為ChatGPT等生成式人工智能在學校的正確應用提供保障。在新一代人工智能加速發展的背景下,智能空間中的真假信息相互雜糅,非主流價值觀、文化偏見、錯誤思潮等多種帶有西方意識形態色彩的信息紛至沓來。對此,學校及其各級黨組織需堅持高揚馬克思主義主旋律,引領青年學生始終以社會主義意識形態為價值導向,在使用生成式人工智能獲取信息時保持自身主流意識形態判斷力。其二,積極促進多方社會力量協同參與學校意識形態風險治理,形成產學研一體化協作風險防范機制。學校和相關教育部門應牽頭各類人工智能研究所及大型科技企業展開深度協作,加強各部門在意識形態領域的協同合作,構建意識形態風險共治模式,通過整合各方優勢資源,打破技術壁壘以推動各部門實現數據共享。并加快研發針對意識形態領域的智能防控技術,從而應對ChatGPT對我國青年學生帶來的意識形態風險。

另一方面,在學校教育中要始終以社會主義意識形態塑造人、凝聚人、引領人。結合新形勢下ChatGPT的特點,創新教學方式,同時必須牢牢把握社會主義意識形態內容的權威性和精確性,以學生喜聞樂見的方式促進主流意識形態入腦入心。對此,要針對ChatGPT帶來的意識形態風險設置相關的教學內容,堅持用馬克思主義的立場、觀點、方法闡釋ChatGPT的運行邏輯和內在機理,總結分析ChatGPT話語生產的規律和特點,同時“加強對各種社會思潮的辨析和引導,不當旁觀者,敢于發聲亮劍,善于解疑釋惑”[6]。學校要做好“把關人”,重點教授防范和辨別ChatGPT中顯露的錯誤思潮和價值偏見,使學生能夠精準辨析非主流意識形態內容帶來的危害,不斷增強學生對主流意識形態的認同力和理解力,用強大的思想引領化解ChatGPT帶來的意識形態滲透風險。

(二)守正創新:推動意識形態教育數字化轉型

黨的二十大提出要“推進教育數字化,建設全民終身學習的學習型社會、學習型大國?！盵7]ChatGPT等生成式人工智能技術蘊含著巨大潛力,堅持守正創新,促進青年學生意識形態教育更加現代化、個性化、常態化。

首先,應用ChatGPT推動青年學生意識形態教育現代化。傳統的意識形態教育一般被認為是刻板枯燥的、“洗腦式”的教學,應用以ChatGPT為代表的新一代生成式人工智能嵌入意識形態教育是推動青年學生意識形態教育現代化的必要之舉和現實需要。一方面,將ChatGPT嵌入青年學生意識形態教育中有利于提升教學全過程的效率和質量。ChatGPT能夠幫助教師快速獲取豐富的教學資源和生成完整的教學計劃,把教師從繁瑣耗時的信息搜集整合任務中解放出來,使教師有更多的時間投入教學工作中。通過把ChatGPT引入課堂,將其與現有的在線學習平臺和智慧教室等現代化教育工具相結合,提升學生的學習體驗,增加學生的學習趣味,幫助教師更好地開展授課工作。另一方面,應用新技術融入教學有助于教育工作者把握青年學生意識形態教育的主動性。ChatGPT自發布以來,迅速在青年學生中出圈,學生們紛紛使用這項技術輔助學習?；谛聲r代青年學生積極擁抱新技術的鮮明特征,學校也需隨之應變,要求教育工作者把握青年學生意識形態教育主動性,盡早掌握新技術的內在規律,積極探索新技術與教育結合的新范式,并針對應用過程中的潛在風險做好預案,從而更好地推動青年學生意識形態教育現代化轉型。

其次,應用ChatGPT技術推動青年學生意識形態教育個性化。一般來說,青年學生意識形態教育通常采用思政課教學、主題教育活動、知識宣傳等方式,注重集體性、整體性,較少體現學生在價值教育中的主體地位。借助人工智能技術開展個性化定制學習,有助于優化意識形態教育的傳統模式,提升青年學生意識形態教育的教學效果和個性化水平。具體來說,通過利用ChatGPT的智能技術和算法,可以從以下方面推動青年學生意識形態教育個性化:其一,ChatGPT能為學生提供個性化學習內容。根據每位學生的學習偏好和學習能力,ChatGPT可以提供符合個體學習情況的教育資源和學習材料,使學生更好地理解和吸收相關知識,讓主流意識形態內容更易在學生內心生根發芽。其二,ChatGPT能為學生定制個性化的學習方案。差異化的學習方案可以適應處于不同階段不同專業的學生需求,在意識形態教育中采取差異化、個性化的學習計劃和指導方案,有利于不同專業特點的學生更好地掌握學科知識和技能。在科學的指導下利用ChatGPT為師生提供個性化幫助,實現因材施教,能夠有效提升意識形態教育的效果,助力青年學生“破繭”而出,促進青年學生意識形態教育個性化。

最后,應用ChatGPT技術推動青年學生意識形態教育常態化。意識形態教育是一項長期性、系統性的工程。黨的二十大報告中指出十年來我國“意識形態領域形勢發生全局性、根本性轉變”[8]。這離不開學校持續的青年學生意識形態教育常態化制度化管理,學校通常采取不限于定期舉辦主題教育、青年大學習、社會文明實踐等形式進行意識形態教育。立足新時代,在面對人工智能新形勢的情況下,利用好新技術的優勢創新教育形式,有助于推動青年學生意識形態教育常態化,將意識形態教育做牢、做實、做優?！癈hatGPT并非獨立存在,而是內嵌在互聯網平臺中,隨著其應用鋪開,能夠突破地域、時間和空間的限制,實現優秀教育資源面向大眾的全面共享?！盵9]隨著ChatGPT的發展,新技術可以與越來越多的平臺互嵌實現多樣化的功能,從而推動青年學生意識形態教育常態化,例如:ChatGPT通過與學習平臺結合能夠及時為師生提供在線學習資源,隨時隨地都可以享受高質量教育;ChatGPT通過與社交平臺結合可以為師生打造教育社群,促進師生之間充分交流和分享互動,得到及時的解答和支持。ChatGPT以實時對話的交互方式可以開辟更多的意識形態教育場所和應用圖景,融入師生的日常生活。同時在與ChatGPT的對話交互中,使用者可以在正確的思想引領下有意識地訓練和引導ChatGPT,使ChatGPT成為人們在學習和生活中的優秀對話伙伴,有助于推動青年學生意識形態教育常態化。

(三)規范保障:引導生成式智能技術向上向善

在正確價值引領下,通過制定規范、完善機制保障引導生成式智能技術向上向善是當前一項重要工作,也是依法治國的題中之義。面對以ChatGPT為代表的生成式人工智能技術的出現所帶來的一系列新風險,國家層面采取了積極的應對措施,2023年4月11日,國家互聯網信息辦公室發布《生成式人工智能服務管理辦法(征求意見稿)》,對生成式人工智能的提供者、信息來源、生成內容等作出了限制。學校是傳播主流意識形態的重要陣地,關于青年學生面臨的意識形態風險逐漸隱蔽化、多元化,對此,應當在國家政策的指導下盡快制定相關措施,細化舉措、落實責任,逐步引導生成式智能技術向上向善。

第一,通過制定規范引導生成式智能技術向上向善。在技術倫理層面,通過制定使用ChatGPT等生成式人工智能的道德準則,引導師生合理正確地使用ChatGPT,例如個人或群體將ChatGPT應用于意識形態教育中需要遵循科學的道德觀和價值觀,在范圍化開展教育活動前,應當對主客體進行智能素養、道德水平、思想動態等方面的考察。在法律規范層面,學校必須堅持實施和踐行國家政策方針,加強相關教育工作者和青年學生的法律意識,同時,隨著新技術的持續更迭發展,針對學校在應用生成式人工智能的實踐中出現的新情況應當予以記錄和重視,為國家制定相關法律規范提供素材,以更好地促進在法律規定下利用人工智能推動教育數字化轉型。

第二,通過完善機制保障引導生成式智能技術向上向善。內部規范是對個人、群體、行業作出的規定,但守好高校意識形態教育重要陣地還需要外部機制保障。針對人工智能帶來的風險和挑戰,同樣也要以科學的方式方法建立安全機制,充分維護意識形態教育邊界。為了充分發揮ChatGPT在青年學生意識形態教育實踐中的優勢,學校應當建立各類保護機制促進智能教育的安全發展。其一,要健全數據隱私保護機制。在使用ChatGPT技術時要注重隱私安全,對ChatGPT提問時謹防泄露師生的真實信息或其他原創成果數據,避免造成數據泄露的嚴重后果,同時在師生使用ChatGPT時設置隱私泄露風險預警提示,并通過開展講座等多種形式提高師生隱私保護意識?？梢源蛟烊^程監督機制和考核評價機制。其二,要構建針對ChatGPT全方位監管機制。通過多方協作展開對ChatGPT等生成式人工智能應用的協同監管,必須確保開發者訓練數據來源的全面性、真實性、公開性、透明性,并且對算法運行和算法推送進行有針對性的監管,避免非主流意識形態危害青年學生主流意識形態教育生態。

(四)人機協同:構建師生智能素養培育體系

隨著人工智能技術的發展,人機協同將成為教育領域的未來圖景。ChatGPT帶來的意識形態風險,與教育工作者和青年學生智能素養的普遍欠缺有密切關聯。做好新時代青年學生意識形態工作,要構建師生智能素養培育體系,以系統培養教育主客體的科技素養和人文素養,提升師生把握和處理人與技術之間關系的能力。

一方面,打造智慧教師傳遞人文溫度?！爸腔劢處煛卑瑑蓪雍x:其一是要訓練學校教育工作者懂技術、會技術,提升其智能素養,使ChatGPT成為輔助教師教學的智能工具。其二是要堅持教育工作者在青年學生意識形態教育過程中的主導地位,盡管ChatGPT有著巨大的算力和分析能力,但其輸出內容缺乏深度和創新,不利于學生的全面發展,作為教育者,需要用頭腦中的智慧與情懷拓展教育深度,注重教育過程中的情感交流和人文關懷,并不斷創新意識形態教育形式,用“暖”人情駕馭“冷”機器,更重要的是,教育者要把握好正確的價值導向,避免受人工智能所制,使受教育者在智能教育中能夠保持價值理性。

另一方面,要結合青年學生積極擁抱新技術的特征,開展系統化的智能素養培育體系。構建智能素養培育體系主要有兩大重點:一是提高青年學生對于生成式人工智能相關的知識和能力,二是培養青年學生使用生成式人工智能的正確態度和合乎倫理的應用方式。青年學生是未來社會的中堅力量,智能素養亟需成為青年學生的基礎性素養。因此,學校應當盡快開設系統化的智能素養教育課程,同時可以聯合其他社會資源開展各類與ChatGPT等人工智能相關的培訓與宣傳活動,此外,應當加快督促相關科技企業在產品說明中詳細呈現相應的提示和說明,讓青年學生在正確引導下能夠科學使用ChatGPT。