從知識困境到認知陷阱:生成式技術驅動型信息生態系統安全問題研究

白 云 李白楊 毛 進, 李 綱

(1.武漢大學信息管理學院,武漢,430072; 2.南京大學數字經濟與管理學院,蘇州,215011; 3.南京大學數據智能與交叉創新實驗室,南京,210033; 4. 武漢大學信息資源研究中心,武漢,430072)

1 生成式人工智能技術:信息生態系統的新變量

信息生態系統是由信息資源、信息載體、信息傳播者、信息接受者及其相互作用環境構成的復雜系統,其組成要素可以簡單地分為人、信息和信息環境[1]。在信息生態系統中,信息是核心和基礎,既是人類認識世界和改造世界的工具和載體,也是人與人之間交流與合作的橋梁和紐帶;人類是主體和參與者,通過各種方式獲取、處理、傳播和利用信息;信息環境則是背景和條件,對人類的信息行為產生影響和制約。這些要素通過復雜的相互作用和影響,形成了一個動態變化、具有自我調節能力的有機整體[2]。

隨著生成式人工智能技術在各個領域取得突破性進展,信息生態系統正面臨前所未有的挑戰與機遇。首先,該技術實現對知識和內容的深入挖掘、關聯與重組以及海量非結構化數據的深度整合,并產生全新見解。人類社會知識總量將出現指數級增長,個體需要采用新的認知方式來適應更短的知識更新周期。其次,該技術帶來豐富的信息載體和互動式體驗,增強了用戶的主動性與創造性。相比傳統的被動接收信息方式,在此模式下,用戶不再是信息的被動接受者,而是內容互動的參與者和共同創造者,這一用戶角色的轉變必然會催生認知方式和信息處理模式的變革。此外,該技術可以跨越物理和網絡壁壘,實現全球化知識社群的實時鏈接。信息高連接性與高隨機性交流也使得個體認知過程面臨來自不同文化與社會的復雜影響,要求個體適應更廣泛的知識互動與認知沖突。

本文將這種以生成式人工智能技術為核心,以數據、算法與算力為支撐,以多樣化的信息載體與交互方式為表現,支持并推動整個信息環境中知識傳遞與共享、認知流動與擴散過程的新型信息生態系統定義為生成式技術驅動型(generative AI-driven)信息生態系統(如圖1所示)。該系統包含三個基本要素:①數據源與知識庫為生成式技術提供豐富的訓練數據與知識基礎;②生成式算法負責對輸入信息進行處理與分析,并根據用戶需求生成有針對性的內容;③交互界面與用戶代理提供友好、靈活和個性化的用戶界面以及多樣化交互方式。

圖1 生成式技術驅動型信息生態系統架構

生成式工具提高了信息的獲取、傳播與生產效率,增強了信息的傳播力和影響力,拓寬了信息消費的范圍和深度,優化了信息服務的模式和體驗,為信息環境注入新的動力,形成了兼具復雜性、自主性、適應性和開放性等特征的新型信息生態系統范式[3],這一范式必將深刻影響內容消費的方式和體驗。

然而,該技術也引發了諸如知識真實性、完整性、可靠性以及認知中立性、多元性、客觀性等方面的挑戰。一方面,該技術具有較高的自主性與靈活性,在其生成過程中可能出現偏差或錯誤,導致其輸出結果與預期目標不符或存在質量問題。另一方面,該技術具有高度仿真性與隱蔽性,在其輸出結果中可能存在虛假或誤導性信息,用戶往往難以辨別真偽,以致產生錯誤認知。

因此,如何鑒別與防范由生成式人工智能技術產生或引發的知識安全風險,以及如何提高和保障由生成式人工智能技術影響或參與的用戶的認知安全水平,都是值得關注的問題。本文旨在分析生成式技術驅動型信息生態系統的特征、優勢與風險,并探討如何構建高效、可靠、安全與可持續發展的信息生態。

2 知識與認知的協同演進:信息環境多維視角解析

信息環境是人類和自動化系統觀察、定位、決策和行動的基本環境,它由個人或群體接觸可能的信息及其傳播后的總體構成[4]。根據信息對人類作用機制的差異,可以將其簡單劃分為兩個維度:知識環境(epistemic environment)和認知環境(cognition environment)。知識環境為認知環境提供豐富的信息資源,而認知環境則決定了人們如何獲取、理解和應用知識。兩者之間的相互作用和協同演進關系,不僅促進了人類的知識創新和智力發展,也對社會的進步和發展產生了深遠影響。

2.1 知識環境——信息資源與服務的客觀存在

知識環境是由信息資源(包括人類創造、積累的知識體系、理論、方法、規范等)和信息服務(包括提供信息獲取、創造、傳播和應用的平臺、工具、機制等)組成的客觀存在[5]。知識環境為人類提供了認識世界的基礎與條件,決定了人們可以獲取和使用的信息資源的數量、質量、結構和分布,主要受到技術、政策、文化等因素的調節[6]。

2.1.1 知識環境的演變與研究

知識環境的研究起源可以追溯到20世紀中葉,隨著知識管理和信息科學的發展,學者們開始關注知識環境的構成、特征及其對人類認知和行為的影響。例如,美國信息科學家Shannon和Weaver在他們的著作《數學信息論》中,提出了信息傳遞和通信系統的基本原理,為理解知識環境中的信息流動和傳播奠定了基礎[7]。

隨后,學者們對知識環境進行了進一步的研究和拓展。例如,英國社會學家Giddens在他的《現代性的后果》一書中,探討了現代社會知識環境對個體和社會的影響,強調了知識環境的動態性、多樣性和相互關聯性[8]。此外,瑞典圖書館學家Hj?rland在信息領域提出了“領域分析”的方法,關注知識環境中各個學科領域的特點和發展,為知識組織和檢索提供了新的理論支持[9]。

2.1.2 知識環境的特性與發展

知識環境這一概念誕生于20世紀后半葉,它是對認識論的一個擴展和更新[10]。與傳統認識論主要關注知識本身不同,知識環境從更廣泛的角度審視知識產生和傳播的物理、社會和文化因素。在知識環境中,知識被認為是一種動態的、互動的、情境化的以及與價值相關的過程,而非靜態的、孤立的、普遍化的、客觀的產品[11]。

知識環境研究涉及計算機科學、信息學、認知科學、心理學、社會學等多個學科領域,作為一門新興的交叉學科,該研究的興起與信息技術的發展密切相關?；ヂ摼W的誕生和普及為知識環境的研究提供了豐富的實踐背景和理論基礎。隨著生成式人工智能等技術的不斷發展,知識環境將繼續向更高層次、更廣領域拓展,為人類的知識創新和傳播提供更為強大的支持。

2.2 認知環境——信息感知與接受的主觀意象

認知環境是由人類對信息的認知需求、方式、能力以及相關的觀念、態度、價值觀和信念等組成的主觀意象,反映了人類對世界的感受與評價,決定了人們對信息資源和信息服務的選擇標準和評價方法[12]。認知環境主要受到個體自身以及社會輿論、政治宣傳等條件的約束[13]。

2.2.1 認知環境的起源與發展

認知環境的概念最早由美國心理學家Gibson[14]在他的《感覺系統視為知覺系統》一書中提出。Gibson認為,人們的感知和行動不僅僅受到物理環境的影響,還受到社會和文化環境的影響,因此,認知環境應該包括多種因素,如物理環境、社會環境、文化環境、工具和技術以及人類自身的認知特征,如認知結構、認知過程和認知策略等。例如,美國心理學家Bruner等[15]在《行為的意義》一書中提到“意義建構”的概念,認為人們對信息的理解和組織是基于其對信息意義的構建而實現的。

認知環境的研究也隨著信息時代的到來而逐漸興起,被廣泛應用于教育、心理學、人機交互等領域[16]。學者們進一步擴展和細化了認知環境的概念,提出了“認知工具箱”(cognitive toolkits)的概念,認為認知環境不僅包括物理環境、社會環境和文化環境,還包括人們使用的各種工具和技術,如計算機、網絡、軟件等[17]。這些工具和技術不僅改變了人類對信息的處理方式,也進一步塑造了人類的認知環境。

2.2.2 認知環境的特性與應用

認知環境具有多樣性和可塑性,它既可以改進個體或群體對于已有或新獲得知識內容進行加工或創新時所采取的策略或方法,也可以限制或阻礙其認知活動的開展。高水平的認知環境可以促進個體進行深入而批判性的思考,并形成自己獨立而有價值的見解或貢獻。

認知環境是一個涵蓋多種因素的復雜概念,包括人類對信息的認知需求、方式、能力、觀念、態度、價值觀和信念等。認知環境的研究為理解人類認知過程及其與外部環境的關系提供了寶貴的見解,不僅有助于深入理解人類認知的本質和規律,還能夠指導和促進人機交互技術的發展,加快教育和社會的數字化轉型。

3 信息生態系統智能化變革

伴隨著科技的飛速發展,信息環境的特性也在不斷演變,主要體現在以下幾個方面:首先,信息資源的規模和多樣性持續擴大,涵蓋了各個領域和層面的知識和數據;其次,信息傳播的速度和范圍不斷拓寬,構建出碎片化、多元化、實時化和互動化的信息流;再者,知識創新的周期和強度日益加快,對快速獲取、處理和應用信息的能力提出了更高要求。如何在信息環境中高效利用資源,提升知識創新和傳播的效率,已成為亟待解決的重要課題。在此背景下,生成式技術應運而生,成為構建智能化信息環境的理想選擇。

3.1 信息交流方式變革

信息生態系統的智能化進程首先體現在信息交流方式的變革。交流作為推動認知進步與社會進化的基石,其模式正由人與人自然交流轉向人與系統之間持續的深層次互動,即智能交流。

作為交流主體,生成式系統擁有自身的知識結構、理解框架和表達方式。它能夠進行自然語言理解,圍繞復雜話題與人進行深入探討,并在此交流過程中不斷學習、修正和更新自身的知識與觀點。這使人與系統之間的交互充滿挑戰,但也使人獲得全新的認知體驗。

與人際交流相比,智能交流能夠提供更廣泛、準確的知識、新穎的思考角度與觀點、對人思想的更深入理解與更高的交流效率、對社會規律與群體心理的深刻理解,并以更高效率、更低成本實現大規模個性化的交流,同時排除偏見與情緒干擾,提供客觀公正的信息與建議。

3.2 社會認知體系變革

信息生態系統的智能化進程伴隨著社會認知體系的轉變。

首先,隨著智能系統知識庫的不斷豐富與理解能力的提高,個體通過與智能系統的持續互動接觸更廣泛的跨學科知識,不斷拓展其認知疆域。更頻繁的知識更新周期也要求個體持續檢驗并修正其原有的認知結構與思維模式。此外,長期與智能系統互動,還要求個體提高社會認知能力,不斷理解與感知智能系統這一“他者”的知識結構、思維模式與交流特征等。在長期互動過程中,個體將與智能系統共同構建全新的交流范式、理解框架與行為規范。

智能系統的知識發現與鏈接功能也將重塑群體的共享知識框架與分類體系。新的知識創作路徑也將改變知識社群內部專業分工模式與協作方式。此外,智能系統實現知識全球流動與交流,加速與擴大不同群體之間知識的互動與影響,這要求各知識社群提高對外來知識與見解的感知與理解能力。同時,不同群體也需要在知識更新速度與理解框架上實現協調,以促進知識創新的有序進展。

綜上,個體與群體在與智能信息生態系統的互動過程中形成的相互依賴關系與認知協同進化,必將共同推動社會認知體系的深刻變革。

3.3 生成式技術驅動型信息生態系統作用機制

生成式工具作為智能化信息世界的中樞,既可以被看作是一種模擬人類認知過程的技術,也可以被看作是一種解決復雜問題的工具,其作用途徑與人類大腦的左右半球分工類似。

左半球作為知識環境的智能樞紐,指包含各種數據源和知識庫的邏輯思維空間,主要負責分析推理、決策支持等功能,為系統提供豐富多樣且可靠有效的資源[18]。右半球則是認知環境的控制中心,指包含各種交互界面和用戶代理的感性思維空間,主要負責創造內容和提供用戶體驗,通過多樣化、富有表現力的數據載體和交互方式展示資源。左右半球通過共同處理和整合信息實現協同工作,成為信息環境的主要智能來源和調節主體。

一方面,生成式工具可以提供準確、高效、全面的知識服務,具備自動化生成、整合和優化多元知識資源的能力,既可以通過改變用戶獲取和使用信息的方式和效果影響用戶的知識認知和理解水平,又能提供不同類型和層次的信息服務,以滿足或引導個體或群體的認知需求,從而促進或限制認知環境的變革。

另一方面,生成式工具還可以作為信息中介和私域對話系統的構建者,與用戶建立緊密聯系的交互關系,引導和調控用戶主觀認知過程。通過改變個體或群體對信息的需求內容、程度和形式,影響其對信息資源和信息服務的選擇標準和評價方法,從而推動或阻礙知識環境的發展。

4 數字圍城:知識安全與認知安全面臨的挑戰

在生成式技術驅動型信息生態系統中,知識安全(epistemic security)和認知安全(cognition security)是兩個關鍵的概念,它們相輔相成,對于維護信息秩序具有重要意義。

作為信息源和用戶之間的關鍵紐帶,生成式技術采取的信息獲取和傳播策略,不僅決定信息流通方向和范圍,也深刻影響認知資源分配和認知差異產生。一方面,生成式技術為人類提供了豐富、高效、智能的信息獲取和內容創作途徑,減輕了人類對認知資源(如記憶力和注意力)的消耗,并激發了人類對想象力和創造力的發揮。同時,生成式技術也為人們提供了模擬多種可能性、預測最佳結果的能力,從而避免個體的主觀偏差和認知局限性,促進決策方案的創新和優化[19]。然而,這也潛在地構建起“數字圍城”的框架。高度定制的信息雖然可以迎合個人需求,卻有可能加劇信息繭房與群體極化效應,最終形成知識困境與認知陷阱。

4.1 知識困境

知識安全,即知識本身及其相關屬性(如真實性、可靠性、完整性、所有權等)不受侵犯或破壞的狀態[20]。知識安全是保障信息質量、價值以及完整性和可信度的關鍵要素。

生成式人工智能技術的自主生成和自我學習能力,使其可以突破傳統知識獲取和處理方式的限制。然而,由于其生成過程缺乏可控性,生成的知識內容往往難以保證真實、完整、可靠,甚至可能存在知識所有權等方面的問題。這些因素共同作用,加劇了知識困境難題。

具體來說,生成式技術在獲取、整合和呈現知識的過程中可能存在錯誤和偏差,導致輸出的知識與原始數據相悖,出現信息失真和篡改的問題,從而影響知識的真實性。此外,生成式技術在面對多元、碎片化的信息來源時,可能會因算法偏好或過濾泡沫效應而導致部分知識被過度強調,而其他重要知識被忽略,從而限制了知識的完整性、多樣性和廣泛性。

此外,由于生成式技術的黑盒效應,算法在篩選和整合數據時無法完全保證準確性,其生成過程和結果難以理解與驗證,因此極有可能存在可信度下降的問題,這種情況在處理大規模、復雜數據源時尤為明顯。

最后,生成式技術的產生和應用也給知識所有權帶來了新的挑戰,如何平衡創新和保護之間的關系,以及如何確保知識創造者的權益得到保護,也成為了一個待解決的難題。

4.2 認知陷阱

認知安全涉及認知主體(如個人、群體、組織等)在知識獲取、處理和應用的過程中,保持其價值觀和思維方式免受誤導、操縱以及侵蝕或改變的能力[21]。認知安全關乎個體和社會的價值觀及意識形態。

鑒于生成式人工智能展現的巨大效益,公眾不可避免地會對其產生高度依賴。然而,這種依賴可能導致認知主體在運用這些知識時,忽視該技術的非理性和非客觀特性,從而不自覺地陷入如認知誤導、認知操縱和認知同質化等認知陷阱,進一步影響其價值觀、判斷力和決策能力。

首先,在特定場景下,生成式技術產生的誤導性信息可能導致認知主體在知識獲取、處理和應用過程中出現偏差。這些偏差可能來自于算法本身的偏好、數據來源的局限性,或者對多語境、模糊和歧義信息的誤解。長期受到這類誤導性信息的影響,可能會對認知主體的心智健康、價值觀和認知多樣性造成損害。

其次,生成式技術可能被惡意利用,從而對認知主體的觀念、情感和行為產生操控。操縱者可通過制造虛假或具有偏見的信息,在一定程度上控制認知主體的思維方式和行為。這種認知操縱對個人和社會的安全、穩定和健康構成潛在威脅。例如,利用生成式技術制造的虛假新聞可能被用于實施網絡暴力或擴散極端言論,甚至可能影響選民的投票行為。

最后,認知同質化是個體或群體在觀念、信仰、態度和行為模式等方面呈現較高相似性的一種現象,該現象在大量認知主體過度依賴相似的算法和數據源(如生成式工具)時尤為顯著。這種現象可能導致公眾的認知多樣性逐漸減弱,進而引發諸如思維僵化、易受操縱和誤導等問題,最終對個體與社會的獨立思考和創新能力產生負面影響。

5 生成式人工智能安全發展多元框架

隨著生成式人工智能技術的蓬勃發展,伴生而來的安全挑戰日益凸顯。為確?？萍紕撔屡c人文關懷的有機結合和平衡發展,需要構建科學、規范、有效的管理和監督機制。本文提出了一種多維視角下的生成式人工智能安全發展框架,涵蓋技術創新、政策干預、倫理建設層面,旨在探討提升知識安全和認知安全的舉措,引領生成式人工智能技術朝向更安全、客觀、可持續的發展方向邁進。

5.1 技術創新:生成式人工智能安全發展的基石

作為生成式人工智能安全發展的核心動力,技術創新強調采取技術手段來確保系統的安全性、魯棒性、公平性和可解釋性。具體而言,技術創新主要包括以下三個方面:

(1)算法優化。算法優化是生成式人工智能技術發展的關鍵環節,旨在提供對多語境、模糊或歧義信息的準確解讀,提升生成式技術的實際應用價值。同時,為了減少偏見和歧視風險,算法優化也需要關注公平性、多樣性和包容性原則,以實現多元化和廣泛適用的生成式人工智能技術愿景。此外,還應強化算法的可解釋性和透明度,使公眾能夠更好地了解算法工作原理,認識到其潛在風險。

(2)安全性提升。安全性提升是確保生成式人工智能技術可持續發展的前提,旨在保障生成式技術在應對各種安全威脅時具備充分的彈性與魯棒性。安全性提升需要研究和應用對抗性攻擊防御技術,以阻止惡意內容傳播,抵制不道德、有害或具有誤導性的信息。同時,也需要完善對抗生成攻擊方法,以適應不斷變化的威脅。

(3)技術整合。技術整合是發揮生成式人工智能技術優勢的重要手段,旨在通過將生成式技術與其他技術融合,構建綜合、精準的知識庫和服務平臺。例如,結合知識圖譜技術實現更高質量的信息展示服務;結合情感分析和個性化推薦技術實現精準、針對性的內容呈現;結合區塊鏈等技術實現生成內容的溯源和版權保護等。

5.2 政策干預:生成式人工智能安全發展的前提

政策干預在生成式人工智能安全發展中起到關鍵支柱作用。政府和監管機構為生成式人工智能安全發展提供堅實保障,在確保信息安全方面承擔重要責任。

當前,我國已初步建立起人工智能技術監管法規體系。2021年,國家互聯網信息辦公室發布了《互聯網信息服務算法推薦管理規定》[22],對算法模型的訓練、應用等過程提出監管要求。同年,又發布了《互聯網信息服務深度合成管理規定》[23],這是我國第一部針對深度合成技術的專項管理規定。該規定明確了深度合成服務提供者、技術支持者和使用者的權利義務,要求建立內容審核、技術認證、特征庫建設等機制,以規范深度合成技術的應用。2023年7月,《生成式人工智能服務管理辦法(暫行)》[24]的頒布進一步明確了生成式人工智能服務提供者的義務和責任,要求建立內容審核機制,加強技術安全防范,保護用戶隱私權益,確保生成內容符合法律法規和社會規范。

盡管我國在生成式人工智能技術監管方面已有一定法律法規基礎,但監管力度不足、處罰不嚴等問題仍較為突出。另外,監管部門專業人才和技術設備短缺,也制約了監管效能的發揮。為健全生成式人工智能技術監管機制,需要將數據治理、算法審查和結果評估三個關鍵環節統一納入監管視野,并針對每一環節制定科學系統的監管措施。

(1)數據治理。監管部門應構建科學的生成式人工智能數據質量評價體系,建立數據代表性、完整性、準確性、無偏性等多維指標體系,要求技術提供者強化數據凈化流程,定期開展訓練數據檢測優化,確保輸入數據符合公平性和認知安全規范。此外,還應加強源數據的屬性標注與歸屬追溯,降低算法訓練過程中的數據泄露與濫用風險,保護數據提供者的隱私權益。

(2)算法審查。監管部門應建立算法解讀規范,要求技術提供者詳細披露核心算法模塊的設計思路、訓練優化過程和績效評估指標,接受相關機構和第三方的審核。同時,應建立算法決策過程審計機制,設置關鍵節點的輸出結果監測,形成算法運行日志,確保算法決策過程的可解釋性和可審計性。此外,應當制定算法失效和不當決策的責任追究制度,明確算法責任主體,強化算法決策的合規性。

(3)結果評估。監管部門應建立內容標識與披露制度,明確提示用戶生成內容的來源和可靠性限度。對某些高風險類別的關鍵信息,應設置人工審查關卡,避免對公共認知產生負面影響。同時,還應建立外部質疑反饋平臺,及時回應社會各界對特定內容的合理懷疑,對存在錯誤的信息進行糾正,維護知識權威和認知安全。

5.3 倫理建設:生成式人工智能安全發展的保障

倫理建設是生成式人工智能安全發展的根本保障,重點關注技術應用對個人、群體和社會的影響,以及技術應用與發展所需遵循的道德準則和價值取向。倫理建設需要從社會、文化、倫理等多維度審視技術發展,強調尊重人的尊嚴與價值,確保技術應用在尊重個體權利、公平決策和社會責任原則指導下健康發展。

(1)個體權益。技術研發和應用中都應將隱私與安全的具體方案融入系統設計,如采用加密、訪問控制等手段強化用戶隱私和個人數據的安全性。此外,開發者還應向用戶提供一定的參與權和選擇權,允許其對功能使用、信息接收等作出選擇,避免依賴系統的全自動決策。監管部門應要求技術提供者主動公開可能存在的負面影響,并接受外部審核專家的評估,以保障個體權益免于侵害。

(2)群體公平。應構建獨立的算法審查部門,由來自不同領域的外部專家對核心算法進行深入審查,識別模型中可能存在的群體歧視性偏見,并要求技術提供者在模型設計中加入針對敏感特征的去偏處理方案,增加評估樣本的廣泛代表性,引入評測模型對不同群體是否產生不公平差異的指標,以有效約束算法決策中的群體偏見。

(3)社會影響。政府可牽頭建立專門的生成式人工智能倫理委員會,通過定期評估技術進步對社會各界的影響并制定相應監管規范,完善技術社會影響評估和預警機制,鼓勵各界共同承擔技術進步可能帶來的社會責任。同時,應加強人文素質教育和科技倫理法規體系建設,增強社會公眾對技術進步影響的理性認知。此外,企業和行業組織也應加強倫理自律,制定符合行業特色的道德規范和消費者權益保護措施,并建立自律的運營評估和失信懲戒機制,共同提升生成式人工智能技術的倫理水平。

6 結語

知識競爭與認知差異日益加劇,必須在加速技術創新與應用的同時,密切關注其對社會產生的影響。本文從知識環境和認知環境兩個維度入手,對生成式技術驅動型信息生態系統的特征、優勢與風險,進行了初步的探索和分析,提出了以下主要觀點:

(1)生成式人工智能技術是信息生態系統的新變量,在知識創造、組織與應用中發揮著關鍵作用,不僅決定著知識環境的構成,也深刻影響著認知環境的形成與演變。

(2)知識環境是生成式技術驅動型信息生態系統的基礎和條件,它決定了信息資源的數量、質量、結構和分布,以及信息服務的模式和體驗。認知環境是生成式技術驅動型信息生態系統的目標和結果,它決定了用戶如何獲取、理解和應用信息,以及信息對用戶的影響和作用。

(3)知識安全和認知安全是信息生態系統的核心問題。前者涉及信息資源的真實性、完整性、可靠性等方面,后者關乎用戶的認知中立性、多元性、客觀性。

本文的研究意義和價值在于:一方面,本文填補了當前關于生成式人工智能技術對信息生態系統影響的研究空白,為理論研究提供了新的視角和框架;另一方面,本文為生成式人工智能技術的安全發展提出了應對建議,為實踐和決策提供了有效參考。然而,本文仍存在一些局限性和不足,未來將從以下幾個方面繼續拓展和深化:

(1)從構成要素、運行機制、功能特征,以及在不同場景中的適用性與效果等方面,對不同類型的信息生態系統進行更加深入的對比研究。

(2)探討生成式技術對人類認知和思維方式的影響,尤其是在涉及價值觀、倫理道德等方面問題上的影響。同時,探索如何通過教育培訓等方式,提高公眾的科學素養,降低知識安全和認知安全風險。