略談圖書館智慧服務管理因應之策
——從《生成式人工智能服務管理暫行辦法》頒行談起

許建業

人工智能作為引領新一輪科技革命和工業革命的重要驅動力，正在深刻改變著人們的生產、生活、學習方式。隨著生成式人工智能技術的興起，其對公共文化領域各類服務、運營業務和用戶體驗的潛在影響正逐漸顯現。作為社會記憶的知識存貯機制和公共文化服務重要組成部分的圖書館事業，在生成式AI 時代所面臨的挑戰與機遇不言而喻。根據第十屆海峽兩岸玄覽論壇的主題并結合工作實際，本人擬從國內新近頒布的《生成式人工智能服務管理暫行辦法》[1]研習角度，略談圖書館智慧服務管理因應之策，以就教于方家。

1 人工智能正在塑造人類的未來

人工智能（Artificial Intelligence，簡稱AI）是指通過普通計算機程序來呈現人類智能的技術。AI 核心問題包括建構能夠跟人類相似甚至超越的推理、知識、規劃、學習、交流、感知、移物、使用工具和操控機械的能力等。經過數十年來的探索實踐，人工智能已成為引領新一輪科技革命和產業革命的重要驅動力，正深刻改變著人們的生產、生活、學習方式，推動人類社會迎來人機協同、跨界融合、共創分享的智能時代。

盡管存在著道德、隱私、安全和偏見等多重社會問題，然而作為歷史上最重要的技術進步之一的人工智能，本質上是一場挖掘人類潛能的運動。通過信息互聯、泛在感知、數據關聯、資源整合、網絡協同、個性定制、全媒體傳播及深度延展，人工智能必將推動包括圖書館行業在內的社會服務個性化、精準化、智慧化。

1.1 人工智能技術在圖書館領域應用之現況

圖書館作為社會記憶的知識存貯機制，履行著人類文明傳承與發展的重要職能。人工智能技術在圖書館領域的持續運用，為圖書館的優化管理和服務效能的提升累積了經驗。迄今，應用研究熱點包括：人工智能在信息檢索中的應用研究、人工智能在社交媒體用戶內容分類及情感分析中的應用研究，以及人工智能在知識問答中的應用研究等。

1.1.1 國外圖書館相關實踐

主要通過設立圖書館人工智能實驗室、實施人工智能教育培訓，為用戶提供3D 打印、虛擬現實等技術共享訪問，定期舉辦人工智能程序設計、機器人技術改進、智慧城市建設研討等開展實踐。代表性案例有：1991 年美國加州州立大學北嶺校區率先使用圖書館立體書庫自動存取系統（ASRS）；德國洪堡大學和日本大阪市立大學圖書館運用AGV 創建的機器人，實現圖書搬運和放置自動化；新加坡國家圖書館與新加坡科技研究局合作研發的機器人AuRoSS 可實現在館內自我導航，通過掃描圖書RFID 標簽，自動生成缺失的和不按順序擺放圖書的檢查報告等。

1.1.2 國內圖書館實踐例證

國內圖書館界較多集中在智能圖書館建設和智慧服務研究方面。據楊子帥等人曾對國內96 所圖書館開展的調查顯示，39%的館應用了人工智能技術，其中虛擬參考咨詢機器人使用率為21%，圖像識別系統使用率為21%。部分圖書館逐步使用實體化智能機器人，如南京大學圖書館研發的“智能圖書盤點機器人”可自動快速識別圖書信息及所在架位信息，并完成自動上架;另一臺咨詢服務機器人“圖寶”可提供咨詢服務，包括迎賓引路、信息識別和中英文交流等。上海圖書館使用館員機器人“圖小靈”，主要在辦證處和中文書刊外借室接受讀者咨詢。國家圖書館智能機器人“小圖”擁有聽、說、視覺、運動和雙屏互動顯示能力，具有人臉識別、迎賓講解、智能交互、書籍檢索、讀者卡信息查詢等功能。此外，湖北省圖書館、沈陽市圖書館、浙江大學圖書館、南京圖書館等也在各自業務及相關服務中相繼使用了智能機器人。

1.2 生成式人工智能技術對圖書館發展將產生革新性影響

生成式人工智能作為一項基礎技術，未來將會影響各領域、各行業。與所有基礎技術運動一樣，人工智能工具也是建立在硬件基礎設施之上。隨著生成式人工智能技術的深度應用，由此引發圖書館的文獻資源重整、人力資源優配、服務空間再造、讀者需求細化、品牌活動集聚、業務管理優化、社會力量參與、辦館效益提升等系列變化也將陸續呈現。

據北美研究圖書館協會（ARL）于2023 年4 月開展的一次內部專題調查，參與調查的館長們預計生成式AI 應用對于包括元數據生成、研究發現工具和用戶服務等在內的業務均有影響，生成式AI 還會在信息濫用、偏見和版權等方面產生潛在挑戰，其對于學術誠信、出版發行、作者身份及科研活動的影響將持續顯現[2]。調研顯示，圖書館可以加強其信息素養教育，以協助其用戶理解和評估AI 所生成的信息。為此，重視館員的AI 知識、開發關于AI 的新型素養、對員工進行再教育及相關研討，都是作為研究機構的圖書館以AI 時代領航者身份發揮領導作用的機會[3-6]。

為促進生成式 AI 成功整合進圖書館業務，研究型圖書館啟動了相關人力資源研究與評估計劃，其過程涉及技能評估、延聘人才、與館外專家合作，培訓現有工作人員處理基于AI 的相關事務。通過將自身定位為其所在組織的資源提供者，圖書館在塑造校園的AI 政策和實踐方面扮演著關鍵角色。隨著研究型圖書館不斷圍繞生成式AI 開展研究、試點運行、發起新倡議及推出新服務，有助于其他圖書館運用AI 方面做出明智的決策。

2 《生成式人工智能服務管理暫行辦法》要點解析

2022 年末，由OpenAI 研發的ChatGPT 一經發布，瞬即引發全球對于生成式人工智能領域的廣泛關注。生成式人工智能技術，是指具有文本、圖片、音頻、視頻等內容生成能力的模型及相關技術。生成式AI 的異軍突起在催生新場景、新業態、新模式和新市場方面固然令人振奮，然而在為使用者提供便利與創新可能性之外，其所帶來的安全風險的確不容小覷。面對傳播虛假信息、侵害個人信息權益、數據安全和偏見歧視等社會問題，意大利、德國、法國、西班牙等國數據保護監管機構對ChatGPT 表達了擔憂或發起調查。因此，適時界定生成式人工智能技術內涵與外延、有效規定生成式人工智能服務提供者的制度要求，對于促進生成式人工智能健康發展和規范應用是十分必要的。

2023 年4 月11 日，國家網信辦就《生成式人工智能服務管理辦法（征求意見稿）》公開征求意見。2023 年7 月13 日，該辦聯合與國家發改委、教育部、科技部、工信部、公安部、廣電總局正式發布《生成式人工智能服務管理暫行辦法》并于8月15日起施行。該辦法的頒行，標志著國家層面對立法規制人工智能領域必要性和緊迫性的認識，旨在促進生成式人工智能的健康應用與規范管理，維護國家安全和社會公共利益，保護公民、法人和其他組織合法權益。該辦法共五章（包括總則、技術發展與治理、服務規范、監督檢查和法律責任、附則），計二十四條。強調堅持發展與安全并重、促進創新和依法治理相結合的原則，對生成式人工智能服務實行包容審慎和分類分級監管，明確了提供和使用此類服務的總體要求，提出了促進技術發展的具體措施，確認訓練數據處理活動和數據標注等要求；規定其服務規范，明確服務提供者在防范未成年人用戶過度依賴或者沉迷此服務的應對措施。還規定了安全評估、算法備案、投訴舉報等制度，明確了法律責任。

該辦法從規范體系、適用范圍、價值立場、責任主體等方面搭建了生成式人工智能服務監管框架。其要點體現在: （1）包容審慎和分類分級的監管原則；（2）安全評估和算法備案流程；（3）服務提供者的責任和義務；（4）境外服務提供者及外商投資規定；（5）訓練數據和模型改進的相關要求。簡言之，生成式人工智能服務的發展與治理需要政府、企業、社會、網民等多方參與，共同促進生成式人工智能健康發展，讓生成式人工智能技術更好地服務大眾。

3 生成式人工智能時代圖書館智慧服務管理的因應之策

人工智能技術的持續演進，對于當下智慧圖書館體系建設既是深刻的挑戰也是重要的機遇。除了在戰略層面上積極爭取國家及地方政府發展政策措施支持之外，更需要我們圖書館管理者、研究者和工作者以良好心態與職業素質主動融入人工智能時代。依據《生成式人工智能服務管理暫行辦法》，圍繞生成式AI 技術應用，圖書館智慧服務管理似應采取以下因應之策。

3.1 關注具體業務場景下不同主體的合規義務

隨著生成式人工智能技術在各行業各領域的創新試用，將會產生多樣化的合作模式。實務中，AIGC的服務提供者可能引入第三方技術，以向服務使用者提供服務[3-4]。為此，圖書館應系統梳理和明確相關合作模式，進而對業務場景和數據流向進行明確界定，對應落實不同業務場景之下的主體義務。

3.2 加強對服務項目內容合規評估與風險管理

首先，對生成與傳播內容進行合規性評估。除了《暫行辦法》明確要求的合規性評估，圖書館應盡可能避免依據生成式人工智能內容直接進行決策或采取行動，重要事項上建議以對輸出內容進行人工審核，并采取有效措施提高生成內容的準確性和可靠性。其次，強化對信息服務中生成內容的主動標識。提供者應根據《深度合成規定》對生成的圖片、視頻等內容進行標識，制定符合要求的清晰、具體、可操作的標注規則；開展數據標注質量評估，抽樣核驗標注內容的準確性；對標注人員進行必要培訓，提升尊法守法意識，監督指導標注人員規范開展標注工作。對使用其服務生成或者編輯的信息內容，應當采取技術措施添加不影響用戶使用的標識，并依法依規保存日志信息。提供智能對話、合成人聲、人臉生成、沉浸式擬真場景等具有生成或者顯著改變信息內容功能服務的，應當在生成或者編輯的信息內容的合理位置、區域進行顯著標識；提供非前述深度合成服務的，應當提供顯著標識功能，并提示使用者可以進行顯著標識。

3.3 注重圖書館用戶的信息權益保護

第一，建立切實可行的個人信息保護機制。嚴格履行對讀者用戶的輸入信息和使用記錄的依法保護義務與責任，依法及時受理和處理個人關于查閱、復制、更正、補充、刪除其個人信息等的請求。第二，設置未成年用戶防沉迷機制。圖書館就明確并公開其服務的適用人群、場合、用途，指導使用者科學理性認識和依法使用生成式人工智能技術，采取有效措施防范未成年人用戶過度依賴或者沉迷生成式人工智能服務。第三，設置用戶投訴、舉報通道，建立健全投訴舉報機制，設置便捷的投訴、舉報入口，公布處理流程和反饋時限，及時受理與處理公眾投訴舉報并反饋結果。

3.4 配合監管機構落實合規義務

首先，進行安全評估與算法備案。圖書館針對具有輿論屬性或者社會動員能力的生成式人工智能服務的，應按國家有關規定開展安全評估，并按照《互聯網信息服務算法推薦管理規定》履行算法備案和變更、注銷備案手續。其次，建立違規行為響應與報告機制。圖書館對于所提供服務中發現違法內容的，應當及時采取停止生成、停止傳輸、消除等處置措施，采取模型優化訓練等措施進行整改，并向有關主管部門報告。若發現讀者利用生成式人工智能服務從事違法活動的，應當依法依約采取警示、限制功能、暫?；蛘呓K止向其提供服務等處置措施，保存有關記錄，并向有關主管部門報告。再次，配合監管機構的監督檢查。針對主管部門依據職責對生成式人工智能服務開展的監督檢查，圖書館應當依法予以配合，按要求對訓練數據來源、規模、類型、標注規則、算法機制機理等予以說明，并提供必要的技術、數據等支持和協助。

4 結語

具有文本、圖片、音頻、視頻等內容生成能力的模型及相關技術，構成了生成式人工智能技術服務基礎。在公共文化服務大數據應用及特定場景方案運用基礎上，其為圖書館智慧服務提供了諸多可行性及便利條件，但也不可否認會帶來相關社會問題。正確處理好人力、數據、算法、知識產權等方面的關系，對于促成人機融合的智慧服務體系、實現人工智能社會價值的理性回歸，顯然是極為重要的。隨著生成式人工智能技術不斷迭代，可以預見其服務應用場景將更為豐富，后續的監管挑戰與合規要求也將更為細化，圖書館智慧服務與管理必將與時俱進。