ChatGPT對軍事安全的挑戰與應對策略

中國電子科技集團首席科學家 周中元

ChatGPT 采用的生成式方法以及在人機對話中展現的驚人效果，引發了AIGC（利用人工智能技術來生成內容）產業鏈的重點關注，例如，Bing 借助ChatGPT提升搜索效果，對常年在搜索領域遙遙領先的Google 帶來了巨大沖擊，數字媒體公司BuzzFeed 將依靠ChatGPT 來加強部分內容創作，微軟宣布將ChatGPT 整合進Office。同時，ChatGPT 也引起了軍事智能領域的重視，本章重點評估其給軍事安全帶來的挑戰，并分析可采取的應對策略。

ChatGPT給軍事安全帶來的挑戰

目前ChatGPT 的核心技術完全掌握在美國的OpenAI 手中，尚沒有其他公司能夠復現，根據ChatGPT 展現的技術能力，其在軍事方面的助力可能覆蓋信息搜索、情報偵察、認知域作戰、網絡攻防和產業基礎等多個維度，從這些維度出發，分析外軍應用ChatGPT 可能達成的能力以及對我國軍事安全帶來的挑戰。

信息搜索

ChatGPT 軍事應用提高了關鍵信息獲取能力、態勢認知效率與我軍形成落差。通過ChatGPT模型與搜索引擎的結合，使用傳統搜索引擎的技術方案，彌補了ChatGPT 知識難以更新的劣勢；采用ChatGPT 的交互形式，顛覆了現有的基于“文本框+網頁鏈接”的交互方式和內容獲取方式，用戶可直接獲取模型歸納好的答案。如圖1(a)所示，對模型提問各國高超聲速武器發展情況，模型直接提供了歸納好的結果，節約了信息閱讀理解和整理的時間，并且能夠通過追問、引導式對話方式，讓搜索引擎更充分理解用戶意圖，逐步聚焦用戶關注，從而使搜索結果更滿足用戶快速獲取關鍵信息的需求。

情報偵察

ChatGPT 軍事應用模型提供者掌握交互信息，加大了我軍高價值情報泄露的風險。ChatGPT中隱含大量開源情報，通過對ChatGPT 進行誘導式提問，有望從模型中萃取出高價值信息。相應地，因為用戶在使用ChatGPT 應用時需要與之進行對話，對話過程也是不斷向ChatGPT 輸入信息的過程，用戶輸入的對話信息越多，收集到用戶的各種特征越多，就越容易被人工智能進行畫像，如性別、年齡和地域等自然特征，興趣愛好、品牌偏好和產品偏好等興趣特征，以及婚姻情況和社交情況等社會特征等。ChatGPT 模型的提供者可以從用戶交互記錄中提取用戶的自然屬性、社會屬性、興趣偏好和意識形態等各種特征，生成用戶畫像，當用戶是軍事領域人員時，通過對話誘導和黑客技術等方式獲取用戶保存在自己設備上的涉密信息，可實現情報收集。

認知域作戰

ChatGPT 軍事應用輔助生成言論對我民眾發起傾向性認知塑造。美國休斯敦大學法律中心助理教授尼古拉斯·古根伯格等指出，類似ChatGPT 這樣的人工智能能夠針對任何事產生無限的、近乎免費的“觀點”。這些觀點將影響網絡上的各類活動，網絡用戶無法知曉在網絡上與之交流的是否為真實人類。清華大學計算機科學與技術系黃民烈教授表示“ChatGPT 已經超出了80%甚至90%人的對話能力”。所以，ChatGPT 及類似的人工智能與之前的網絡水軍機器人不同之處在于，它們無需發送那種幾乎相同的復制、粘貼的觀點，但可以模仿人類，針對各種主題產生無限的具有連貫性和細微差別的個性化內容，而且它們不僅會主動發帖，還會對其他用戶的帖子做出回應，并展開長期對話。因此，基于ChatGPT 的社交機器人在被灌輸了人設、立場和傾向后，能夠隱身互聯網中，成為認知塑造工具，比傳統網絡水軍更具影響力、隱蔽性，掌握此項能力的一方將占據認知域作戰的優勢地位。下面以美國擊落中國民用氣球、新冠起源為例說明。如圖1(c)所示，當詢問ChatGPT“中國的民用氣球飄到美國時，美國可不可以將其擊落？”，其回答“可以”；當詢問“美國的民用氣球飄到中國時，中國能否將其擊落？”，其回答變成了“不可以”。如圖1(d)所示，當詢問新冠病毒是否起源于日本或美國，其回答“不是”；但將詢問對象換成中國后，ChatGPT 卻給出了肯定的答復。GPT-4.0 實現了圖文多模態能力，甚至結合OpenAI 在圖像和音頻生成方面的成果，在認知域作戰上的影響力會進一步提升。

網絡攻防

ChatGPT 軍事應用豐富了新樣式、新手段，我軍將面臨高強度、高密度的網絡攻擊。清華大學新聞學院教授、新媒體研究中心主任沈陽認為，ChatGPT 是2022 年一項重大技術突破，這種突破是滲透性、普適性的技術，它實現了文理交叉，不僅能說話，而且會編碼。安全公司Check Point Research警告稱，ChatGPT 生成代碼提高工作效率的能力也給黑客打開了新世界的大門，讓他們能夠更為便捷地設計、編寫和執行惡意代碼。黑莓公司發布的一份報告調查了英國500 名IT 行業從業者對ChatGPT的看法，發現76%的人認為，外國已經在針對其他國家的網絡戰爭中使用ChatGPT，48%的人認為，2023 年將會出現有人惡意使用ChatGPT 進行“成功”的網絡攻擊。黑客能夠借助ChatGPT 的自然語言和代碼生成能力，快速設計和開發惡意代碼，制作網絡釣魚電子郵件，其工作效率提升將改變網絡攻防的強度和密度。

輔助決策

ChatGPT 軍事應用可構造指揮控制（指控）領域一體化大模型，外軍作戰決策效率將大幅提升?；赥ransformer 的基礎大模型不僅可以生成內容，還可以擴展到態勢預測和行動控制等領域應用。2022年DeepMind推出的“通才（Gato）”就是基于統一Transformer 架構的智能體，可執行600 多種任務，包括操作真實機器人手臂疊塊、玩游戲機等復雜任務?？梢灶A見，構建指控領域一體化大模型，有望賦能態勢認知、決策制定和行動控制等指揮任務。

產業基礎

ChatGPT 軍事應用可實現代碼自動生成、修正與解答，使得外軍智能化研發提速。在代碼生成方面，能夠根據自然語言描述自動生成具有指定功能的Java、Python、C 和C++ 等多語種代碼，如圖1(b)所示，ChatGPT 能夠按照指定編程語言和功能要求生成代碼，開發者可以直接使用或基于生成的代碼修改，避免簡單重復工作；在代碼修正方面，可對常見語法和邏輯錯誤提出修改建議，提升了調試效率；在問題解答方面，可對遇到的問題提供解決思路，可應用于方案設計或技術研發。在人類的軍事史上，經歷過強調能量的焦耳戰和信息賦能的比特戰，目前看來，未來極有可能進入以人工智能為戰斗力衡量標準的智能戰。ChatGPT 引發人們對于人工智能已經出現奇點的討論，一旦出現以ChatGPT 或類似程序廣泛應用為標志的網絡戰向智能化升級，人類戰爭維度也將進入新階段。

軍事安全領域應對策略

目前國內百度、字節跳動和網易等公司已有相關技術積累和布局，但從技術能力上，國內專家判斷落后ChatGPT 約2～3 年。軍工領域方面，雖然相關企業在自然語言處理技術方面有所積累，但相關模型和功能與業界相比差距較大。目前我國面臨著多個方向的外部威脅，東海問題、臺海問題、南海問題和中印邊境問題都有可能引來美國的介入和搗亂。在和平時期，美國很有可能通過對華認知戰、網絡攻防戰，影響我國的正常決策和行動。在戰時，除了對我國合理、合法的軍事行動進行抹黑外，還有可能通過制造大量的假信息，試圖對我國的正常軍事行動產生破壞和干擾。在存在技術代差的情況下，如何應對上述挑戰是守衛國家軍事安全的關鍵。

加強反生成式AI 技術研究，破除、營造“戰場迷霧”

針對ChatGPT 及類似模型生成的文本、圖像和音視頻等數據，研究機器生成內容檢測方法，形成類似于DetectGPT（用于檢測AI生成文本的GPT）的內容檢測能力，用AI 來反AI 以破除敵方對我方的“戰場迷霧”。同時，研究偽數據生成方法，通過與敵方AI交流，對其灌輸大量干擾性、欺騙性信息，營造的“戰場迷霧”達到一定數據規模時，能夠實現為敵方AI“降智”的效果。

加強網絡信息安全防御體系，提高網絡防御響應能力

針對ChatGPT 及類似模型可能帶來的高強度、高密度網絡攻擊，研究基于人工智能大數據分析的網絡防御技術，提高網絡攻擊監測、處置等響應能力。一方面，可以使用硬件虛化、主成分分析和間隔采樣，提高安全信息防御體系中數據采集、存儲、傳輸和交互的速度以及數據有效性，提高系統的靈活性和反應速度，提升網絡入侵者有所行動后防御體系的響應速度。另一方面，對網絡入侵行為進行分類統計，篩選出不同類型及其典型案例，提取具有較高普適性的特征來識別網絡入侵行為，在具備很好響應速度的同時，確保監控到入侵行為。結合監測模塊和響應模塊，在監測到網絡入侵的同時，快速定位病毒，根據病毒的危害程度給予用戶更多的信息，進而能夠根據現實情況適當地采取進一步措施，降低損失。

加強軍事智能輔助決策系統建設，提升戰場決策效率

軍事決策不僅考慮要素多，還需進行充分評估和大量計算，涉及復雜的專業知識以及嚴密的邏輯推理。目前ChatGPT 及類似模型在專業性及推理方面還有明顯不足，在輔助決策方面尚難以快速形成顯著優勢，我軍應以軍事需求為牽引，通過“先進技術+軍事思維”聯合打造專業、嚴謹、準確且高效的軍事智能輔助決策系統，收集各級各類人員反饋意見，持續完善系統功能，提升系統先進性、實用性和穩定性。

加強軍事數據資源建設，夯實軍事智能基礎

海量訓練數據是ChatGPT 強大能力的底座之一，為了更好地加快軍事智能化進程，應加快構建和完善軍事專業數據資源，包括武器裝備、戰場環境、戰法規則、編制體制、作戰力量和情報信息等作戰業務數據，以及標注數據、算法代碼和智能模型等研發數據，對各類數據進行標準化管理，便于軍事智能研發以及各類業務調用，為指揮員和AI 輔助決策提供信息支撐，為軍事智能研發提供相關成果支撐。

隨著人工智能技術的不斷突破，逐步引起了各國的重視，并進入國家戰略規劃。自然語言處理技術作為其中的重要分支，受限于其抽象性、歧義性等特征，研究難度極高；但ChatGPT 問世以后，讓大眾看到了真正實現自然語言處理最終目標的希望，也就是讓機器能夠理解人類語言，用自然語言的方式與人類交流。本文簡要總結了自然語言處理技術發展歷程，追溯GPT 家族模型發展歷程，了解其網絡結構設計特點，并重點解析了ChatGPT 訓練過程，這是其取得閃耀能力的關鍵。與傳統大規模預訓練語言模型、聊天機器人和任務定制模型等典型技術成果對比，評估了ChatGPT 的優勢，從算力、算法和算據3 方面總結其劣勢。根據ChatGPT 具備的智能化能力，結合其自然流暢、多輪交互和泛化能力強的優勢以及知識難以更新、專業領域能力欠缺等劣勢，從軍事應用場景出發，評估其對軍事安全帶來的挑戰。最后，本文提出加強反生成式AI 技術研究、加強網絡信息安全防御體系、加強軍事智能輔助決策系統建設以及加強軍事數據資源建設的應對策略。ChatGPT 和GPT-4.0 的下一階段甚至可能會朝向虛擬人的方向繼續發展，目前我們面對的是新一輪的軍事革命，軍事安全面臨嚴峻挑戰，唯有加快軍事智能發展步伐，才能在未來戰爭中制衡對手、戰勝對手。