美國的國防部大腦

☉[美]安妮·雅各布森 著 李文婕 郭穎 譯

2014年4月，我采訪了激光的發明者，諾貝爾獎得主查爾斯·H.湯斯。接受采訪時，湯斯教授馬上就要99 歲了，但他頭腦清楚，思路清晰，仍然能在加州大學伯克利分校的辦公室上班，撰寫論文，接受采訪。

我們討論的兩件事，令人印象深刻。湯斯告訴我，很久以前，他和約翰·馮·諾依曼分享自己關于激光的想法，馮·諾依曼告訴他，這個想法根本不會成功。

“你對此是怎么想的？”我問湯斯。

“如果你要嘗試新的東西，”他說，“就必須忽略批評。多數人對新想法持否定態度。他們想，‘如果我沒想出這個主意，它就一定不行’。人們必然會懷疑你?？墒悄惚仨毨^續，這就是你應該做的?！倍闋査埂拐沁@么做的。激光被認為是當代世界上，最重要的科學發明之一。

湯斯告訴我的第二件印象深刻的事，我自己也在這本書的前面提到過，他是看過阿列克賽·托爾斯泰1926年寫的科幻小說《加林死亡射線》后，受啟發而發明了激光。值得好好想一下，科幻小說的力量有多大。這個異想天開的，好像不可能的想法，可以啟發像查爾斯·湯斯這樣的人，發明完全改變現實世界的東西。

科幻小說可以深刻影響現實的想法，現在仍深深令我著迷。因為在為這本書做研究報告的過程中，我了解到，在恐怖戰爭中，國防部開始從科幻小說作家，特別是一個叫西格瑪組的民間組織那里，尋找靈感。這個組織的創始人阿蘭·安德魯斯（Arlan Andrews）博士說，成立這個組織的主要想法是，讓世界遠離恐怖主義。為了這個目的，西格瑪組為國防部和白宮提供“未來主義咨詢”。這個組織的座右銘是“國家利益中的科幻小說”。

負責保衛國家安全的人“需要想一些瘋狂的主意”，安德魯斯博士說，西格瑪組正是在這方面幫助國防部。他說：“我們（西格瑪）中的許多人，都有高技術領域的博士學位，其中一些人在聯邦政府和國防工業中工作?！卑驳卖斔故菃讨巍げ际部偨y任期內的白宮科學官，之前曾在位于新墨西哥州的國家核武器生產設施桑迪亞國家實驗室工作。他說對于西格瑪的成果，“我們每個人都是一部科幻小說的作者，虛構新技術、新問題和新社會，解讀可能產生的科學問題，猜測其對人類的影響”。

彼得·加勒森（Peter Garretson）中校是西格瑪組的一名成員，他是國防部的一名轉型戰略專家。2014年春天，加勒森安排我和另外兩名同事克里斯·卡特（Chris Carter）和蓋爾·安妮·赫德（Gale Anne Hurd）來到國防部?？死锼埂たㄌ刂谱髁恕禭檔案》有史以來最流行的科幻小說電視劇?！禭檔案》中的人物癌人是個處于政府陰謀中心的典型反面角色。赫德是《終結者》的聯合作者。這是一部科幻小說的經典之作，寫的是惡毒的人工智能機器天網，從未來派來一個半機械人刺客的故事。在《終結者》中，天網變得比制造它的國防科學家們更聰明，它發動了一場核戰爭，以此達到機器霸權和消滅人類的目的。

卡特、赫德是和我一起來國防部進行采訪報道并進行討論和觀察的，但不提供任何未來主義咨詢。我們到達國防部時，正值2014年一個溫暖的春日。這個五邊形的650萬平方英尺的五層建筑，就像是一個巨人。我們通過了安檢。安全協議要求我們無論去哪里，必須時刻有人陪同，就算去廁所也一樣。我們來到國防部庭院吃午飯，那里有草坪、高大的樹和木制野餐桌。加勒森的同事朱利安·契斯納特（Julian Chesnutt）中校和國防部國防情報局、國防秘密行動局一起，在國防部庭院中心，告訴我們一個關于國防部的故事。這里現在是一個美食廣場，但曾是個熱狗攤。契斯納特解釋說，在冷戰的頂峰時期，衛星技術剛剛出現，監控五角大樓的蘇聯分析員確信，這個建筑是個像導彈發射井之類的地下設施的入口。分析員們對于每天有數以千計的人出出進進這個建筑，找不到別的解釋。很明顯，蘇聯并沒有挑明這一點，整個冷戰期間，熱狗攤和五角大樓的其他地方一直是監控目標。這是一段秘史，每個人都想知道，五角大樓下面到底有什么，據說地下有很多層。

午餐期間，坐在一個長野餐桌旁，我們與一群國防部“未來思想家”就科學現實和科幻小說發起了一場發人深思的對話。這些國防知識分子中，許多人都有博士學位，他們來自不同的軍種，年齡從三十歲到六十多歲。其中一些人曾去過伊拉克戰場，其他人則去過阿富汗。這些“未來思想家”很熱情，想法大膽，獻身國家安全的決心毋庸置疑。這些人就是國防部決定未來的智庫。

午飯后，我們來到E-環區域，這里是參謀長聯席會議和國防部長所在地。這里像迷宮一樣的走廊上，有嗡嗡響的熒光燈。我們穿過許多安全門，上上下下多層樓梯。最后，我們來到了國防部長辦公室的門廊。走廊墻上掛著真人大小的前國防部長們的油畫像。我看見了本書中涉及的五位前國防部長畫像。尼爾·麥克爾羅伊讓國會批準成立DARPA，他承諾DARPA 負責管理美國宏大的未來武器系統，后來確實也實現了。羅伯特·麥克納馬拉相信，智力和系統分析可以贏得戰爭，為達到這個目的，他為國防部高層梯隊招募了有奇才的孩子。作為氫彈武器的發起人，哈羅德·布朗是第一個物理學家國防部長，為美國提出了補償策略——使指揮官有跨大陸發起戰爭的能力。迪克·切尼向世界展示了壓倒性武力可以實現特定目標。唐納德·拉姆斯菲爾德向世界展示了“以網絡為中心的戰爭”。

當我們穿過走廊，欣賞國防部墻上的裝飾藝術作品和武器系統照片時，我們這一組人又像討論科學現實和科幻小說一樣，展開了話題。一個官員說，他辦公室有一張癌人的海報；另一個官員說，作為辦公室社會事件，他的國防小組制作了正面寫有“天網”字樣的棒球帽?？苹眯≌f具有巨大的力量。正因為卡特和赫德的科幻小說作品，許多有心人至少確信了兩個科幻小說概念：其一，（正如《終結者》中的一樣）人工智能機器有很大的潛能，可以比它的人類制造者更聰明，并發動核戰爭；其二，（像《X 檔案》中一樣）政府有專門維持某些秘密的部隊。作為記者，我得知，這些概念也存在于現實世界。人工智能殺人機器人和美國政府，以國家安全的名義，保守著秘密。我還發現，一些五角大樓最強大的機密和戰略就藏在眼前。

在五角大樓報道之旅后的第二天，我去見了邁克爾·戈德布拉特，他曾負責實施許多DARPA的超級士兵項目。戈德布拉特是個科學家和風投家，1999—2004年，執掌 DARPA的國家科學辦公室，監督制造精神上和身體上都比常人強的超級戰士項目。戈德布拉特讓我去他家里采訪。當一輛車把我從五角大樓城的酒店房間，帶到戈德布拉特所住的市郊時，整個旅程就像是《X檔案》中的片段。穿過弗吉尼亞州麥克萊恩市的森林地區，沿多利·麥迪遜大道而下（多利的丈夫詹姆斯·麥迪遜，曾把戰爭稱為可怕的自由之敵），我們路過蘭利市中情局總部，來到臨近的住宅小區。

在戈德布拉特家里，我們談論了反人文主義、DARPA的擴張、機器對戰士的影響、藥物和其他途徑。在他的任期內，戈德布拉特主持的項目，包括作戰持續性、機械戰士和持續性輔助性能等。這些項目都是為了提高戰士的身體機能，但是今天我對DARPA如何提高人類大腦機能最感興趣。不僅是大腦受傷士兵的大腦，還包括健康士兵的大腦。DARPA把這個領域的研究，稱為“增強認知”（AugCog）。增強認知的概念，以科學前沿問題人機界面為基礎，國防部稱之為人機互動（HRI）。在DARPA 的機器老鼠和煙草天蛾項目中，科學家制造了一種可遙控的動物機器雜交體。通過增強認知項目，DARPA正在研制人機雜交體或者可以叫作半機械人。

從 20 世紀 70年代開始，DARPA 一直致力于研究腦機接口（BCI）技術，但直到21世紀納米技術的進步，才使BCI 真正有了新的突破。 DARPA“増強認知”在戈德布拉特任期內進步飛速。到2004年，DARPA 官方目標，是發展“增加人機互動”二元體網絡思維模式產生的力量數量級。2007年，申請新項目時，DARPA說：“人類大腦活動必須與技術協調一致?！币虼水a生了幾個非機密項目：包括認知技術威脅報警系統（CT2WS）和情報分析人員神經技術（NIA）這兩個項目都是應用“非侵襲性技術”，增強人類偵測目標的能力。CT2WS項目是為幫助士兵尋找戰場目標和在敵對環境中執行情報監控行動而設計的。NIA 是為畫像分析人員在衛星照片中尋找目標而設計的。項目參與人戴著一個“無線腦電圖描記器認知帽”，也叫頭戴式受話器，通過電脈沖刺激大腦，增強認知功能。 DARPA 的科學家發現，利用“非侵略性腦機界面”，他們可以成指數級地增強人類認知，使士兵和間諜更快、更準確地思考。但DARPA 項目管理人說：“這些設備很難申請到，并且由于戴頭戴式受話器，容易讓頭發出汗，脫下時容易掉頭發，用戶并不愿意戴?！痹诖竽X中植入會更加高效。

戈德布拉特離開DARPA后，DARPA的研究人員在《科學》雜志上發表了一系列“人/機系統”“開創性的進步”。2014年，DARPA項目管理人聲稱“人機界面技術的未來”在于融合所有DARPA關于人腦研究項目的技術，天線是否有侵略性，特別是隨機存取存儲器（RAM）、維護、提醒和子網絡等技術。從本質上講，DARPA 是在利用人腦執行搜集情報、監控和偵察任務嗎？這是DARPA 科學家長久以來一直尋求的人工智能的關鍵信息嗎？“為了向總統的“大腦計劃”致敬，”DARPA項目管理人寫道，“需要新奇的腦機界面（BCI）技術，不僅是延伸能從大腦里提取什么信息，還要知道誰能參與到這些研究工作中去?！?/p>

幾十年來，科學家們一直嘗試制造人工智能機器，但都未成功。人工智能科學家們總是撞到同一堵墻上。迄今為止，計算機只能按照軟件預先設置的算法執行命令，按章行事。我想知道，邁克爾·戈德布拉特主導的DARPA 反人文主義項目是否可以砸碎這堵墻。 DARPA 的腦機界面項目是不是就是關鍵的連接點呢？

戈德布拉特笑了。他說，他十年前離開DARPA。他只能談論非機密項目。但是在談論賈松小組的科學家和他們2008年發表的一份報告時，他給我指了一個方向。在這份叫“人為績效”的報告中，有一部分叫“腦機接口”，賈松小組的科學家論及的非侵略性接口，包括 DARPA 的CT2WS 和 NIA 項目。利用“電磁信號偵測數以百萬神經和突觸的活動（換句話說，就是腦電圖描記器帽），對提升認知很有效”，但是信息收集很“煩人和低級”。他們通過觀察了解到，更多的侵略性項目可以詳細地描述細節，特別是在一個“電極陣列植入大腦皮層，并在頭骨設置一個‘引線’基座與之相接”的項目中。賈松小組的科學家寫道，這些“大腦中植入芯片”的項目可以真正持續促進“想要得到的結果”，進而使“可預測的、高質量的大腦控制成為現實”。

它就在那里，就隱藏在普通場景中。如果DARPA可以掌握“高質量控制大腦”，人機系統和腦機接口的實現可能性就會大大提高。墻就會垮塌了，尤其是在獵殺無人機戰爭中的應用潛力無限大。大腦芯片就是缺失的那一環。

但是連賈松小組的科學家也認為，推薦這個想法的同時，有必要鄭重警告一下?！皩κ挚赡茉谲娛聭弥惺褂们致孕越涌?，”他們寫道，“一個極端例子，就是對人類的遙控?！闭蛉绱?，賈松小組的科學家警告國防部不要再繼續這個領域的工作，至少首先要認真考慮一下倫理因素?！叭藗儗τ谀X機接口，充滿了在模仿人為績效方面應用（無論是好是壞）的無限遐想”，但是同時也牽扯到“開展研究過程中濫用潛力”的問題，賈松小組的科學家寫道?？傊?，賈松小組的科學家不推薦制造能用大腦控制的半機械人。

這個警告讓人想到，賈松小組越戰時提出的另一個警告，當時國防部長羅伯特·麥克納馬拉向賈松小組科學家征求關于用核武器打擊“胡志明小道”的意見。賈松小組的科學家研究了形勢，認為這不是他們該發表意見的事情。在越南用核武器，會讓越共從蘇聯等國那里得到并使用核武器，賈松小組的科學家警告說。而這也將繼而鼓勵恐怖分子，在未來使用核武器。

2008年，賈松小組的科學家在提升認知和人為績效的研究時說道，控制大腦的概念，最終會失敗，因為軍方有太多的人會認為這項研究有悖倫理?！斑@些倫理方面的顧慮，會適當地限制美國軍方模仿人為績效領域的活動和應用”，他們寫道。

但是當我們談及賈松小組對DARPA 的影響時，戈德布拉特搖了搖頭，表示我說錯了。

“賈松小組的科學家沒有多大意義了?！备甑虏祭卣f。從他進入DARPA 起，直到2014年，“對 DARPA 最有影響力的科學顧問小組是DSB”。DSB即國防科學委員會，辦公室就在五角大樓，負責查找問題，DARPA負責尋找解決之策，戈德布拉特解釋說。DSB最近研究了人機系統，發現了人機接口一系列全新的問題。

2012年，在國防部兩個無人機戰爭路線圖《2011—2036 財政年無人系統集成路線圖》和《2013-2038財政年無人系統集成路線圖》轉換期間，DSB 向國防部長提交了一份125 頁的報告，標題是“國防部系統中自主權的作用”。這份報告明確號召，讓國防部加速發展人工智能武器系統?！疤厍膊筷牽偨Y道，現在應用在戰場上的無人系統，正在國防部行動中發揮積極作用。由于國防部方面應用材料問題的限制，阻礙了自主權的廣泛接受，自主式技術并未被充分利用，”DSB 主席保羅·卡明斯基（Paul Kaminski）在報告附帶的信中寫道。

DSB 說，首要的阻礙來自信任——正如賈松小組科學家在他們的報告中預測的一樣。許多軍方人士對人與機器結合，制造自主式武器系統是否是個好主意，持懷疑態度。DSB 發現，抵制來自指揮機構的所有階層，從戰地指揮官到無人機操作者?！坝绕涫窃趯嵺`中，系統的自主式功能，能否在任何條件下都起作用，指揮員和操作者們對此缺少信任?！盌SB 寫道。根本問題是如何讓“指揮官相信，自主式系統會像預期表現一樣”。

或許指揮官們已經看過太多的《X 檔案》片段，看過太多遍《終結者》系列電影；或許他們讀過《國防部指令3000.09》，看過關于討論“自動化或半自動化武器系統失敗的可能性，以及可能導致的不可預料債務”；抑或指揮官和操作者們還想是個完整的男人（和女人），而不想成為半人半機的半機械人。但是不像賈松小組，國防科學委員依然向國防部建議，要加速轉變態度——說服指揮官、操作者和戰士，接受、信任人機接口。

“在人機接口（HRI）領域，特別受關注的一部分是機器人倫理學?！盌SB 寫道。這種包含機器人倫理學內部討論的嘗試意在在軍事人才和機器人系統之間培養信任?？墒墙Y果適得其反?！袄碚撋虾芤俗⒛?，但在實際倫理上，這場討論結果并不好。它增加了人們對無人系統的不信任，因為機器人不會完全按理性的思維行動?！盌SB 建議這種不信任的態度應該改變。

或許DARPA 展開了一個怎么達成信任的項目，這一點兒都不奇怪。在恐怖戰爭期間，DARPA 與中情局里和DARPA 職能類似的部門——情報先進研究計劃署（LARPA）合作，共同研究敘述網絡（N2），“發展人類認知中敘述能力的技術”。領導這項研究的科學家保羅·扎克（Paul Zak）博士堅持認為，DARPA和中情局關于信任的研究，很有意義?！叭绻有湃蚊癖?，我們都會獲益”，扎克2014年秋天告訴我。當時我正在參觀他位于加州克萊蒙研究大學的實驗室。我問扎克，他所參與的DARPA研究是不是為了解決信任問題，扎克說他不這樣認為。

保羅·扎克是神經經濟學與道德觀念領域的帶頭人。這個領域研究基于信任的，做出經濟決定的神經化學根源。扎克是經濟學博士，在博士后研讀期間，他在哈佛大學做神經影像研究。2004年，他做出了自稱“開創性的、改變一生的”發現?！拔野l現了大腦道德分子，”扎克說，“大腦中的化學物質催產素，讓人做出道德方面的決定，而道德與信任息息相關?！瘪R上，扎克說：“ DARPA 的各路人馬都在問我，‘我們怎樣才能搞點催產素呢’？”扎克也引起了中情局的興趣。為了DARPA 的敘述網絡（N2）項目，扎克發明了一種方法，用于在催產素等“大腦道德分子”自然釋放時，測量人類大腦和身體的反應。

與DARPA 毫不相干的波恩大學研究人員，對于催產素取得了另一些研究成果。2014年12月，這些研究人員公開了一種化學物質和如何“消除恐懼”的研究課題。首席研究人員莫妮卡·?？怂固垢嬖V《科學美國人》雜志，課題的目標是：把催產素注入62 個人的鼻子，希望他們的恐懼感可以消失?！皩τ诖蟛糠秩藖碚f，實驗成功了”，她說。我們將生活在一個可以消除恐懼的世界里，實現時間不會太久了。

為什么國防科學委員會對于在國防部推進機器人戰爭這么上心呢？為什么要讓軍事人才學會“信任”機器人，并在未來戰爭中依靠自主式機器人呢？為什么政府要投資消除恐懼的研究工作呢？所有這些問題和本書中的每一個問題的答案，就在于整個軍工復合體的核心。

不像賈松小組科學家那樣，大部分都是兼職，包括國防科學家和全職大學教授，DSB的大多數成員都是國防合同商。2009—2013年，DSB 主席保羅·卡明斯基一直為奧巴馬總統的情報顧問委員會工作，同時他還是通用公司的董事、蘭德公司董事會主席、前休斯研究所董事會主任、航空航天董事會主席、技術創新有限公司主席和首席執行官、約翰·霍普金斯應用物理實驗室信托人和顧問、麻省理工學院林肯實驗室信托人和顧問，所有這些公司和社團都是為DARPA 和國防部建造機器人武器系統的?？魉够€是國防部辦公室的付費顧問。但是，他只是一個例子，他的DSB 同僚們大約有50 人，每個人都在國防合同商巨人們的董事會工作，這其中包括雷聲、波音、通用、諾斯羅普·格魯曼、里克特爾、航空公司、得州儀器、IBM、勞倫斯利弗莫爾國家實驗室、桑迪亞國家實驗室等。

回顧DARPA的歷史，可以說它的部分甚至整個職能就是讓美國在軍事技術上永遠領先。前DARPA 主任埃伯哈特·里希廷曾在1970年對國會明確地說明這個先進技術戰爭的難題，DARPA 總是面臨要接受“先有雞還是先有蛋”的問題。DARPA必須永遠執行“需要的項目”，因為當一項技術需求在戰場上出現時，就為時已晚了，必須提前研究。DARPA的合同商在國防部保持先于需要，并引領軍事變革中，起了非常關鍵的作用。要統治未來的戰爭，提防被抓到。

回顧DARPA的歷史，展望未來，可以說，未來某一天，當它走向全世界的時候，技術自身將會超越DARPA。而這正是許多受人尊敬的科學家和工程師所萬分擔憂的。