隨著無線通信技術和人工智能技術的廣泛應用,現在信息世界里的數據呈現了三大變化。
第一,數據量呈指數級爆發。
第二,數據形態日趨多樣化。
第三,對于數據實時處理的需求快速增長。
為了應對這些變化,未來十年,架構創新將成為計算創新的關鍵驅動力。
目前,主流的計算架構有四種:標量、矢量、矩陣、空間。
標量是指一個一個去計算數據,有前后的順序;矢量是指把一組數一起做,比如把兩個數組直接相加或相乘;矩陣是指把3×3或8×8這類的矩陣數據同時做運算;空間是指這些數據本身有很強的稀疏性,對它的處理需要采用特殊的方法。
現在,人工智能領域的數據處理,至少是矢量級別的,很多是矩陣的,甚至在某些應用場景中需要運用空間數據結構來加速計算。
把四種計算架構整合在一起,稱為XPU超異構計算,X代表有多種可能性。
超異構是什么概念?
在傳統異構領域,傳統的SoC做法是把不同的計算能力或不同計算架構整合到一個單芯片上;或者把不同的芯片,比如CPU、GPU、FPGA整合到一個板上,進行板級的整合,這是另外一種異構計算。這兩種異構計算各有優劣勢。
超異構計算希望把這兩種異構計算的優勢集中在一起,而把他們的不足之處去掉。也就是說,我們可以把已經做好的多種不同架構的芯片單元,通過異構封裝的方式組合到一個芯片里面,然后把高性能芯片之間的傳輸通道建立起來,這樣可以把很多不同架構的芯片整合在一起,在小空間、低功耗的情況下提高計算的能效比。
我們認為,在架構方面還需要有更多的探索?,F在常用的架構有兩種,一種是標準計算,一種是深度神經網絡。
標準計算是在知道問題和知道如何建模的情況下,用流程圖的方式把處理問題的步驟表示出來,然后去編程,由人工選定怎么做。
深度神經網絡是在我們知道輸入的數據是什么和數據會產生什么結果的情況下,用深度神經網絡模型進行訓練,訓練出一個符合解決特定任務的架構和模式。
我們把標準計算和深度神經網絡整合到一個架構,從而形成了Loihi神經擬態芯片。
Loihi神經擬態芯片,把計算單元和需要的存儲空間緊密地整合在一起,一個芯片里面有128個同構多核,每個核都一樣,每個核里可以做1000個神經元的模型,這種芯片核可以模擬人腦神經元的結構以及數據處理和存儲方式。每一個核可以和另外的999個核互相連接,構造類似人腦里面的突觸結構。最終,一個小的芯片可以模擬人腦的13萬個神經元,并且可以產生1.3億個突觸,這是一項針對比較復雜的神經網絡的突破。
Loihi神經擬態芯片體積小、能耗低,是真正的“綠色”芯片,它助力AI從2.0時代向3.0時代邁進。
AI2.0時代利用數據驅動,做端到端的學習,構建針對學習數據量比較大時的好用模型;在AI3.0時代,我們希望AI能夠完成邏輯的自洽,可以通過少量的數據去自主學習,不一定需要非常大量的數據,因為很多領域的大數據不容易獲得。
Loihi憑借其靈活的架構,可以支持多種事件驅動的學習模式。比如,常規使用的無監督學習模式,這是在2.0時代深度學習中非常常用的模式。
自監督學習是關聯不同的事件,產生出因果關系強化學習,利用觀察到的事件和作出的決策之間的關系,去反復做迭代,優化出一個好的決策方案。
2017年,Loihi系統推出第一個單芯片,隨后其規模逐漸擴大。目前,我們能夠用768個芯片集成在一個大的系統里,這樣可以提供接近1億個神經元的規模。
這是硬件的規模,還需要很多軟件和算法,才能實現Loihi系統的智能。英特爾成立了一個面向全球的研究社區,把大家聚合起來,共同推動這個領域的發展。
現在,我們可以提供計算的平臺和能力,不僅可以提供在設備上直接使用的能力,而且還可以提供在云端使用這些服務和測試系統的能力。
對于嶄新的硬件架構,編程對它能力的釋放非常重要。如果把它們統一做成一個異構系統,如何讓開發者或科研人員更方便地去使用?于英特爾而言,這件事情非常重要。
當前,數據變革催生多元化計算架構,未來,架構創新將成為計算創新的關鍵驅動力。英特爾將持續推動超異構計算,大跨步邁向智能時代。
英特爾通過創造改變世界的技術來造福地球上的每一個人,我們希望通過異構計算,通過開源的技術和平臺,讓新的技術快速覆蓋到全球,產生造福人類的技術。