1.2萬(wàn)億個(gè)晶體管，史上最大芯片的商用之路在哪里？

Cerebras Systems或將有可能顛覆現有的訓練市場(chǎng)。

今天，一顆超大芯片引起了半導體界的轟動(dòng)。

通過(guò)著(zhù)名媒體《連線(xiàn)》，AI初創(chuàng )公司Cerebras Systems正式公布了史上最大的的單晶圓芯片——Cerebras Wafer Scale Engine，英偉達最大的GPU都不及它的“邊角”。

簡(jiǎn)單來(lái)說(shuō)，Cerebras 打破了傳統的技術(shù)限制，將一整個(gè)300mm硅片直接做成了一顆芯片，因此“大”是人們對它的第一印象，但不止于大。

據悉，這款芯片擁有40萬(wàn)個(gè)核（4核處理器的10萬(wàn)倍），其處理能力能夠支持大量計算，同時(shí)它利用了硅互連的先進(jìn)封裝工藝，實(shí)現硅片級別的高速通信和存儲，這在理論上讓整顆芯片能夠用最快的速度調用算力處理極為復雜的AI任務(wù)。

Cerebras Wafer Scale Engine = 整個(gè)服務(wù)器集群

目前，官方透露出來(lái)的關(guān)鍵指標如下：

· 硅片大小42225平方毫米（邊長(cháng)大約22cm）

· 1.2萬(wàn)億個(gè)晶體管

· 40萬(wàn)個(gè)AI內核

· 18GB的片上內存

· 存儲帶寬19PB/S

· 架構互聯(lián)（Fabric型）帶寬100PB/S

· 采用了臺積電16nm工藝

從透露的消息可以看出，這顆芯片擁有史上最大的片上存儲空間（英偉達最好GPU的3000倍）、最多的AI核（每一個(gè)核相當于一個(gè)小型計算機）和最高的通信速度（最高性能GPU的10000倍內存帶寬）。

Cerebras Systems CEO Andrew Fieldman在一份聲明中說(shuō)，“Cerebras WSE專(zhuān)為AI而設計，其中包含了不少基礎創(chuàng )新，解決了限制芯片尺寸的長(cháng)達數十年的技術(shù)挑戰，如單晶圓良率、功率輸出、封裝等。其中，所有架構設計都是為了優(yōu)化AI工作的性能?？偟膩?lái)說(shuō)，WSE只需要較小功耗和空間，就能提供數百或數千倍的現有解決方案的性能。”

圖 |  Hot Chips活動(dòng)現場(chǎng)介紹WSE

據悉，因具備了存儲、計算和通信三大關(guān)鍵元素，且完全基于神經(jīng)網(wǎng)絡(luò )設計，現有AI系統所需要處理的張量處理操作、數據存儲和通信都能夠在WSE上完成，同時(shí)WSE將集群通信架構理念做進(jìn)了這款芯片里，突破了傳統帶寬的限制，帶來(lái)了低延遲，同時(shí)避免了不必要的性能損失。

將網(wǎng)絡(luò )通信做進(jìn)芯片里，這不僅帶來(lái)AI芯片計算能力的改善，也讓用戶(hù)可以基于它建設更高質(zhì)量的網(wǎng)絡(luò )。所以與其說(shuō)它是一臺超級計算機，倒不如說(shuō)，WSE更像是將一個(gè)服務(wù)器集群系統“做”進(jìn)了晶圓里。

值得一提的是，考慮到單個(gè)晶圓在制造過(guò)程中會(huì )出現一些雜質(zhì)，從而導致芯片故障的問(wèn)題，Cerebras Systems 的芯片設計是留有裕量的，能夠保證一個(gè)或者少量雜質(zhì)不會(huì )使整個(gè)芯片失效，這也保證了芯片的穩定性。

散熱會(huì )成為大問(wèn)題嗎？

很多人初次看到這樣一種配置，不免會(huì )為Andrew擔心：這么大一塊芯片，散熱要怎么做？

不得不說(shuō)，目前為止，各大新聞中都未提及這款芯片的功耗問(wèn)題。但不難想象，與我們看見(jiàn)的傳統“指甲蓋”大小的芯片相比，這款芯片的功耗一定不會(huì )低。

對此，Andrew表示，這款芯片不會(huì )單獨銷(xiāo)售，而是將被打包到Cerebras設計的計算機“設備”中。原因是它需要一個(gè)復雜的水冷系統去散熱。據悉，這個(gè)水冷系統是一種灌溉網(wǎng)絡(luò )，可以抵消以15千瓦功率運行的芯片產(chǎn)生的極端熱量。

因為散熱，這款芯片無(wú)法作為加速卡插入現有的任何服務(wù)器。在這種設計下，可以猜測它的功率一定會(huì )很高，但與它所要替代的系統集群比較來(lái)看，它的功耗也算是很低了。

不過(guò)相較于散熱，業(yè)內人士更為關(guān)心它是不是能夠按照預想跑起來(lái)，“目前來(lái)看，這款芯片真正的問(wèn)題是大量?jì)群?，如何?0萬(wàn)個(gè)核保持協(xié)同和有效，這需要嚴格考量。”

商用之路在何方？

對于大家對WSE商用的懷疑，在斯坦福大學(xué)的Hotchips活動(dòng)上，Cerebras已經(jīng)透露，這款芯片并非空有其表，現在已經(jīng)在跑客戶(hù)的任務(wù)負載了。

目前，從計算角度來(lái)看，這一輪人工智能浪潮中最關(guān)鍵的算法應用是深度學(xué)習，將深度學(xué)習算法應用到AI場(chǎng)景中，需要完成兩大核心運算：訓練和推理。WSE是為AI專(zhuān)門(mén)設計的，因此可以猜測它的目標市場(chǎng)無(wú)非訓練和推理。

但是這樣一款在散熱上、價(jià)格上都不會(huì )“輕松”的芯片，市場(chǎng)真的會(huì )買(mǎi)單嗎？或者說(shuō)哪部分市場(chǎng)可能會(huì )買(mǎi)單？

對此，Micron的研究員Eugenio Culurciello表示，Cerebras芯片的規模和雄心是瘋狂的，不過(guò)它能解決大算力需求的場(chǎng)景（如自動(dòng)駕駛）所需，雖然很昂貴，但有些人可能會(huì )使用它。

事實(shí)上，從市場(chǎng)需求的角度出發(fā)，WSE如果真的實(shí)測成功且能夠量產(chǎn)，它將極有可能首先撼動(dòng)英偉達的GPU市場(chǎng)，即訓練市場(chǎng)。相比于推理市場(chǎng)，因訓練任務(wù)重且訓練時(shí)間長(cháng)，訓練市場(chǎng)多以算力至上，對芯片的價(jià)格、功耗并不敏感，所以Cerebras芯片更有可能在訓練市場(chǎng)獲得成功，這也將再次顛覆訓練市場(chǎng)的格局。

而推理市場(chǎng)呢？從目前的情況來(lái)看，端側推理市場(chǎng)沒(méi)有過(guò)高算力需求，且對低功耗的要求十分嚴苛，WSE大概率不會(huì )出現在這部分市場(chǎng)。不過(guò)在云端和邊緣側的推理市場(chǎng)，WSE如果不能很好處理功耗和散熱問(wèn)題，這也都會(huì )為商用增加阻力。

據Andrew本人自己的估計，用WSE來(lái)部署云計算基礎設施，總體成本將會(huì )是現有造價(jià)的1/10。

過(guò)于美麗、過(guò)于超出公眾認知是這款芯片的最大特點(diǎn)，因此在Cerebras正式將這款芯片推出之前，大家對它的疑慮其實(shí)難以消除：

“在我們看到Benchmark測試結果之前，我們很難說(shuō)它的AI設計有多好。”

如Cerebras在推特上告訴大家：Stay tuned。只能靜候佳音。

最后，關(guān)于Cerebras Systems

Cerebras Systems成立于 2016 年，專(zhuān)注于為數據中心訓練提供芯片產(chǎn)品，曾被CB Insights評為“全球最值得期待的100家芯片公司”。

資料顯示，該公司曾于2016年完成2500萬(wàn)美元A輪融資，投資方為知名風(fēng)投Benchmark，后又獲得多輪融資，截止2017年9月共獲得1.12億美元融資，估值8.6億美元。

公司的創(chuàng )始團隊背景實(shí)力也十分強勁，聯(lián)合創(chuàng )始人及CEO Andrew Feldman曾經(jīng)創(chuàng )立過(guò)芯片公司SeaMicro，后在2012年，這家公司被AMD以3.34億美元收購。

圖 | Andrew Feldman

在A(yíng)ndrew創(chuàng )辦Cerebras Systems之時(shí)，有兩大重量級人物加盟。一位是曾在Sun擔任過(guò)高級芯片設計師、低功耗芯片設計的元老級人物Gary Lauterbach，另一位是前 Intel 公司架構副總裁、數據中心首席技術(shù)官Dhiraj Mallick。

因為有強大的團隊坐鎮，Cerebras Systems成立之時(shí)就注定不容忽視?，F在，這家公司已有194名員工。

最后，記得關(guān)注微信公眾號：鎂客網(wǎng)（im2maker），更多干貨在等你！