對話(huà)英偉達：解密Jetson平臺，未來(lái)還會(huì )推基于Orin的Jetson產(chǎn)品

Jetson生態(tài)系統中目前有40萬(wàn)開(kāi)發(fā)人員。

在剛剛過(guò)去的一周里，英偉達的GTC China在蘇州圓滿(mǎn)落幕，GTC作為英偉達每年秀肌肉的盛會(huì )，也是外界系統了解英偉達的最好機會(huì )。

從今年的GTC可以看到，主導云端AI芯片市場(chǎng)的英偉達，正在用云端加邊緣一體化的軟硬件解決方案吸引更多客戶(hù)。其中，面向終端以及邊緣端的Jetson系列產(chǎn)品就是英偉達的新武器。

3月，英偉達在硅谷的GTC大會(huì )上發(fā)布了Jetson Nano，一款非常小巧又便宜的AI開(kāi)發(fā)板。

11月，他們又發(fā)布了號稱(chēng)“史上最小、功能最強”的邊緣AI超級計算機Jetson Xavier NX。

可以看到的是，英偉達一直在逐漸完善豐富Jetson家族產(chǎn)品。那么，Jetson系列的定位有何區別，英偉達在切入邊緣端側市場(chǎng)后，成績(jì)又如何？

圍繞這些問(wèn)題，鎂客網(wǎng)在GTC期間采訪(fǎng)了英偉達的自主機器產(chǎn)品管理部門(mén)主管Murali Gopalakrishna。

圖 | 英偉達自主機器產(chǎn)品管理部門(mén)主管Murali Gopalakrishna

Jetson：擔負邊緣端側重任

Jetson是英偉達的AI邊緣平臺，從今年幾場(chǎng)重要發(fā)布來(lái)看，它已然成為英偉達AI的重中之重，英偉達給Jetson的定位也很明確：用于邊緣以及端側場(chǎng)景，比如自主機器，包括自主的攝像頭、配送機器人，倉庫機器人等；用作視頻分析的高清傳感器，涉及到“光巡檢”或者“光檢查”的應用；以及嵌入式的設備等等。

目前，Jetson家族共有四大類(lèi)產(chǎn)品，分別是Jetson Nano、Jetson TX2系列、Jetson Xavier NX和Jetson AGX Xavier系列。

值得注意的是，Jetson系列都是低功耗的模塊化系統，具備CPU、GPU、PMIC、DRAM和閃存等等。用黃仁勛的話(huà)說(shuō)，“我們生產(chǎn)的不是定制化芯片，我們做的是GPU加速，它支持任何一個(gè)框架、任何一個(gè)模型，每一款都可以實(shí)現TensorRT的加速。”

為了更好的區分英偉達Jetson平臺上各個(gè)產(chǎn)品，鎂客網(wǎng)做了簡(jiǎn)單的分類(lèi)歸納整理：

每款產(chǎn)品的性能參數決定了它們面向的細分場(chǎng)景有所差別，從Nano到AGX Xavier，支持的傳感器的數量越來(lái)越多，計算能力越來(lái)越高，設計系統的自主性也越來(lái)越高，

以最小尺寸、最便宜的Nano為例，它主要應用于非常小體量的設備，比如：攝像頭，UGV（地面無(wú)人機）類(lèi)型的一些機器。

TX2比Nano支持的攝像頭數量要多，所以可以做多傳感器融合的應用，并且TX2有一個(gè)專(zhuān)門(mén)的安全核心。

AGX Xavier是一個(gè)打造機器人的全功能平臺，適合開(kāi)發(fā)比較復雜的機器人，比如京東、美團就基于Jetson平臺開(kāi)發(fā)了送貨機器人。

而上個(gè)月剛剛發(fā)布的Xavier NX則融合了Nano和AGX Xavier的優(yōu)點(diǎn)，即性能上“不打折”但是成本更優(yōu)，和AGX Xavier一樣，它也適用于更復雜的應用。

Murali舉了個(gè)例子，如果客戶(hù)用Nano設計一個(gè)UGV，但后期系統復雜度不斷提高，那么就可以選用同樣功耗下，性能是Nano 50倍的Xavier NX的，而且由于Xavier NX可以直接插在Nano開(kāi)發(fā)板上，開(kāi)發(fā)者無(wú)需更改系統的軟件。

另外，由于四款產(chǎn)品內存上的差異，也決定了它們支持的機器學(xué)習模型數量不同，比如要讓設計的機器人實(shí)現更好的人機對話(huà)互動(dòng)，必然要選擇一個(gè)大內存的平臺。

也就是說(shuō)，英偉達從尺寸、算力、功耗、價(jià)格等不同維度，分別推出了相配套的產(chǎn)品，從而滿(mǎn)足邊緣和端側的各種開(kāi)發(fā)需求，完成對端側市場(chǎng)的滲透。

Murali表示，“Jetson的生態(tài)系統中目前有40萬(wàn)的開(kāi)發(fā)人員，有3000個(gè)客戶(hù)。他們開(kāi)發(fā)的應用小到一個(gè)攝像頭、平衡車(chē)，大到基因排序的設備等等，有很多讓我們驚喜的應用。”

從顯微鏡、機器人到基因測序應用，Jetson“無(wú)所不能”

Jetson系列都屬于那種“麻雀雖小、五臟俱全”的產(chǎn)品，非常適合高校學(xué)生、以及創(chuàng )業(yè)者用作機器人的開(kāi)發(fā)。

據Murali介紹，斯坦福大學(xué)的學(xué)生通過(guò)Jetson Nano開(kāi)發(fā)了一款能夠鑒別病毒和細菌的高清顯微鏡，并以2美元的價(jià)格賣(mài)給了非洲、亞洲的一些義工或者志愿者；英格蘭的公司基于Jetson做了基因測序應用；一家名為Warehouse Robot 6River的公司，在只有3個(gè)工程師的情況下，基于Jetson TX2研發(fā)了一款機器人……

Murali表示，“在Jetson平臺上開(kāi)發(fā)機器人的創(chuàng )業(yè)公司特別多，而且總是被大公司收購。像亞馬遜就收購了兩家這樣的公司。”

綜上，雖然英偉達的Jetson已經(jīng)取得一些階段性的成果，但當前有不少創(chuàng )業(yè)公司以及科技巨頭也陸陸續續推出了邊緣和端側的產(chǎn)品，這塊市場(chǎng)競爭激烈程度不亞于云端的數據中心。

在英偉達看來(lái)，他們的優(yōu)勢也非常明顯。首先是產(chǎn)品的智能化程度以及靈活性，可以有針對性地為一些工業(yè)應用場(chǎng)景做優(yōu)化；其次是軟硬件的兼容和持續維護升級：英偉達每一款硬件產(chǎn)品基本上都會(huì )配備軟件及應用。Murali提到，“直到現在我們還在為第一代Jetson提供軟件升級的維護服務(wù)，但是同期其它競爭對手的產(chǎn)品早已銷(xiāo)聲匿跡了。”

軟件方面，3月英偉達發(fā)布了Isaac機器人平臺的第一個(gè)版本，上周，黃仁勛在GTC China的現場(chǎng)發(fā)布了全新版本Isaac軟件開(kāi)發(fā)套件，包括Isaac Robotics Engine（提供應用程序框架），Isaac GEM（預先構建的深度神經(jīng)網(wǎng)絡(luò )模型、算法、庫、驅動(dòng)程序和API），用于室內物流的參考應用程序以及訓練機器人Isaac Sim的第一個(gè)版本（提供導航功能）。

采訪(fǎng)中，Murali也解釋了Isaac的仿真功能對當前整個(gè)智能機器人生態(tài)的影響。搭配RTX光線(xiàn)追蹤技術(shù)，通過(guò)Isaac仿真器，可在虛擬世界里以接近現實(shí)世界的逼真度來(lái)做機器人的模擬訓練。

Murali還舉了個(gè)形象的例子，“比如要制造一個(gè)炒菜機器人。我們先通過(guò)仿真，教這個(gè)炒菜機器人如何去炒菜，然后再把學(xué)好炒菜的機器人的大腦轉到實(shí)際物理機器人中，這樣它就知道如何在你的廚房炒菜了。”

最后：

今年的GTC上，英偉達還推出了用于自動(dòng)駕駛和機器人的軟件定義平臺NVIDIA DRIVE AGX Orin，內置全新Orin芯片，是上一代Xavier芯片性能的7倍。據Murali透露，之后，英偉達也會(huì )推出基于Orin的Jetson產(chǎn)品。

在英偉達推出兩款邊緣側產(chǎn)品后，很多人猜測他們會(huì )對做端側推理芯片的公司造成沖擊，其實(shí)由于應用場(chǎng)景的不同，端側的算法各有差異，相應的對性能、功耗以及延遲的要求也有區別，所以很難說(shuō)這個(gè)市場(chǎng)會(huì )存在一統天下的霸主。

但是英偉達積累了多年的軟硬件能力卻是諸多公司難以企及的，可以預見(jiàn)的是，端側市場(chǎng)必將迎來(lái)一場(chǎng)新的洗牌，這一次誰(shuí)又能跑到最前面呢？

最后，記得關(guān)注微信公眾號：鎂客網(wǎng)（im2maker），更多干貨在等你！