億萬(wàn)克柳星：“雙碳目標”下，如何應對AI大模型帶來(lái)的算力需求？

一個(gè)AI大模型，背后就需要數萬(wàn)張GPU的算力支持。

從去年11月30日至今，由ChatGPT引發(fā)的“AI大模型熱”在產(chǎn)業(yè)界依舊持續著(zhù)，依照當前不斷有企業(yè)、產(chǎn)業(yè)大佬加入進(jìn)來(lái)，想必AI大模型的熱度一時(shí)半會(huì )兒是下不去了。

這一背景下，作為算力基礎設施，高性能服務(wù)器自然也受到了極大的關(guān)注。

就在此前落幕的第十一屆中國電子信息博覽會(huì )（CITE 2023）上，鎂客網(wǎng)也見(jiàn)到了許多服務(wù)器、數據廠(chǎng)商。期間，帶著(zhù)對AI大模型盛行下高性能服務(wù)器、數據中心的探討，我們也有幸采訪(fǎng)億萬(wàn)克全國銷(xiāo)售總監柳星先生，聽(tīng)他娓娓道來(lái)。

億萬(wàn)克“前身”是研祥集團服務(wù)器事業(yè)部，后獨立為集團旗下全資子公司，致力于為電信運營(yíng)商、互聯(lián)網(wǎng)大廠(chǎng)、政企用戶(hù)等群體提供集產(chǎn)品研發(fā)、生產(chǎn)、銷(xiāo)售、部署、運維于一體的服務(wù)器及IT系統解決方案，應用領(lǐng)域覆蓋云計算、數據中心、邊緣計算、人工智能、金融、電信、教育、能源等。

眼下，億萬(wàn)克主打產(chǎn)品包括亞當通用機架式服務(wù)器系列、亞當液冷服務(wù)器系列、蛟云存儲設備系列等。

AI大模型流行，AI異構型服務(wù)器需求倍增

不夸張地說(shuō)，只要是你現在立馬能想到的科技大廠(chǎng)，基本上都在A(yíng)I大模型這條道上。

回頭來(lái)看，這把火先是在國外科技界被點(diǎn)燃，引得谷歌、微軟、Meta紛紛入局，接著(zhù)火勢蔓延到了國內，包括BAT、360在內的科技互聯(lián)網(wǎng)大廠(chǎng)像是商量好的，也先后推出了自己的AI大模型產(chǎn)品。

這期間，馬斯克一邊呼吁暫停開(kāi)發(fā)更強AI模型，一邊“打臉”般購入1萬(wàn)塊GPU、成立AI大模型公司與OpenAI打擂臺的行為，也為AI大模型的火熱提供了佐證。

而在應用層面，從最初的對話(huà)式交互，到后面的圖片交流，再到自動(dòng)駕駛等領(lǐng)域，AI大模型的場(chǎng)景應用也是逐漸增多……對此柳星也表示，ChatGPT太火了，隨著(zhù)國內應用需求的大幅度增加，致力于提供高性能服務(wù)器的億萬(wàn)克在近半年也收到了許多針對AI異構型服務(wù)器的需求。

面向客戶(hù)不斷增長(cháng)的高算力需求，億萬(wàn)克早有應對，比如此次進(jìn)行展示的“亞當G952N5”。

柳星介紹稱(chēng)，這是一款搭載英特爾Purley平臺可擴展系列處理器的4U10GPU卡4電源AI型服務(wù)器，一次最高可支持10張雙寬GPU卡，具有實(shí)時(shí)高速的并行計算和浮點(diǎn)計算能力，適用于HPC、大數據分析、3D圖形應用程序、深度學(xué)習和科學(xué)計算等場(chǎng)景。

而站在高性能服務(wù)器角度，基于GPU提供高算力是一回事，如何降低能耗也是一道繞不過(guò)去的關(guān)卡。

液冷技術(shù)，高性能服務(wù)器的減碳“新寵”

面向算法訓練與應用，高性能服務(wù)器能夠提供更高的計算能力、更快的數據處理速度和更低的延遲，但往往需要付出高能耗的代價(jià)，不僅傷“芯”，也易造成高成本，嚴重的話(huà)，服務(wù)器因為溫度過(guò)高而宕機也是十分有可能的。

尤其是近幾年，隨著(zhù)“3060雙碳目標”的提出，作為能耗大戶(hù)的數據中心更是成為減碳的重點(diǎn)關(guān)注對象，具體表現比如PUE值不斷縮緊。

PUE值是評價(jià)數據中心能源效率的指標，是數據中心消耗的所有能源與IT負載消耗的能源的比值。PUE值越小，意味著(zhù)數據中心的節能減排程度越好，相反則能耗比越高。

而依據最新政策，國家要求到2025年，全國新建大型、超大型數據中心的PUE值降到1.3以下，這對于服務(wù)器廠(chǎng)商而言是一個(gè)不小的挑戰。這一背景下，廠(chǎng)商們也紛紛將目光轉向了比傳統風(fēng)冷技術(shù)更為高效的液冷技術(shù)。

“整個(gè)數據中心有幾千、幾萬(wàn)臺服務(wù)器，整體能耗比較高，傳統風(fēng)冷式服務(wù)器會(huì )導致數據中心PUE值會(huì )很高，不符合要求，現在包括老舊數據中心的整改，以及新建數據中心，都可以使用我們的液冷服務(wù)器，讓PUE值下降到1.25以下。”柳星表示。

目前億萬(wàn)克液冷服務(wù)器業(yè)務(wù)劃分出兩條線(xiàn)，一條是冷板式液冷服務(wù)器LCP系列，也在此屆電博會(huì )做了首次公開(kāi)亮相；另一條是浸沒(méi)式液冷服務(wù)器IC系列。

其中，對比億萬(wàn)克冷板式液冷服務(wù)器和風(fēng)冷式服務(wù)器，前者能夠將PUE值降至1.25以下，后者則維持在1.6左右。雖然數值上只有0.35的差距，但放在服務(wù)器功耗上卻呈現出不小的差距。

最后

前面也提到，億萬(wàn)克依托于整個(gè)研祥集團，而后者是中國最大的特種計算機研究、開(kāi)發(fā)、制造、銷(xiāo)售和系統整合于一體的高科技企業(yè)，在對供應鏈的管理和產(chǎn)品質(zhì)量的把控上已經(jīng)形成一套嚴苛的標準。

如今這一嚴苛標準也融入了億萬(wàn)克的基因中。與此同時(shí)，“從產(chǎn)品研發(fā)生產(chǎn)到銷(xiāo)售，再到交付客戶(hù)、售后是一整套完整的服務(wù)，且億萬(wàn)克服務(wù)器包括外觀(guān)在內都是交由國外一流知名設計團隊獨家設計的，從品質(zhì)，到整體的交付，再到整體供應鏈系統，億萬(wàn)克都可以給到客戶(hù)一個(gè)很好的支撐。”柳星表示。

最后，記得關(guān)注微信公眾號：鎂客網(wǎng)（im2maker），更多干貨在等你！