強強聯(lián)合,科大訊飛聯(lián)合華為發(fā)布企業(yè)專(zhuān)屬大模型一體機

IM2MakerOpr 2年前 (2023-08-16)

讓每個(gè)企業(yè)都有專(zhuān)屬大模型。

8月15日,訊飛星火認知大模型V2.0升級發(fā)布會(huì )上,科大訊飛攜手華為發(fā)布星火一體機,讓所有企業(yè)都可以在國產(chǎn)自主創(chuàng )新的平臺上,更方便、更自主、更安全可控地私有化部署大模型。

開(kāi)箱可用,內置資源涵蓋10余個(gè)專(zhuān)業(yè)場(chǎng)景

“星火一體機”是國產(chǎn)軟硬件一體化的私有專(zhuān)屬大模型解決方案,開(kāi)箱即可使用,提供從底層算力、AI框架、訓練算法、推理能力、應用成效等全棧AI能力,幫助企業(yè)打造專(zhuān)屬大模型。

強強聯(lián)合,科大訊飛聯(lián)合華為發(fā)布企業(yè)專(zhuān)屬大模型一體機

星火一體機的訓練和推理一體化部署,可用于問(wèn)答系統、對話(huà)生成、知識圖譜構建、智能推薦等多個(gè)領(lǐng)域的應用,具備大模型預訓練、多模態(tài)理解與生成、多任務(wù)學(xué)習和遷移等能力。

科大訊飛在在辦公、政務(wù)、電力、教育、醫療、工業(yè)、司法、金融等行業(yè)深耕多年,積累了豐富的場(chǎng)景落地經(jīng)驗。星火一體機內已涵蓋辦公、代碼、運維、客服、營(yíng)銷(xiāo)、采購等10多個(gè)場(chǎng)景包,支持對話(huà)開(kāi)發(fā)、任務(wù)編排、插件執行、知識接入、提示工程等5種定制優(yōu)化模式,并將持續拓展更多專(zhuān)業(yè)場(chǎng)景和模式優(yōu)化,為客戶(hù)快速定制企業(yè)專(zhuān)屬大模型。

星火一體機還針對星火認知智能大模型的訓練算法和推理應用進(jìn)行了硬件的量身定制,可大大降低企業(yè)的使用成本。

“雙保險”:訊飛保障內容,華為保障算力

科大訊飛董事長(cháng)劉慶峰在發(fā)布會(huì )上表示,認知大模型的深度賦能時(shí)代已經(jīng)到來(lái),大模型在企業(yè)深度應用的三個(gè)關(guān)鍵要素是:第一,安全可控:內容安全,要有正確價(jià)值觀(guān),算力安全,要在完全自主可控的平臺上進(jìn)行;第二,場(chǎng)景驅動(dòng):在看得見(jiàn)摸得著(zhù)的場(chǎng)景產(chǎn)生實(shí)實(shí)在在的價(jià)值,并能夠用數據去證明成效;第三,專(zhuān)屬定制:內容匹配需求,基于行業(yè)和企業(yè)的私域數據構建私有化專(zhuān)屬大模型,提升應用效果。

企業(yè)應用大模型并不是盲目追風(fēng)口,要從自身需求出發(fā),讓大模型真正結合業(yè)務(wù),提升效能、創(chuàng )造價(jià)值。場(chǎng)景驅動(dòng)和專(zhuān)屬定制是企業(yè)大模型的基礎,而安全可控則是底線(xiàn)。

2023年4月28日,中共中央政治局會(huì )議就強調:“重視通用人工智能發(fā)展,營(yíng)造創(chuàng )新生態(tài),重視防范風(fēng)險”;2023年7月,7部委聯(lián)合發(fā)布《生成式人工智能服務(wù)管理暫行辦法》,再次強調“發(fā)展和安全并重”。

在內容安全方面,星火一體機基于訊飛星火認知大模型,針對污語(yǔ)料和幻覺(jué)問(wèn)題,形成立體化的“內容安全機制”。無(wú)監督的互聯(lián)網(wǎng)語(yǔ)料,經(jīng)過(guò)語(yǔ)句判別器、質(zhì)量判別器、隱私判別器、安全判別器等關(guān)卡,得到清洗后的高質(zhì)量文本;為了解決“幻覺(jué)問(wèn)題”,科大訊飛針對各類(lèi)型任務(wù)構建專(zhuān)業(yè)知識庫,以類(lèi)搜索插件技術(shù)實(shí)現知識獲取,基于大模型的理解和概括摘要能力給出答案。

在算力安全上,星火一體機基于昇騰AI硬件、昇思AI開(kāi)源框架,提供業(yè)界領(lǐng)先的大模型訓練、推理能力,為大模型全流程創(chuàng )新提供堅實(shí)的自主創(chuàng )新算力底座。

“雙保險”下,企業(yè)能夠放心大膽地打造專(zhuān)屬大模型。

強強聯(lián)合,將打造通用智能新底座

大模型的研發(fā)過(guò)程,需要可以支撐千億參數規模的大模型并行訓練的算力和框架,還需要幾千張卡同時(shí)連續運行?;诖?,系統架構以及并行訓練的集群能力成為國內大模型研發(fā)的關(guān)鍵。

在今年的7月6日,科大訊飛就公布訊飛星火將與昇騰AI強強聯(lián)合,打造基于中國自主創(chuàng )新的通用智能新底座。一方面,訊飛星火認知大模型基于訓練推理一體化設計,實(shí)現大模型稀疏化、低精度量化的技術(shù)突破,能高效適配昇騰AI,加速大模型的行業(yè)落地應用和迭代;另一方面,以昇騰AI為核心,軟硬件協(xié)同優(yōu)化,構建算力集中、性能優(yōu)越、供給穩定、數據安全的大模型訓練集群。

此次發(fā)布的星火一體機,是科大訊飛與華為在A(yíng)I算力、大模型的合作落地之一,將面向行業(yè)、企業(yè)客戶(hù),提供基于專(zhuān)用數據的自主可控私有化大模型,加速推動(dòng)重點(diǎn)企業(yè)的數智化轉型升級。國產(chǎn)大模型只有基于中國自主創(chuàng )新的算力底座才有大未來(lái)。之后,雙方將持續深化合作,放眼全球,聯(lián)合攻關(guān)算力國產(chǎn)化核心難題,實(shí)現從單點(diǎn)算力到集群算力、從節點(diǎn)創(chuàng )新到系統創(chuàng )新。

最后,記得關(guān)注微信公眾號:鎂客網(wǎng)(im2maker),更多干貨在等你!

鎂客網(wǎng)


科技 | 人文 | 行業(yè)

微信ID:im2maker
長(cháng)按識別二維碼關(guān)注

硬科技產(chǎn)業(yè)媒體

關(guān)注技術(shù)驅動(dòng)創(chuàng )新

分享到