星環(huán)科技通關(guān)TPC-DS!中國數據庫領(lǐng)域首破紀錄誕生!

鎂客 7年前 (2018-05-15)

我們不能盲目崇信跑分,但跑分的確是一種比較直觀(guān)反映軟硬件性能的方式。不過(guò),相比手機跑個(gè)分,數據庫性能測試卻要復雜的多

導語(yǔ):“不服跑個(gè)分?”是一個(gè)老梗了。雖然,我們不能盲目崇信跑分,但跑分的確是一種比較直觀(guān)反映軟硬件性能的方式。不過(guò),相比手機跑個(gè)分,數據庫性能測試卻要復雜的多……

最近,一家小公司顛覆了我們的認知!它完整的通過(guò)數據庫界最難的一個(gè)測試標準TPC-DS,說(shuō)是登頂了數據庫領(lǐng)域的最高峰,并不為過(guò),因為,此前的12年里,全球還沒(méi)有任何一家公司成功過(guò)。

基準測試結果可以在這里找到http://www.tpc.org/tpcds/results/tpcds_advanced_sort.asp。

5月3日,這家公司還在自家的用戶(hù)大會(huì )上發(fā)布了一系列創(chuàng )新產(chǎn)品:人工智能平臺智子;一站式大數據平臺產(chǎn)品:TDH6.0,分布式圖數據庫StellarDB,分布式閃存數據庫ArgoDB;大數據云平臺產(chǎn)品Data Cloud。

這家公司叫“星環(huán)科技”,創(chuàng )始人團隊均出自Intel,或許Intel都不曾想到,五年前被砍掉的一個(gè)項目,居然成就了今天這個(gè)估值超過(guò)20億,年營(yíng)收超過(guò)2個(gè)億,騰訊都搶著(zhù)投錢(qián)下注的公司。

星環(huán)科技通關(guān)TPC-DS!中國數據庫領(lǐng)域首破紀錄誕生!

TPC測試委員會(huì )主席Raghu

我們首先回顧下事情的經(jīng)過(guò),5月3日,全球知名的數據管理系統評測基準標準化組織TPC宣布,星環(huán)TDH平臺成為全球首個(gè)經(jīng)過(guò)TPC官方審核的TPC-DS基準測試的數據平臺,打破了該領(lǐng)域十二年來(lái)沒(méi)有公司通過(guò)該項測試的局面,在世界范圍內填補了該項技術(shù)的空白。

該基準測試使用思科UCS集成基礎架構用于大數據和分析以及Transwarp Data Hub v5.1。

也許很多人不清楚TPC是個(gè)什么組織,TPC-DS是個(gè)什么測試,我們先行腦補。

眾所周知,用戶(hù)在選用平臺時(shí),面對的是一個(gè)繽紛繁雜的世界。用戶(hù)希望有一種度量標準,能夠量化計算機系統的性能,以此作為選型的依據。因此,誕生了眾多標準化組織,而TPC就是其中之一。

TPC (事務(wù)性能管理委員會(huì ))是目前全球最知名的數據管理系統評測基準標準化組織。它的功能是制定商務(wù)應用基準程序(Benchmark)的標準規范、性能和價(jià)格度量,并管理測試結果的發(fā)布。

在過(guò)去二十多年間,該機構發(fā)布了多項數據庫評測基準,如TPC-A、TPC-D、TPC-H和TPC-DS,在業(yè)界得到了廣泛應用,相對而言,TPC在學(xué)術(shù)界和工業(yè)界擁有更強的影響力。

TPC-DS最早是用來(lái)衡量數據庫分析性能的基準測試。它是2006年在第32屆VLDB數據庫會(huì )議上提出,有99個(gè)測試。但基準測試不僅僅涉及這些查詢(xún)。測試過(guò)程和指標包括以下六個(gè)步驟(更多詳細信息,請參閱TPC-DS規范):

數據負載測試(LD)。

功耗測試(PT),在一個(gè)流中運行99個(gè)查詢(xún)。

吞吐量測試1(TT1),它在多個(gè)流中運行99個(gè)查詢(xún)。

維護測試1(DM1),它使用刷新功能更新數據庫。

吞吐量測試2(TT2),在多個(gè)流中重新運行99個(gè)查詢(xún)。

維護測試(DM2),使用刷新功能重新更新數據庫。

這99個(gè)查詢(xún)被定義為模板。每個(gè)查詢(xún)都有幾個(gè)參數,這些參數由dsqgen和SEED確定,具體為“被選為用格式mmddhhmmsss”表示的數據庫加載時(shí)間結束時(shí)間(加載結束時(shí)間)的時(shí)間戳。這個(gè)時(shí)間戳“保證查詢(xún)替換參數值在運行之前是未知的”。除參數外,不同流的查詢(xún)順序也不相同。圖1顯示了執行順序。

星環(huán)科技通關(guān)TPC-DS!中國數據庫領(lǐng)域首破紀錄誕生!

TPC-DS的性能結果取決于每個(gè)步驟的時(shí)間(生成SQL的時(shí)間不是結果的一部分)。根據TPC-DS測試流程,SQL語(yǔ)法和事務(wù)支持,優(yōu)化,穩定性和可伸縮性被確定為DBMS的關(guān)鍵因素。

自從這個(gè)標準提出到今天,12年來(lái),一直沒(méi)有一個(gè)產(chǎn)品能通過(guò)。因此,被視為數據庫界最難的一個(gè)測試標準,每隔一兩年都會(huì )在數據庫頂級會(huì )議上被討論,但遺憾的是一直沒(méi)有人能通過(guò)。

而TPC-DS測試模擬場(chǎng)景的數據量都比較大,一般10TB起步,傳統數據庫廠(chǎng)商多年都未通過(guò),如IBM、Oracle、Teradata都曾做過(guò)嘗試,但并沒(méi)有成功。而大數據庫廠(chǎng)商出現以后,為了衡量SQL和Hadoop誰(shuí)更好,從 2014年開(kāi)始,主流Hadoop廠(chǎng)商(如Cloudera, Hortonworks,Databricks)也開(kāi)始試圖攻破這一難題,每年都會(huì )去測上一次,也依然沒(méi)有取得什么實(shí)質(zhì)進(jìn)展。

星環(huán)科技創(chuàng )始人、董事長(cháng)孫元浩在接受筆者采訪(fǎng)時(shí)表示:“我們參與測試的目的,并不是為了測試而測試,最初,我們的目的只是為了衡量我們的產(chǎn)品處于什么樣的水平階段,同時(shí)看看能不能通過(guò)測試。”

孫元浩說(shuō):“實(shí)際上,我們在2014年底就通過(guò)了第一階段測試,而后面的步驟花了三年多的時(shí)間,去年7月,我們把測試結果提交給TPC組織,他們花了五個(gè)月的時(shí)間去審計結果。審計完以后再把所有測試結果和過(guò)程的全部公開(kāi)在網(wǎng)上,接受質(zhì)疑,所以它的難度是非常高的。”

目前,國外廠(chǎng)商對TPC-DS的攻關(guān)還處在第一階段,孫元浩補充道。

由于SQL或事務(wù)支持限制,大多數基于Hadoop的廠(chǎng)商無(wú)法運行完整的TPC-DS基準測試。由于架構和優(yōu)化限制,傳統數據庫廠(chǎng)商難以通過(guò)測試或無(wú)法取得良好結果,尤其是在大數據環(huán)境下,比如傳統數據庫由于架構限制,當有大量數據交換時(shí),會(huì )導致單個(gè)節點(diǎn)瓶頸。為了降低影響,一些廠(chǎng)商會(huì )引入了特殊設備來(lái)處理數據交換,這使得系統的成本很高。

而星環(huán)能通過(guò)完整測試,毫無(wú)疑問(wèn)的證明,在某些領(lǐng)域星環(huán)已經(jīng)超越國外廠(chǎng)商了,技術(shù)的差距總體來(lái)說(shuō)已經(jīng)很小了,甚至在某些方面已經(jīng)超過(guò)了國外廠(chǎng)商。

最后,記得關(guān)注微信公眾號:鎂客網(wǎng)(im2maker),更多干貨在等你!

鎂客網(wǎng)


科技 | 人文 | 行業(yè)

微信ID:im2maker
長(cháng)按識別二維碼關(guān)注

硬科技產(chǎn)業(yè)媒體

關(guān)注技術(shù)驅動(dòng)創(chuàng )新

分享到