據(jù)IDC預測,到2024年,全球?qū)?chuàng)建、復制和消費143ZB的數(shù)據(jù),其中中國創(chuàng)建的數(shù)據(jù)為36ZB,占25%。這么大的數(shù)據(jù)存儲了多少?西部數(shù)據(jù)認為只存儲不到1.5%的數(shù)據(jù)。業(yè)界認為這個估計太樂觀樂觀了,存儲的數(shù)據(jù)實際上低于這個比例。
企業(yè)級存儲結(jié)構(gòu)面臨挑戰(zhàn)
為什么會發(fā)生這種情況?幾年前,行業(yè)宣傳數(shù)據(jù)是現(xiàn)代石油,是發(fā)展的動力。那么多珍貴的石油就這樣流失了,沒有挖掘和分析處理,是不是浪費了?
西部數(shù)據(jù)公司副總裁兼中國區(qū)業(yè)務總經(jīng)理劉鋼認為,這么多數(shù)據(jù)沒有存儲的主要原因是存儲的結(jié)構(gòu)和存儲技術(shù)沒有及時跟上,大部分數(shù)據(jù)都無法存儲和及時使用。
即目前企業(yè)級存儲結(jié)構(gòu)面臨著不可避免的挑戰(zhàn),數(shù)據(jù)增長迅速,存儲性能需求倍增,TCO負擔增加,綠色能源消耗系統(tǒng)標準
人們需要大容量、快速訪問、成本低、能源消耗低的存儲。那么,存儲設備和存儲介質(zhì)能同時滿足這四個要求嗎?
劉鋼在不久前的2021深圳國際大數(shù)據(jù)和存儲峰會上,能夠滿足這四個要求的單一存儲介質(zhì)和存儲設備確實很難找到。但幸運的是,人們可以通過創(chuàng)新的架構(gòu),通過系統(tǒng)滿足用戶各方面、各種存儲場景的需求。因為用戶的數(shù)據(jù)需要分層,所以用戶的數(shù)據(jù)類型不同,不同類型的數(shù)據(jù)對存儲的要求也不同。
創(chuàng)新存儲結(jié)構(gòu)應對大量數(shù)據(jù)需求
劉鋼認為數(shù)據(jù)有層次,因此將數(shù)據(jù)分為極熱數(shù)據(jù)、熱數(shù)據(jù)、溫數(shù)據(jù)、冷數(shù)據(jù)和極冷數(shù)據(jù)5層。另外,分為各層對應的應用場景。
不同層數(shù)據(jù)所需的存儲介質(zhì)和存儲設備不同。例如,對于冷卻數(shù)據(jù)和極冷卻數(shù)據(jù),行業(yè)目前常用的方案是高密度的大容量企業(yè)級硬盤。
劉鋼對媒體表示,目前高密度企業(yè)級硬盤已經(jīng)升級到18T。對于極冷的貯藏,西部數(shù)據(jù)利用軟件和技術(shù)進行優(yōu)化,采用SMR重疊式硬盤可應用于20T高密度企業(yè)。
關(guān)于具體產(chǎn)品,劉鋼表示,20TBUltrastarDCHC650主機管理SMR高DD和16TB和18TBUltrastarDCHC550CMRHDD已于2019年9月發(fā)布,是優(yōu)先進入商業(yè)化實施階段的EAMR技術(shù)。通過西部數(shù)據(jù)HelioSeal技術(shù)提供的優(yōu)秀功耗和機械創(chuàng)新(例如提高頭部定位精度,提供更大容量功能的TSA),這些HD可以提供領(lǐng)先的密度,九盤硬盤可以更有效地配置和擴大數(shù)據(jù)中心環(huán)境
單位TB價格($/TB)是存儲服務器購買成本的重要組成部分,也是構(gòu)建現(xiàn)代云數(shù)據(jù)中心的考慮核心。與$/TB相比,TCO能夠表現(xiàn)出正確的數(shù)據(jù)中心運營成本:TCO的降低不僅僅是降低$/TB。每個硬盤的容量越大,就意味著更少的服務器存儲容量越大,從而節(jié)省資本和運營成本。例如,從14TB轉(zhuǎn)移到18TB的顯著TCO收益:服務器減少了22%的TCO減少了11%。鑒于數(shù)據(jù)中心占用空間有限,通過更高的HDD容量進行更密集的存儲部署,還可以產(chǎn)生更多的收入。
存儲服務器的成本通常要求控制在數(shù)據(jù)中心整體運行成本的60%以內(nèi)。事實上,更高容量的高密度可以更有效地平衡這一需求。西部數(shù)據(jù)持續(xù)開展多項技術(shù)創(chuàng)新,如能源輔助、機械設計、材料和記錄技術(shù),幫助所有數(shù)據(jù)中心客戶,大型企業(yè)和中小企業(yè)有效應對數(shù)據(jù)基礎(chǔ)結(jié)構(gòu)的挑戰(zhàn)。
圖:從左到右依次為:西部數(shù)據(jù)Ultrastar DC HC550 HDD 16TB、Ultrastar DC HC550 HDD 18TB和Ultrastar DC HC650 HDD 20TB
劉鋼還透露了一個消息,那就頭部的云服務商硬盤在過去4年當中,從8T進化到了18T。IPFS的經(jīng)營者以更快的速度進化,他們在過去的4個季度結(jié)束了云經(jīng)營者過去4年的進化過程,從8T進化到了18T。
圖:云服務商與IPFS服務商使用硬盤的演進過程。
為什么數(shù)據(jù)中心能快速從8T升級到18T?事實上,當數(shù)據(jù)中心只從14T升級到18T時,為了達到相同的存儲容量,服務器的數(shù)量將減少約22%,不僅服務器的數(shù)量將減少,存儲密度也將增加,單位的功耗也將減少約21%,因此部署成本將降低,運輸成本也將降低。
除了大數(shù)據(jù)外,還有一些數(shù)據(jù)用戶需要能夠快速訪問,如熱存儲、溫存儲等。這些數(shù)據(jù)指的是快速數(shù)據(jù)。西部數(shù)據(jù)把SSD劃分成了兩類,一類是主流的SSD,還有一類是針對寫密集、計算密集的高性能SSD。
據(jù)劉鋼介紹,西部數(shù)據(jù)推出全新UltrastarDCSN840NVMebookSSD和UltrastarDCSN640NVMeSSD。應用于IPFS,特別是在包裝計算機和服務器時使用SSD,對于IPFS的包裝機,4個7.68T的SSD可以提供非常好的加速。
說到SSD,目前其主要容量點為3.84T和7.68T。SSD的主要成本是閃存的,F(xiàn)lash決定了SSD硬盤的成本和性能。因此,SSD供應商需要大規(guī)模的生產(chǎn)能力,在保證供應的同時,可以降低成本,領(lǐng)先的Flash技術(shù)可以提供高性能Flash、自主控制的控制器和部件,縱向優(yōu)化SSD產(chǎn)品,提供一致穩(wěn)定的高性能他指出。
劉鋼還提到了他們剛剛發(fā)布的第六代3D閃存技術(shù),162層的3D閃存技術(shù),該技術(shù)將進一步縮小芯片尺寸,降低成本,提高性能。其程序性能可提高2倍以上,輸入/輸出的IOPS提高約66%。
在劉鋼看來,西部數(shù)據(jù)最大的優(yōu)勢是縱向整合的優(yōu)勢。他們不僅有控制器及其固件,而且與Flash縱向整合后,可以達到非常穩(wěn)定的一致性。
與合作伙伴的成功案例
截止目前,西部數(shù)據(jù)已經(jīng)與許多行業(yè)領(lǐng)先的公司合作,致力于依靠行業(yè)領(lǐng)先的技術(shù)和整體解決方案來支持客戶和合作伙伴。
1.Dropbox超大容量企業(yè)級HDD全球應用
Dropbox攜手西部數(shù)據(jù),為確保流暢無縫地向SMR轉(zhuǎn)移,Dropbox對其特定機箱配置進行內(nèi)部測試,采用SMR技術(shù)替換原CMR技術(shù)后,存儲密度增加10%-20%,節(jié)省20%TCO。作為領(lǐng)先認證Ultrastar20TBSMR-HDD的企業(yè)之一,Dropbox利用數(shù)據(jù)中心的大容量、高效率和擴展能力,應對滿足全球企業(yè)、團隊和個人云存儲和服務增長的前沿需求。Dropbox日前,成為西部數(shù)據(jù)主機管理重疊磁記錄的第一批認證SMRHDDD,UltratrArDCHC65020TB的企業(yè)之一。使用西部數(shù)據(jù)SMRHDD作為定制的EB級存儲平臺的存儲基礎(chǔ),Dropbox遵循其戰(zhàn)略路線,使整體成本(TCO)更高。
西部數(shù)據(jù)浪潮、星星天合的IPFS解決方案
西部數(shù)據(jù)浪潮、星星天合多方合作,共同發(fā)布IPFS解決方案,在軟件水平上,該解決方案門為IPFS場景而生的XSFS系統(tǒng),通過新的存儲技術(shù)手段,基于通用的X86服務器構(gòu)建了無限擴展、持續(xù)在線的高性價比存儲系統(tǒng),在保證數(shù)據(jù)安全的同時,降低了IPFS的需求
在硬件層面,這一解決方案包含浪潮英信服務器NF546M5西部數(shù)據(jù)UltrastardDCSN840.SSDUltrastardCHC550硬盤和Ultrastardastardata60JBOD存儲平臺。搭載444塊/36塊大容量的UltrastarDCHC50,NF5466M5為IPFS存儲提供了大容量的存儲空間,利用硬盤的高穩(wěn)定性,顯著降低了提交復印證明書和時空證明書的概率。
3聯(lián)手杉巖數(shù)據(jù)打造IPFS解決方案
杉巖數(shù)據(jù)聯(lián)合西部數(shù)據(jù),共同推出搭載了杉巖 MOS 海量對象存儲系統(tǒng)以及西部數(shù)據(jù)SSD, HDD與JBOD存儲平臺,并針對 IPFS 進行了優(yōu)化的解決方案。該系統(tǒng)能夠滿足算力集群數(shù)據(jù)寫入需要的高吞吐量存儲集群性能,并對時空證明請求進行了優(yōu)化,使其可以獲取多個文件的多段內(nèi)容。同時,杉巖數(shù)據(jù)在該方案中部署了EC(222)冗馀技術(shù),實現(xiàn)了高達91.6%的存儲空間利用率。
這個解決方案搭載了西部數(shù)據(jù)UltrastarDCSN840NVMeSD和UltrastarDCD,SN640NVMeSSD,UltrastartDCHC50分鐘18TB大容量HDD,以及UltrastarDATA102JBOD存儲平臺,可以全面滿足IPFS存儲集群的需求。由于西部數(shù)據(jù)存儲硬件的優(yōu)勢和杉巖數(shù)據(jù)的優(yōu)秀存儲系統(tǒng)設計,該解決方案有助于IPFS服務提供商顯著提高性能、穩(wěn)定性,提高投資回報率。其中Ultrastar,DCHC550,HDDD,18TB的超大容量,UltrastarData102的組合,有助于實現(xiàn)集約空間設計,大幅度降低IPFS集群所需的機柜空間、電源消耗、硬件成本。
4與長城超云合作制作IPFS新模式
長城超云與西部數(shù)據(jù)合作制作了與IPFS場景完美匹配的產(chǎn)品級解決方案,廣泛應用于IPFS行業(yè)。方案主要以西部數(shù)據(jù)高性能大容量企業(yè)級硬盤UltrastarDCHC50系列的18TBThDD為基礎(chǔ),設計了Miner、Worker案,包括Miner、Worker和Storage,大幅提高了客戶的業(yè)務效率通過優(yōu)秀的產(chǎn)品配置和算法調(diào)整,整體效率提高了50%以上,同時單t有效的計算力硬件成本大幅度降低。