首頁|必讀|視頻|專訪|運營|制造|監(jiān)管|大數(shù)據(jù)|物聯(lián)網(wǎng)|量子|元宇宙|博客|特約記者
手機|互聯(lián)網(wǎng)|IT|5G|光通信|人工智能|云計算|芯片報告|智慧城市|移動互聯(lián)網(wǎng)|會展
首頁 >> 技術熱點 >> 正文

大數(shù)據(jù)解決之道:華為OceanStorMVX存儲系統(tǒng)技術漫談

2012年9月6日 16:23  CCTIME飛象網(wǎng)  

    大數(shù)據(jù)時代,用戶處理的數(shù)據(jù)量越來越大,需要的容量越來越大;保存的數(shù)據(jù)越來越多樣越來越復雜,包括不同的來源,不同的格式,包括結構化和非結構化數(shù)據(jù)等;需要的訪問速度越來越高,訪問延遲越來越低;對數(shù)據(jù)價值的挖掘能力要求越來越高。

    根據(jù)Gartner的分析,滿足大數(shù)據(jù)的IT架構,至少應具備下面幾個特征

    1) 橫向擴展: 可以線性橫向擴展而沒有性能影響

    2) 低成本組件:通過使用消費級硬件,降低采購成本

    3) 高可用:硬件故障作為常態(tài)而非特例來解決

    4) 不共享架構:節(jié)點之間相互獨立

    我們以此為基礎,逐步揭開MVX的面紗。

    Scale-uporScale-out

    傳統(tǒng)的NAS設備一般使用雙控制器節(jié)點提供服務,每個節(jié)點支持特定的業(yè)務負載,當容量不夠時通過擴展磁盤框的方式增加存儲容量。這種方式的缺陷在于,首先業(yè)務和節(jié)點的綁定,意味著一個業(yè)務及其關聯(lián)的文件系統(tǒng)只在一個節(jié)點上工作,容易造成系統(tǒng)整體的負載不均。其次,這種系統(tǒng)本質(zhì)上是Scale-up的擴容方式,追求單機性能,無法做到系統(tǒng)性能隨容量的增加線性增加。Scale-Out方式則是橫向擴展,疊加容量或性能節(jié)點,使容量性能得到擴展。

    華為OceanStorMVX存儲系統(tǒng)(以下簡稱MVX)采用Scale-out架構,節(jié)點之間完全對稱,采用全Active的Sharenothing方式,系統(tǒng)的數(shù)據(jù)和管理數(shù)據(jù)(元數(shù)據(jù))分布在各個節(jié)點上,避免了系統(tǒng)資源爭用,消除了系統(tǒng)瓶頸;即使出現(xiàn)整節(jié)點故障,系統(tǒng)能夠自動識別故障節(jié)點,自動恢復故障節(jié)點涉及的數(shù)據(jù)和元數(shù)據(jù),使故障對業(yè)務透明,完全不影響業(yè)務連續(xù)性。MVX支持3-288節(jié)點的彈性空間,100PB的全局統(tǒng)一命名空間,并且支持文件內(nèi)的細粒度的全局鎖,支持從多個節(jié)點并發(fā)訪問相同文件的不同區(qū)域,實現(xiàn)高并發(fā)讀,最終實現(xiàn)高性能的訪問系統(tǒng)。MVX系統(tǒng)采用全互聯(lián)組網(wǎng)機制,節(jié)點間采用10GE或者Infiniband高速互聯(lián),適配客戶不同的組網(wǎng)需求,支持從集群任何一個節(jié)點并發(fā)訪問系統(tǒng)中的任何文件。所以MVX通過節(jié)點的擴展來解決海量容量的增長,同時還能保持性能線性增長,以此滿足業(yè)務發(fā)展需求。

    MVX系統(tǒng)對數(shù)據(jù)和元數(shù)據(jù)分開管理,這樣做帶來的好處,MVX可以在存儲容量不變的情況下,通過增加性能加速節(jié)點,進一步顯著提高系統(tǒng)對IO的響應能力,最終向用戶提供卓越的性能。

    分布式Raid

    傳統(tǒng)Raid,把數(shù)據(jù)存放在一個節(jié)點內(nèi)的不同硬盤上,當一個硬盤損壞時,通過Raid重構,恢復壞盤上的數(shù)據(jù),但當整個節(jié)點故障時,整節(jié)點的數(shù)據(jù)就會出現(xiàn)丟失,針對這個問題,可以通過在節(jié)點間寫多份來解決。節(jié)點間寫多份可以解決傳統(tǒng)RAID整節(jié)點故障時丟數(shù)據(jù)的問題,但磁盤利用率很低,導致高TCO。 MVX的數(shù)據(jù)通過分布式RAID,節(jié)點間冗余的方式進行保護,數(shù)據(jù)進入系統(tǒng)之后,被切分為N個數(shù)據(jù)片,然后計算出M個冗余分片,保存在N+M個不同節(jié)點的不同硬盤上。這種N+M的冗余模式可以對任意目錄進行重新配置,甚至可以對同一目錄下的不同文件配置不同的冗余比。這意味著用戶可以靈活多變地根據(jù)自己的實際需求來指定數(shù)據(jù)冗余,從而設置不同的可靠性。

    集群節(jié)點中,任意不超過M個硬盤故障后,MVX可以通過節(jié)點間數(shù)據(jù)重構的方式快速恢復出所損失的數(shù)據(jù),進而恢復整系統(tǒng)的數(shù)據(jù)可靠性。集群中任意節(jié)點故障后,該節(jié)點所提供的服務會被自動遷移到其他節(jié)點上,使得故障對業(yè)務無感知。通過把數(shù)據(jù)分片寫到不同的節(jié)點上,不僅可以提高讀寫性能,又能保證數(shù)據(jù)的高可靠性,還能保持高的磁盤利用率,節(jié)約投資。

    分級存儲和桌面盤

    MVX產(chǎn)品對用戶提供統(tǒng)一命名空間,組成統(tǒng)一命名空間的設備可以由不同系列的硬件組成,當高性能設備和大容量設備同時存在時,系統(tǒng)會自動識別并形成分級存儲。

    大容量節(jié)點可以使用桌面級硬盤。桌面級硬盤成本比較低,但是這種硬盤相對企業(yè)級硬盤來說,對業(yè)務的占空比要求比較苛刻,另外能持續(xù)在線工作的時間也比較短。MVX系統(tǒng)由于實現(xiàn)了自動在線分級,并且支持對硬盤下電,可以極大縮短硬盤在線工作的時間,在綠色節(jié)能的同時延長硬盤使用壽命。MVX通過支持桌面級硬盤在離線存儲中的應用,大幅降低企業(yè)的采購成本。

    多位一體

    MVX在支持橫向擴展,高可用,share-nothing的基礎上,進一步開創(chuàng)性提出了三位一體、按需分布的理念,即在一個系統(tǒng)內(nèi)支持對數(shù)據(jù)的分布式存儲、分布式備份以及分布式數(shù)據(jù)分析的一體化全生命周期管理,而且在數(shù)據(jù)統(tǒng)一調(diào)度模塊的調(diào)度下,實現(xiàn)了數(shù)據(jù)在多域間有效流動。MVX可以對包括NFS、CIFS、POSIX在內(nèi)的NAS接口,包括JDBC、ODBC在內(nèi)的數(shù)據(jù)庫接口,包括REST、SOAP在內(nèi)的對象存儲接口和VTL、OST等數(shù)據(jù)備份歸檔接口等多種接口和多種數(shù)據(jù)類型進行支持。

    作為貼合大數(shù)據(jù)需求的產(chǎn)品,MVX在高性能分布式架構基礎之上,以三位一體,按需分布的理念為指導,分布式存儲、分布式數(shù)據(jù)庫、分布式備份等功能可以作為功能插件插入到系統(tǒng)中來,從而實現(xiàn)多樣化數(shù)據(jù)存儲、數(shù)據(jù)快速檢索、數(shù)據(jù)歸檔節(jié)能等不同領域的需求。而當用戶需要這些特性時,需要做的只是增加更多的MVX節(jié)點或者在MVX的基礎上增加更多的功能特性模塊。

    雖然融合了多個功能,MVX的管理卻不復雜。管理系統(tǒng)支持域名訪問,用戶可以遠程使用標準的網(wǎng)絡瀏覽器,在一個界面上通過鼠標點擊即可完成包括設備管理、空間管理、用戶管理在內(nèi)的各種管理操作,或者收集系統(tǒng)性能、容量、告警等統(tǒng)計信息。MVX提供了強大的管理功能,卻不要求單獨部署管理服務器,這意味著管理服務集成在系統(tǒng)內(nèi)部而且可以被系統(tǒng)內(nèi)部的故障切換模塊管理,即使發(fā)生任意局部故障,用戶也不用擔心管理系統(tǒng)癱瘓。

    華為OceanStorMVX存儲系統(tǒng)橫向Scale-out擴展,同時性能線性增長,輕易滿足用戶大容量、高并發(fā)、低時延、以及彈性擴展的要求;而其自動智能的分級存儲使用戶在性能和容量之間更容易找到一個平衡點。在提供彈性空間,卓越性能的同時,在一個架構里面智慧融合結構化數(shù)據(jù)和非結構化數(shù)據(jù)存儲,分析,備份容災,消除數(shù)據(jù)孤島,數(shù)據(jù)全生命周期管理,支撐各種業(yè)務需求;還能實現(xiàn)軟件硬件網(wǎng)絡簡單集中管理。

    華為OceanStorMVX存儲系統(tǒng),大數(shù)據(jù)的解決之道。

編 輯:霏雯
聲明:刊載本文目的在于傳播更多行業(yè)信息,本站只提供參考并不構成任何投資及應用建議。如網(wǎng)站內(nèi)容涉及作品版權和其它問題,請在30日內(nèi)與本網(wǎng)聯(lián)系,我們將在第一時間刪除內(nèi)容。本站聯(lián)系電話為86-010-87765777,郵件后綴為#cctime.com,冒充本站員工以任何其他聯(lián)系方式,進行的“內(nèi)容核實”、“商務聯(lián)系”等行為,均不能代表本站。本站擁有對此聲明的最終解釋權。
相關新聞              
 
人物
工信部張云明:大部分國家新劃分了中頻段6G頻譜資源
精彩專題
專題丨“汛”速出動 共筑信息保障堤壩
2023MWC上海世界移動通信大會
中國5G商用四周年
2023年中國國際信息通信展覽會
CCTIME推薦
關于我們 | 廣告報價 | 聯(lián)系我們 | 隱私聲明 | 本站地圖
CCTIME飛象網(wǎng) CopyRight © 2007-2024 By CCTIME.COM
京ICP備08004280號-1  電信與信息服務業(yè)務經(jīng)營許可證080234號 京公網(wǎng)安備110105000771號
公司名稱: 北京飛象互動文化傳媒有限公司
未經(jīng)書面許可,禁止轉載、摘編、復制、鏡像