北京2021年2月1日/美通社/--眾所周知,如今我們正身處信息爆炸的時代,隨著新基建的逐步深入,各行各業都在快速推進數字化轉型,隨之誕生的各類創新技術層出不窮。這些新技術的發展,大多都圍繞著海量數據這個主題展開。如人工智能,就是以海量數據為生產要素;5G技術的成熟應用,為海量數據快速生成與傳輸筑造了通路基礎,區塊鏈又為海量數據的去中心化交易提供了技術支撐。此類新技術的應用與推廣必然帶來海量數據的規模化聚集,數十甚至數百PB的存儲系統,將成為業界常態。應對海量存儲壓力,絕是不僅僅靠設備堆砌來解決容量問題這樣簡單。容量的上的疊加也將引發技術的質變,存儲系統面臨諸多關鍵技術上的挑戰。
曙光是國內第一家專注海量存儲系統研制的廠商,2009年第一代全自研ParaStor分布式存儲系統誕生,奠定了構建海量數據存儲最佳解決方案的基石。同年,曙光為用戶構建了當時國內最大的16PB單一存儲系統。在10多年的發展過程中,曙光始終圍繞海量分布式存儲系統進行架構的深度優化甚至局部重構,以應對云、人工智能、區塊鏈等技術帶來的海量數據新的挑戰。今天,曙光ParaStor在科研教育、氣象環保、生命科學、能源、區塊鏈等領域打造了一個又一個海量存儲最佳實踐,完成了從單套系統23PB、56PB到百PB級別的自我技術超越,獲得了市場的高度認可。
觀點:機構突然對以太坊的關注可能表明ETH不會被SEC標記為證券:金色財經報道,由于以比特幣為首的機構采用加密貨幣,以太坊目前表現出看漲勢頭。貝萊德(BlackRock)和富達(Fidelity)等幾家TradFi巨頭已申請現貨比特幣ETF。
Bloomberg Intelligence顯示,此前各機構申請比特幣現貨交易的次數多達30次,但都被SEC拒絕。因此,頂級市場監管機構的批準可能對包括以太坊在內的整個加密行業非常有利。在美國證券交易委員會官員聲稱最近的文件不充分后,加密貨幣市場暴跌。經紀公司Bernstein認為,由于富達等機構已經重新提交申請,美國證券交易委員會批準的可能性相當高。以太坊也受到了機構的廣泛關注。由嘉信理財(CharlesSchwab)、Citadel和Fidelity等巨頭支持的新加密貨幣交易所EDX已向其用戶提供以太坊交易服務。專家認為,機構突然對以太坊的關注可能是一個信號,表明該代幣不會被SEC標記為證券。[2023/7/4 22:16:18]
基于多年技術積累以及多套百PB級別超大規模存儲系統研制和運維經驗,曙光公司認為,只有擁有如下核心技術研發實力,才能更好的應對各行業海量數據存儲的挑戰。
Nansen CEO:Bybit風投部門昨日從FTX轉移BIT,使FTX余額略低于1億BIT:11月8日消息,Nansen首席執行官Alex Svanevik表示,追蹤Alameda錢包數據顯示,Alameda錢包地址在收到BIT后約一個月將其轉移至FTX錢包地址,自此FTX錢包地址保留了超1億BIT,但昨天余額跌至略低于1億BIT。然而讓FTX錢包地址低于1億BIT的交易是由Bybit的風投部門Mirana Ventures進行的。[2022/11/8 12:32:03]
先進、創新的底層存儲技術基座
在基礎架構層面,傳統集中式存儲架構由于Scale-up擴展方式的局限性,無法對海量數據的容量與性能需求實現良好的支撐,天然適合此類場景分布式存儲架構逐漸成為市場主流。為了應對海量存儲的挑戰,曙光ParaStor除了采用分布式架構之外,還可靈活選擇對稱與非對稱部署兩種模式,以更具性價比的硬件構建成本,支撐千億級別文件、EB級存儲空間的擴展需要。
一名Nomad攻擊者將約745萬的資產轉移至新錢包地址:8月24日消息,PeckShield在Twitter上表示,一名Nomad攻擊者(0xB5C5開頭的地址)將103枚WBTC、約1100枚以太坊和約345萬枚DAI轉移至0xAB96開頭的新地址。[2022/8/25 12:46:31]
除了架構之外,決定存儲系統先進性的另一關鍵要素是底層數據管理技術。目前業界分布式存儲系統,大多采用ext4、xfs等開源文件系統進行底層磁盤管理,以降低代碼開發量,縮短產品研發周期。但這種間接的磁盤管理方式,無法更直接、高效地發揮磁盤性能。特別是在配置了數千甚至上萬塊磁盤的海量存儲系統中,單個磁盤的性能衰減會成指數級放大,最終影響存儲系統的整體性能和可靠性。為解決這個難題,曙光在ParaStor上創新性地開發了OBS本地對象管理系統。利用OBS可以精細化控制磁盤IO,使應用層的多個小隨機IO智能組合為大的順序IO,減少磁盤操作,使數據布局和負載更均衡,顯著提升多事務并發、IO異步處理等海量數據應用場景的系統性能。并為熱點數據加速、自動分層、重刪壓縮等進階數據管理服務的高效運行打下了良好的基礎。
趙長鵬:WazirX拒絕Binance控制他們的系統:8月6日消息,幣安CEO趙長鵬發推稱,我們最近在今年2月要求轉移WazirX系統源代碼、部署、操作。這被WazirX拒絕了,Binance無法控制他們的系統。 WazirX一直不與我們合作。我們可以關閉域名,但無法控制交易系統。[2022/8/6 12:06:37]
海量并發應用場景下的深度性能優化
海量數據應用場景下,應用IO模型復雜多樣、文件粒度差異很大,為了匹配不同應用對帶寬、IOPS、延時的個性化需求,要求存儲系統具備從磁盤管理、網絡層到協議層整個IO路徑上的深度優化能力。同時,隨著參與數據存儲和處理節點數量的增加,由此帶來的資源開銷也會攀升,同樣需要針對性的優化設計。
從建設成本角度考量,海量存儲系統仍以機械磁盤為主角。機械磁盤由于尋址方式的物理設計,在處理隨機小文件IO時會有先天的性能劣勢,單純依靠硬盤數量的增加無法應對海量小文件的性能挑戰。曙光ParaStor基于底層OBS管理系統實現與閃存介質的深度融合,使用少量閃存高效覆蓋熱點IO需求,另一方面通過小IO合并、元數據緩存、動態智能預讀等多種方式,顯著提升海量大、小文件混合應用場景的整體用戶性能體驗。
以太坊開發平臺Infura支持Avalanche C-Chain區塊鏈:金色財經消息,以太坊開發平臺Infura宣布支持Avalanche C-Chain區塊鏈,Avalanche C-Chain是一種權益證明Layer1區塊鏈,具有快速吞吐量、低交易費用等特點,支持以太坊虛擬機(EVM)并允許開發人員部署Solidity智能合約。開發人員可以使用現有的以太坊工具(如Remix和MetaMask)測試在Avalanche C-Chain上部署智能合約,內測版候補名單現已開放注冊。[2022/7/20 2:25:42]
同時,曙光ParaStor通過高性能網絡InfinibandRDMA協議支持、專屬高性能POSIX客戶端等技術,針對具體的應用場景,單流帶寬可優化至18GB/s,在首屆中國海量存儲系統MassStor100排行榜中,一套裸容量為100PB的存儲系統,其系統聚合帶寬高達1TB/s,代表了業界最高水準。
隨著存儲系統規模的擴大,存儲客戶端對于CPU等資源的占用、數據網絡的負載和管理壓力也會增加,一旦某個節點由于上述原因出現阻塞,將對存儲系統的性能甚至可用性造成重大影響。曙光ParaStor分布式存儲系統,針對大規模集群的資源占用進行了多重細粒度的優化措施,保障了存儲系統性能的恒定發揮和數據訪問的可用性。
超大規模下的數據一致性和可靠性保障
在數據一致性保證層面,海量存儲系統必然伴隨著大量客戶端的并發訪問需求。通過軟件層面的高效調度,保障所有客戶端數據訪問的強一致性,避免對同一文件的并發讀寫對彼此數據的破壞,是一個成熟海量存儲系統的必備素質。ParaStor存儲在分布式鎖的使用與優化方面投入了大量精力,不斷提升大規模分布式鎖獲取與釋放的性能與可用性,并增加了可重入、非阻塞等特性,有效保障高并發共享訪問場景的順序、秩序與效率,在氣象環保、能源地質等海量數據處理場景得到了廣泛的應用。
在可靠性保障方面,硬件單點故障的防范只是海量存儲系統的初級需求,智能化故障預處理與高效無感知的系統自愈才能讓系統真正可靠穩定運行。以磁盤為例,對于磁盤的單點故障,我們可以通過成熟的多副本、糾刪碼、RAID等技術實現數據重構,對于中小規模存儲系統,磁盤故障屬于小概率事件,用戶只需要在某一段時間內對前端業務性能與重構性能做簡單取舍即可。但對于一個管理著上萬塊磁盤的百PB級海量存儲系統而言,意味著平均每天會有約2-5塊磁盤故障,存儲系統大部分時間內都處于業務與重構的資源爭用狀態。如果沒有妥善的處理方式,用戶每天都會面臨著要保障生產業務性能還是保障數據安全的靈魂拷問。曙光ParaStor存儲系統為大集群場景定向開發了內部資源動態調度管理算法,在充分發揮硬件處理能力的基礎上有效避免資源爭搶,同時通過多重技術顯著縮短故障數據重建時間,解決了性能與可靠性沖突這個海量存儲故障處理的主要矛盾。
智能化運維挑戰上千節點的管理
在運維管理方面,維護由數百甚至數千節點構成的海量存儲系統,僅靠傳統的管理方式顯然是不可行的,各節點間的信息實時同步開銷會成為存儲系統的不可承受之重。曙光ParaStor在集群通信管理模塊中,將節點按照不同角色抽象成多個管理分組,以分組為單位進行管理信令交互,增大了信息傳遞顆粒度以降低通信頻度,實現管理流量的去中心化錯峰交互,集群信息秒級同步,使系統中所有節點都能“統一思想,明確目標”,提升存儲系統的整體戰斗力。
積土成山,風雨興焉;積水成淵,蛟龍生焉。正如常規軟件處理方式無法應對巨量數據集合的捕捉、管理與計算,而必須引入大數據等新型數據處理模式一樣,海量數據存儲在基礎架構、數據管理、性能優化、數據一致性、可靠性保障、運維管理等需求也需要全方位的定向深度優化才可能完美承載。曙光ParaStor在海量存儲領域持續深耕,正在為全國數千家用戶管理著超過10EB的核心數據,為云計算、軌道交通、氣象環保、基因測序、能源勘探等行業用戶的海量數據管理提供了堅實穩定的保障。放眼未來,曙光存儲將繼續總結與吸收海量數據存儲系統優化與運維過程中積累的寶貴經驗,并在數據全生命周期管理,在線實時數據處理,以及與區塊鏈、AI、容器等新興技術深度融合等方面加強投入,為用戶提供更快速、更可靠、更智能、更便捷的一站式數據管理服務。
來源:金色財經
隨著數字化時代的到來,如何發展金融科技已成為各區域,乃至國際金融競爭的制高點。重慶作為中國西部地區重要經濟增長極,緊跟國家經濟發展腳步,正在加大對金融科技的頂層規劃.
1900/1/1 0:00:00興鑫論幣:2.1早間比特幣行情分析與操作策略 比特幣從1小時副圖看到,MACD快慢線在0軸下方微微向上拐;RSI三線均向上拐;KDJ向上的姿勢很明顯。建議做多為主.
1900/1/1 0:00:00導語:一個上線72小時,資金存借超4億美金的Defi項目是什么概念?不懂的人還在觀望,讀懂的人已經去空手套白狼了。本文科普LendHub,手把手教你如何去火幣薅羊毛.
1900/1/1 0:00:00過去24小時,整個市場的交易量1584億美金,比前一天增加了約200億,現在是北京時間2月2日的上午08點11分,BTC即時價格33618USDT,下面是具體分析.
1900/1/1 0:00:00為獎勵優秀創作者,鼓勵用戶們制作更好的短劇,2020快手小劇場年度金劇獎頒獎盛典于12月18日在青島隆重舉行.
1900/1/1 0:00:00技術進展 1.Soter 輕量存儲改進實驗 已成功跑起輕量存儲Thundercore節點 研究RPC與存量的關系 2.
1900/1/1 0:00:00