過去半個世紀,集成電路產業在摩爾定律的指引下飛速發展,算法效率一直保持著大跨度提升。2018年世界上最快的計算機IBMSummit比1945年世界第一臺電子計算機ENIAC計算速度提高了近30萬億倍。
然而,隨著摩爾定律接近物理極限,芯片研發和生產成本大幅上升,未來依靠算力提升計算性能的空間有限。靠提升計算機硬件性能可能越發難以滿足海量計算的需要,未來的解決之道在于提升算法的效率。
MIT的這篇新論文總結了過去80年來,算法效率的提升究竟有多快。
提起算法,它有點像計算機的父母,它會告訴計算機如何理解信息,而計算機反過來可以從算法中獲得有用的東西。
算法的效率越高,計算機要做的工作就越少。對于計算機硬件的所有技術進步,以及備受爭議的摩爾定律的壽命問題來說,計算機硬件的性能只是問題的一方面。
財政部:推動區塊鏈等新一代信息技術和科技產品深度融合應用:金色財經報道,5月4日,財政部發布關于做好2023年農村綜合性改革試點試驗有關工作的通知指出,創新數字鄉村發展機制。發揮新一代信息技術創新引領作用,大力推進數字鄉村建設,推動數字技術與發展鄉村實體經濟、構建鄉村治理體系加速融合,著眼解決實際問題,拓展農業農村大數據應用場景。加強“互聯網+農業”建設,推動云計算、大數據、物聯網、區塊鏈、北斗終端、多光譜、人工智能技術等新一代信息技術和科技產品深度融合應用,加快推動傳統產業數字化、智能化轉型,探索鄉村數字經濟新業態。以數字技術賦能鄉村公共服務,完善農民生活服務體系,構建線上線下相結合的鄉村便民服務機制,提高鄉村治理智能化、精細化、專業化水平。注重網絡安全、數據安全。[2023/5/4 14:42:57]
而問題另一方面則在硬件之外:算法的效率問題。如果算法的效率提升了,對同一計算任務需要的算力就會降低。
美國政府合作伙伴Mitre正在招聘一名Web3經濟學家:金色財經報道,美國政府合作伙伴Mitre在LinkedIn上發布了一則Web3經濟學家的招聘廣告,該帖子稱,Mitre正在尋找具有加密貨幣和NFT等數字資產經驗的人選,旨在分析和評估Web3生態系統。
據悉,Mitre運營著聯邦政府資助的研發中心,致力于解決“國家在國防、網絡安全、醫療保健、國土安全、司法和交通方面面臨的挑戰”。這位新經濟學家將在Mitre的成本與業務分析部門工作。(TheBlock)[2023/2/13 12:02:54]
雖然算法效率問題可能不太受關注,但你是否注意到,經常使用的搜索引擎是否突然變快了十分之一,而在大型數據集中活動,就感覺就像在泥濘中跋涉一樣艱難緩慢。
這些都與算法效率有關。
路透社:律師因不信任巴哈馬政府拒絕分享與FTX有關的Slack、Google和AWS賬戶與數據:12月15日消息,FTX 巴哈馬業務 FTX Digital Markets 清算人已要求美國破產法官 John Dorsey 允許他們訪問與 FTX 有關的 Slack、Google 和 AWS 賬戶和數據。不過 FTX 律師 James Bromley 要求 John Dorsey 拒絕這一請求,并稱巴哈馬政府此前已經從 FTX Digital Market 的清算人那里獲得了信息,并利用這些信息從 FTX 中吸走了數字資產。
James Bromley 表示,這是危險的信號,我們不信任巴哈馬政府。目前美國破產法官 John Dorsey 已要求 FTX 律師和 FTX Digital Markets 清算人雙方要么尋找調解人,要么準備在 1 月份的法庭聽證會上出示證據。[2022/12/15 21:46:57]
近日,麻省理工學院計算機科學與人工智能實驗室(CSAIL)的科學家提出疑問:算法效率的提升速度到底有多快?
畢馬威將研究元宇宙中的新商業模式:11月19日消息,畢馬威(KPMG)任命Alyse Sue為元宇宙期貨的新負責人,該職位將致力于實施元宇宙和加密等技術,為公司尋找新的商業模式。
Sue表示,畢馬威對元宇宙技術的未來以及未來提供這些服務可能帶來的收入數額表示樂觀。目標是到2025年為畢馬威建立一個價值數百萬美元的業務。這個確切數字意味著什么尚待發現,但我們希望在這個時間框架內建立一個可持續的業務。(News Bitcoin)[2022/11/20 22:07:58]
關于這個問題,現有數據大部分是敘事性的,其中很大一部分是面向特定算法的案例研究,再把這些研究結果加以推廣。
面對實證研究數據的不足,研究團隊主要利用了來自57部教科書和1110多篇研究論文的數據,以追溯算法效率提升的歷史。
金融科技公司Pezesha完成1100萬美元融資:金色財經報道,肯尼亞金融科技公司Pezesha完成1100萬美元融資,Women's World Banking Capital Partners II領投,參投方包括Verdant Frontiers Fintech Fund、cFund以及Cardano開發公司IOG,1100萬美元融資中還包括了來自Talanton和Verdant Capital Specialist Funds的500萬美元債務融資。
據悉,Pezesha建立了一個可擴展的數字借貸基礎設施,允許傳統和非傳統金融機構向中小型企業提供借貸服務。Pezesha表示計劃通過利用本地和國際銀行機構、高凈值個人和DeFi,每年為企業創造1億美元的融資機會。(Techcruch)[2022/8/30 12:58:04]
其中有些論文的結論中直接給出了新的算法有多高效,有的論文則需要作者使用“偽代碼”進行重構。
研究人員總共研究了113個“算法系”,即解決計算機科學教科書中最重要的同一問題的算法集。他們對每個算法族的歷史進行了回顧,跟蹤每次針對某一問題提出的新算法,并特別注意更高效的算法。
圖1算法發現和改進。(a)每十年發現的新算法系的數量。(b)已知算法系的比例每十年都有所提高。(c)首次發現時算法系的漸近時間復雜度分類。(d)同一時間復雜度的算法轉換到另一個時間復雜度的每年平均概率。在和中“>n3”的時間復雜度表示超過多項式級,但不到指數級。
最早的算法系可追溯到上世紀40年代,每個算法系平均有8個算法,按時間順序效率逐步提升。為了共享這一發現,團隊還創建了“算法維基”頁面。
研究人員繪制了圖表,標識這些算法族效率提升的速度,重點關注算法分析最多的特征——這些特征往往決定了解決問題的速度有多快。
圖2算法系的相對效率提升,使用漸近時間復雜度的變化計算。參考線是SPECInt基準性能。(a)與該系列中的第一個算法相比,四個算法系的歷史改進。(b)算法改進對“最近鄰搜索”算法系列的輸入大小(n)的敏感度。為了便于比較算法改進效果隨時間的變化,在圖(b)中將算法系和硬件基準的起始時間段對齊。
結果顯示,變數很大,但也發現了關于計算機科學變革性算法效率提升的重要信息。即:
1、對于大型計算問題,43%的算法系的效率提升帶來的收益,不低于摩爾定律帶來的收益。
2、在14%的問題中,算法效率提升的收益遠超硬件性能提升的收益。
3、對于大數據問題,算法效率提升收益特別大,因此近年來,這一效果與摩爾定律相比越來越明顯。
當算法系從指數復雜度過渡到多項式復雜度時,情況出現了最大的變化。
所謂指數復雜度算法,就像一個人猜密碼鎖的密碼一樣。如果密碼盤上只有一位數,那么任務很簡單。如果像自行車鎖一樣,表盤是4位數,估計你的自行車很難有人偷得走,但仍然可以一個個試。如果是表盤是50位的,就幾乎不可能破解了,需要的步驟太多了。
圖3基于漸近時間復雜度計算的110個算法系效率提升的年平均速度分布,其中問題規模為:(a)n=1000,(b)n=100萬,(c)n=10億。硬件性能提升線表示從1978年到2017年,SPECInt基準性能的平均年增長率
這類問題也是計算機面對的難題,隨著問題的規模越來越大,很快就會超過計算機的處理能力,這個問題光靠摩爾定律是解決不了的。
解決之道在于找到多項式復雜度的算法。
研究人員表示,隨著摩爾定律終結這個話題越來越多地被提及,我們需要將未來的解決方案的重點放在算法的效率提升上。
圖4前導常數在算法性能提升中的重要性評價
研究結果表明,從歷史上看,算法效率的提升帶來的收益是巨大的。不過二者之間存在著頻度的差異,摩爾定律帶來的提升是平滑而緩慢的,而算法效率的提升是階梯式的躍進,但出現沒那么頻繁。
本文通訊作者尼爾·湯普森說:
這是業界第一篇說明算法效率提升速度的論文。通過我們的分析,可以得出算法改進后,使用同樣的算力可以完成多少任務。
隨著問題的規模不斷增大,比如達到數十億或數萬億個數據點,算法效率的提升帶來的收益,比硬件性能的提升更重要,而且重要得多。
在我們開始逐步為算力不足發愁的時代,在摩爾定律越來越顯出疲態的今天,這一發現可能為未來解決超大型計算問題開辟一條新的思路。
參考鏈接:
https://news.mit.edu/2021/how-quickly-do-algorithms-improve-0920
https://ieeexplore.ieee.org/stamp/stamp.jsp?tp=&arnumber=9540991
編輯:星際視界Sue
摘要 整體TVL下降9.13B,已連續四周下跌。Solana上的Serum和Solend協議帶動公鏈TVL逆勢增長。VeefriendsNFT價格持續上漲.
1900/1/1 0:00:00區塊鏈技術不僅對貨幣,而且對整個社會都具有深遠的影響。交易和合同及其記錄是我們法律、和經濟體系的支柱.
1900/1/1 0:00:002021年9月17日,Chair.Finance的創始人兼CEO——Adriel親臨INSIGHT社區參與AMA活動,詳細介紹并回答了社區成員們的問題,以下是本次AMA的文字整理.
1900/1/1 0:00:00前言 關注區塊鏈的朋友,經常會在圈子里面看到有關零知識證明的信息,而zksync、mina等知名項目都是使用到了零知識證明的相關技術.
1900/1/1 0:00:00Jessica:您好,歡迎來到WorldMobile。今天我們邀請到的是JohnO'Connor先生。我們將討論進展,并對John本人有更多的了解。John,非常感謝你今天加入我.
1900/1/1 0:00:00我們非常高興地宣布Chainlink迄今為止規模最大的黑客松正式開放報名!此次黑客松將于2021年10月22日開始,一直持續到11月28日.
1900/1/1 0:00:00