3月22日,生命未來研究所(FutureofLife)向全社會發布了一封《暫停大型人工智能研究》的公開信,呼吁所有人工智能實驗室立即暫停比GPT-4更強大的人工智能系統的訓練,暫停時間至少為6個月。
目前該公開信已獲得超過1100個人士支持,其中包括埃隆馬斯克、山姆·奧特曼、約書亞·本吉奧等知名人士。
公開信正文
大量研究表明,具有人類競爭智能的AI系統可能對社會和人類構成深遠的風險,這一觀點也得到了頂級AI實驗室的認可。
正如廣泛認可的阿西洛馬人工智能原則中所述,高級AI可能代表地球生命史上的深刻變化,應以相應的關懷和資源進行規劃和管理。
趙長鵬:對Terra團隊處理UST/LUNA事件的方式感到非常失望,為保護用戶暫停其交易:5月13日消息,趙長鵬解釋暫停LUNA和UST交易表示,優先考慮保護用戶。由于Terra協議的設計缺陷,大量新的LUNA被鑄造出來。他們的驗證者已經暫停了整個網絡,導致無法在任何交易所進行存款或取款。部分用戶不知道交易所外有大量新鑄的LUNA,又開始購買LUNA,不知道一旦允許存款,價格可能會進一步暴跌。由于這些重大風險,幣安暫停交易。
此外,趙長鵬稱對Terra團隊如何處理(或不處理)UST/LUNA事件感到非常失望。幣安要求他們的團隊恢復網絡,銷毀額外鑄造的LUNA,并恢復UST掛鉤。到目前為止,幣安還沒有得到任何積極的回應,或者根本沒有太多的回應。這與Axie Infinity形成鮮明對比,Axie Infinity團隊承擔責任,制定計劃并主動與幣安溝通。幣安提供了幫助。
最后,趙長鵬表示,知道社區中存在不同的意見,我們認為暫停交易是目前保護用戶的最佳方式,并將繼續密切關注情況。
此前消息,幣安將于今日16:30暫停LUNA/BUSD,UST/BUSD交易對交易。[2022/5/13 3:14:19]
不幸的是,這種級別的規劃和管理并沒有發生,盡管最近幾個月人工智能實驗室陷入了一場失控的競賽,以開發和部署更強大的數字思維,沒有人——甚至他們的創造者——都無法理解,預測或可靠地控制。
The Sandbox對用戶暫停開放,將在像素優化后重新上線:11月29日消息,去中心化虛擬游戲世界 The Sandbox(SAND)暫停開放,用戶現已無法進入游戲。對此,The Sandbox 官方稱,該項目正在進行像素優化,旨在為用戶提供最優的元宇宙體驗,網站很快會重新上線。[2021/11/29 12:39:24]
當代人工智能系統現在在一般任務上變得與人類具有競爭力,我們必須捫心自問:
我們是否應該讓機器用宣傳和謊言充斥我們的信息渠道?
我們應該自動化所有的工作,包括令人滿意的工作嗎?
我們是否應該發展最終可能超過我們、超越我們、過時并取代我們的非人類思維?
我們應該冒險失去對我們文明的控制嗎?
此類決定顯然不能委托給未經選舉產生的技術領導者。只有當我們確信它們的影響是積極的并且它們的風險是可控的時候,才應該開發強大的人工智能系統。這種信心必須有充分的理由,并隨著系統潛在影響的大小而增加。
外媒:灰度比特幣信托暫停接受新投資:數字資產管理公司灰度已暫停接受灰度比特幣信托(GBTC)的新投資,此前該基金的交易價格相對比特幣價格的折價高達創紀錄的15%。據悉,灰度會定期關閉GBTC和類似產品的私募發行。需求不穩定創造了套利機會,投資者可直接從灰度以平價購買GBTC份額,在六個月的禁售期中持有,然后在二級市場上以溢價形式出售。昨日消息,灰度母公司Digital Currency Group(DCG)宣布,計劃購買多達2.5億美元的GBTC。(cointelegraph)[2021/3/11 18:33:57]
OpenAI最近關于通用人工智能的聲明指出,“在某些時候,在開始訓練未來系統之前進行獨立審查可能很重要,并且對于最先進的努力來說,同意限制用于創建新系統的計算增長率楷模。”我們同意這一觀點,并且認為現在就要行動起來。
火幣全球站將于5月15日18時暫停SEELE充提業務:據官方公告,由于SEELE合約升級,火幣全球站將于2020年5月15日18:00暫停SEELE的充幣和提幣業務。待升級完成后將第一時間恢復,具體時間將以公告另行通知。[2020/5/14]
因此,我們呼吁所有人工智能實驗室立即暫停訓練比GPT-4更強大的人工智能系統至少6個月。這種暫停應該是公開的和可驗證的,并且包括所有關鍵參與者。如果不能迅速實施這種暫停,政府應介入并暫停。
人工智能實驗室和獨立專家應該利用這次暫停,共同開發和實施一套用于高級人工智能設計和開發的共享安全協議,并由獨立的外部專家進行嚴格審計和監督。這些協議應確保遵守它們的系統是安全的,無可置疑。
這并不意味著總體上暫停AI開發,只是從危險的競賽中倒退到具有緊急功能的更大的不可預測的黑盒模型。
動態 | PeckShield安全播報: 競猜游戲EOS Lelego疑遭黑客攻擊,已暫停運營:據PeckShield態勢感知平臺數據顯示:今天午間 13:27-13:56之間,玩家malisringhor向EOS Lelego游戲合約(llgcontract1)連續發起35次游戲請求,最終猜中27次,共計獲利6,282.5個EOS,隨后將6,500個EOS成功轉至幣安交易所。PeckShield安全人員初步分析認為,該玩家的下注頻次及猜中概率存在較大異常,很可能又是一起利用隨機數漏洞發起的攻擊行為。游戲方在察覺異常后第一時間調用接口setfreeze暫停游戲及時止損,現游戲網站已顯示系統維護中。[2018/11/19]
人工智能研究和開發應該重新聚焦于使當今強大的、最先進的系統更加準確、安全、可解釋、透明、穩健、一致、值得信賴和忠誠。
與此同時,AI開發人員必須與政策制定者合作,以顯著加快開發強大的AI治理系統。這些至少應包括:
專門負責AI的新的和有能力的監管機構;
監督和跟蹤高性能人工智能系統和大量計算能力;
出處和水印系統,以幫助區分真實與合成并跟蹤模型泄漏;
強大的審計和認證生態系統;
人工智能造成的傷害的責任;
為技術人工智能安全研究提供強大的公共資金;
以及資源充足的機構來應對人工智能將造成的巨大的經濟和破壞。
人類可以享受人工智能帶來的繁榮未來。成功創建強大的AI系統后,我們現在可以享受“AI之夏”,收獲回報,設計這些系統以造福所有人,并為社會提供適應的機會。社會已經暫停其他可能對社會造成災難性影響的技術。
我們可以在這里這樣做。讓我們享受一個漫長的AI夏天,而不是毫無準備地陷入秋天。
云集行業大佬
目前已有超過1000人在該公開信上上簽字,包括馬斯克、山姆·奧特曼、約書亞·本吉奧、巴勃羅·賈里洛·埃雷羅等行業大佬。
以下是部分名單:
ElonMusk,SpaceX、Tesla和Twitter的首席執行官
SamAltman,OpenAI首席執行官
SteveWozniak,蘋果聯合創始人
EmadMostaque,StabilityAI首席執行官
YoshuaBengio,因開發深度學習而獲得圖靈獎,蒙特利爾學習算法研究所所長
StuartRussell,伯克利計算機科學教授,智能系統中心主任,標準教科書“人工智能:現代方法”的合著者
PabloJarillo-Herrero,麻省理工學院物理學教授,美國國家科學院沃爾夫物理學獎
JohnJHopfield,普林斯頓大學名譽教授,聯想神經網絡的發明者
ConnorLeahy,Conjecture首席執行官
……
頂級精英的憂慮
業內人士對于AI的擔心有增無減。
OpenAl公司的首席執行官山姆·阿爾特曼(SamAltman)近日表示,他對人工智能(AI)技術的潛力感到興奮,但也對一些潛在的濫用行為“有點害怕”。還表示“它有巨大的前景也有巨大的能力,但隨之而來的危險也是巨大的。”
「人工智能教父」GeoffreyHinton近日在CBSNEWS的采訪表示,人工智能正處于一個「關鍵時刻」,通用人工智能(AGI)的出現比我們想象的更加迫近。
馬斯克在2023年世界政府峰會上談及ChatGPT,認為短期內人們需要警惕人工智能的安全問題,并呼吁對人工智能進行監管。
“我擔心的是,對于人工智能來說,如果它出了問題,從監管的角度來看,反應可能太慢了。我想說,未來文明面臨的最大風險之一是人工智能。”
但人工智能既有消極的一面,也有積極的一面。
”它前途無量,力量強大,但也伴隨著巨大的危險。看看核物理學的發現,我們可以得到核能發電,但是它也帶來了核彈。”
”總之,我認為我們應該深切關注這個問題,我們應該對從根本上對公眾構成風險的事情進行某種監管。”馬斯克表示。
寫在最后
從ChatGPT3、ChatGPT4,再到文心一言,AI幾乎正在呈指數級速度發展發展,處于人工智能時代的颶風中,未來人類又應該何去何從......
7:00-12:00關鍵詞:Sei、DoKwon、信標鏈、SafeMoon、ThetaLabs1.以太坊信標鏈質押總量接近1800萬枚ETH;2.
1900/1/1 0:00:00AI的快速發展,給電商行業帶來了更多的可能,通過對AI技術的運用,電商行業在模特圖片制作,文案內容產出以及短視頻制作等方面都有所突破,并且在此過程中,電商平臺能夠更好地實現降本增效.
1900/1/1 0:00:00金色財經報道,拉丁美洲風險投資公司KaszekVentures已經關閉了價值5.4億美元的早期基金KaszekVenturesVI和價值4.35億美元的后期投資工具KaszekVenturesO.
1900/1/1 0:00:00進入2023年,國內元宇宙政策延續了2022年的快速增長勢頭,國家級和地方層面的產業扶持政策和項目不斷落地,為元宇宙產業發展奠定了堅實基礎.
1900/1/1 0:00:00導讀: 由于上海升級的臨近,我們認為需要結合最新的數據變化重新判斷LSD賽道的未來發展以及其對整個鏈上生態帶來的影響.
1900/1/1 0:00:00隨著Arbitrum的第一份改進提案已在社區論壇上發布,ArbitrumDAO的治理流程逐漸完善。本文將概述Arbitrum的治理、ArbitrumDAO以及發起提案和投票的過程.
1900/1/1 0:00:00