人工智能:從特朗普“被捕”到“巴黎世家”教皇 AI “致幻”引發真實性擔憂

去年秋天，Tumblr用戶對馬丁斯科塞斯1973年執導的由羅伯特·德尼羅和阿爾·帕西諾主演的電影《岡察洛夫》大加贊賞。他們稱贊這部鮮為人知的斯科塞斯經典作品是有史以來最偉大的黑手黨電影。它領先于它的時代，卻從未贏得它應得的贊譽。

現在，我們都應該知道，”Goncharov“不是一部真正的電影，盡管斯科塞斯本人也參與了這個笑話。這只是?Tumblr上的一個梗，后來演變成了整個網站的惡搞，用戶們在共享的谷歌文檔中彼此合作，真誠而準確地回答”yes,and“，以至于這部虛構的電影看起來似乎是合理的。

隨著人工智能圖像生成技術變得更好，互聯網感覺有點像”Goncharov“時刻的Tumblr。我們正在創造新的集體現實，只是這一次，我們只是通過不加思索地發布信息而意外地產生了它們。

兩周前，當人工智能圖像生成器Midjourney開放對?Midjourney5模型的訪問時，其超現實的輸出迅速走紅。一些生成的圖像說明了這些容易獲得的工具的危險性，比如一系列描繪唐納德-特朗普被捕的假照片。

基于以太坊網絡的NFT市場Gas消耗量降至兩年低點:8月9日消息，基于以太坊網絡的NFT市場Gas消耗量正在大幅減少，降至2021年6月的水平。具體來說，OpenSea、Blur、LooksRare、Rarible和SuperRare上的交易活動目前約占以太坊網絡總Gas消耗量的1.85%。

這一數字相較于2022年1月9日的前高點顯著下降，當時僅OpenSea上的NFT交易就占以太坊總Gas消耗量的28.69%。[2023/8/9 16:16:04]

這組戲劇性的圖片顯示了特朗普強行拒捕，然后從一隊警察面前沖刺而過等場景。這些像野火一樣在互聯網上瘋傳的圖片是由調查新聞網站Bellingcat的創始人EliotHiggins制作的。Higgins最初的推文表明，他只是在玩，但這些推文在沒有相關背景的情況下迅速傳播開來。

注：目前該推文已添加了背景信息，稱該照片由人工智能生成。

BlockTower Capital：將關閉“市場中性”加密基金，資金會返還給投資者:金色財經報道，總部位于邁阿密的數字資產投資公司BlockTower Capital宣布將關閉旗下一支“市場中性（market-neutral）”加密貨幣基金，該基金一度管理著超過1億美元的資金。BlockTower Capital首席執行官Matthew Goetz表示，該風投公司其實在2023年初就已經做出關閉該基金的決定，同時將會把資金返還給相關投資者，后續將尋求“真實世界資產（RWA）”等其他投資策略。[2023/4/16 14:06:53]

其他一些被瘋傳的人工智能圖片則溫和一些，比如一張廣為流傳的教皇弗朗西斯二世身穿一件令人驚艷的巴黎世家白色外套的高級時尚照片。關于這張照片的一條推文被瀏覽了2600多萬次。

數據：3月16日Arbitrum網絡日轉賬筆數超100萬筆，創迄今第三高記錄:金色財經報道，據Arbiscan最新數據顯示，Arbitrum于3月16日宣布將向社區成員空投ARB治理代幣后，當日鏈上日轉賬筆數達到1,079,668筆，創下迄今為止鏈上第三高日轉賬交易量記錄，當前Arbitrum鏈上日轉賬交易量最高記錄發生在2023年2月21日，當日鏈上交易量達到1,103,398筆，第二高記錄發生在2023年2月22日，當日鏈上交易量為1,093,187筆。[2023/3/17 13:10:55]

這甚至不是上周唯一一個與巴黎世家有關的AImeme病。一個名為?demonflyingfox的創作者一直在使用Midjourney圖像、ElevenLabs語音和D-ID動畫來制作超現實的、由AI驅動的搞怪視頻。他傳播最廣的視頻是”HarryPotterbyBalenciaga“，這是一則高級時裝風格廣告，其中合成的人物形象說著：”YouareBalenciaga，Harry“之類的話。

區塊鏈解決方案工作室B+J Studios完成1000萬美元融資:9月9日消息，區塊鏈解決方案工作室B+J Studios宣布完成1000萬美元融資，投資方包括Brevan Howard Digital、Big Brain Holdings、Foundation Capital、Republic Capital等。B+J Studios的第一個產品NFT超級應用Cupcake構建于Solana上，簡化了首次獲取NFT時的復雜技術限制和冗長的設置過程，并為用戶免除了Gas費用。（prnewswire）[2022/9/9 13:19:25]

Demonflyingfox告訴TechCrunch，他有意讓他的視頻變得足夠奇怪，以至于沒有人會意外地相信它們是真的。。此外，他還故意使用Midjourney4，而不是更新的軟件，以便他的角色看起來不那么逼真。

韓國檢方傳喚了Terra的核心設計人員并采取禁止出境措施:6月20日消息，據JTBC報道，負責調查Terra事件的韓國首爾南部地方檢察廳金融證券犯罪聯合調查組最近對Terra的核心設計師A某等下達了禁止出境措施，并發出了傳喚通報。

早些時候，A某曾在接受JTBC采訪時聲稱，他從Do Kwon那里聽說，Do Kwon“賺了足夠買一個島的錢”。他還向記者表示，Do Kwon偷偷拿代幣賣給機構，以籌集巨額資金。檢方正在關注以這種方式籌集的資金是否用于人為抬高幣價的“市場調價”。[2022/6/20 4:40:30]

”我所做的事情顯然是假的，我并不擔心傳播錯誤信息，這也是我的意圖，“demonflyingfox說。”但我知道工具的力量，而且現在這樣做非常容易。“

前提越可信，我們就越有可能將合成圖像視為事實。如果你不是教皇著裝方面的專家，你可能就會相信教皇在冬季外出時穿一件非常棒的白色羽絨服——要知道這位教皇，他的前衛搖滾專輯在Pitchfork上得到了評論，他還曾在阿根廷的夜總會當過保鏢。

甚至連超級名模ChrissyTeigen也被這對這組圖像信以為真。她在推特上稱：”我以為教皇的羽絨服是真的，沒有多想。“”我不可能在未來的技術中生存。“

除了”時尚教皇“，特朗普被捕的人工智能圖片也在網上瘋傳，但任何人只要愿意掃描自己的推特時間軸，就能迅速核實事實，以尋找真正新聞突發的證據。對于人工智能生成的歷史事件來說，這一過程就不那么明顯了。

就在幾天前，Reddit用戶u/Arctic_Chilean在Midjourneysubreddit上發布了一組人工智能生成的照片，聲稱它們描繪了”2001年卡斯卡迪亞9.1大地震和海嘯“，襲擊了美國和加拿大。在reddit的這個版塊里，我們致力于用Midjourney的人工智能工具進行實驗，很明顯，卡斯卡迪亞大地震并不是一個真實的事件。但是，如果r/Midjourney只是你訂閱的眾多子reddits中的一個，你就很容易不加思索地消費這些圖片。

一個Reddit用戶寫道：”難道只有我一個人覺得‘我怎么不記得發生過這件事’。.....直到看到這個子reddit？

這些圖像與現實非常相似，以至于人們相信它可能是真的。卡斯卡迪亞俯沖帶是太平洋西北部附近的一條真實的斷層線，1700年曾發生過大規模的破壞性地震。該地區的人們擔心，這種規模的災難可能在我們的有生之年再次發生，這種認識使人工智能生成的未來潛在事件的場景充滿了不祥之感。

有時，像ChatGPT和BingAI這樣的人工智能工具會產生“幻覺”--當它們自信地用虛假信息回答問題時，就會使用這一術語。淹沒在合成圖像的海洋中，我們可能都處于集體產生幻覺的邊緣。

”我正想罵你呢，因為你在這個分論壇上發布了舊新聞，“r/midjourney的一個Redditor?評論道。”這些看起來太真實，太瘋狂了。“

互聯網社區傾向于聚集在一個小眾的想法周圍，并構建出關于它的深入知識，就像一種合作構建世界的行為。自然，這些虛假的歷史事件也發生了同樣的事情，Reddit用戶開始創造他們自己的歷史，講述2001年地震如何影響全球。

”盡管2001年康科迪亞大地震的規模和破壞力很大，但似乎10年后，很少有人記得這一事件，“另一位用戶在一篇捏造的新聞文章中寫道，對這場從未發生的地震進行了錯誤的命名。”這可能是由于全球反恐戰爭、伊拉克戰爭和經濟大衰退等綜合因素造成的。“

最初發布這些圖片的Redditor推測在9/11之前發生的重大災難將如何影響反恐戰爭，認為這場災難的經濟影響可能會削弱對入侵伊拉克的支持。

隨著廣泛可用的AI圖像生成器變得更加成熟，它們的創作可能會超過我們對大量可信但完全虛假的圖像的適應能力。不管是好是壞，現在我們可以瞬間創造出自己的”Goncharov“，將任何模糊的虛構變成有形的東西，并將其放到網上。

雖然這些創作很多都是無害的，但不難想象合成圖像將如何操縱公眾對當前或歷史事件的認識。

事實證明，”巴黎世家教皇“是一個31歲的有服用致幻藥物的建筑工人的創意，他告訴BuzzFeed，他沒有考慮人工智能圖像的后果。他說：”如果他們不開始實施法律來規范它，情況肯定會變得嚴重。“

事實上，英國和美國一些州的立法者已經頒布禁令，禁止未經同意的深度偽造的人工智能。但像卡斯卡迪亞大地震和BalenciagaPope這樣的meme并不具有內在的危害性，也不會很快面臨監管。

人工智能生成的圖像仍然不完美。地震中街道的標志看起來像是用Simlish寫的，而且AI生成的圖像中三指手的現象要比你在自然界中發現的多。通常，如果你足夠仔細地觀察人工智能生成的圖像，你就會發現一些奇怪的畸變，一組像素會告訴你圖像有問題。但現在越來越難區分的是，什么是真實的，什么是想象的，更難以想象接下來會發生什么。

?

Tags：人工智能REDDITING人工智能技術應用CREDITQreditKing Arthur

火必