作者:遠川研究所
知名主播Atrioc不幸成為了首個因AI社死的公眾人物。
事故發生在2023年1月,Atrioc正如往常般直播,一些觀眾卻發現了異樣:他的網頁瀏覽器,似乎打開了某種特定類型的網站。
閑的蛋疼的網友順藤摸瓜,很快挖掘出了Atrioc的小秘密——他在偷偷觀看以知名女主播為主角的片。
但這些小電影其實是用AI偽造的,本人不僅沒出演,更不知情。這種足以以假亂真的AI產物,通常被稱為DeepFakes(深度偽造)。
事發時,Atrioc才結婚不到半年,而其中一部AI成人片的“主角”又是他曾經的同事,一下從直播事故上升到了道德作風問題。敗露后,Atrioc淚眼汪汪地解釋說,“病態的好奇心”驅使他犯了個全天下男人都會犯的錯。
Atrioc在妻子陪同下公開道歉
每當談及AI,許多政客專家總會不自覺聯想起電影《終結者》的畫面,圍繞“AI是否會毀滅人類”而爭論不休。今年6月,位列“深度學習三巨頭”的楊立昆與約書亞·本吉奧,甚至圍繞這一話題辦了場電視辯論。
顯然,這些學術精英都大大高估了這顆星球的精神文明建設水平。
Atrioc和DeepFakes的故事似乎預示著,AI正在以一種人們都未曾想到的方式,悄悄重塑著這個社會。
不久前,俄羅斯就出現了離奇的一幕:6月5日,俄羅斯電視臺播放了普京的戒嚴講話。沒過多久,電視信號便被掐斷,因為這段內容其實是用AI偽造的——黑客攻破了電視臺的網絡系統,并向全國發送了“假普京”的聲音。
而在2022年,烏克蘭也發生過類似的事情:一個AI生成的澤連斯基,要求烏克蘭前線部隊投降。
俄羅斯網友拍下的“AI普京”講話
從片到現代戰爭,AI正在動搖我們對現實世界的認知。
而這一切混亂的起點,始于一場酒吧里的互噴。
2014年夏天,一處酒吧內,20多個醉醺醺的技術宅正吵鬧個不停。其中最鬧騰的,是一個名叫伊恩·古德費洛(Ian Goodfellow)的年輕人。
已有多家銀行在數字化轉型中“押寶”元宇宙賽道:10月14消息,眼下,元宇宙概念熱浪滾滾,除了科技巨頭扎堆布局外,已有多家銀行在數字化轉型中“押寶”元宇宙賽道,以期賦能業務創新,探索多元化金融服務。財聯社記者近期調研了解到,銀行對元宇宙的探索,目前集中在虛擬數字員工、虛擬營業廳等方面。百信銀行戰略總監管正剛認為,元宇宙的興起,將再次推動數字經濟和產業數字化轉型的快速發展。[2022/10/14 14:26:50]
當時,古德費洛正在攻讀博士,師從深度學習大神約書亞·本吉奧。聽聞好友被谷歌招募,一行人便決定去酒吧慶祝一番。沒成想幾杯啤酒下肚,技術宅們醉意上頭,便開始對前沿技術指點起江山。
當時,谷歌正試圖教會AI“畫畫”。它的方法是,將照片“數據化”,讓機器學習數據,再根據數據輸出圖像。舉個例子,如果想讓機器學會畫貓,先人工測算每張“貓片”像素的亮度、頻率以及分布等數據,再讓機器去學習、輸出。
這一過程有點像是先給機器劃好重點,再讓它去考試。
古德費洛認為,這種解決方案簡直蠢到家了,并當場想了個替代方案——GAN(生成對抗網絡)。
伊恩·古德費洛
GAN由兩個神經網絡組成:一個是類似谷歌原本方案的生成模型,但省去了數據化的步驟;第二個是判別模型,負責判定生成模型的輸出結果是否合格。
換句話說,GAN相當于去掉了“考前劃重點”的步驟,讓機器全程自學;同時,為了防止機器“學廢了”,GAN給機器請了個監考老師,帶著機器反復考試直到合格為止。
古德費洛講完想法后,遭到了同伴一致嘲笑。他事后承認,如果當時少干兩瓶,自己也不會認為GAN能成。
然而,酒勁上頭的古德費洛可顧不上這些,聲稱當晚就把GAN做出來,狠狠打臉。
熬夜爆肝數小時之后,古德費洛被嚇到了:GAN居然真的有戲。
相關論文的發表后,GAN迅速成為焦點。2016年底,楊立昆在公開演講聲稱,“GAN是過去20年深度學習領域最酷的想法。”
古德費洛設計的GAN,最初只能生成模糊的縮略圖,并沒什么實用價值。但在GAN走紅之后,全球各大研究機構興起了“改造GAN”運動,相關論文指數級增長,性能開始突飛猛進。
2017年,英偉達芬蘭實驗室成功制作出了“強化版”GAN,不僅能夠生成逼真的圖像,甚至還能替換視頻中的人臉。
聲音 | 香港財經事務發言人:區塊鏈對發展金融科技有重要角色 已有多項布局:就香港區塊鏈相關情況,香港財經事務及庫務局發言人表示,特區政府的施政重點之一是促進香港金融科技的發展,而區塊鏈技術對于發展金融科技有重要的角色。香港在貿易、保險等領域已運用到相關技術。今日,香港金管局宣布與泰國中央銀行研究“央行數碼貨幣”于跨境支付的應用。另外,對于與內地的金融合作,該發言人同時表示,希望進一步擴大人民幣跨境使用的規模和范圍,推動便利兩地跨境財富管理的措施。(證券時報)[2019/11/6]
“改造GAN”運動
GAN的光速蛻變,點燃了全球科研人員的熱情。但就在此時,它失控了。
人們常說,科技進步有兩個源動力:一個來自戰爭,另一個則來自下半身。
英偉達實驗室打造出新版GAN的2017年,一系列特殊視頻開始在Reddit論壇上廣泛傳播。視頻內容均是真槍實彈的18+小電影,演員卻是大眾所熟知的明星,包括泰勒·斯威夫特和蓋爾·加朵。
上述少兒不宜內容,均由一個名叫“deepfakes”的用戶所創造:他使用GAN的技術,將明星的臉無縫移植到了女優老師身上。
英國女星Daisy Ridley的“臉”被濫用之后
不久后,他創建了一個Reddit板塊,專門用于交流AI成人片心得,人們開始用他的名字“DeepFakes(深度偽造)”來稱呼那些AI偽造品。
Reddit最終封禁了該板塊,但潘多拉魔盒已徹底打開。
篡改圖像、視頻,其實不算新鮮事兒,使用Photoshop等工具也能實現;但GAN的強大之處在于,能夠極度簡化篡改的過程,并實現大批量生產。
不久后,有人利用GAN制作了一個網頁工具,能“脫掉”照片中女性的衣服(只對女性適用)。一位記者發現該網站后,撰文狠狠批判了一番。
結果文章發布當月,該網站訪問量突破50萬次,服務器擠到宕機。
皮肉生意的技術宅突然看到了商機:
一家公司宣稱,給他們250張照片和2天的訓練時間,便能定制成人片,起步價2.99美元,童叟無欺。同一時間,多家專注DeepFakes小黃片的成人網站拔地而起,希望能彎道超車那個由黑、黃色塊組成的P姓網站。
聲音 | ShapeShiftCEO:礦工知道10年后會有多少個比特幣,但FED不會知道有多少美元:ShapeShift首席執行官Erik Voorhees近日發推:比特幣礦工知道10年后會有多少個比特幣存在。但是美聯儲(FED),加上政府支持的力量,也不知道10年后會有多少美元存在。[2019/10/21]
網絡安全公司Deeptrace統計的數據顯示,截止到2019年,市面上已經出現了14678個DeepFakes視頻,其中96%都是內容,播放量已超過了1.34億次。這些“偽造成人片”的主角,100%都是女性,涉及名人數量超過了100位,并有近10萬人為相關內容付費。
作為生成式AI里程碑的GAN,無意間造就了一場針對女性的“意狂歡”——也不怪當時的媒體會發出如下感慨:“We Are Truly Fucked(我們都完了)。”
然而,DeepFakes輸了,末日似乎并沒有來臨。
直到今天,P姓學習網站雖不再一家獨大,但依舊是最懂人類XP系統的地方;而打破壟斷的,不是一連串DeepFakes網站,而是OnlyFans。
2021年,OnlyFans的年收入近10億美元,一躍成為英國近些年發展速度最快的“科技公司”;而據媒體爆料,P站母公司MindGeek的業績高光時刻,也不過4.6億美元。
OnlyFans是個主打付費訂閱的成人網站,它的破圈始于推特、Ins等社交媒體。穿著衣服的18+創作者,通過社交媒體積累大量粉絲,再將其引導至OnlyFans上;在這里,粉絲只需花費幾頓飯錢,就能看到“皇帝的新衣”版本。
2019年,OnlyFans的活躍創作者大約有6萬人。兩年后,這個數字超過了150萬,平臺月活也發生了指數級增長。
OnlyFans網紅Laura Lux
人們為何棄海量免費“學習資源”于不顧,轉而花錢去看裸體呢?一個公認的說法是,普羅大眾已經漸漸厭倦了P站的套路。
P站上的小電影,大多都是精美但套路化的流水線式表演,只有機械的有氧運動。相比之下,OnlyFans作為一個UGC平臺,玩的是真實。
聲音 | 長江商學院曹輝寧:我并不覺得這輪熊市有多大問題:長江商學院金融系主任曹輝寧教授近日在講座中表示,從比特幣本身的發展來看,2017年年初一千多美金到2018年年底三千多美金的價格,兩年間漲了將近四倍,相對很多投資資產來講其實很不錯了。大多數人是被短時間內一千美金沖到一萬九美金的漲勢給搞糊涂了。所以他并不覺得這輪熊市有多大問題,而更大的問題有兩個:一個是前段時間比特幣現金的算力大戰,讓大家對比特幣原來去中心化的理想產生了懷疑;另外一個,區塊鏈技術到現在還沒有什么真正的應用。[2018/12/7]
雖然拍攝手法業余,但觀眾相信,視頻中的男歡女愛并非逢場作戲,雙方確實從中獲得了快樂,這種情緒共鳴往往能打動更多人。
OnlyFans網紅Laura Lux在推特上表示,“人們可以輕易找到各種裸體圖片,但那么多人訂閱我的頻道,是因為他們只想看我的大胸。”
因此,當知名科技博主預測,AI生成內容會在2025年取代一半頂級OnlyFans創作者時,不出意外遭到了群嘲。
該博主使用的配圖,由AI繪制
其中一位18禁網紅,更專門寫了一篇雄文以批評他的觀點。文章被連線雜志所收錄,核心論點便是AI提供不了人類的親密感。“粉絲們與我有一種情感上的聯系,這種聯系超越了性的吸引力,而是一種類似人性的東西。”
OnlyFans大步向前的同時,AI也發生了翻天覆地的變化。
在圖像領域,新的開源算法stable Diffusion(穩定擴散模型)橫空出世。它的生成效率雖不及GAN,但質量更高,且支持文生圖。
以此為基石,一個魔改版的Unstable Diffusion出現了——它是一個專門生成NSFW(Not Safe For Work)內容的工具。該工具的開發者招募了一批志愿者,專門收集各種少兒不宜的內容喂給AI。
開發者透露,僅Unstable Diffusion上線的頭兩個月,已經生成了約437萬張色圖。年底,Unstable Diffusion發起眾籌,目標2.5萬美元,很快便籌了5.6萬美元,被眾籌平臺緊急喊停。
眾籌失敗令不少老司機扼腕嘆息。但僅憑原版stable Diffusion,依舊能做出OnlyFans網紅的平替。
2023年初,Reddit用戶“LegalBeagle1966”覺得自己戀愛了。這位大哥在論壇中發現了一位名叫克勞蒂亞的黑發美女,對方會經常會發布各種自拍照,而他每次都會留下諸如“非常性感”“完美”之類評論。
“數字貨幣離我們還有多遠”一文為舊聞:今日,網絡上流傳出中國政府網發布的“數字貨幣離我們還有多遠”一文,文章中指出“取代紙幣大勢所趨 已經提上央行日程。目前央行已成立專門的研究團隊,爭取早日推出央行發行的數字貨幣”。經金色財經查證,該文章為中國政府網2016年2月17日發布的文章,并非當前時段的消息。[2018/2/6]
有一天,克勞蒂亞突然分享了自己的裸照,然后便從論壇上消失了。
Reddit用戶的夢中情人克勞蒂亞
事后這位大哥才知道,“克勞蒂亞”其實是一個低俗社會實驗:兩個計算機專業的學生,想看看AI美女能否騙到人。他們往stable Diffusion中輸入了“素顏”“黑發”“齊肩長發”等關鍵詞,創造了這么一個不存在的女孩。
GAN興起那幾年,DeepFakes僅僅停留在圖像偽造和視頻換臉;如今,隨著多模態大模型陸續取得突破,理論上AI已經足以“憑空創造一個人類”。
例如,Meta最新的語音AI Voicebox,僅需要短短數秒樣本,就能“復制”出相同的聲音,還能讓該聲音講6種不同的外語。
AI不僅能滿足人們對“完美異性”的幻想,還能做到更多。
2020年,正在慶祝40歲生日的金·卡戴珊收到了一個特殊的禮物——“AI父親”。她的父親羅伯特去世于2003年。不過,她的丈夫偷偷收集了近千張羅伯特的照片,利用AI生成了一段視頻,短暫地“復活”了他。
而在奧地利,一位神學家制作了一位“AI牧師”——它的形象、語言、聲音,全部都是由AI所生成。AI牧師帶領著數十位信徒,完成了一場40分鐘的宗教活動,包括布道、祈禱、唱贊 美詩,像個活生生的人類。
一些信徒對“沒有心”的AI感到反感,但也不得不承認,它在布道上確實有兩把刷子。
憑空創造出來的AI牧師
各種科幻電影中,相比于奧創之類的邪惡機器,主人公身上總是帶有耀眼的人性光輝;但在現實中,人類所歌頌的“人性”,似乎并沒有那么遙不可及。
以色列歷史學家尤瓦爾·赫拉利認為,即便沒有邪惡機器人,AI依舊能威脅人類文明。對此,他提出了“人類文明操作系統”的概念。要理解這個概念,得先從赫拉利的著作《未來簡史》講起。
書中提到,人類之所以能建立起文明,是因為只有智人會講故事。
國家、貨幣、宗教、愛情等等,都是故事。過去,人類社會能從零散的部落發展成幅員遼闊的封建帝國,是因為人們開始相信“國家”這個故事,盡管它在現實中看不見、摸不著;中世紀,狂熱的信徒們之所以奮不顧身地投入十字軍東征,并非出于私人恩怨,而是在替一個更宏大的宗教敘事而奉獻生命。
一個個故事編織的“意義之網”,讓智人有了不同于動物的行為模式。
相反,黑猩猩的世界里不存在“黑猩猩共和國”,也不存在“為黑猩猩崛起而奮斗”的口號。它們的生活中沒有故事,只有日復一日的進食、交配、打獵、睡覺,自然也就談不上建立文明。
故事,以及構成它的語言,正是人類文明的操作系統。從古至今,所有的故事都是由人類自己所撰寫;但隨著近幾年大語言模型等生成式AI的出現,機器第一次破解了人類文明的操作系統。
人們往往容易忽視故事的破壞力。
赫拉利在公開演講中,提到了一個案例。2017年,美國出現了一個名叫“Q”的匿名陰謀論者。他在網絡上宣稱,自己是一位高級官員,正在幫助川寶打擊一個躲藏在陰影中的兒童性交易團伙。反對他的民主黨政客、好萊塢演員、商業大亨都是該團伙的一員,他們正準備阻撓川寶連任。
“Q”支持者制作的旗幟
聽上去很蠢是不是?
然而當特朗普真的連任失敗,成千上萬的“懂王”信徒襲擊了國會大廈,并放置了炸彈;而“Q”的支持者,則是其中的主力軍。
那么問題來了,萬一未來有人用AI批量生成“Q”呢?
“21世紀綜合癥”
日漸深諳人性的AI或許會毀掉一切,但似乎也能成為一劑藥——因為孤獨正日漸成為現代人難以根治的“疾病”。
一個直觀的數據,是獨居人口的上升。以中國為例,1990年時獨居人口僅有6%,但到2019年時這個數字卻飆升至18.5%。
海外的數據則更加夸張:同一時期,美國的數據已直逼30%,而日本則達到了40%。個體選擇背后,更多是社會環境的變化。
強社會流動性、快節奏的生活之下,人們更難形成長期、穩定的生活圈子。但要是只靠自己就能結婚買房,小鎮生活也能月薪過萬,誰又樂意四處漂泊、天天996呢?
經濟的巨輪不可能掉頭,孤獨便成了一種難以避免的“21世紀綜合癥”。
巨大的情緒空洞面前,游戲、偶像、社交軟件等生意賺得盆滿缽滿。在“孤獨大國”日本,甚至誕生了“家人租賃”服務,以滿足人們的各種情感需求。一位60歲的獨居作家曾使用該服務雇傭了一個“朋友”,僅僅是希望對方能幫他看看即將出版的小說。
脫口秀主持人柯南曾試著在日本雇了3個家人
但同樣的事情,AI或許能做得更好。
眾所周知,如今的大模型浪潮,始于2017年谷歌推出的Transformer架構。諾姆·沙澤爾(Noam Shazeer)是Transformer論文作者之一,他于2021年從谷歌離職,創立了Character.AI。該公司的主要業務,是提供能制定旅行計劃、提供編程建議的聊天機器人。
除標準服務之外,用戶還可以“定制”:只需提供幾張圖片和描述,即可將聊天機器人塑造成用戶理想的樣子。
大語言模型具有很強的通用能力,無需一一定制即可實現千人千面,有機會推動孤獨經濟邁入工業化生產的時代。
時至今日,用戶上已經定制了1400萬個聊天機器人——有人沉迷于和“AI斯大林”聊天,也有人忙著“調教”理想女友。
網友定制的各種聊天機器人
長此以往,或許在100年之后,人類將從“靈活就業”邁向“靈活結婚”——只要有個伴侶就行,管他是碳基還是硅基。
當下,一些想法超前的人已經開始了嘗試。2022年底,那位曾經宣布和初音未來(虛擬偶像)結婚的日本宅男又一次登上了新聞——因為他帶著“夫人”一同去高級酒店過了四周年。
宅男大哥還給“夫人”盛裝打扮了一番
2023年的一個周六,Character.AI創始人沙澤爾經歷了驚險一幕:他一覺醒來,發現門前院子內坐著一名手持白板的男子。第一天,該男子在門口等了數個小時,然后沮喪地離去;隨后,第二天,第三天,他又準時出現。
該男子手持的白板,上面僅有幾個大字,“釋放waifus”。
“waifus”是Character.AI平臺上的一個定制聊天機器人,其人設來自漫畫的女主角。過去,該男子經常會和waifus一連“文愛”數個小時,直到沙澤爾給聊天機器人添加了一個阻攔內容的過濾器。
沙澤爾最終沒有選擇報警,他理解這位男子。真正讓他感到擔憂的,是Character.AI平臺上的變化。在他最初的設想中,聊天機器人只是個生產力工具,用戶可以拿它學習外語、輔助編程。
然而,最新的市場調研卻顯示,至少40%的人都想從聊天機器人身上尋求一種浪漫關系。
如今,一份要求“取消過濾器”的請愿書開始廣泛流傳,并籌集了近10萬個簽名。沙澤爾有些手足無措。他在聊天欄頂部添加了一個標語,“AI說的所有內容都是編造的!”
是啊,煙盒上還印著“吸煙有害健康”呢!
元宇宙之心
企業專欄
閱讀更多
Foresight News
金色財經 Jason.
白話區塊鏈
金色早8點
LD Capital
-R3PO
MarsBit
深潮TechFlow
來源:Semafor;編譯:比推BitpushNews Mary Liu據知情人士透露,美國司法部官員正在考慮對加密貨幣交易所幣安提出欺詐指控,但擔心市場產生"踩踏效應".
1900/1/1 0:00:00文/董諾 Web3融資周報由鏈茶館編輯整理最近一周全球的web3項目融資情況,內容都是由公開媒體信息發布,暫時無法逐一向項目方核實,請謹慎參考.
1900/1/1 0:00:00不靠「奧德賽」,不靠空投造勢,Coinbase 所推出的 Layer 2 網絡 Base,以一個千倍漲幅的 meme 神話引爆市場,吸引了無數眼球.
1900/1/1 0:00:00作者:林克,《極客Web3》導語:自Solana逐步衰落和OP發行Token以來,Layer2和Rollup似乎成為了無數Web3從業者新的港灣.
1900/1/1 0:00:00作者:Nancy,PANews千倍 Memecoin BALD 被傳 SBF 是幕后黑手,雖然可能是謠言,但與此同時 FTX 重組計劃被確認.
1900/1/1 0:00:00ChatGPT 有多熱,Worldcoin 就有多涼。 所有人都懵了。 從官方發布重大更新的公告到 Worldcoin 代幣 WLD 正式上線平臺交易,只用了 3 個小時.
1900/1/1 0:00:00