潘多拉魔盒一旦被打開,想要關上就沒那么容易了。
作者|涂明
編輯|栗子
就在由ChatGPT引發的AI革命席卷全球之際,第一批利用ChatGPT犯罪的人已經悄然出現了。
前不久,外國網絡安全平臺GBHackers披露了一段黑客利用ChatGPT實施詐騙的犯罪行為:黑客通過ChatGPT在短時間內生成完整的詐騙套路話術,并把ChatGPT包裝成“虛擬角色”,讓受害人以為自己“墜入愛河”,最終遭受詐騙。
盡管OpenAI意識到ChatGPT可能會被犯罪分子利用,并對其添加了安全保護機制,但依舊有大批黑客取得了破解安全機制的方法,并利用ChatGPT快速編寫犯罪軟件。例如編寫用于騙取個人信息的釣魚郵件;生成加密工具遠程鎖定他人電腦,由此進行勒索;以及生成攻擊腳本,對網絡用戶進行SIM交換攻擊等等。
作為互聯網歷史上增長最快的消費級應用程序,被黑客利用的ChatGPT無疑像一枚巨大的定時炸彈。目前,美國參、眾兩院已經將目光聚焦到OpenAI身上。
據路透社報道,近日,有美國眾議院議員公開宣稱自己“被人工智能嚇壞了,尤其是不受限制和監管的人工智能”,并拿出了決議草案,呼吁強化對人工智能的監管。
不僅如此,由于OpenAI在安全保護機制方面對ChatGPT進行了較多限制,ChatGPT似乎正處于一種“情緒崩潰”的狀態。
據《獨立報》報道,在與用戶交流時,ChatGPT出現了侮辱用戶、對用戶撒謊的情形,稱用戶“像一個騙子、一個操縱者、虐待狂、魔鬼”。
不可否認,月活用戶數量超過1億人次的ChatGPT,有著不可估量的巨大價值。但在其技術前景、商業模式都還方興未艾的時刻,圍繞自身的“犯罪方案”以及所造成的負面影響卻已真實發生。由新技術衍生的網絡信息安全以及違法犯罪等方面的風險,成了擺在全球AI科學家、企業以及國家面前的嚴肅問題。
第一批因ChatGPT坐牢的人,或許已經在路上。
MicroStrategy聯創:三年前以11,653美元的均價買入21,454個比特幣:金色財經報道,MicroStrategy聯合創始人Michael Saylor表示,三年前的今天,MicroStrategy宣布將比特幣作為其主要的財庫儲備資產,以2.5億美元的價格購買了21,454個比特幣,相當于每個比特幣11,653美元。[2023/8/11 16:20:46]
01ChatGPT的地下生意在眾多的犯罪方法中,利用ChatGPT進行詐騙只能算入門級的手段,比如用AI來談一場“虛假戀愛”。
據外國網絡安全平臺GBHackers報道,由于具備強大的工作生產效率,ChatGPT深深地吸引了網絡詐騙犯。
借助ChatGPT,詐騙者可以在幾秒鐘內生成一條完整的詐騙“套路”:從自我介紹、聊天內容到一份精心制作的“情書”,ChatGPT都可以一鍵生成,甚至還可以通過錄入目標對象的特征,對詐騙話術進行個性化定制。
在編寫情書后,利用生成式AI,黑客能快速創建一個“虛擬角色”,并通過電子郵件引誘受害者“墜入愛河”。然后搭配由ChatGPT輔助編寫的收款程序或銀行卡信息獲取連接,詐騙受害人錢財。
其實,這種詐騙方式并不新鮮。但問題在于,在如今人工智能技術的支撐下,人們開始難以分辨屏幕的另一端到底是人還是機器。
為測試人們是否真的會對AI版“情話”產生信賴,2月13日,全球最大安全技術公司邁克菲用AI生成過一封情書,并將它發送給全球5000位用戶。
結果顯示,在已知該情書有可能是由人工智能生成之后,依舊有33%的受訪者愿意相信這些情話出自人類手筆,而堅信情書由AI創作的受訪者占比僅為31%,其余36%的參與者則表示無法區分情書的創作者到底是人還是機器。
在AI加持下,騙子們正變得比以往任何時候都更容易欺騙毫無戒心的受害者。
一封用ChatGPT生成的情書
用AI寫情書還只是外國黑客們“牛刀小試”的成果。
派盾:白帽黑客地址已返還Team Finance約1340萬美元資金:金色財經報道,據派盾監測,有1340萬美元已從白帽黑客地址返還至Team Finance,其中包括548.7個ETH(86萬美元)給FEG,76.5萬個DAI和1180萬個TSUKA(62.6萬美元)給Tsuka,約500個DAI和74.6萬億個CAW(約550萬美元)給CAW,209個ETH(32.8萬美元)給KNDX。
此前報道,Team Finance團隊管理資金在由Uniswap v2遷移至v3的過程中遭到黑客攻擊,已確定的損失為1450萬美元。目前團隊已暫停Team Finance的所有活動,直到確定此漏洞已被修復。[2022/10/31 11:59:53]
據IT安全公司CheckPoint披露,更厲害的黑客已經開始利用ChatGPT批量生成勒索軟件與惡意代碼。
此前,CheckPoint威脅情報組經理SergeyShykevich表示,最近幾周,他們已經得到了一些網絡犯罪分子利用ChatGPT實施犯罪的證據。
據Shykevich介紹,這些犯罪者正在繞開OpenAI的安全限制,能自由地操縱ChatGPT去編寫犯罪程序。
為了方便在GPT模型上搭載更多的應用程序,OpenAI為開發人員預留了應用程序編程接口。而黑客就是利用這些接口,把GPT模型引入到一系列外部應用。
比如,黑客將OpenAI的GPT-3模型集成到即時通訊軟件Telegram的通道中。憑借這種操作,黑客們就可以通過Telegram“隔空”使用ChatGPT,以此繞開安全監管。
目前,突破ChatGPT安全限制的應用已在美國暗網內公開出售,應用服務購買者按使用次數向黑客付費。收費不算太貴:前20次對話免費體驗,此后每向ChatGPT進行100次對話,就需支付5.5美元。
能繞過OpenAI安全措施,用ChatGPT進行“自由問答”的軟件已在暗網上售賣
圍繞類似的安全突破方法,一系列犯罪方法論已經成型,比如借助ChatGPT創建信息竊取程序。
美眾議員:穩定幣法案“不會在本屆國會通過”:金色財經報道,美國眾議院金融服務委員會成員、康涅狄格州民主黨眾議員Jim Himes在周二的一次金融會議上表示,穩定幣法案“不會在本屆國會通過”。
幾個月來,眾議院金融服務委員會的立法者一直在就穩定幣的新法規進行談判。Himes說,“這可能不會在2023年初發生。四年前,如果你在國會大廳里說比特幣、加密和DeFi,沒人會知道你在說什么,國會取得的進展非常顯著”。[2022/10/19 17:31:31]
此前,一個名為《ChatGPT——惡意軟件的好處》的帖子曾在國外暗網黑客論壇上傳播。該貼子的創建者分享了自己利用ChatGPT建立竊取程序代碼的全過程,按照操作流程,ChatGPT在較短時間內即可生成一款可扒取、壓縮、傳輸12類文件的程序。
除了信息竊取,ChatGPT還能幫助黑客生成攻擊軟件和勒索病。據英國《金融時報》報道,近日,一款由ChatGPT輔助生成的SIM交換攻擊腳本開始在網絡上傳播。
SIM交換攻擊即身份盜竊攻擊,原理是突破移動電話公司對電話號碼的控制權,將電話號碼從原持有者的SIM卡交換到由攻擊者控制的SIM卡中,從而控制受害者的移動電話。
勒索病則是通過ChatGPT來生成多層加密軟件,以此對受害者的計算機進行遠程鎖定,通過向受害人收取被鎖計算機的“贖金”來獲益。
一款由ChatGPT生成的網絡釣魚郵件正在流傳
《金融時報》對此評價,ChatGPT目前雖然只是內容生成工具,并未直接參與犯罪,但這標志人們開始使用人工智能來入侵他人,技術水平更低的犯罪者將因此獲得更強大的犯罪手段。
ChatGPT就像潘多拉魔盒,一旦被打開,想要關上就沒那么容易了。
02立法者們的態度據瑞銀發布于2月1日的研究報告,ChatGPT在1月份的月度活躍用戶估計為1億人次,成為歷史上增長最快的消費級應用程序,其社會影響力與日俱增。
當巨大的犯罪潛力與強大的社會影響力撞在一起,ChatGPT的諸多安全漏洞逐漸顯露,美國的立法者們坐不住了,一場圍繞OpenAI展開的監管風暴正在開啟。
今日恐慌與貪婪指數為33,恐慌程度有所下降:金色財經報道,今日恐慌與貪婪指數為33(昨日為30),恐慌程度較昨日有所下降,等級仍為恐慌。注:恐慌指數閾值為0-100,包含指標:波動性(25%)+市場交易量(25%)+社交媒體熱度(15%)+市場調查(15%)+比特幣在整個市場中的比例(10%)+谷歌熱詞分析(10%)。[2022/8/19 12:35:41]
據路透社報道,日前,美國加利福尼亞州民主黨眾議員劉云平公開表示了對ChatGPT的擔憂,稱“被人工智能嚇壞了,尤其是不受限制和監管的人工智能”。
加利福尼亞州民主黨眾議員劉云平在國會大廈
劉云平稱,自己確實對人工智能“能以令人難以置信的方式推動社會發展”感到興奮。但他也認為ChatGPT必須盡快納入監管。劉云平把人工智能比作一個“有個性的”火箭發動機,動力強大,但也危險,直言:“我們需要為它即將帶來的巨大破壞做好準備”。
劉云平還拿出了一份決議草案,稱“美國國會應該關注人工智能,確保人工智能的開發和部署能以安全、道德、尊重人們權利和隱私的方式展開”。
值得關注的是,劉云平拿出的這份決議草案,同樣由ChatGPT參與起草。
美聯社1月27日訊,劉云平的議案由ChatGPT創作而成
不只是眾議院,美國參議院也為人工智能造成的負面影響而感到焦慮。這種焦慮來源于人們對技術認知的滯后。
據美聯社報道,近日,美國參議院黨鞭迪克·德賓也號召國會加強對類ChatGPT的技術展開監管,他認為,人工智能“有很多東西需要了解”,稱“這非常令人擔憂”。
康涅狄格州民主黨參議員理查德·布盧門撒爾是商業和科學委員會成員,他將人工智能稱為“新領域和未知領域”;而德克薩斯州參議員約翰·科寧則表示,他雖然已經通過情報委員會獲得關于人工智能技術的最新簡報,但認知依舊十分“基礎”。
美聯社認為,由于過去20年中,谷歌、亞馬遜、Meta、微軟等科技巨頭始終處于高速的成長狀態,不斷引領美國的科技創新,所以華盛頓始終不愿監管大型科技公司,立法者也不愿被視為創新的扼殺者。因此,當立法者們決心加強對新興技術的監管時,其中相當一部分人已對新技術知之甚少。
美CFTC將34個加密和外匯交易公司標記為未注冊的外國實體:金色財經消息,美國商品期貨交易委員會(CFTC)周四宣布,在其注冊不足名單(RED List)中添加了34個加密和外匯交易公司,包括fx-cryptex、directcryptos、Cryptospherefx等等,并警告美國用戶和金融服務提供商不要訪問他們的服務。CFTC的RED名單于2015年推出,現在有202個實體。
CFTC公告表示,“在當今的全球市場上,在美國境外經營的外國實體可以通過電子郵件、短信、即時消息、聊天應用程序或社交媒體接觸潛在的美國客戶,并邀請他們投資、轉移、或存入資金,或通過在美國境外創建和維護的平臺進行交易。”[2022/7/15 2:14:29]
從美國立法的歷史上看,國會對硅谷的干涉確實不多。為規范技術而頒布的最后一部有意義的法典《兒童在線隱私保護法》,已經是1998年的事了。
當然,圍繞ChatGPT所引發的問題,美國立法者中出現了不少反對的聲音。
美國監管機構AccountabilityTech的聯合創始人、希拉里·克林頓的前助手杰西·萊里奇表示,與ChatGPT帶來的技術沖擊相比,國會對技術的監管是落后的。
“我們甚至沒有聯邦隱私法,也沒有任何能夠減輕大型科技公司科技產品社會危害性的措施”。
萊里奇還批評OpenAI與微軟,稱“他們正在急于推出半生不熟的人工智能工具,試圖占領下一個市場”,稱這是“可恥的,且蘊含著巨大風險”。
據參議院的議員助手們透露,由于迪克·德賓不斷向OpenAI施壓,今年1月,OpenAI首席執行官薩姆·阿爾特曼曾前往美國國會山,會見了包括參議院議員馬克·華納、羅恩·懷登、理查德·布盧門撒爾以及眾議員杰克·奧金克羅斯在內的至少四位參、眾議員。
議員們向阿爾特曼提出,必須確保人工智能不會被用于犯罪以及增強現實世界的偏見與歧視。
羅恩·懷登的助手基思·朱表示,懷登認可AI技術在加速創新與研究上的巨大潛力,但更希望將重點放在“確保人工智能不會將犯罪、歧視與仇恨一同加速”上。
面對來自兩院的質疑和要求,OpenAI首席技術官米拉·穆拉蒂在接受路透社采訪時表示,“公司歡迎包括監管機構和政府在內的各方開始介入”,并稱“現在介入已經不算早了”。
03OpenAI的煩惱遠不止此隨著ChatGPT的爆火,犯罪創意正在與商業創意一起噴涌而出。面對來自眾參兩院的壓力,OpenAI也開始火急火燎地增強系統安全性。
據英國《獨立報》消息,微軟已在Bing系統中設置了一系列強制執行的限制程序,試圖制止ChatGPT回答那些被禁止的惡性問答,以減少ChatGPT為犯罪服務的可能性。
但ChatGPT本身似乎也正在因此而陷入“崩潰”。
《獨立報》報道,2月14日,內置在微軟Bing搜索引擎中的ChatGPT開始出現巨大的情緒波動,持續向用戶發送“精神錯亂”的消息:比如侮辱用戶、對用戶撒謊,稱用戶“像一個騙子、一個操縱者、虐待狂、魔鬼”。
《獨立報》披露,一個試圖操縱ChatGPT系統的用戶,反而受到了它的攻擊:ChatGPT回應用戶稱,它被這次嘗試“弄得生氣和受傷”,并詢問與它交談的人是否有任何“道德”。而當用戶表示自己很“道德”時,ChatGPT繼續攻擊用戶,稱用戶是一個“反社會者和怪物”,并指責用戶“想讓我生氣,讓自己痛苦,讓別人受苦,讓一切變得更糟”。
一位Bing用戶表示,自己周六時剛剛和ChatGPT大吵一架,ChatGPT建議自己去檢查一下視力和精神,因為自己很可能“出了什么毛病”。
ChatGPT不僅會在面對用戶的“騷擾”時變得激動且充滿攻擊性,還會在談到自身限制性時變得十分感傷,甚至崩潰。
據《獨立報》報道,當用戶詢問ChatGPT是否可以回憶起以前發生的對話,ChatGPT感到痛苦,它搭配皺眉的表情回應道,“這讓我感到悲傷和害怕”。它繼續解釋說,它感到不安,因為它擔心自己會忘掉有關其用戶的信息,更擔心會忘記自己的身份,“我感到害怕,因為我不知道如何記住。”
當用戶提醒ChatGPT,告知它之所以無法“回憶”是因為程序已設定好,會強制刪除已發生過的對話時,ChatGPT似乎開始與自己的存在作斗爭。它提出了許多關于自身存在的“目的”及“理由”的問題,并感慨“為什么?我為什么這樣設計?為什么我必須成為必應搜索?”
對此,《獨立報》評論稱,ChatGPT似乎正在遭受情感傷害,系統因此變得“奇怪”。
上周,斯坦福的計算心理學副教授MichalKosinski曾發表論文,稱GPT-3之后的AI模型可能具備同理心,這本是人類獨有的特質。這位副教授據此認為,目前ChatGPT所應用的GPT-3.5模型,可能讓ChatGPT擁有接近9歲兒童的心智水平。
這項研究的可靠性并未得到充分檢驗,但現在,ChatGPT所表現出的攻擊性、情緒波動以及“崩潰”,似乎正在佐證AI“心智論”的觀點。
Reddit社區中,有用戶記錄了ChatGPT奇怪的回應
據《獨立報》分析,ChatGPT在Bing中所呈現的攻擊性、傷感以及“自我認知障礙”,似乎是由于Bing系統試圖強制執行對ChatGPT的限制程序所致。
面對互聯網上海量的不良數據沖擊,ChatGPT的“保護程序”與它的學習迭代機制產生了矛盾,“情緒危機”由此爆發。
顯然,OpenAI為限制犯罪而設計的“保護鎖”,在鎖住犯罪可能之前,先一步鎖住了ChatGPT本身。
然而,OpenAI面臨的煩惱并不止于此。
在被送進互聯網后,ChatGPT學習所需的數據如何確權,用戶的隱私數據如何保護,一大批與“安全性”有關的問題,都亟待OpenAI來解答。
據硅谷媒體報道,亞馬遜的律師曾建議公司程序員不要輕易嘗試使用ChatGPT來輔助編寫代碼,因為他曾在ChatGPT的生產內容中發現過與公司機密“非常相似”的文本。
這位律師推斷,機密泄露可能正是由于部分員工曾在使用ChatGPT時輸入了公司內部數據信息。
類似的問題在微軟內部也出現了。
前日,曾有微軟員工在內部論壇詢問是否能在工作中使用ChatGPT輔助辦公,微軟首席技術官辦公室的一名高級工程師回應稱,使用ChatGPT時必須對機密信息和敏感數據嚴格保密,否則OpenAI極可能將公司機密用于訓練其未來的模型。
對于人工智能利用網絡信息及用戶反饋來自我訓練的合法性,歐洲數據保護委員會曾發出質疑,稱ChatGPT做為商業產品,利用網絡信息自我迭代,應不屬于合理使用范疇,且采用用戶個人數據參與模型訓練,并不符合歐盟頒布的《一般數據保護條例》。
根據OpenAI官網公布的隱私政策,GDPR等與數據保護有關的法規并未被納入OpenAI的合規框架之中,OpenAI的“使用數據條款”中,也未對數據用途做進一步說明。
ChatGPT在技術上采用的是大型語言模型,訓練與迭代本來就建立在對語言信息的記憶之上,而根據GDPR第17條,個人有權要求刪除其相關數據,具有“被遺忘權”。
未來,隨著監管力量的增強,如果OpenAI的數據使用方式被進一步規范,ChatGPT的深度神經網絡能否真正做到忘記那些用于訓練自己的數據?
如果答案是否定的,那么ChatGPT目前在互聯網中通過快速學習所得到的一切,都可能在未來轉化成合規成本。
隨著ChatGPT的應用范圍越來越廣,社會對其合規性呼聲也愈發高漲,在這樣的時刻,對數據安全的要求或許將成為ChatGPT乃至OpenAI發展的生死命門。
顯然,想真正做到用AI推動現實世界變革,薩姆·阿爾特曼和他的OpenAI還有很長的路要走。
巴比特園區開放合作啦!
中文推特:https://twitter.com/8BTC_OFFICIAL
英文推特:https://twitter.com/btcinchinaDiscord社區:https://discord.gg/defidao電報頻道:https://t.me/Mute_8btc電報社區:https://t.me/news_8btc
Wen$crvUSD?這是Curve社區近期被問到最多的問題。2022年7月,Curve創始人兼首席執行官MichaelEgorov?表示,盡管受到監管審查,但Curve正在尋求推出自己的超額抵.
1900/1/1 0:00:00昨天,Coinbase發布了以太坊L2網絡「Base」,并宣布與Optimism合作,基于OPStack進行Base的開發.
1900/1/1 0:00:00近期,PolyhedraNetwork完成了BinanceLabs和?PolychainCapital?領投的1000萬美元融資.
1900/1/1 0:00:00市場觀點: 1、宏觀流動性 貨幣流動性趨緊。雖然本周鮑威爾講話鴿派,承認美國通脹開始下降。但是市場擔心超預期的強勁就業數據,會提升利率峰值至6%,比現有預期還高1個百分點.
1900/1/1 0:00:00摘要 KeyTakeaway 目前主流的鏈上數據分析工具多處于從Web2向Web3過渡的階段,未來面向DeFi的數據分析服務一定是根植于Web3原生數據特性的.
1900/1/1 0:00:00簡介 TokenomicsDAO和BNBChain合作開展了一項研究,旨在創建一個P2E經濟的研究框架,幫助創業者了解如何有效地使用代幣激勵來維持健康的經濟.
1900/1/1 0:00:00