EVU:審計可以消除算法中的偏見嗎？

十多年來，記者和研究人員一直在撰寫有關依靠算法做出重大決策的危險的文章：誰被關押，誰得到工作，誰得到貸款，甚至誰優先使用COVID-19疫苗。

而不是消除偏差，一個接一個的算法已經將其編成代碼并永久存在，因為公司同時繼續或多或少地保護其算法不受公眾審查。

此后的一個大問題：我們如何解決這個問題？立法者和研究人員提倡進行算法審計，該算法將對算法進行剖析和壓力測試，以查看算法如何工作以及它們是否在執行既定目標或產生有偏見的結果。越來越多的私人審計公司聲稱這樣做。公司越來越多地求助于這些公司來審查其算法，尤其是當他們面對因偏向結果而受到批評的時候，但是目前尚不清楚此類審計是否實際上使算法的偏向性降低了，或者它們是否僅僅是良好的公關手段。

最近，當沃爾瑪和高盛等公司使用的受歡迎的招聘軟件公司HireVue面臨批評時，算法審計引起了廣泛關注，該公司通過視頻采訪評估候選人的算法存在偏見。

HireVue要求審計公司提供幫助，并在一月份在新聞稿中大肆宣傳了審計結果。

審計發現，該軟件的預測“在公平性和偏見問題方面做得很出色”，HireVue在一份新聞稿中說，引用了該公司聘請的審計公司O'Neil風險咨詢和算法審計。

靈蹤安全已審計HDX項目部署在火幣Heco鏈上的合約:5月13日消息，靈蹤安全近期審計了HDX項目部署在火幣Heco鏈上的合約，所審計的合約包含該項目的通證發行、AMM交易所、通證空投和質押挖礦功能。經靈蹤安全審計（細節請參看審計報告），涉及這些功能的合約暫未發現安全隱患。[2021/5/13 21:58:32]

但是，盡管對其流程進行了更改，但HireVue被廣泛指責為使用PR特技進行審計。

文章在快速公司，VentureBeat的，和麻省理工學院技術評論叫響公司mischaracterizing審計。

HireVue表示，通過公開發布該報告可以使審計透明，并補充說新聞稿規定該審計僅針對特定情況。

“盡管HireVue可以接受任何類型的審計，包括涉及對我們整個流程的審計，但ORCAA要求只關注一個用例，以便就該系統進行具體討論，”HireVue首席數據科學家LindseyZuloaga在接受采訪時說。一封電郵。“我們與ORCAA合作，選擇了一個具有代表性的用例，該用例與大多數HireVue候選人所進行的評估有很大的重疊。”

YAM2.0智能合約已通過PeckShield安全審計:8月19日， 區塊鏈安全公司PeckShield（派盾）正式宣布完成了對YAM2.0智能合約的安全審計。YAM 2.0將對YAM 1.0合約進行系統遷移工作，同時持幣用戶可以進行1:1的映射，為其挖礦產品的上線做必要準備工作。

PeckShield表示，經過數天的嚴密安全審計，我們發現YAMv2遷移合約的整體設計清晰，邏輯縝密，代碼簡練有效。

注：此前，備受關注的YAM1.0曾因一行代碼漏洞，致使項目服務擱淺，并造成治理合約中的75萬枚yCRV代幣被永久鎖定，而其項目代幣YAM二級市場價格也在數分鐘內跌落99%以上。[2020/8/19]

但是算法審計師也對HireVue關于審計的公開聲明不滿意。

人工智能解釋和偏差監控初創企業Arthur的聯合創始人利茲·奧沙利文表示：“在對營銷抵押品進行非常周到的分析時，它們破壞了整個領域的合法性。”

這就是算法審計作為消除偏差的工具的問題：公司可能會使用它們進行真正的改進，但可能不會。而且沒有任何行業標準或法規要求審計師或使用它們進行會計的公司。

以太坊2.0完成初步審計：協議規范整體良好，僅需微調:Least Authority已經完成了對以太坊2.0的初步審計。以太坊的升級計劃將于2020年7月啟動。以太坊2.0已經對協議規范進行了初步審計。審計方Least Authority的結論是，協議規范結構良好，具有強大的安全措施。但他們建議進一步審查區塊提議者機制和P2P網絡，因為兩者均被發現有攻擊向量。減輕這些危險的建議仍處于積極研究的階段，這意味著幾乎沒有明確的知識體系可供借鑒。以太坊2.0的研究和實施團隊已經承認了這些缺陷。（Crypto Briefing）[2020/3/25]

什么是算法審計-它如何工作？

好問題-這是一個非常不確定的字段。通常，審計以幾種不同的方式進行：通過查看算法的代碼和來自其結果的數據，或通過與員工的訪談和研討會來查看算法的潛在影響。

可以訪問算法代碼的審核程序使審閱者可以評估算法的訓練數據是否有偏見，并創建假設性場景來測試對不同人群的影響。

Twitter的機器學習道德總監兼算法審計公司Parity的創始人RummanChowdhury說，只有大約10到20家提供算法評論的知名公司。公司還可能擁有自己的內部審核團隊，負責在將算法發布給公眾之前研究其算法。

聲音 | 湖南日報：區塊鏈審計模式大大提高效率，節省時間精力:區塊鏈作為一項顛覆性技術，在各行各業中加速應用。區塊鏈模式應用于大數據審計，與大數據審計的融合，稱為區塊鏈審計模式。該模式由湖南省湘潭市審計局國內首創，獲國家審計署重點課題立項，在近兩年“四醫”審計中開展實踐應用，取得很好效果。該模式最大優點是既可以實現中心節點對審計業務整體大局和方向的把控，又可以實現區塊鏈自由聯通、信息透明共享、共識決策等先進性功能，并把項目跟蹤管理、法制審理、紀律監督、征求被審單位意見等同步納入審計業務過程，方便了各相關業務開展和與審計組同步溝通，各節點信息完全對稱，大大提高了效率，節省了時間精力。(湖南日報)[2019/9/4]

2016年，奧巴馬政府一份關于算法系統和公民權利的報告鼓勵了算法審計行業的發展。不過，聘請審計師仍然不是一種普遍的做法，因為公司沒有義務這樣做，而且根據多名審計師的說法，公司不希望受到審查或可能引起審查的潛在法律問題，特別是針對他們所銷售的產品。

“律師告訴我，'如果我們雇用您，發現有一個我們無法解決的問題，那么我們就失去了合理的可否認性，我們不想成為下一個卷煙公司，'”ORCAA的創始人CathyO'尼爾說。“這是我找不到工作的最常見原因。”

動態 | Digix完成首次實物黃金持有量審計:據CryptoNinjas報道，通過區塊鏈技術利用DGX代幣代表實物黃金的Digix宣布，上周必維國際檢驗集團（Bureau Veritas）的貴金屬審計師對其保管金庫中實物黃金持有量的進行了首次審計。全部金條（142條）都通過了審計測試。[2018/7/14]

對于那些聘請審計師的人，“審計”應包含什么沒有標準。即使是擬議的紐約市法律也要求對聘用算法進行年度審核，也無法說明應如何進行審核。一位審核員的批準印章比另一位審核員的審核意味深遠。

而且由于審計報告也幾乎總是受保密協議約束，因此兩家公司無法相互比較自己的工作。

喬杜里說：“最大的問題是，隨著這一領域的利潤越來越豐厚，我們將發現，我們確實需要什么是審計標準。”“外面有很多人愿意對某事進行審計，建立一個外觀漂亮的網站并每天稱其為日，然后無條件獲取現金。”

一些審計師說，即使聘用了審計師，科技公司也并不總是能如愿以償。

Arthur的O'Sullivan說：“在這種情況下，商業秘密已足夠使這些算法能夠在晦暗黑暗的環境中運行，而我們不能擁有這種秘密。”

算法正義聯盟的審計師和研究合作者伊尼奧盧瓦·德博拉·拉吉表示，審計師處于無法訪問該軟件代碼并因此存在違反計算機訪問法律的風險。喬杜里說，當公司要求她允許他們在公開發布之前對其進行審查時，她拒絕了審計。

Zuloaga說，對于HireVue的審計，ORCAA采訪了利益相關者，包括HireVue員工，客戶，應聘者和算法公平專家，并確定了公司需要解決的問題。

ORCAA的評估并未考慮HireVue算法的技術細節，例如算法所訓練的數據或其代碼，盡管Zuloaga表示，該公司不以任何方式限制審計師的訪問權限。

Zuloaga說：“ORCAA要求提供有關這些分析的詳細信息，但他們的方法著眼于解決利益相關者如何受算法影響的問題。”

奧尼爾說，她無法對HireVue審核發表評論。

許多審核是在產品發布之前進行的，但這并不是說它們不會出現問題，因為算法不是憑空存在的。例如，當微軟建立一個聊天機器人時，一旦暴露給Twitter用戶，該聊天機器人便迅速變成種族主義者。

奧沙利文說：“一旦將其投入現實世界，即使有最好的意圖，也有可能出錯一百萬人。”“我們希望采用的框架還不夠完善。總有辦法使事情更加公平。”

因此，盡管并不常見，但一些預發行審核也將提供連續監視。奧沙利文說，這種做法在銀行和醫療保健公司中越來越流行。

奧沙利文的監視公司安裝了一個儀表板，該儀表板可實時查找算法中的異常情況。例如，如果公司的算法拒絕更多的女性貸款申請，它將在啟動后幾個月提醒公司。

最后，越來越多的對抗性審核機構，主要是由研究人員和一些記者進行的，他們未經公司的同意就對算法進行審查。例如，算法正義聯盟的創始人Raji和JoyBuolamwini，他們在亞馬遜Rekognition工具上的工作突顯了該軟件如何在沒有公司參與的情況下具有種族和性別偏見。

公司在審核后會修復其算法嗎？

無法保證公司將解決審計中提出的問題。

Raji說：“您可以進行質量審核，但仍然無法從公司那里獲得問責制。”“這需要大量精力來彌合獲取審計結果與將其轉化為責任之間的差距。”

公眾的壓力有時會迫使公司解決技術上的算法偏差-或未按技術公司的要求進行的審計，并由保密協議進行了審計。

拉吉說，性別陰影研究的研究發現了商業面部識別工具中的性別和種族偏見，并任命了IBM和Microsoft等公司來引發圍繞它的公開對話。

她說，但是圍繞算法的責任感很難引起關注。

盡管面部識別的偏見是可以解決的，但人們可以看到照片和錯誤率，并且可以理解種族歧視和性別偏見在技術中的后果，但與諸如利率算法偏見之類的東西聯系起來可能會更加困難。

拉吉說：“我們如此依賴公眾的呼聲，實在令人難過。”“如果公眾不理解，那就沒有罰款，也沒有法律上的影響。這讓它非常沮喪。”

那么如何改善算法審核呢？

在2019年，一群民主立法者提出了聯邦算法責任法案，該法案將要求公司對其算法進行審計，并解決審計在使用之前發現的任何偏見問題。

AIForthePeople的創始人MutaleNkonde是技術專家團隊的成員，該團隊幫助起草了該法案，并表示將為公司創建政府授權以進行審計并遵循這些審計。

她說：“就像藥物測試一樣，必須有某種類型的機構，例如食品和藥物管理局來研究算法。”“如果我們看到了不同的影響，那么該算法將不會投放市場。”

該法案從未付諸表決。

來自俄勒岡州的民主黨參議員羅恩·懷登表示，他計劃與參議員科里·布克和眾議員伊維特·克拉克重新引入該法案，并更新2019年版本。目前尚不清楚該法案是否將為審計制定標準，但這將要求公司根據其結果采取行動。

Wyden在一份聲明中說：“我同意研究人員，行業和政府需要努力建立公認的審計AI基準，以確保審計盡可能具有影響力。”“但是，在國會開始采取行動防止偏見污染自動化系統之前，要等到學術界達成完全共識的風險太大了。我認為我們需要在兩個方面都努力。”

Tags：EVUREVUREV區塊鏈Bellevue NetworkREVU價格區塊鏈工程專業學什么女生好

瑞波幣