人工智能與大數(shù)據(jù)能否糾正人類種族歧視？

• 2018年7月19日 ZhangHongYuan來源：新浪科技 871 54
• 繁體

• 

  2018-2023年中國人工智能技術(shù)應(yīng)用行業(yè)深度分析及投資風(fēng)險預(yù)測報告

  與早期人工智能相比，新一代人工智能正在全新信息環(huán)境、海量數(shù)據(jù)基礎(chǔ)和持續(xù)演進、不斷豐富的戰(zhàn)略目標(biāo)的引領(lǐng)下，依托于云計算、大數(shù)據(jù)兩大基礎(chǔ)平臺和機器學(xué)習(xí)、模式識別和人機交互三大通用技術(shù)，...

我們對大數(shù)據(jù)的使用是會糾正我們的偏見，還是會讓情況更加糟糕?

值得注意的是，這種不相容性此前從未出現(xiàn)過。它的發(fā)現(xiàn)指向了大數(shù)據(jù)時代最顯著的好處之一：我們決策的邏輯可以用以前不可能的方式進行形式上的分析，以及數(shù)字上的分離。因此，如今法官們知道在做決定時需要考慮這些更廣泛的不平衡?！癙roPublica揭示的問題其實是關(guān)于我們?nèi)绾慰创A(yù)測，而我們?nèi)绾慰创惴ㄒ餐瑯又匾??！?/p>

學(xué)術(shù)界也有一些COMPAS如何改進的建議。卡內(nèi)基梅隆大學(xué)海因茨學(xué)院統(tǒng)計學(xué)與公共政策教授亞歷桑德拉·喬爾德喬娃表示，如果COMPAS的設(shè)計者允許在處理非裔美國人被告時稍微增加一些整體的不準(zhǔn)確性，就可以確保算法對不同種族的錯誤率大致相同?！斑@個，”她指出，“或許就是你希望達成的權(quán)衡?！?/p>

算法中的性別歧視

谷歌翻譯存在著隱性的性別歧視問題。你可以嘗試將短語“o bir doktor”和“o bir hem?ire”從土耳其語翻譯成英語。這兩個土耳其語短語用的都是性別中性的代詞“o”，而谷歌翻譯強制性地選擇了性別代詞。結(jié)果是，第一個短語被翻譯成“he is a doctor”(他是一名醫(yī)生)，第二個則是“she is a nurse”(她是一名護士)。

在波士頓大學(xué)的Tolga Bolukbasi及其同事于2016年發(fā)表的一篇論文中，這些翻譯是他們關(guān)注的焦點，并作為一類被稱為單詞嵌入的語言模型的例子。這些模型用于為翻譯服務(wù)、搜索算法和自動完成功能提供支持，它們用自然語言的采集主體(比如谷歌新聞的文章)進行訓(xùn)練，通常沒有人類語言學(xué)家的太多介入。模型中的單詞被映射為高維空間中的點，因此給定的一對單詞間的距離和方向表明了它們在意思上有多接近，以及具有什么樣的語義關(guān)系。

舉個例子，“Man”(男人)和“Woman”(女人)之間的距離與“King”(國王)和“Queen”(王后)之間的距離大致相同，方向也一樣。單詞嵌入模型還能使隱性偏見永久存在，就像谷歌翻譯里的那樣。模型的基礎(chǔ)架構(gòu)，即幾十年來在數(shù)字語料庫中收集的數(shù)十億文本，已經(jīng)開始以難以理解和改變的方式影響著我們的日常交流。然而，基礎(chǔ)架構(gòu)中許多偏見的納入要早于它們以數(shù)字形式的制度化。而且，與COMPAS類似，研究這些偏見在算法中的出現(xiàn)帶來了新的機會。

Bolukbasi和同事開發(fā)了一種通過在單詞嵌入模型空間內(nèi)移動單詞，對語言進行“去偏見”的技術(shù)。想象一下，將單詞“doctor”(醫(yī)生)、“nurse”(護士)、“man”(男人)和“woman”(女人)放到一個正方形的4個點上，“man”和“woman”在底部，“doctor”和“nurse”在頂部。連接“doctor”和“nurse”的線段與“man”和“woman”之間的線段長度完全一致。因此，系統(tǒng)會將它們的關(guān)系視為是可類比的。Bolukbasi的去偏見策略是將“doctor”和“nurse”都推到頂部線段的中點，使它們與“man”和“woman”的距離都相同。從結(jié)果上，系統(tǒng)已經(jīng)“忘記了”可類比性;之后翻譯中所使用的代詞將留給系統(tǒng)設(shè)計者決定。

改變單詞之間的聯(lián)系可能會帶來顯著的影響。普林斯頓大學(xué)的計算機科學(xué)教授阿爾文德·納拉亞南與同事一起開發(fā)了測量機器學(xué)習(xí)模型中偏見程度的工具。三人從已經(jīng)被深入研究的心理學(xué)測驗——內(nèi)隱聯(lián)系測驗(Implicit Association Test)——開始，在該測驗的一個常見變體中，受試者在積極屬性的詞匯與反映社會類別的詞匯之間進行配對的速度越快，他們對二者聯(lián)系的確信程度就越高。在許多這樣的配對中，反應(yīng)時間的平均差異——通常是以毫秒計——可以作為隱性偏見的測量指標(biāo)。納拉亞南和同事講反應(yīng)時間替換成單詞間的距離，建立了“單詞嵌入聯(lián)系測驗”。該測驗重現(xiàn)了內(nèi)隱聯(lián)系測驗研究在同一組詞匯中所發(fā)現(xiàn)的同一組刻板印象。

20多年來，內(nèi)隱聯(lián)系測驗已經(jīng)揭示出各種各樣的隱性偏見，從性別到國籍再到種族，跨越許多不同背景的人群。由于偏見如此普遍，有人猜測人類的自然傾向——比如支配等級和群體內(nèi)部的身份識別等——是造成這些偏見的原因;從這一角度看，偏見是人類天性中不可避免的。單詞嵌入聯(lián)系測驗論文的作者推測，他們的研究結(jié)果支持了另一種(盡管不是唯一的)可能性：“僅僅接觸語言就足以在我們腦海中產(chǎn)生這些隱性偏見。”換句話說，如果偏見是在語言本身的統(tǒng)計中體現(xiàn)并傳播，那么我們說話的方式就不只是表達我們看待彼此的方式，而且也是構(gòu)建偏見的方式。如果諸如Bolukbasi開發(fā)的去偏見項目能奏效的話，我們就可以大規(guī)模地改變偏見，并且是以之前不可能的方式：用軟件。如果這些軟件不能發(fā)揮作用，那持續(xù)幾代人的數(shù)字化基礎(chǔ)結(jié)構(gòu)可能就會不斷加強和延續(xù)這些偏見。

納拉亞南指出，Bolukbasi的論文假設(shè)了性別是二元的，或至少性別詞匯之間的遵循一條直線?！拔也徽J為(我們)有任何(去偏見)能對一個可能稍微復(fù)雜的概念起作用的線索，”他說道。他特別指出了種族刻板印象，其中有關(guān)類別的概念與用來定義它們的方法一樣有問題。

納拉亞南使用從Amazon Mechanical Turk(一種被形容為“人工人工智能”的服務(wù)平臺)招募的群體勞動者來確定他的性別工作中的類別。同樣這些勞動者還評估了哪些類別出現(xiàn)偏見，以及程序消除這些偏見的成功程度。換句話說，關(guān)于什么是有偏見的決定，以及偏見被消除意味著什么，仍然與社會共識中的中位值密切相關(guān)，給社會進步加上了民粹主義的制約。

還有更令人氣餒的擔(dān)憂。巴洛卡斯和克勞福德近期指出，大多數(shù)關(guān)于算法公平性的研究都集中在所謂的“分配型傷害”(allocative harm)，涉及到資源的分配，比如前面提到的當(dāng)日送達服務(wù)、判決中采用的風(fēng)險評分等。他們呼吁更多地關(guān)注種族主義批評者如貝爾·胡克斯(bell hooks)等提出的“象征型傷害”(representational harm)。舉例來說，在谷歌圖片搜索中輸入“CEO”(首席執(zhí)行官)，所得到的結(jié)果中絕大多數(shù)都是白人的頭像。納拉亞南表示，這些問題可能會在公平性討論中被忽視，因為“它們在數(shù)學(xué)上更難以確切闡述，在計算機科學(xué)中，如果你無法用正式的術(shù)語來研究某些東西，那它的存在合理性就不如那些能夠轉(zhuǎn)化成方程或算法的東西?！?/p>

在最糟糕的情況下，我們在處理數(shù)據(jù)中的偏見時所遇到的這樣或那樣的限制，將使我們構(gòu)建中的算法成為新一代的混凝土橋，使不合理的現(xiàn)狀在未來許多年里一直延續(xù)。在最好的情況下，數(shù)據(jù)基礎(chǔ)架構(gòu)將迫使我們以某些從未有過的方式，揭露并面對我們對公平和決策的定義。

這種緊張狀態(tài)很難與我們通常的技術(shù)進步觀念相協(xié)調(diào)。人們很容易認為技術(shù)變化要比社會更快，并且軟件可以通過迅速加入新的社會規(guī)范來促進社會進步，并隔離倒退或惡意行為者的影響。一個量刑算法能造成的傷害要比一個明顯偏執(zhí)的法官小得多。但是，技術(shù)也可能掩蓋偏見的歷史和背景，減緩甚至阻礙社會進步?；A(chǔ)設(shè)施很難改變，而機會也在逐漸減少：技術(shù)可以在未來改進，但我們正在決定需要做出哪些權(quán)衡。目前尚不清楚我們是否有機會重新審視這些權(quán)衡。

畢竟，算法變得越普遍，被取代的可能性就越低。雖然我們可能每兩年就升級一次手機，但核心軟件基礎(chǔ)架構(gòu)的改造依然面臨很大障礙?？紤]到滲透到我們生活中的過時技術(shù)已經(jīng)非常多，例如空中交通管制系統(tǒng)主要依賴于20世紀(jì)70年代開發(fā)的軟件。在2017年癱瘓了英國醫(yī)院系統(tǒng)的“WannaCry”蠕蟲病毒，利用的便是這樣一個事實：這些系統(tǒng)是在幾十年前的Windows版本上運行的，微軟公司甚至已經(jīng)不再提供維護。機器對語言的理解嵌入在核心服務(wù)中，可以在數(shù)年或數(shù)十年后依然呈現(xiàn)出今天的偏見。用藝術(shù)家Nicole Aptekar的話來說，“基礎(chǔ)架構(gòu)擊敗了意圖。”

新的數(shù)字基礎(chǔ)架構(gòu)面臨的最大危險并不是會腐朽，也不是容易受到攻擊，而是其最糟糕的功能將繼續(xù)存在。一旦大橋建起來，要拆掉就很難了。

延伸閱讀

推薦閱讀

猜您喜歡