原創(chuàng) 文摘菌 大數(shù)據(jù)文摘
大數(shù)據(jù)文摘出品
作者：Caleb
去年末，谷歌AI倫理團(tuán)隊(duì)聯(lián)合負(fù)責(zé)人一事在全球都鬧得沸沸揚(yáng)揚(yáng)。
新年伊始，你以為谷歌就會(huì)“新年新氣象”了？
天真！
這不，就在幾個(gè)小時(shí)前，谷歌AI倫理部門創(chuàng)始人Margaret Mitchell在社交媒體上表示，“我被開(kāi)除了”。
對(duì)于這項(xiàng)舉措，谷歌在郵件中表示：
在對(duì)該經(jīng)理的行為進(jìn)行審查之后，我們確認(rèn)其存在多次違反公司行為準(zhǔn)則和安全政策的行為，其中包括泄露機(jī)密的業(yè)務(wù)敏感文件和其他員工的私人數(shù)據(jù)。
根據(jù)Axios報(bào)道稱，早在1月份，谷歌就撤銷了Margaret Mitchell的公司訪問(wèn)權(quán)限，原因是其使用自動(dòng)腳本查找了公司“虐待”Timnit Gebru的相關(guān)證據(jù)。
本月早些時(shí)候，Mitchell在推特上發(fā)布了一封電子郵件，郵件中談到了Gebru被解雇的情況，以及該事件似乎“受到了種族主義和性別歧視者們的支持”，“如果AI系統(tǒng)被別有用心的人加以利用，也會(huì)受到同樣的影響”。
郵件全文鏈接：
https://docs.google.com/document/d/1ERi2crDToYhYjEjxRoOzO-uOUeLgdoLPfnx1JOErg2w/edit
Mitchell認(rèn)為，發(fā)生在Gebru身上的事情“似乎源于對(duì)于現(xiàn)代技術(shù)缺乏遠(yuǎn)見(jiàn)，因此該事件本身就是這個(gè)問(wèn)題的顯現(xiàn)”。
支持Gebru是Mitchell被解雇的原因？
也正如Axios之前所報(bào)道的那樣，Mitchell被解雇發(fā)生在谷歌宣布對(duì)其AI倫理團(tuán)隊(duì)進(jìn)行重組的后一天。谷歌工程組織副總裁Marian Croak現(xiàn)在領(lǐng)導(dǎo)著“谷歌研究中心一個(gè)負(fù)責(zé)任的人工智能新專業(yè)中心”。
根據(jù)Mitchell的LinkedIn資料顯示，她在2016年加入谷歌，擔(dān)任高級(jí)研究科學(xué)家。兩年后，她與Gebru一起成立了谷歌AI倫理團(tuán)隊(duì)。
去年12月，Mitchell和Gebru正在撰寫(xiě)有關(guān)大型語(yǔ)言處理模型的危害的論文，當(dāng)Google Brain副總裁Megan Kacholia要求撤回該文章時(shí)，Gebru卻表示，谷歌需要更加開(kāi)放，思考“為何這項(xiàng)研究不被接受”。
這此后不久，Gebru便被解雇了，盡管谷歌將其描述為主動(dòng)辭職。
Gebru事件發(fā)生后，Mitchell便開(kāi)始公開(kāi)批評(píng)谷歌高管，包括谷歌AI部門負(fù)責(zé)人Jeff Dean和谷歌首席執(zhí)行官Sundar Pichai。1月，在谷歌開(kāi)始著手調(diào)查相關(guān)事宜時(shí)，Mitchell發(fā)現(xiàn)自己失去了公司電子郵件訪問(wèn)權(quán)限。
對(duì)此，外界普遍猜測(cè)，Mitchell被解雇在很大程度上都是因?yàn)槠渑cGebru的關(guān)系，以及在后續(xù)一系列活動(dòng)中對(duì)Gebru的聲援。
在對(duì)Gebru事件進(jìn)行調(diào)查之后，谷歌宣布將對(duì)其研究和多元化政策進(jìn)行更改。在一封內(nèi)部電子郵件中，Jeff Dean向員工道歉，表示他對(duì)公司處理Gebru離職一事深表遺憾。
“我聽(tīng)到并承認(rèn)Gebru博士的退出對(duì)女性技術(shù)人員、黑人社區(qū)人員以及追求技術(shù)職業(yè)的其他代表性不足的群體以及對(duì)谷歌負(fù)責(zé)任地使用AI表示深切關(guān)懷的人代表著什么。這會(huì)使得這些人質(zhì)疑他們?cè)诠镜奈恢?，?duì)此我感到遺憾?！?/span>
自Gebru事件于去年12月發(fā)酵以來(lái)，谷歌的AI倫理團(tuán)隊(duì)就一直處于危機(jī)中。在宣布重組后，高級(jí)研究員Alex Hanna寫(xiě)道，直到周三晚上新聞報(bào)道后，團(tuán)隊(duì)才知道Croak的任命。
“他們都讓我們要相信他們的處理方式，相信Marian Croak這樣的決策者，他們會(huì)把我們利益最大化，”她在推特上寫(xiě)到，“但所有的決定都是背著我們做出的”。
谷歌連續(xù)曝出的解雇風(fēng)波在業(yè)界引起巨大轟動(dòng)，也引發(fā)了人們對(duì)谷歌對(duì)異議的容忍度的質(zhì)疑。
2018年至今，谷歌內(nèi)部已經(jīng)發(fā)生過(guò)多次大規(guī)模的抗議活動(dòng)。最近，多位谷歌員工宣布共同成立Alphabet工會(huì)，希望在薪酬和倫理等問(wèn)題上向公司施壓。
倫理問(wèn)題需要得到相同程度的重視
Mitchell以在人臉識(shí)別偏見(jiàn)的批評(píng)而聞名于世。
去年7月，MIT正在使用的一個(gè)高引用圖片數(shù)據(jù)集被曝出存在強(qiáng)烈種族歧視和厭女癥標(biāo)簽。#p#分頁(yè)標(biāo)題#e#
這個(gè)數(shù)據(jù)庫(kù)內(nèi)，當(dāng)黑人或猴子出現(xiàn)時(shí)，標(biāo)簽顯示為N*gger這一對(duì)黑人的蔑稱詞匯；此外，身穿比基尼或抱著孩子的婦女的圖片被標(biāo)記為b*tch等這一侮辱性詞匯。
這在學(xué)術(shù)圈迅速引發(fā)廣泛關(guān)注和激烈爭(zhēng)議。得知消息后，MIT迅速下線了這一數(shù)據(jù)集，并發(fā)布公告稱，由該數(shù)據(jù)集訓(xùn)練出的AI系統(tǒng)，會(huì)潛在地使用種族主義、厭女癥和其他激進(jìn)術(shù)語(yǔ)來(lái)描述對(duì)象，請(qǐng)所有研究員暫停使用和訓(xùn)練。
下線該數(shù)據(jù)庫(kù)后，MIT還表示，將敦促研究人員和開(kāi)發(fā)人員停止使用培訓(xùn)庫(kù)，并刪除所有副本。
ImageNet也有同樣的問(wèn)題，因?yàn)樗彩鞘褂肳ordNet進(jìn)行注釋的。一項(xiàng)名為“ImageNet Roulette”的實(shí)驗(yàn)允許人們將照片提交給由ImageNet訓(xùn)練出來(lái)的神經(jīng)網(wǎng)絡(luò)，該神經(jīng)網(wǎng)絡(luò)將使用數(shù)據(jù)集中的標(biāo)簽來(lái)描述這些圖片。不出所料，人們?cè)谙到y(tǒng)中輸入的是他們最感興趣的照片：自拍，而軟件會(huì)輸出一些種族主義和冒犯性的標(biāo)簽描述他們。
在這些龐大的數(shù)據(jù)集中，有問(wèn)題的圖像和標(biāo)簽所占的比例很小，并且很容易將其作為異?，F(xiàn)象清除掉。Prabhu和Birhane認(rèn)為，如果將這些材料用于訓(xùn)練現(xiàn)實(shí)世界中使用的機(jī)器學(xué)習(xí)模型，則很可能導(dǎo)致真正的傷害。
他們?cè)谡撐闹袑?xiě)道：“缺乏對(duì)規(guī)范數(shù)據(jù)集的規(guī)范，會(huì)對(duì)女性、種族和少數(shù)民族以及處于社會(huì)邊緣的弱勢(shì)個(gè)體和社區(qū)造成不成比例的負(fù)面影響?！?/span>
少數(shù)群體在AI訓(xùn)練數(shù)據(jù)集中往往沒(méi)有得到重視，這也是人臉識(shí)別算法在識(shí)別女性和膚色較深的人時(shí)遇到困難的原因。今年早些時(shí)候，底特律的一名黑人被面部識(shí)別軟件誤認(rèn)為小偷嫌疑人，被警察錯(cuò)誤逮捕。
這也是為什么此前，一個(gè)有爭(zhēng)議的人工智能算法從低分辨率的快照中生成高分辨率的圖像，把一張奧巴馬的模糊照片變成更像白人而不是黑人的原因。
盡管隨著技術(shù)的成熟，科技公司都在不同領(lǐng)域取得了不小的進(jìn)步，但是與技術(shù)相伴生的倫理問(wèn)題卻并未得到相同程度的重視。
谷歌的系列事件到底會(huì)成為導(dǎo)火索，還是倫理問(wèn)題被提上臺(tái)面的引線，我們將拭目以待。
相關(guān)報(bào)道：
https://techcrunch.com/2021/02/19/google-fires-top-ai-ethics-researcher-margaret-mitchell/
https://www.theverge.com/2021/2/19/22291631/google-diversity-research-policy-changes-timnet-gebru-firing
https://www.nytimes.com/live/2021/02/19/business/stock-market-today