數(shù)字革命是否是一場由精英主導(dǎo)的游戲？普通人特別是貧困人口在數(shù)字時(shí)代的命運(yùn)是什么？算法是否比人類更加中立、公正和明智？本文來自微信公眾號(hào)：中國慈善家雜志（ID：cnscsj），作者：郜曉文
去年，一篇題為《外賣騎手，困在系統(tǒng)里》的文章在社交媒體刷屏，互聯(lián)網(wǎng)企業(yè)利用算法對(duì)騎手進(jìn)行控制和勞動(dòng)壓榨的問題，引起社會(huì)上普遍關(guān)注。北京大學(xué)社會(huì)學(xué)系的陳龍博士對(duì)此作了專門研究，揭示了平臺(tái)的數(shù)據(jù)算法系統(tǒng)對(duì)勞動(dòng)者無休止地壓迫式索取。
隨著高科技日新月異的發(fā)展，數(shù)字革命如火如荼。數(shù)據(jù)追蹤以及在此基礎(chǔ)上的決策機(jī)制已經(jīng)成為商業(yè)、行政管理甚至刑事判決慣用的工具。當(dāng)我們歡呼數(shù)字化帶來的便利時(shí)，紐約州立大學(xué)奧爾巴尼分校政治學(xué)副教授弗吉尼亞·尤班克斯（Virginia Eubanks）卻發(fā)出追問：數(shù)字革命是否是一場由精英主導(dǎo)的游戲？普通人特別是貧困人口在數(shù)字時(shí)代的命運(yùn)是什么？算法是否比人類更加中立、公正和明智？
尤班克斯在《自動(dòng)不平等》（Automating Inequality）一書中，通過生動(dòng)的故事和深刻的分析，告訴人們一個(gè)簡單的道理：技術(shù)不能代替正義。
作者認(rèn)為，標(biāo)榜高效的自動(dòng)化系統(tǒng)，并未在實(shí)質(zhì)上改善貧困家庭的處境。恰恰相反，嵌入偏見的高科技工具使政府在做出和民眾生活息息相關(guān)的決定時(shí)，“名正言順”地?cái)[脫了道德束縛。更令人后怕的是，書中揭露了伴隨數(shù)據(jù)分析、統(tǒng)計(jì)模型與算法的監(jiān)管網(wǎng)絡(luò)，邊緣人群正面臨著更加嚴(yán)格的數(shù)字追蹤、監(jiān)控甚至懲罰，被牢牢困在這張網(wǎng)中。
一、“數(shù)字濟(jì)貧院”
19世紀(jì)，美國政府為緩解貧困問題而建造了濟(jì)貧院。尤班克斯認(rèn)為“現(xiàn)在我們正在建設(shè)一所數(shù)字濟(jì)貧院”——一所無形的“鎖定窮人、管制窮人、甚至懲罰窮人”的機(jī)構(gòu)，一旦窮人求助政府獲取公共援助或?qū)で笃渌卜?wù)，就會(huì)被這所看似中立的數(shù)字濟(jì)貧院“瞄準(zhǔn)”。
尤班克斯通過三個(gè)深入調(diào)查訪問的案例，系統(tǒng)地分析了數(shù)據(jù)挖掘、政策算法和預(yù)測風(fēng)險(xiǎn)模型對(duì)美國貧困和工薪階層的影響。
第一個(gè)案例是印第安納州試行的福利資格自動(dòng)認(rèn)證系統(tǒng)。全系統(tǒng)自動(dòng)化運(yùn)營，脆弱不堪的規(guī)則和設(shè)計(jì)不當(dāng)?shù)牟僮髦笜?biāo)，加上自動(dòng)決策工具永不出錯(cuò)的假設(shè)，意味著一旦發(fā)生錯(cuò)誤，往往會(huì)歸咎到申請(qǐng)人，而不是州政府或承包商。在這套系統(tǒng)下，成千上萬人的福利申請(qǐng)?jiān)獾搅司芙^，其中包括出生時(shí)就是腦癱兒、醫(yī)療費(fèi)用寄希望于政府的小蘇菲。由于當(dāng)?shù)丶彝ヅc社會(huì)服務(wù)管理局社工的失誤，蘇菲家被直接歸為“未能配合”政府工作，而被拒絕通過福利申請(qǐng)。
第二個(gè)案例是洛杉磯為無家可歸者提供服務(wù)的電子登記注冊(cè)機(jī)構(gòu)。根據(jù)其設(shè)計(jì)者的說法，該市的協(xié)調(diào)入住系統(tǒng)旨在“將最亟須幫助的群體與最合適的資源相匹配”。然而，大批無家可歸者的個(gè)人信息被錄入信息管理系統(tǒng)，生成所謂的“弱勢指數(shù)”。次貸危機(jī)中失去一切流落街頭的加里·伯特萊特，因?yàn)椤叭鮿葜笖?shù)”不夠高，只能在無盡等待中消磨希望，而這些無家可歸者的信息也成了執(zhí)法部門可以隨意獲取的數(shù)據(jù)，他們被當(dāng)成了“天然的罪犯”。
第三個(gè)案例是賓夕法尼亞州阿勒格尼縣的家庭篩查系統(tǒng)，根據(jù)一個(gè)人以往的行為模式來推測他將來可能采取的行動(dòng)。在新的預(yù)測方式下，人們不僅會(huì)受到自己行為的影響，還會(huì)受到戀人、室友、親戚和鄰居行為的影響。預(yù)測模型和算法將窮人標(biāo)記為“風(fēng)險(xiǎn)”和“問題父母”。隨之而來的大量社會(huì)服務(wù)、執(zhí)法活動(dòng)和社區(qū)監(jiān)督，使他們的一舉一動(dòng)全在監(jiān)控之下，貧困成了“天然的風(fēng)險(xiǎn)指標(biāo)”。
“今天，我們基于數(shù)據(jù)庫、算法和風(fēng)險(xiǎn)模型造了一個(gè)‘?dāng)?shù)字濟(jì)貧院’，它的覆蓋范圍和惡劣影響很有可能超越任何以往的類似機(jī)構(gòu)?！庇劝嗫怂怪赋觯?span style="margin: 0px; padding: 0px; border: 0px; outline: 0px; font-weight: 700; vertical-align: baseline; background: transparent; box-sizing: border-box;">如果不重視算法中可能隱藏的偏見，不去規(guī)制算法可能產(chǎn)生的風(fēng)險(xiǎn)缺陷，那么這些致力于解決貧困的技術(shù)進(jìn)步和效率提升，可能只會(huì)模糊貧困與犯罪之間的界限，將窮人永遠(yuǎn)桎梏在這所“數(shù)字濟(jì)貧院”。
隨著數(shù)字時(shí)代來臨，社會(huì)網(wǎng)絡(luò)和信息技術(shù)日漸發(fā)達(dá)，智慧城市和數(shù)字治理成為時(shí)尚。在美國社會(huì)，算法科技被用于開展諸多政府項(xiàng)目，包括為無家可歸者提供庇護(hù)場所、向生活困難者提供援助，以及兒童福利項(xiàng)目等。自動(dòng)化系統(tǒng)決定哪些社區(qū)可能會(huì)被重點(diǎn)管制，哪些家庭能夠獲得救助，哪些群體面臨欺詐調(diào)查，美其名曰算法治理。
決策者們依賴大數(shù)據(jù)分析本無可厚非，但在算法的高科技外表下，隱藏著重要的公平正義問題。高科技工具增加了對(duì)貧困和工薪階層行為模式和日常選擇的數(shù)據(jù)收集、存儲(chǔ)和共享，以便政府干預(yù)、審查和監(jiān)視。然而，這種監(jiān)視被過多地用于尋找受助者的不法行為，從而導(dǎo)致窮人更易被歸罪，他們的福利被轉(zhuǎn)移。
《自動(dòng)不平等》作者：[美]弗吉尼亞·尤班克斯，譯者：李明倩 ，出版：商務(wù)印書館，出版時(shí)間：2021年版
二、貧困不容否認(rèn)
《自動(dòng)不平等》涉及的一個(gè)關(guān)鍵問題是算法對(duì)社會(huì)不同階層，特別是貧困群體的影響。這是人工智能倫理和算法治理無可回避的問題。
算法應(yīng)該怎樣對(duì)待貧困？尤班克斯認(rèn)為，這不僅僅是需要改變技術(shù)的問題?！皩?duì)貧困、窮人和工薪階層的看法與態(tài)度也需要有更廣泛的轉(zhuǎn)變?！彼跁辛信e了全美各地貧困民眾面臨的幾種主要困難。比如，領(lǐng)取福利救濟(jì)時(shí)因?yàn)橐恍盁o心之失”而成為了福利欺詐的調(diào)查對(duì)象；無家可歸者艱難地尋求可供容身的庇護(hù)住所，以及被迫與子女分離、將孩子送到寄養(yǎng)機(jī)構(gòu)。
社會(huì)學(xué)家斯坦利·科恩將美國公眾對(duì)貧困的態(tài)度稱為“文化否認(rèn)”，是一種使我們得以了解殘忍、歧視和壓迫，但從不公開承認(rèn)其存在的過程。文化否認(rèn)不是一種個(gè)體才有的人身或心理屬性，它是一個(gè)由學(xué)校、政府、宗教、媒體，以及其他機(jī)構(gòu)組織支持的社會(huì)過程。
比如，當(dāng)我們?cè)谛[的街頭經(jīng)過流浪漢或者乞討者身邊時(shí)，已經(jīng)習(xí)慣了 “無動(dòng)于衷”和“視而不見”。因?yàn)檎麄€(gè)社會(huì)文化已將窮人描繪成病態(tài)性地依賴社會(huì)的少數(shù)群體，他們被打上了毫無希望與價(jià)值的標(biāo)簽。公共政策也傾向于指責(zé)貧困，而不是糾正貧困造成的負(fù)面影響，或消除貧困的根源。
在美國，貧困還是一種可被塑造的政治籌碼。右翼往往譴責(zé)窮人是寄生蟲，主張減少資助，左翼則以家長姿態(tài)對(duì)窮人無力改變自己生活的現(xiàn)狀表示痛心，希望改造窮人。
無論如何，數(shù)量龐大、花費(fèi)高昂的公共服務(wù)機(jī)構(gòu)被主要用來調(diào)查個(gè)人的痛苦際遇是否可能由其自身過錯(cuò)導(dǎo)致，這使得人們可能即使身處貧困，卻試圖輕描淡寫或予以否認(rèn)，小心翼翼地求助社會(huì)服務(wù)項(xiàng)目。這種狹隘的認(rèn)識(shí)使包括精英階層在內(nèi)的中產(chǎn)階級(jí)對(duì)窮人的遭遇冷漠以待，那些旨在更加高效為有需要之人提供幫助的新技術(shù)，則被早早嵌入了對(duì)窮人的偏見和對(duì)貧困的否認(rèn)。
從文化的視角來看，限制人們視野的是將窮人與其他人相區(qū)分的敘事方式。尤班克斯在書中呼吁，直視貧困，承認(rèn)貧困，聆聽窮人的故事，建立理解貧困的同理心，改變我們對(duì)貧困的看法、言論和感受，“雖然無法從根本上解決貧困問題，但至少不會(huì)令這場正在改變我們生活的數(shù)字革命在懲罰窮人的道路上越走越遠(yuǎn)”。
美國《獨(dú)立宣言》中將自由視為“不可剝奪的權(quán)利”，然而，數(shù)字濟(jì)貧院的存在削弱了貧困和工薪階層行使自主權(quán)和進(jìn)行自治的能力，侵犯了他們行使這些權(quán)利的自由。數(shù)字濟(jì)貧院的復(fù)雜性使目標(biāo)對(duì)象感到無能為力，不知所措。很多時(shí)候，這些工具只會(huì)碾壓一個(gè)人的決心，直到他們放棄本應(yīng)享有的一切：資源、自主權(quán)、尊重和尊嚴(yán)。
20世紀(jì)60年代，馬丁·路德·金博士在華盛頓特區(qū)領(lǐng)導(dǎo)了爭取黑人工作機(jī)會(huì)和自由權(quán)的民權(quán)運(yùn)動(dòng)，號(hào)召消除美國以及全世界的貧窮，產(chǎn)生了廣泛的社會(huì)影響。但是金死后，窮人運(yùn)動(dòng)雖仍在繼續(xù)推進(jìn)，卻沒有取得預(yù)期的結(jié)果。
數(shù)字技術(shù)在公共服務(wù)和福利制度中的應(yīng)用，使消除貧困和種族歧視運(yùn)動(dòng)面臨新的挑戰(zhàn)。2020年11月，美國掀起的“黑命貴運(yùn)動(dòng)”核心在于反對(duì)種族歧視，動(dòng)員不同階層抵制警察暴行。尤班克斯認(rèn)為，事件最應(yīng)該引發(fā)公眾注意的是采取措施制止司法系統(tǒng)對(duì)黑人身體、思想和心靈實(shí)施暴力行為，同樣也要監(jiān)督在公共服務(wù)、無家可歸者服務(wù)和兒童保護(hù)服務(wù)中可能出現(xiàn)的暴行和非人性操作。
總之，揭露“數(shù)字濟(jì)貧院”的殘酷需要巨大的勇氣，窮人運(yùn)動(dòng)是美國未竟的偉大征程之一。在數(shù)字技術(shù)日趨精密和普遍的今天，拆除鎖定窮人、管制窮人、懲罰窮人的“數(shù)字濟(jì)貧院”，不僅僅需要高科技，更需要文化、政治和個(gè)人道德的深刻變革。
本文來自微信公眾號(hào)：中國慈善家雜志（ID：cnscsj），作者：郜曉文