被算法控制的社會（二）

被算法控制的社會（二）美國加州大學(xué)詹娜·布瑞爾馬里恩·弗爾卡德；上海社會科學(xué)院楊澤凡/譯發(fā)布時(shí)間:2024-02-23不管是對于小型初創(chuàng)企業(yè)還是大公司來說，勞動力被套入算法系統(tǒng)中的日常運(yùn)營，都是一個(gè)負(fù)債。這是因?yàn)?，他們的估值和利潤預(yù)測依賴于盡可能完全自動化系統(tǒng)執(zhí)行的所有任務(wù)的可行性。例如，當(dāng)大規(guī)模投資于開發(fā)自動化車輛的時(shí)候，共乘平臺Uber公司認(rèn)識到勞動力法規(guī)可能會威脅他們不得不支付司機(jī)更具正當(dāng)性的生活工資。然而，令人意外的是，在加利福尼亞州的選民通過了由行業(yè)贊助的22號提案后不久，該公司便放棄了這一計(jì)劃。22號提案將App司機(jī)分為承包商而非員工（這些員工可能會向公司施壓以獲得福利和更高工資）。有時(shí)，人員的招募被視為一種臨時(shí)解決方案，但隨著程序員們在可以自動化的計(jì)算限制上的掙扎，臨時(shí)的情況可能變得永久化。在各個(gè)行業(yè)和組織層級中，工作的平臺化正日益增長，這使得企業(yè)能夠?qū)⒉淮_定性轉(zhuǎn)移到外部勞動力身上。沒有人是可以幸免的：技術(shù)也滲透并剝奪了管理角色的專業(yè)能力，例如出租車調(diào)度或班次安排。理解這些重組和創(chuàng)新，并不僅僅是為了將傳統(tǒng)的模擬任務(wù)數(shù)字化或?qū)⑵渫獍o全球分布的更廉價(jià)的勞動力。這一點(diǎn)非常重要。相反，它們也是數(shù)字資本主義運(yùn)作的本質(zhì)和必要條件。就像工業(yè)產(chǎn)品的生產(chǎn)導(dǎo)致了無產(chǎn)階級的產(chǎn)生一樣，數(shù)字產(chǎn)品（算法和人工智能）的生產(chǎn)也導(dǎo)致了“網(wǎng)絡(luò)無產(chǎn)階級”?的誕生。這些“網(wǎng)絡(luò)無產(chǎn)階級”承擔(dān)著“一系列未支付、微支付和低薪人類任務(wù)”。?然而，與馬克思等人描述的工業(yè)無產(chǎn)階級相比，網(wǎng)絡(luò)無產(chǎn)階級存在明顯的差異。在具身層面上，工人階級是同時(shí)存在的，并密集地聚集在工廠中。雖然數(shù)字倉庫和點(diǎn)擊農(nóng)場有時(shí)也具備這些特點(diǎn)，但是卻越來越少。伴隨著“眾包”平臺的崛起，這個(gè)不穩(wěn)定的數(shù)字階層的成員越來越原子化，并且他們彼此孤立。實(shí)際上，他們的工作，更類似于舊的原型工業(yè)中分包系統(tǒng)的工作，或者稱為計(jì)件工作，工人在家中接收材料并對其進(jìn)行加工。對于網(wǎng)絡(luò)自由主義者來說，工作和家庭生活之間的界限也變得模糊起來。數(shù)字化勞動力的分散化、算法式（而非官僚式）管理，以及工作項(xiàng)目細(xì)分成微觀任務(wù)，使得集體行動和團(tuán)結(jié)變得困難。對于馬克思和恩格斯來說，讓無產(chǎn)階級感到痛苦的是產(chǎn)業(yè)工人（即工業(yè)后備軍）和科技本身帶來的競爭。而對于網(wǎng)絡(luò)無產(chǎn)階級來說，這兩個(gè)威脅已經(jīng)被完全內(nèi)化。首先，數(shù)字公司通過平臺擴(kuò)大勞動力規(guī)模并將其工作分解為無數(shù)微型任務(wù)的投資，旨在支持該勞動力的自主替代——一個(gè)被詹娜特·A.韋特西（JanetA.Vertesi）等學(xué)者稱為“自動化前期”（21）的過程。換句話說，平臺既利用其自身不穩(wěn)定的網(wǎng)絡(luò)勞動者來執(zhí)行那些難以自動化的任務(wù)，也同時(shí)利用他們產(chǎn)生的數(shù)據(jù)來自動化這些任務(wù)。這些勞動者的工作場所，只能是在被宣傳為具有人工智能的平臺和系統(tǒng)上。他們的貢獻(xiàn)被刻意掩蓋，許多購買他們服務(wù)的人希望最終完全消除對這種人工計(jì)算的需求。第二，平臺也加大了勞動者之間的競爭，它允許某些職業(yè)（如教師、文化演員）大幅擴(kuò)大其覆蓋范圍，有可能減少人力需求并使贏者通吃的邏輯占據(jù)主導(dǎo)地位。第三，不論線上還是線下，平臺化的勞動力一愣際敵興惴ü芾恚員閌凳庇嘔諧√跫⒎裰柿?、地理距离或须A時(shí)ǔ輳運(yùn)芨菔諧〉男棖?、否质量、地理距离或薪酬叫实时訃I諶魏蔚胤蕉寄芄芾懟9ぷ骶櫚牟蝗范ㄐ裕。（22）導(dǎo)致了一系列社會問題（其中也包括負(fù)面的健康結(jié)果）。此外，平臺勞工可能會遭受算法殘酷對待，例如由于算法規(guī)則的變化或危險(xiǎn)閾值的越過而突然逆轉(zhuǎn)命運(yùn)。許多兼職工作者或內(nèi)容提供者，例如，由于評級的下降或工作時(shí)間的減少，他們會突然被從其主要收入來源的平臺上剔除。值得注意的是，這種強(qiáng)制的勞動靈活性，行業(yè)勞動法規(guī)對此堅(jiān)決反對（例如加州的“第五議案”）。（23）該議案提議將平臺工作者視為雇員而非獨(dú)立承包商。最后，網(wǎng)絡(luò)無產(chǎn)階級的邊界并不限于廉價(jià)的平臺勞動力。數(shù)字資本主義的一個(gè)顯著特征是依賴于自由勞動力。實(shí)際上，在分類和識別方面，許多相關(guān)工作都是由未被付費(fèi)的平臺用戶和“微任務(wù)”完成的。正如哈米德·?？吮葋啠℉amidR.Ekbia）和邦妮·納迪（BonnieA.Nardi）所定義的那樣，這個(gè)“異構(gòu)化”過程包括生成內(nèi)容、共同解決問題、提供反饋，或者僅僅被追蹤。特斯拉駕駛員在每次駕車的時(shí)候，都在訓(xùn)練公司的自動駕駛算法；在完成“我不是機(jī)器人”驗(yàn)證碼測試后他們進(jìn)入網(wǎng)站時(shí)也同樣如此。在這個(gè)意義上，幾乎每個(gè)人都屬于網(wǎng)絡(luò)無產(chǎn)階級。歷史學(xué)家尤瓦爾·哈拉里（YuvalHarari）寫道：“如果馬克思今天復(fù)活了，他可能會敦促他的少數(shù)信徒多花時(shí)間研究互聯(lián)網(wǎng)和人類基因組，而不是閱讀《資本論》?！保?4）在21世紀(jì)，一位現(xiàn)代的馬克思主義者或許會指出，對于資本來說，人的真正價(jià)值并不在于他們的勞動力和肉體勞動的減少，而更多地體現(xiàn)在更親密、也許更接近于他們物種本質(zhì)的東西上：關(guān)于他們是誰以及他們?nèi)绾蜗嗷ヂ?lián)系的數(shù)百萬比特信息。他會發(fā)現(xiàn)，數(shù)十億用戶進(jìn)行在線生活時(shí)，在未經(jīng)報(bào)酬給付的點(diǎn)擊工作中，卻產(chǎn)生了新形式的剩余價(jià)值。而且，他試圖指明與這種積累模式有關(guān)的某種類似敵對的關(guān)系，以及相關(guān)的意識形態(tài)斗爭。那么，集體動員和階級團(tuán)結(jié)的可能性將如何發(fā)展？對于網(wǎng)絡(luò)無產(chǎn)階級來說，正如過去的無產(chǎn)者所做的那樣，通過進(jìn)行車間組織來抵制勞動力的提取可能更為困難。然而，他們的工作現(xiàn)實(shí)不允許這樣做。盡管如此，抵抗行動仍在積極進(jìn)行中。例如，在線下組織的在線論壇。致力于網(wǎng)絡(luò)勞工權(quán)益的編碼人員扮演著一定的角色。他們創(chuàng)建工具來幫助網(wǎng)絡(luò)無產(chǎn)階級進(jìn)行信息共享和自我組織。以設(shè)想巧妙的“Turkopticon”程序?yàn)槔?。它是一款網(wǎng)頁瀏覽器插件，可以在亞馬遜MTurk（AmazonMechanicalTurk）平臺上疊加功能，幫助那些按任務(wù)計(jì)酬的點(diǎn)擊工作者避免糟糕的工作質(zhì)量、延遲付款和直接的工資竊取。相應(yīng)的伙伴平臺“Dynamo”，則支持工作者集體組織以解決這些問題。最后，過去曾使用的蟄伏和按章辦事的策略，重現(xiàn)于工作場所算法的操縱之中。這些以及其他形式的算法行動主義，通過利潤型算法系統(tǒng)內(nèi)部反對和超越其范圍發(fā)揮作用。事實(shí)上，也出現(xiàn)了一些傳統(tǒng)的組織形式，包括工會組成和努力實(shí)現(xiàn)勞工保護(hù)法的努力。以公平調(diào)度運(yùn)動為例，其旨在監(jiān)管、限制和加劇工人不穩(wěn)定性的排版軟件的使用，并取消對其工作之外時(shí)間的控制權(quán)。在洛杉磯，“代駕”公司的司機(jī)們組成了“共乘司機(jī)聯(lián)合會”（RideshareDriversUnited）?，F(xiàn)在，該組織正在增加其在加利福尼亞的會員數(shù)量，并在美國其他地區(qū)開設(shè)分部。最終，作為企業(yè)平臺主導(dǎo)的一種替代方案，由工人階級所有的平臺出現(xiàn)了?，F(xiàn)有的合作社，提供了股票照片收藏、換貨和互換托兒服務(wù)以及流媒體音樂服務(wù)。這種平臺合作主義運(yùn)動，旨在將各種職業(yè)和行業(yè)中的高科技合作社聯(lián)結(jié)成一個(gè)財(cái)團(tuán)，或者說是一種合作社的合作社。三、精算主義及其不滿通過另一種根本方式，編程精英廣闊的領(lǐng)域相關(guān)性已經(jīng)聲明改變了組織流程：基于技術(shù)效率和機(jī)械客觀性推進(jìn)治理邏輯。確實(shí)，通過數(shù)字進(jìn)行治理并不是新事物，早在計(jì)算機(jī)出現(xiàn)的幾個(gè)世紀(jì)前就有了。在刑事司法系統(tǒng)、金融與保險(xiǎn)、勞動管理和教育等領(lǐng)域，算法思維模式（例如通過決策樹結(jié)構(gòu)）已有長期的繁榮發(fā)展。新的模式是采用行為跟蹤數(shù)據(jù)，包括我們在設(shè)備上執(zhí)行的操作以及捕捉在設(shè)備環(huán)境中的各種信息，而且新的模式越來越依賴計(jì)算能力來處理這些數(shù)據(jù)。大量的各種類型的數(shù)據(jù)，使得現(xiàn)有的某些算法類別變得更加強(qiáng)大。此外，一種新的算法類別（也叫深度學(xué)習(xí)，它是神經(jīng)網(wǎng)絡(luò)模型的進(jìn)化），利用這種豐富性直接從數(shù)據(jù)中推斷出結(jié)論。雖然這并不完全恰當(dāng)?shù)匕凳具@些算法自己進(jìn)行編程，但它們確實(shí)以超越人類理解的方式進(jìn)行自我優(yōu)化。盡管這些技術(shù)可以追溯到20世紀(jì)50年代，但它們在20世紀(jì)80年代才真正開始迅速發(fā)展，當(dāng)時(shí)在金融領(lǐng)域開始得到實(shí)施應(yīng)用。如今的學(xué)習(xí)算法已嵌入社交媒體動態(tài)、工作場所監(jiān)控系統(tǒng)、智能城市、港口和邊境，而且還應(yīng)用于現(xiàn)代戰(zhàn)爭中。一個(gè)重要的結(jié)果是，許多常用于預(yù)測人們行為的模型，現(xiàn)在能夠根據(jù)新數(shù)據(jù)的不斷更新而進(jìn)行動態(tài)調(diào)整，并且通過控制論反饋回路進(jìn)行持續(xù)調(diào)整。這些技術(shù)放大了大衛(wèi)·哥倫比亞（DavidColumbia）所稱的計(jì)算主義的文化權(quán)力，即計(jì)算機(jī)能夠并且必須為社會組織和資源分配的基本過程提供支持。編程精英通過利用人類理性的有限性來鞏固自己的權(quán)力。他們認(rèn)為，在技術(shù)層面，機(jī)器推理不僅更快更優(yōu)秀，而且更公平。對機(jī)械化、非人性化過程優(yōu)于源于個(gè)人決策權(quán)過程的相信，并不僅是計(jì)算機(jī)時(shí)代的發(fā)明。一個(gè)多世紀(jì)以前，馬克斯·韋伯（MaxWeber）討論了專業(yè)行政官僚崛起的問題，他們遵循“可計(jì)算規(guī)則”并做出“不考慮個(gè)人”的決定。（25）他指出，官僚行政取代了可能受到“個(gè)人同情和好處，體面和感激”的領(lǐng)主行政。相比之下，任何接受官僚流程管轄的人都會獲得同樣的公正考慮。實(shí)際上，官僚體制越是非人性化，就越能呈現(xiàn)出更為完美的特征。這與資本主義市場經(jīng)濟(jì)要求“精確、明確、持續(xù)和盡可能快地完成公共行政公務(wù)”（26）的理念，是相輔相成的。將社會群體的歷史數(shù)據(jù)納入規(guī)則驅(qū)動的官僚制流程中，使得對未知個(gè)體進(jìn)行更精確的風(fēng)險(xiǎn)評估成為可能。將這種精算學(xué)提升為崇高的目標(biāo)，與提供更公平的社會機(jī)構(gòu)使用權(quán)和改善被排除者生活機(jī)會的進(jìn)步思想緊密相連。例如，在信貸和保險(xiǎn)領(lǐng)域，包容往往采取積極的市場擴(kuò)張形式，推動對以前未見過的人群的信息搜索。隨著客戶群體的增長和貸款業(yè)務(wù)的逐漸疏離，統(tǒng)計(jì)數(shù)據(jù)，作為一種標(biāo)準(zhǔn)化決策標(biāo)準(zhǔn)以及更好管理不確定性的方法被引入。通過信用記錄的普及化和風(fēng)險(xiǎn)的定量評估而建立的國家信托基礎(chǔ)設(shè)施，使得貸款人更容易與未知的借款人合作。同時(shí)，日益豐富的數(shù)據(jù)可用性擴(kuò)大了與風(fēng)險(xiǎn)確定相關(guān)的變量范圍，這推動了從風(fēng)險(xiǎn)評估的群體化逐漸向其個(gè)性化的轉(zhuǎn)變。推動精算方法吸引力的另一個(gè)重要因素，是各種機(jī)構(gòu)中變化不定的政治環(huán)境。20世紀(jì)70年代，一波新的反歧視立法出現(xiàn)了，這使得依賴人類判斷變得越來越棘手。證據(jù)表明，私營和公共決策者們經(jīng)常傾向于根據(jù)模糊直覺、個(gè)人偏見和主觀意見進(jìn)行決策。而這些決策被認(rèn)為是不公平的，因?yàn)樗鼈兺鶎Φ匚惠^低群體產(chǎn)生偏見，或者它們根本不一致。精算技術(shù)崛起的歷史記載表明，技術(shù)的發(fā)展進(jìn)步十分重視對于機(jī)構(gòu)責(zé)任的追究以及通過反思偏見、偏愛和排斥的歷史來實(shí)現(xiàn)。現(xiàn)代算法的機(jī)制，則提供了透明的、平等的、不帶情感色彩的處理方式——而人為的幕后操縱則無能為力。這種處理方式，不會因?yàn)榉N族或者性別等禁止的人口特征而作出判別。舉個(gè)例子，由紐約市警察局開發(fā)的用于跟蹤和繪制犯罪信息的COMPSTAT系統(tǒng)，就是通過更加客觀地警務(wù)決策和基于數(shù)據(jù)的方式減少歧視性警務(wù)執(zhí)法的系統(tǒng)。同樣地，洛杉磯警察局采用了預(yù)測工具作為對嚴(yán)重的合法性和問責(zé)性質(zhì)疑的回應(yīng)。（27）由于消除了人的主觀傾向，新的算法分類制度似乎更容易成為程序公平的論據(jù)。然而，它可能無法滿足關(guān)于公平的其他社會定義。現(xiàn)在，學(xué)者們逐漸認(rèn)識到，算法系統(tǒng)可能會再現(xiàn)某些群體的不平等，同時(shí)也可能創(chuàng)造新的社會等級制度。與遵守規(guī)則的機(jī)構(gòu)或直覺的人類決策制定者產(chǎn)生不平等的方式不同，算法（尤其是機(jī)器學(xué)習(xí)算法）產(chǎn)生不平等的機(jī)制和方式，主要是通過檢測數(shù)據(jù)中的模式并從這些模式概括出新的情況來實(shí)現(xiàn)的。最后，由于算法決策依賴于高度多維、復(fù)雜且常常是專有的模型，所以它們也更加不透明和難以被質(zhì)疑。注釋：①M(fèi)argaretO’Mara，TheCode：SiliconValleyandTheRemakingofAmerica，NewYork：Penguin，2019，p.29.②這些技術(shù)革命包括半導(dǎo)體、個(gè)人電腦、互聯(lián)網(wǎng)、生物技術(shù)、社交媒體等。③ShoshanaZuboff，TheAgeofSurveillanceCapitalism：TheFightforaHumanFutureattheNewFrontierofPower，NewYork：PublicAffairs，2019，p.8.④科恩將此稱之為“生命政治領(lǐng)域”的構(gòu)建：愿意接受至少某些類型的cookies已日益成為在線交易和參與在線社區(qū)的必要先決條件……同意提取數(shù)據(jù)塑造了編程的環(huán)境。參見JulieE.Cohen，BetweenTruthandPower：TheLegalConstructionsofInformationalCapitalism，Oxford，UK：OxfordUniversityPress，2019，pp.54-58?！髡咦ⅱ軯ulieE.Cohen，BetweenTruthandPower：TheLegalConstructionsofInformationalCapitalism，Oxford，UK：OxfordUniversityPress，2019，p.64.⑥算法的概念起源于9世紀(jì)。原則上，算法獨(dú)立于執(zhí)行其指令的機(jī)器。如今算法已經(jīng)成為所有計(jì)算機(jī)軟件的重要組成部分。隨著我們與公司、機(jī)構(gòu)以及人與人之間的互動日益以計(jì)算機(jī)為媒介，人們也日益接觸算法并受算法影響。——作者注⑦HilbertMartinandPriscilaLópez，TheWorld’sTechnologicalCapacitytoStore，Communicate，AndComputeInformation，Science，vol.332，2011，pp.60-65.⑧FourcadeMarionandKieranHealy，SeeingLikeaMarket，Socio-economicReview，vol.15，no.1，2017，pp.9-29.⑨EvgenyMorozov，ToSaveEverything，ClickHere：TheFollyofTechnologicalSolutionism，NewYork：PublicAffairs，2013.⑩譯文參照《馬克思恩格斯文集》（第1卷），中共中央馬克思恩格斯列寧斯大林著作編譯局譯，人民出版社，2009年，第602～603頁。⑩LawrenceLessig，Code：Andotherlawsofcyberspace，NewYork：BasicBooks，1999.⑩BurrisH.Beverly，TechnocraticOrganizationandControl，OrganizationStudies，vol.10，1989，p.11.⑩EyalGil，F(xiàn)orASociologyofExpertise：TheSocialOriginsofTheAutismEpidemic，AmericanJournalofSociology，vol.118，2013，p.869.⑩KomisarRandy，KentL.LinebackandKentLineback，TheMonkandTheRiddle：TheEducationofASiliconValleyEntrepreneur，Boston：HarvardBusinessPress，2000，p.93.⑩ObermeyerZiadandEzekielJ.Emanuel，PredictingtheFuture-BigData，MachineLearning，AndClinicalMedicine，TheNewEnglandJournalofMedicine，vol.375，no.13，2016，p.1218.⑩ShoshanaZuboff，TheAgeofSurveillanceCapitalism：TheFightforaHumanFutureattheNewFrontierofPower，NewYork：PublicAffairs，2019，p.343.⑩MarkAndrejevic，AutomatedMedia，NewYork：Routledge，2019.⑩盡管用戶生成內(nèi)容的審核已經(jīng)有自動化參與，但大量人工審核員也會承擔(dān)對被標(biāo)記內(nèi)容進(jìn)行核實(shí)，并在內(nèi)容違反組織政策或版權(quán)法時(shí)將其刪除等任務(wù)?！髡咦ⅱ釻rsulaHuws，LaborinTheGlobalDigitalEconomy：TheCybertariatComesofAge，NewYork：NYUPre