圓形監(jiān)獄中的算法監(jiān)控倫理問(wèn)題

圓形監(jiān)獄中的算法監(jiān)控倫理問(wèn)題

隨著信息技術(shù)和網(wǎng)絡(luò)技術(shù)的發(fā)展和融合，算法監(jiān)測(cè)作為一種重要的認(rèn)知和世界重建工具，以“無(wú)聲潤(rùn)物”的形式滲透到人類(lèi)社會(huì)的各個(gè)領(lǐng)域，對(duì)人類(lèi)的生產(chǎn)和生活方式產(chǎn)生了重大影響。正如麥克盧漢所言，“我們塑造了工具，但工具反過(guò)來(lái)又會(huì)塑造我們”。算法監(jiān)控在海量數(shù)據(jù)與強(qiáng)大算力的加持下雖然實(shí)現(xiàn)了工具理性的“勝利”,但也孕育了價(jià)值理性自我異化的基因，“數(shù)據(jù)控制”成為算法監(jiān)控社會(huì)濫用的基本依據(jù)，《數(shù)據(jù)安全法》的頒布為算法監(jiān)控的社會(huì)治理提供具體指南。一、“圓形監(jiān)獄”的內(nèi)涵在計(jì)算機(jī)科學(xué)界，算法常常被認(rèn)為“是按照設(shè)計(jì)程序運(yùn)營(yíng)以期獲得理想結(jié)果的一系列指令。”?？乱庾R(shí)到“圓形監(jiān)獄”的規(guī)訓(xùn)意義，并在此基礎(chǔ)上提出全景敞視主義，并認(rèn)為“全景敞視主義是一種新的‘政治解剖學(xué)’的基本原則，其對(duì)象和目標(biāo)不是軍權(quán)的各種關(guān)系，而是規(guī)訓(xùn)的各種關(guān)系?！睌?shù)字化“圓形監(jiān)獄”是隨著算法監(jiān)控技術(shù)的發(fā)展而產(chǎn)生的一個(gè)數(shù)字式虛擬監(jiān)獄，而非建筑學(xué)意義上的物理式圓形監(jiān)獄。由此，在本體論上就形成了一個(gè)不同于“物理式監(jiān)獄”的一個(gè)“新監(jiān)獄”。相較于傳統(tǒng)建筑學(xué)意義上的圓形監(jiān)獄，其隱蔽性大大提高、滲透范圍越來(lái)越廣、監(jiān)控程度越來(lái)越深，它帶來(lái)的不僅是人們主動(dòng)接受規(guī)訓(xùn)，還有人們被動(dòng)接受懲罰。一方面，由抽象數(shù)字代碼組成的算法具有不可見(jiàn)性，這種不可見(jiàn)性隱匿了時(shí)空結(jié)構(gòu)對(duì)監(jiān)控機(jī)制的限制，迫使人們自身產(chǎn)生一種有意識(shí)的“自我約束”狀態(tài)，人們不知不覺(jué)就參與到算法監(jiān)控對(duì)其自身的規(guī)訓(xùn)之中；另一方面，技術(shù)化存在的人時(shí)刻處于算法監(jiān)控可見(jiàn)范圍之內(nèi)，人們?cè)诨ヂ?lián)網(wǎng)上貢獻(xiàn)的數(shù)據(jù)反過(guò)來(lái)會(huì)成為統(tǒng)涉人們自身物質(zhì)生活、精神生活的“原罪”,成為數(shù)字化“圓形監(jiān)獄”中的“數(shù)字難民”?？梢哉f(shuō)，“現(xiàn)代電子技術(shù)的發(fā)展已經(jīng)使社會(huì)變成了一個(gè)數(shù)字化‘圓形監(jiān)獄’,看似自由的現(xiàn)代社會(huì)密布著各種監(jiān)視技術(shù)與力量?！倍?、式自動(dòng)實(shí)施規(guī)訓(xùn)如上所述，算法監(jiān)控構(gòu)造的數(shù)字化“圓形監(jiān)獄”以不可見(jiàn)的方式自動(dòng)實(shí)施規(guī)訓(xùn)權(quán)力，以超時(shí)空控制的方式實(shí)現(xiàn)對(duì)人的算法謀劃。算法監(jiān)控具有追求權(quán)力與控制內(nèi)在本質(zhì)，使其與海德格爾所說(shuō)的“座架”與芒福德所說(shuō)的“巨機(jī)器”的分析聯(lián)系到一起。(一)座架的技術(shù)因素算法監(jiān)控在“座架”的支配下演進(jìn)為算法霸權(quán)?！啊堋且环N解蔽方式，這種解蔽方式在現(xiàn)代技術(shù)之本質(zhì)中起著支配作用，而其本身不是什么技術(shù)因素。”(二)“巨機(jī)器”的本質(zhì)特征算法監(jiān)控是一個(gè)“新的巨機(jī)器”。美國(guó)技術(shù)哲學(xué)家劉易斯·芒福德在其《技術(shù)與文明》等著作中提出巨機(jī)器這一概念。這一概念最早起源于古埃及，一開(kāi)始指的不是有形的機(jī)器，而是一個(gè)由人力組成的，為了追求絕對(duì)控制的社會(huì)組織形式。最早的巨機(jī)器由經(jīng)過(guò)嚴(yán)格組織化的人力組成，受制于當(dāng)時(shí)生產(chǎn)力的發(fā)展水平，它的效率很低。隨著生產(chǎn)力的快速發(fā)展，“新的巨機(jī)器”(計(jì)算機(jī)、算法、大數(shù)據(jù)、人工智能等)被確立起來(lái)，傳統(tǒng)巨機(jī)器逐漸脫離人們的視野。雖然新型巨機(jī)器與傳統(tǒng)巨機(jī)器在形式上發(fā)生了巨大變化，但二者本質(zhì)特征并沒(méi)有發(fā)生改變，即追求權(quán)力與對(duì)他人的控制。芒福德用“巨機(jī)器”來(lái)表征現(xiàn)代社會(huì)技術(shù)的本質(zhì)特征。所謂“巨機(jī)器”,“就是與生活技術(shù)、適用性技術(shù)、多元技術(shù)相反的一元化專(zhuān)制技術(shù)，其目標(biāo)是權(quán)力和控制，其表現(xiàn)是制造整齊劃一的秩序。”在“座架”與“巨機(jī)器”的支配下，算法通過(guò)監(jiān)控?cái)?shù)據(jù)預(yù)測(cè)人們未來(lái)行為，并在此基礎(chǔ)上對(duì)人們進(jìn)行規(guī)訓(xùn)與懲罰，主要表現(xiàn)在“信息繭房”與算法歧視等倫理風(fēng)險(xiǎn)。這些倫理風(fēng)險(xiǎn)與“圓形監(jiān)獄”規(guī)訓(xùn)與懲罰的核心要義存在“邏輯共契”。這是因?yàn)椋瑥囊话阋饬x上來(lái)講，科學(xué)知識(shí)來(lái)源于對(duì)數(shù)據(jù)的分析與解釋?zhuān)惴☉{借著強(qiáng)大的分析整合能力能夠?qū)⒑Ａ繑?shù)據(jù)轉(zhuǎn)化為預(yù)測(cè)知識(shí)，在此意義上，算法監(jiān)控構(gòu)造的數(shù)字化“圓形監(jiān)獄”,通過(guò)數(shù)據(jù)——權(quán)力相互作用來(lái)實(shí)現(xiàn)規(guī)訓(xùn)與懲罰的運(yùn)行機(jī)制，與?？卵壑械摹皥A形監(jiān)獄”通過(guò)知識(shí)——權(quán)力相互作用來(lái)實(shí)現(xiàn)規(guī)訓(xùn)與懲罰的運(yùn)行機(jī)制相一致。三、算法監(jiān)控:“人之所是”的“先行黨建”凱斯·桑斯坦在《信息烏托邦》中詳細(xì)闡述了“信息繭房”這一概念：“在當(dāng)今網(wǎng)上環(huán)境中，人們可以自由地分析和獲取大量的信息，但同時(shí)也使自己陷入了一個(gè)‘回音室’當(dāng)中。因?yàn)楣娮陨淼男畔⑿枨蟛⒎侨轿坏?，人們?xí)慣性地將自己包裹在由興趣引導(dǎo)的信息中，從而將自身桎梏在一個(gè)‘繭房’中，這種現(xiàn)象被稱(chēng)為‘信息繭房’?！薄靶畔⒗O房”產(chǎn)生的主要原因有兩個(gè)方面：一是自身原因。人自身的思維惰性熱衷于最熟悉的信息來(lái)源，這種思維習(xí)慣自然而然地會(huì)把自身困在“繭房”中；二是技術(shù)原因。數(shù)字平臺(tái)為了能夠在激烈的競(jìng)爭(zhēng)中留住用戶(hù)，就要依靠“投其所好”原則，放大與強(qiáng)化對(duì)用戶(hù)社會(huì)需求的滿(mǎn)足，不斷地推送用戶(hù)感興趣的信息，提高用戶(hù)滿(mǎn)意度。數(shù)字平臺(tái)利用算法來(lái)監(jiān)控用戶(hù)的數(shù)據(jù)足跡，并在此基礎(chǔ)上進(jìn)行“個(gè)性化推薦”,使得用戶(hù)陷入它們編制的“小世界”中?！靶畔⒗O房”是隨著個(gè)性化推薦算法的產(chǎn)生而誕生的，而個(gè)性化推薦算法是通過(guò)分析整合海量監(jiān)控?cái)?shù)據(jù)實(shí)現(xiàn)的。具體而言：一是基于內(nèi)容的協(xié)同過(guò)濾算法下的“信息繭房”。算法通過(guò)對(duì)用戶(hù)的數(shù)據(jù)瀏覽足跡進(jìn)行跟蹤與記錄來(lái)發(fā)現(xiàn)用戶(hù)的內(nèi)在偏好，從而將與用戶(hù)興趣愛(ài)好相類(lèi)似的新聞推送給用戶(hù)。以“今日頭條”為例，算法通過(guò)監(jiān)控用戶(hù)在使用“今日頭條”過(guò)程中留下的數(shù)據(jù)足跡，分析與提取用戶(hù)“愛(ài)好DNA”,然后精準(zhǔn)推送用戶(hù)感興趣的新聞；二是基于用戶(hù)的協(xié)同過(guò)濾算法下的“信息繭房”。對(duì)于感興趣的商品或內(nèi)容，用戶(hù)一般都會(huì)產(chǎn)生點(diǎn)擊、購(gòu)買(mǎi)、收藏等行為，算法通過(guò)監(jiān)控用戶(hù)的此類(lèi)行為來(lái)衡量用戶(hù)之間的相似度。這類(lèi)算法背后隱藏的邏輯前提為“人以類(lèi)聚，物以群分”。它一方面是根據(jù)內(nèi)容尋找用戶(hù)之間的關(guān)系，當(dāng)用戶(hù)在某個(gè)平臺(tái)上填寫(xiě)個(gè)人喜好的內(nèi)容時(shí)，算法就能根據(jù)用戶(hù)所填寫(xiě)的個(gè)人資料分析與其他用戶(hù)之間的相關(guān)性，如果相關(guān)性較高，就會(huì)向用戶(hù)推送與他具有相同愛(ài)好的用戶(hù)所偏好的信息；另一方面是根據(jù)日常生活中的人際關(guān)系來(lái)建立用戶(hù)之間的關(guān)系，算法通過(guò)監(jiān)控用戶(hù)在現(xiàn)實(shí)生活中所存在的人際關(guān)系網(wǎng)絡(luò)來(lái)推薦關(guān)注對(duì)象。舉例來(lái)說(shuō)，算法通過(guò)分析微博上的點(diǎn)贊數(shù)和關(guān)系網(wǎng)來(lái)衡量用戶(hù)之間的“友誼”。如果某個(gè)人發(fā)出的微博，另外一個(gè)人經(jīng)常點(diǎn)贊，算法就會(huì)認(rèn)為這兩人“情比金堅(jiān)”,就會(huì)給目標(biāo)客戶(hù)推薦關(guān)注對(duì)象。毫無(wú)疑問(wèn)，無(wú)論是基于內(nèi)容的協(xié)同過(guò)濾算法，還是基于用戶(hù)的協(xié)同過(guò)濾算法都不約而同地把人們困在“繭房”之中，給人們?cè)斐刹豢晒懒康碾[性危害，損害了人們的判斷能力。從技術(shù)層面分析“信息繭房”產(chǎn)生的原因具有深刻的哲學(xué)反思意蘊(yùn)。算法通過(guò)監(jiān)控所得數(shù)據(jù)將人們包裹在“信息繭房”之中，在此意義上，數(shù)即是術(shù)，具有籌劃性與主宰性。算法通過(guò)監(jiān)控?cái)?shù)據(jù)實(shí)現(xiàn)對(duì)“人之所是”的“先行領(lǐng)會(huì)”,達(dá)到算法籌劃目的。也就是說(shuō)，算法利用監(jiān)控?cái)?shù)據(jù)先行規(guī)定關(guān)于人的抽象存在，以“個(gè)性化推薦”的方式踐行對(duì)人之規(guī)定的“先行領(lǐng)會(huì)”,深刻地改變了人的思維方式與生存環(huán)境。一方面，算法通過(guò)監(jiān)控?cái)?shù)據(jù)為個(gè)人定制“畫(huà)像”,每個(gè)人都身處“信息繭房”之內(nèi)，同質(zhì)化數(shù)據(jù)撲面而來(lái)，使得人們始終追求自我以為正確的邏輯自洽，其思維方式必然將自己的偏見(jiàn)認(rèn)為是真理；另一方面，算法監(jiān)控傾向于將一切“理解”為數(shù)據(jù)，人與物被同化為二進(jìn)制數(shù)據(jù)，成為算法整合分析的對(duì)象。數(shù)據(jù)關(guān)系成為數(shù)據(jù)時(shí)代最重要的社會(huì)關(guān)系之一。數(shù)據(jù)關(guān)系擴(kuò)張的直接后果就是將人的一切行為舉止轉(zhuǎn)換為可以計(jì)算的數(shù)據(jù)，這使得人們的生存環(huán)境就像桎梏在蠶繭一般的“繭房”之中。當(dāng)下階段，算法監(jiān)控塑造的“信息繭房”強(qiáng)調(diào)利用用戶(hù)數(shù)據(jù)進(jìn)行資本謀劃，進(jìn)而獲取資本積累的目的性，而忽視了作為主體的人的豐富性，這表現(xiàn)出工具理性與價(jià)值理性的矛盾日益突出?？梢哉f(shuō)，算法監(jiān)控的數(shù)據(jù)生產(chǎn)是影響其“價(jià)值理性”的重要因素。在大數(shù)據(jù)時(shí)代中，“信息繭房”以“個(gè)性日?qǐng)?bào)”的形式產(chǎn)生影響?！皞€(gè)性日?qǐng)?bào)”實(shí)際掩飾了數(shù)據(jù)企業(yè)深度數(shù)據(jù)挖掘的卑劣行徑。算法通過(guò)個(gè)性化推送信息，看似迎合了不同用戶(hù)的需求，實(shí)則確切斷了我們與外界的交流。隨著算法個(gè)性化推薦日益滲透在我們的日常生活，各大網(wǎng)絡(luò)社交平臺(tái)表面上看是信息自由交流的地方，卻不知已經(jīng)成了“信息繭房”成長(zhǎng)的溫床?？此谱杂傻慕涣鲌?chǎng)域卻在算法監(jiān)控“數(shù)據(jù)壟斷”的規(guī)訓(xùn)下內(nèi)蘊(yùn)對(duì)人們自由的禁錮。人們表面上可以自由地交流且自由做出選擇，但本質(zhì)上早已被數(shù)據(jù)——權(quán)力失衡的運(yùn)行機(jī)制強(qiáng)加了種種不自由的選擇。算法監(jiān)控以推送的方式針對(duì)性地強(qiáng)化了用戶(hù)閱讀體驗(yàn)，讓用戶(hù)對(duì)某個(gè)感興趣的信息得到幾何倍數(shù)的增加，但那些對(duì)于用戶(hù)不感興趣的信息則被悄無(wú)聲息地“遮蔽”了，用戶(hù)只能接收到某一范圍內(nèi)的信息，進(jìn)而減少用戶(hù)信息相遇的概率，在人與人之間建構(gòu)出一座座“信息孤島”。在“個(gè)性日?qǐng)?bào)”的助推下，算法操作信息供給，人們可能因此失去了解外界的權(quán)力，個(gè)人獲取信息的渠道趨于窄化，從而影響個(gè)人全面的發(fā)展?！靶畔⒗O房”對(duì)人們的自主權(quán)也極具威脅?！靶畔⒍鄻有允侨诉M(jìn)行自主決策的前提條件，而個(gè)性化所造成的信息繭房則會(huì)排除主體不感興趣的信息而只推送相關(guān)信息，進(jìn)而阻礙主體進(jìn)行自主決策?！彼?、算法歧視會(huì)更惡劣?？聦ⅰ皥A形監(jiān)獄”隱喻為現(xiàn)代的懲罰式社會(huì)。算法與監(jiān)控的結(jié)合塑造的數(shù)字化“圓形監(jiān)獄”以新的實(shí)踐與形式延伸與強(qiáng)化了傳統(tǒng)“圓形監(jiān)獄”的懲罰功能，數(shù)據(jù)企業(yè)如同“上帝之眼”時(shí)刻審視目標(biāo)客體，進(jìn)而塑造目標(biāo)客體的思維方式與預(yù)測(cè)目標(biāo)客體的行為軌跡，其帶來(lái)的這種懲罰會(huì)更加殘酷，主要表現(xiàn)之一就是算法歧視?！八惴ㄆ缫暿侵笖?shù)據(jù)驅(qū)動(dòng)的算法決策會(huì)導(dǎo)致歧視的做法和后果，換言之，算法決策可以再現(xiàn)已有的社會(huì)歧視模式，繼承先前決策者的偏見(jiàn)從而加深流行的不平等?！?一)．算法設(shè)計(jì)缺乏歧視算法模型作為一種數(shù)學(xué)殺傷性武器可以被看成用“數(shù)學(xué)的方式表達(dá)的意見(jiàn)”,算法的運(yùn)行需要一定的變量，而變量的賦值、分類(lèi)都是由設(shè)計(jì)者人為設(shè)定的。算法編程人員可以通過(guò)道德物化的方式將人們撰寫(xiě)“劇本”中存在的偏見(jiàn)“嵌入”算法中。這主要表現(xiàn)在以下兩個(gè)方面：一是價(jià)格歧視。算法設(shè)計(jì)者建立的算法模型能夠通過(guò)監(jiān)控消費(fèi)者的消費(fèi)記錄、行動(dòng)軌跡等行為數(shù)據(jù)，將同樣的商品對(duì)不同的用戶(hù)顯示不同的價(jià)格，“大數(shù)據(jù)殺熟”就是典型的歧視性定價(jià)行為。二是結(jié)果偏袒。算法設(shè)計(jì)者根據(jù)其內(nèi)在的偏好，使得算法模型對(duì)某些結(jié)果產(chǎn)生一定的偏袒，從而可能造成歧視行為的出現(xiàn)。進(jìn)一步而言，就算編程人員沒(méi)有故意將偏見(jiàn)嵌入算法模型中，但他們作為日常社會(huì)中生活的人，思想與行動(dòng)都會(huì)受到當(dāng)今社會(huì)意識(shí)形態(tài)和個(gè)人知識(shí)儲(chǔ)備水平的影響，從而也很難保證無(wú)意識(shí)的偏見(jiàn)不被“嵌入”。(二)數(shù)據(jù)的碎片化數(shù)據(jù)作為算法“活的靈魂”,數(shù)據(jù)的質(zhì)量影響算法決策的質(zhì)量，然而數(shù)據(jù)具有無(wú)邊界性、碎片化、滯后性特征，這些特征會(huì)導(dǎo)致出現(xiàn)算法歧視現(xiàn)象：一是數(shù)據(jù)具有無(wú)邊界性特征。眾所周知，數(shù)據(jù)源于人類(lèi)的記錄，蘇軾在《赤壁賦》中說(shuō)道，“耳得之為聲，目遇之成色”,這些聲色“取之不盡用之不竭”。這說(shuō)明我們聽(tīng)到的、看到的一切對(duì)象都是沒(méi)有邊界、無(wú)窮無(wú)盡。換言之，可記錄的現(xiàn)象是無(wú)窮無(wú)盡的，算法監(jiān)控的數(shù)據(jù)也難免有遺漏，從而可能導(dǎo)致出乎意料的歧視。二是數(shù)據(jù)具有碎片化特征?！皵?shù)據(jù)一經(jīng)產(chǎn)生，就是碎片化的，數(shù)據(jù)就像玻璃，它從來(lái)都是斷片的、不連續(xù)的，數(shù)據(jù)只能記錄事實(shí)的一個(gè)或數(shù)個(gè)側(cè)面，無(wú)論怎么記錄，它從來(lái)都沒(méi)有、有不可能形成一個(gè)完全記錄的事實(shí)?！?三)．落后地區(qū)的人額度對(duì)司法的影響例如，貸款公司在訓(xùn)練其貸款算法時(shí)，把“郵政編碼”等數(shù)據(jù)納入其中，從表面上看并沒(méi)有什么不妥，但從本質(zhì)上來(lái)看，“郵政編碼”表達(dá)了這么一種觀點(diǎn)：某個(gè)落后地區(qū)的人貸款額度可以適當(dāng)減少，其中就暗含了歧視。另外，有相關(guān)統(tǒng)計(jì)表明，美國(guó)黑人的犯罪率比白人更高，這個(gè)統(tǒng)計(jì)結(jié)果影響了美國(guó)司法部門(mén)幾十年，讓黑人很難得到與白人一樣的司法權(quán)力。從本質(zhì)上來(lái)看，這個(gè)統(tǒng)計(jì)結(jié)果掩蓋了兩者的因果關(guān)系。在現(xiàn)實(shí)社會(huì)中，黑人難以享受到跟白人一樣的上學(xué)待遇，難以找到與白人一樣的工作等，在某種程度上說(shuō)，黑人的高犯罪率正是這種現(xiàn)實(shí)不平等帶來(lái)的后果。算法歧視具有以下兩個(gè)特征：1.所使用生產(chǎn)生產(chǎn)符號(hào)和拼接語(yǔ)法，無(wú)法突出低教育水平的原因例如，ZestFinance公司開(kāi)發(fā)的一款算法把一些不尋常的觀測(cè)值設(shè)置了較高的權(quán)重，比如申請(qǐng)者的貸款申請(qǐng)是否正確地使用了標(biāo)點(diǎn)符號(hào)與拼寫(xiě)語(yǔ)法。標(biāo)點(diǎn)符號(hào)和拼寫(xiě)錯(cuò)誤表明了教育水平的高低，低教育水平又與階級(jí)相關(guān)。當(dāng)窮人不符合標(biāo)準(zhǔn)的語(yǔ)言水平時(shí)，算法會(huì)抬高他們的貸款利率，如果他們后來(lái)因?yàn)橘J款利率高而導(dǎo)致還款困難，這反過(guò)來(lái)又會(huì)證實(shí)他們是高風(fēng)險(xiǎn)群體的假設(shè)。2.．犯罪率高與侵犯發(fā)生率高用有偏見(jiàn)的數(shù)據(jù)訓(xùn)練出來(lái)的算法模型，其輸出的結(jié)果必然也帶來(lái)偏見(jiàn)，然后這一輸出結(jié)果通過(guò)對(duì)系統(tǒng)進(jìn)行反饋，就會(huì)使偏見(jiàn)得到鞏固與加強(qiáng)。例如，犯罪預(yù)測(cè)算法的訓(xùn)練數(shù)據(jù)是關(guān)于大量黑人的犯罪歷史記錄，通過(guò)對(duì)黑人進(jìn)行身體歧視導(dǎo)致黑人無(wú)法得到與白人一樣的公平待遇，黑人的犯罪率更高了。黑人居高不下的犯罪率又反過(guò)來(lái)又正好印證了算法的預(yù)言，故很難對(duì)算法進(jìn)行質(zhì)疑，算法對(duì)黑人的歧視進(jìn)一步加強(qiáng)。五、“信息蝶房”與算法歧視的倫理風(fēng)險(xiǎn)算法與監(jiān)控的秘密合謀塑造的數(shù)字化“圓形監(jiān)獄”迫使人們接受數(shù)字化分析與預(yù)測(cè)，并在此基礎(chǔ)上對(duì)人們進(jìn)行規(guī)訓(xùn)與懲罰，使人們面臨“信息繭房”與算法歧視的倫理風(fēng)險(xiǎn)。算法監(jiān)控倫理風(fēng)險(xiǎn)的社會(huì)治理要以算法監(jiān)控技術(shù)為反思、規(guī)范的對(duì)象，不僅要考慮算法監(jiān)控技術(shù)本身的特性與結(jié)構(gòu)，而且還要考慮算法監(jiān)控與人和社會(huì)之間的關(guān)系——算法監(jiān)控與設(shè)計(jì)者以及使用者的關(guān)系、其所帶來(lái)的社會(huì)影響等，為此，我們要注意以下應(yīng)對(duì)策略：(一)“慎言慎行”與“言行合一”目前，大多數(shù)人對(duì)語(yǔ)言功能的理解主要停留在“認(rèn)識(shí)世界”,而非“改造世界”這一層面，把這習(xí)以為常的理解搬用到互聯(lián)網(wǎng)上就會(huì)產(chǎn)生這樣一種認(rèn)識(shí)，認(rèn)為只要在網(wǎng)上“君子動(dòng)口不動(dòng)手”就不會(huì)產(chǎn)生實(shí)際影響，從而在網(wǎng)絡(luò)中隨意發(fā)表言論。由于只需要賦予算法幾條基本的指令，它就能最大限度地挖掘我們?cè)诰W(wǎng)絡(luò)上發(fā)布的信息，這些信息能帶來(lái)“信息繭房”與算法歧視。我們必須改變對(duì)語(yǔ)言的功能僅為“知”的狹隘理解，要看到語(yǔ)言也能行駛“行”的作用。也就是說(shuō)，我們要意識(shí)到數(shù)據(jù)能夠決定我們做什么，從而在網(wǎng)上“謹(jǐn)言慎行”。而且，伴隨著算法監(jiān)控的塑造作用日益凸顯，我們需要反思算法監(jiān)控技術(shù)的社會(huì)角色，將人與機(jī)器的對(duì)立思維轉(zhuǎn)換為協(xié)作思維，從人——機(jī)交織的框架下認(rèn)識(shí)到算法監(jiān)控的規(guī)范意蘊(yùn)。(二)技術(shù)設(shè)計(jì)的倫理反思面對(duì)算法監(jiān)控技術(shù)產(chǎn)生的倫理問(wèn)題，最直接的辦法就是揮舞著倫理大棒進(jìn)行技術(shù)批判，隨時(shí)對(duì)該技術(shù)的“越界”行為吹口哨，我們可稱(chēng)之為技術(shù)倫理研究的“外在主義”進(jìn)路?！巴庠谥髁x”進(jìn)路試圖將算法監(jiān)控的社會(huì)應(yīng)用限定在倫理規(guī)定的范圍內(nèi)，這一努力是正當(dāng)?shù)?，因?yàn)槿艘獮槠鋭?chuàng)造的技術(shù)負(fù)責(zé)，但也有一定的局限性。算法監(jiān)控并非是完全被動(dòng)的“客體”,伴隨著算法監(jiān)控規(guī)范意蘊(yùn)的日益凸顯，不斷塑形人類(lèi)思維、行為方式?；诘芽柖倔w論的“外在主義”進(jìn)路已不再適應(yīng)當(dāng)前技術(shù)實(shí)踐的需要。拉圖爾提出的“行動(dòng)者網(wǎng)絡(luò)理論”隱匿了“人”與“非人”的界限，將技術(shù)物視為與人地位相平等的“行動(dòng)者”。鑒于技術(shù)物的“行動(dòng)者”地位，在具體的技術(shù)實(shí)踐中，技術(shù)設(shè)計(jì)者要與倫理學(xué)專(zhuān)家共同交流協(xié)作，促進(jìn)“外在進(jìn)路”與“內(nèi)在進(jìn)路”協(xié)調(diào)共進(jìn)。通過(guò)具體的技術(shù)設(shè)計(jì)將公平、正義、法制等倫理觀念“嵌入”算法監(jiān)控技術(shù)之中，使之在使用情境發(fā)揮善的作用?！白尶萍嫉摹悄堋c人的‘智慧’相結(jié)合”(三)相