數(shù)據(jù)保護(hù)權(quán)的多維視角

數(shù)據(jù)保護(hù)權(quán)的多維視角

一、引言：數(shù)字覆蓋、結(jié)構(gòu)轉(zhuǎn)換以及權(quán)利創(chuàng)新

2013年首先由德國提出的“產(chǎn)業(yè)革命4.0

版”概念，有一個非常重要的屬性，這就是通

過數(shù)字化的信息溝通技術(shù)(ICT),使物聯(lián)網(wǎng)、

大數(shù)據(jù)、人工智能形成一個有效互補(bǔ)的支撐關(guān)

系。2015年國務(wù)院頒布《中國制造2025》規(guī)

劃，同樣也是以數(shù)據(jù)驅(qū)動、智能生產(chǎn)、萬物聯(lián)

通為基本目標(biāo)。根據(jù)IHSTechnology(芯智訊)

的統(tǒng)計(jì)和推測，2015年全球通過互聯(lián)網(wǎng)連接在

一起的裝置共有154億個，到2020年將增至

304億個。在這里，裝置不僅指電腦和智能手

機(jī)，而且包括汽車、家用電器、產(chǎn)業(yè)設(shè)備等不

具備通信功能的機(jī)器。不言而喻，網(wǎng)絡(luò)空間中

的各種活動和感應(yīng)會不斷產(chǎn)生大量的數(shù)據(jù)，這

類大數(shù)據(jù)的分析和應(yīng)用需要借助人工智能；反

之，人工智能本身又使物聯(lián)網(wǎng)能夠進(jìn)一步發(fā)展,

同時(shí)不斷產(chǎn)生大數(shù)據(jù)和提高大數(shù)據(jù)的質(zhì)量一

—這就是數(shù)字空間里普遍存在的“三位一體”

關(guān)系。這種互動過程使社會逐步形成一個信息

和實(shí)體交融的系統(tǒng)，也就是智能融入物理世界

的狀態(tài)。

在物聯(lián)網(wǎng)的世界，物品借助感應(yīng)器自動收

集的信息也可以通過互聯(lián)網(wǎng)加以利用，這意味

著人工智能將不通過人類而直接影響現(xiàn)實(shí)環(huán)

境。目前，人工智能從機(jī)器學(xué)習(xí)到深度學(xué)習(xí)，

實(shí)現(xiàn)了從量變到質(zhì)變的飛躍，導(dǎo)致了新一波的

人工智能熱。人工智能在過去十幾年、二十年

左右的時(shí)間里飛速發(fā)展，正在引起產(chǎn)業(yè)模式乃

至社會結(jié)構(gòu)的大轉(zhuǎn)型。2000年時(shí)人工智能還屬

于一種他律系統(tǒng)，強(qiáng)調(diào)的是邏輯演算；但2012

年之后，深度學(xué)習(xí)功能出現(xiàn)和加強(qiáng)之后，人工

智能逐步演變成一種自律系統(tǒng)一一從事實(shí)、數(shù)

據(jù)中進(jìn)行歸納，而不僅僅按照人類給出的指令

或程序運(yùn)算。這就勢必帶來失控的風(fēng)險(xiǎn)。此外，

經(jīng)濟(jì)和社會的許多方面都在使用人工智能，各

種人工智能系統(tǒng)的目標(biāo)卻并不一樣，有時(shí)甚至

互相矛盾，在智能物聯(lián)網(wǎng)(AIoT)中也可能引

起混沌現(xiàn)象。伴隨著人工智能的發(fā)達(dá)，人們所

面對的當(dāng)今社會呈現(xiàn)以下特征。

首先，傳感器無所不在，特別是二維碼移

動支付和刷臉通關(guān)的普及，使得當(dāng)今生活世界

的幾乎每一個角落都被轉(zhuǎn)化成數(shù)字化表現(xiàn)形

式，積累為各種形態(tài)的大數(shù)據(jù)。疫情防控進(jìn)一

步提升了社會的數(shù)字覆蓋程度，在很多城市甚

至達(dá)到了數(shù)字全覆蓋，不只是行蹤信息、社交

信息，連體內(nèi)生理信息和醫(yī)療病歷信息都可以

通過“健康碼”等系統(tǒng)或網(wǎng)絡(luò)式治理平臺進(jìn)行

分析、監(jiān)控以及預(yù)測。通過對大數(shù)據(jù)的人工智

能分析，社會的透明度大大提高了，幾乎再無

真正的隱私可言。然而，對大數(shù)據(jù)進(jìn)行處理、

分析以及預(yù)測的人工智能運(yùn)作卻越來越復(fù)雜，

特別是機(jī)器學(xué)習(xí)算法以及具有深度學(xué)習(xí)功能

的算法越來越讓人難以理解、難以說明。這就

是所謂“算法的黑箱化“，使人工智能實(shí)際上

變得不可解釋、難以控制，當(dāng)人工智能系統(tǒng)用

于決策時(shí)也因而會使問責(zé)機(jī)制變得名存實(shí)亡。

由此可見，社會的透明化與算法的黑箱化，是

考慮經(jīng)濟(jì)和社會的智能化轉(zhuǎn)型時(shí)必須注意的

一對基本矛盾。

其次，大數(shù)據(jù)能產(chǎn)生經(jīng)濟(jì)價(jià)值，甚至成為

企業(yè)和社會的驅(qū)動力量。阿里巴巴之所以強(qiáng)有

力，一個重要原因就是通過電商掌握了近十億

人口在各種應(yīng)用場景的行蹤數(shù)據(jù)、消費(fèi)取向數(shù)

據(jù)，使得生產(chǎn)和銷售的計(jì)劃和實(shí)施都變得更加

精準(zhǔn)，在相當(dāng)程度上可以預(yù)測和影響人們的未

來。因此，馬云曾經(jīng)說數(shù)據(jù)就是21世紀(jì)的石

油。這意味著數(shù)據(jù)是能源、是生產(chǎn)資料、是交

易通貨、是企業(yè)的利器，數(shù)據(jù)會產(chǎn)生利潤和效

益。值得注意的是，中國在數(shù)據(jù)收集和利用方

面具有獨(dú)特的優(yōu)勢。例如，中國公民的價(jià)值觀

和權(quán)利意識與歐美人有顯著的不同，對人工智

能持比較樂觀和友好的態(tài)度，也沒有很強(qiáng)的隱

私觀念；為了生活的便捷、社區(qū)的安全以及防

疫的需要，對各種數(shù)據(jù)的采集大都持支持的態(tài)

度，至少沒有特別明顯的抵觸情緒。因此，大

數(shù)據(jù)產(chǎn)業(yè)在中國更容易發(fā)達(dá)，人工智能也因富

有數(shù)據(jù)養(yǎng)料而迅速提升水平。在當(dāng)前體制下，

中國優(yōu)質(zhì)數(shù)據(jù)的百分之七十到百分之八十都

是由國有企業(yè)或者國家機(jī)構(gòu)掌握的。其好處是

可以打破不同行業(yè)、不同利益集團(tuán)的壁壘，使

數(shù)據(jù)的多維度利用得到充分實(shí)現(xiàn)。也就是說，

中國的數(shù)字空間沒有碎片化，沒有導(dǎo)致人工智

能的發(fā)展遭遇太多的人為障礙。不過，這種狀

態(tài)也存在數(shù)據(jù)安全和數(shù)據(jù)倫理上的隱患，如果

缺乏相應(yīng)的規(guī)范制約就有可能極大地削減個

人自由度。

再次，數(shù)據(jù)的本質(zhì)是信息，而信息的特點(diǎn)

是流動性。因而數(shù)據(jù)主體的界定、數(shù)據(jù)權(quán)利的

保護(hù)也就比較難，尤其很難以某種絕對化的方

式進(jìn)行界定和保護(hù)。歐盟曾經(jīng)制定過關(guān)于數(shù)據(jù)

庫權(quán)利的法律，試圖加強(qiáng)對數(shù)據(jù)的排他性保護(hù)，

結(jié)果失敗了。失敗的證據(jù)之一就是在歐洲沒有

出現(xiàn)大規(guī)模的數(shù)據(jù)產(chǎn)業(yè)、沒有出現(xiàn)在國際社會

具有影響力的巨型網(wǎng)絡(luò)公司或數(shù)字經(jīng)濟(jì)平臺。

物聯(lián)網(wǎng)、大數(shù)據(jù)及人工智能結(jié)合起來導(dǎo)致社會

發(fā)生的一種也與流動性相關(guān)的深刻變化，是市

場交易的形態(tài)從物品轉(zhuǎn)向服務(wù)。人們都知道，

現(xiàn)代法律體系的本質(zhì)是物品的所有、利用、處

分以及交易，其基礎(chǔ)是物權(quán)，在意識形態(tài)中還

表現(xiàn)為所有制。的確，迄今為止對個人或企業(yè)

而言，財(cái)富或物品的占有具有非常重要的意義。

然而，進(jìn)入智能網(wǎng)絡(luò)化時(shí)代后，服務(wù)變成了更

重要的交易形態(tài)。例如，現(xiàn)在擁有光碟及其播

放機(jī)變得不再那么重要，因?yàn)榭梢噪S時(shí)上網(wǎng)付

費(fèi)下載和收聽收看有關(guān)的音樂或影視劇，質(zhì)量

更好，也更方便。

最后，以智能物聯(lián)網(wǎng)為基礎(chǔ)的數(shù)據(jù)空間對

法與社會的影響不限于改變了作為秩序基石

的物權(quán)的結(jié)構(gòu)和功能，而是還改變了規(guī)范形態(tài)

本身。二十世紀(jì)九十年代中期以來，很多專家

已經(jīng)指出代碼取代法律、代碼即法律的趨勢。

本來法律上已經(jīng)明文規(guī)定的權(quán)利，技術(shù)性規(guī)格

和代碼的設(shè)置就有可能導(dǎo)致它們沒有辦法行

使，或者不得不改變行使的方式和內(nèi)容。比如

說DVD復(fù)制是很方便、很常見的行為，但是為

了保護(hù)知識產(chǎn)權(quán)，避免人們不斷對某個作品進(jìn)

行DVD復(fù)制乃至牟利，有關(guān)行業(yè)制定了新的技

術(shù)標(biāo)準(zhǔn)，通過代碼使DVD的復(fù)制次數(shù)只限于兩

次到三次，即限于家庭內(nèi)的消費(fèi)。不言而喻，

在這里，技術(shù)代碼實(shí)際上取代法律發(fā)揮了行為

規(guī)范的作用。在這個意義上可以說，人工智能

可謂一種規(guī)制嵌入系統(tǒng)，有利于約束效力的剛

性化，也有利于借助技術(shù)手段加強(qiáng)社會的守法

精神。然而，也要注意，沒有立法權(quán)的機(jī)構(gòu)或

企業(yè)可以通過代碼框架或算法的設(shè)計(jì)繞開民

主程序來修改法律、創(chuàng)制法律，或多或少有可

能在數(shù)據(jù)空間里開拓出一片自由的飛地，帶來

潛在的不確定性。因此，法律還應(yīng)該反過來規(guī)

制代碼，這樣就形成一種法律與代碼雙行的格

局，導(dǎo)致規(guī)范多元化。

從上述社會特征中可以發(fā)現(xiàn)法制變遷、權(quán)

利創(chuàng)新的一些重要契機(jī)。例如，社會透明化與

算法黑箱化的基本矛盾，意味著有必要從制度

層面加強(qiáng)對個人數(shù)據(jù)安全和隱私的保護(hù)，防止

監(jiān)控過度，并且應(yīng)該從公民基本權(quán)利的高度來

理解個人信息的收集、分析和應(yīng)用。與此同時(shí)，

要強(qiáng)調(diào)算法的公開透明、可解釋性、可理解性，

使個人享有抵御算法歧視的權(quán)利，并確保對現(xiàn)

代法治至關(guān)重要的問責(zé)機(jī)制不因人工智能輔

助決策而遭到瓦解。例如，數(shù)據(jù)的經(jīng)濟(jì)價(jià)值，

意味著數(shù)據(jù)權(quán)屬關(guān)系的明晰化、利益分配的合

理性和公正性都應(yīng)提上議事日程，并考慮適當(dāng)

的制度設(shè)計(jì)方案和權(quán)利認(rèn)定程序，還要在數(shù)字

經(jīng)濟(jì)發(fā)展與個人權(quán)利保障之間達(dá)成適當(dāng)?shù)钠?/p>

衡，并為數(shù)據(jù)的商業(yè)利用劃出一條清楚的倫理

底線。另外，隨著民商事法律體系的基石從物

品轉(zhuǎn)向服務(wù)，權(quán)利觀當(dāng)然也從所有者的視角轉(zhuǎn)

向消費(fèi)者的視角，能否確立消費(fèi)者主權(quán)的理念、

能否使服務(wù)評價(jià)產(chǎn)生規(guī)范效力就成為重要的

法學(xué)課題。在代碼即法律的狀況下，如何防止

機(jī)器官僚主義或技術(shù)至上主義壓抑個人權(quán)利、

公民怎樣才能切實(shí)維護(hù)自己的合法權(quán)益、在代

碼框架下能否適當(dāng)進(jìn)行權(quán)利的創(chuàng)造和認(rèn)定、如

何對代碼進(jìn)行監(jiān)控等一系列問題也應(yīng)納入探

討的范圍。

二、關(guān)于數(shù)據(jù)保護(hù)權(quán)及其價(jià)值前提的國際共識

在人工智能用于數(shù)據(jù)分析而導(dǎo)致社會結(jié)

構(gòu)轉(zhuǎn)型的過程中，有兩種法律現(xiàn)象值得關(guān)注和

深入研究。

一種是大數(shù)據(jù)預(yù)測式警務(wù)系統(tǒng)。通過對大

數(shù)據(jù)的機(jī)器學(xué)習(xí)，人工智能可以精準(zhǔn)把握行為

方式及其趨勢，有助于刑事案件的偵查和證明，

也有助于對城市犯罪進(jìn)行預(yù)防。5G通信系統(tǒng)使

大數(shù)據(jù)和人工智能的應(yīng)用范圍更廣，技術(shù)安裝

和操作更便捷。這種預(yù)測式警務(wù)起源于洛杉磯,

然后普及到美國、歐洲、亞洲的一些城市，在

中國也有廣泛的應(yīng)用。預(yù)測式警務(wù)的根據(jù)是過

去的行蹤以及社會狀況的大數(shù)據(jù)，在數(shù)據(jù)處理

之際必須按照一定指標(biāo)對個人進(jìn)行分類，實(shí)際

上就是給各個公民貼上標(biāo)簽進(jìn)行區(qū)別對待。在

分類、貼標(biāo)簽以及重點(diǎn)監(jiān)控的操作中很容易受

到大數(shù)據(jù)內(nèi)在的系統(tǒng)性偏誤的影響，出現(xiàn)算法

歧視的問題。一旦根據(jù)某些指標(biāo)和標(biāo)簽預(yù)測某

部分人存在較強(qiáng)的犯罪傾向，人工智能系統(tǒng)就

會促使警察部門加強(qiáng)對他們的監(jiān)控，實(shí)際上就

給予了不同的法律待遇，有違法律面前人人平

等的原則?，F(xiàn)代法治國家在刑事領(lǐng)域特別強(qiáng)調(diào)

無罪推定原則以防止冤枉無辜，但預(yù)測式警務(wù)

針對特定人群提前采取監(jiān)控和防范的舉措，容

易產(chǎn)生疑人偷斧的效應(yīng)，造成故入人罪的錯誤,

在一定意義上也可以說，對他們的刑事追責(zé)其

實(shí)是以有罪推定為前提的。

另一種是聯(lián)合信用懲戒系統(tǒng)。為了改進(jìn)社

會信任度、懲戒各種失信行為，近年來中國興

起了信用評價(jià)活動。其中一個有代表性的實(shí)例

就是芝麻信用的打分和等級化，由螞蟻金服根

據(jù)身份地位、信用履歷、履約能力、行為偏好、

人脈關(guān)系等因素和淘寶、天貓、支付寶等平臺

積累的大數(shù)據(jù)綜合計(jì)算，以350分為下限、950

分為上限。具體的等級劃分如下：350分到550

分屬于信用較差，550分到650分屬于信用一

般，650分到750分為信用良好，750分以上

是信用優(yōu)秀。在芝麻信用系統(tǒng)里，信用分是與

個人享有的權(quán)利掛鉤的，例如信用較差的只能

使用支付寶的快捷支付轉(zhuǎn)賬、繳納水電費(fèi)等初

步功能，信用良好的則可以享有免租車押金、

免租房押金等優(yōu)惠。一般而言，芝麻信用分超

過800分的屬于信用極好的群體，可以享受信

用醫(yī)療、快速退稅、無抵押借貸等特權(quán)，還可

以在申請部分國家簽證時(shí)不必提交資產(chǎn)證明、

在職證明、戶口本等各種資料。類似的信用評

分做法在歐美金融界也已悄然流行了一段時(shí)

間。這種信用評分本來以激勵為宗旨，但換個

角度來看也有懲戒效果。所以中國的行政執(zhí)法

部門和司法機(jī)關(guān)為了提升債權(quán)回收、債務(wù)履行

的效率，開始與芝麻信用評分系統(tǒng)開展合作。

例如最高人民法院系統(tǒng)在2015年與芝麻信用

簽署了對失信被執(zhí)行人信用懲戒備忘錄，全面

限制相關(guān)人員的消費(fèi)，以解決長期以來的“執(zhí)

行難”問題。然而，從正義和法律的角度來看，

各種信用打分（特別是聯(lián)合信用懲戒系統(tǒng)）也

存在一些隱患，其中最大的問題是把人分類并

貼上標(biāo)簽，容易造成一個差別化、等級化的“打

分社會”，助長某些權(quán)利上的歧視，甚至形成

所謂“自動不平等”和“數(shù)字濟(jì)貧院”的事態(tài)。

上述兩種常見的現(xiàn)象說明，人工智能的算

法公正以及數(shù)據(jù)倫理的確是當(dāng)今法學(xué)正面臨

的重大課題。在人工智能治理方面，2016年構(gòu)

成一個重要的界標(biāo)。對于從那時(shí)起國際社會形

成相關(guān)原則和規(guī)則的主要動向，筆者曾經(jīng)在一

篇論文中做過如下概述。2016年4月，歐洲議

會法務(wù)委員會召開了關(guān)于機(jī)器人和人工智能

的法律和倫理問題的聽證會，并在5月公布了

與機(jī)器人相關(guān)的民事法律規(guī)則的報(bào)告書草案。

2017年2月歐洲議會通過《向歐洲委員會提出

的關(guān)于涉及機(jī)器人民事法律規(guī)則的提案》，建

議設(shè)立專門的歐盟機(jī)構(gòu)、采納智慧機(jī)器人登記

制、明確嚴(yán)格的損害賠償責(zé)任、保障知識產(chǎn)權(quán)

等，要求歐洲委員會制定相關(guān)的歐盟法律。這

個提案還建議確立機(jī)器人研發(fā)者的倫理行動

規(guī)范，其中包括尊重基本人權(quán)、預(yù)防原則、包

容性、問責(zé)、安全性、可追溯性、隱私權(quán)保護(hù)、

效益最大化和危害最小化等內(nèi)容。2018年5

月25日歐盟開始施行一般數(shù)據(jù)保護(hù)條例

(GDPR),要求人工智能研發(fā)涉及個人信息處

理時(shí)要通知本人，受到影響的個人有權(quán)獲得解

釋。其中有些舉措比美國更加嚴(yán)格，對違反該

法規(guī)的企業(yè)采取重罰政策。這項(xiàng)法律對數(shù)據(jù)向

其他國家的轉(zhuǎn)移業(yè)務(wù)也生效。2018年12月歐

盟委員會AI高級專家組發(fā)布了《人工智能開

發(fā)和適用倫理指南(草案)》，以《歐盟基本

權(quán)利憲章》為基準(zhǔn)，力爭形成值得信賴的、負(fù)

責(zé)任并沒有偏見的人工智能，為此提出了七條

關(guān)鍵要求。歐盟人工智能倫理指南的七條關(guān)鍵

要求是人的管理和監(jiān)督、穩(wěn)健性和安全性、隱

私和數(shù)據(jù)管理、透明度、多樣性和公平性以及

非歧視性、社會和環(huán)境福祉、問責(zé)制。這個倫

理指南將從2019年夏季開始進(jìn)入試行，所有

企業(yè)、政府部門以及社會團(tuán)體都可以參加歐洲

人工智能聯(lián)盟(EuropeanAIAl1iance),通

過共同遵循倫理指南在數(shù)據(jù)、算法、技術(shù)等方

面推進(jìn)伙伴關(guān)系。筆者于本文中補(bǔ)充的新信息

是，2019年4月歐盟高級專家組發(fā)布《可信任

人工智能指南》，把合法性、倫理性、魯棒性

作為可信任人工智能的構(gòu)成元素，并提出了根

據(jù)基本原則、主要要求而制作的評估項(xiàng)目清單,

2020年開始對GDPR的某些過時(shí)的內(nèi)容進(jìn)行重

新審視并起草了新的法案。

與歐盟幾乎同步，美國政府從2016年5

月開始正式研討人工智能的法律、倫理以及政

策等方面的問題，為決策進(jìn)行準(zhǔn)備。當(dāng)年10

月白宮發(fā)表了題為《為人工智能的未來做準(zhǔn)備》

的報(bào)告書，提出人工智能的相關(guān)系統(tǒng)必須可控、

公開透明可理解、有效發(fā)揮功能、與人類的價(jià)

值和愿望一致等原則。與此同時(shí)，國家科學(xué)技

術(shù)會議網(wǎng)絡(luò)和信息技術(shù)研究開發(fā)小委員會還

發(fā)表了關(guān)于運(yùn)用聯(lián)邦政府預(yù)算研究人工智能

的方針《美國人工智能研究開發(fā)戰(zhàn)略計(jì)劃》，

提出了副作用最小化的要求。2019年6月，美

國國家科學(xué)技術(shù)理事會發(fā)布了這項(xiàng)戰(zhàn)略計(jì)劃，

特別強(qiáng)調(diào)要提高人工智能系統(tǒng)的公平、透明度

以及問責(zé)制。然而，在立法方面，美國沒有采

取統(tǒng)一方案，由各州酌情自行其是，為立法的

社會實(shí)驗(yàn)以及企業(yè)、行業(yè)的自治和創(chuàng)新留下了

較大空間。由亞馬遜、DeepMmd.谷歌、臉書、

IBM、微軟等巨型網(wǎng)絡(luò)平臺公司發(fā)起，歐美產(chǎn)

業(yè)界在2016年9月還締結(jié)了關(guān)于人工智能的

伙伴關(guān)系，旨在構(gòu)建一個研究和討論人工智能

技術(shù)改進(jìn)和社會影響的開放性平臺，并發(fā)表了

關(guān)于確保社會責(zé)任、采取防護(hù)措施等八項(xiàng)信條。

來自不同機(jī)構(gòu)和學(xué)科的專家也按照人工智能

“可接受、負(fù)責(zé)任AcceptableIntelligence

withResponsibi1ity）的理念結(jié)成倫理專題

社群，進(jìn)行關(guān)于失控風(fēng)險(xiǎn)的腳本分析并提出對

策建議。

日本總務(wù)省信息通訊政策研究所通過系

列研討會，在2016年10月制定了《人工智能

開發(fā)指針方案（征求意見稿）》，經(jīng)過討論修

改，在2017年7月正式公布《為國際討論而

作的人工智能開發(fā)指針方案》。日本方案的基

本宗旨是：盡管人工智能的技術(shù)創(chuàng)新和互聯(lián)網(wǎng)

化有望給經(jīng)濟(jì)和社會生活帶來各種各樣的效

益，但也存在黑箱化和失控的風(fēng)險(xiǎn)。人工智能

是跨越國界互聯(lián)互通的，因此相關(guān)的效益和風(fēng)

險(xiǎn)也勢必跨越國界產(chǎn)生連鎖反應(yīng)。在這個意義

上，智網(wǎng)社會的治理不可能局限在一國范圍內(nèi)，

而應(yīng)該形成全球化的治理框架。為此，有必要

通過開放式討論在利益相關(guān)者中凝聚國際共

識。在人工智能研發(fā)的初期階段，通過立法來

進(jìn)行規(guī)制有可能導(dǎo)致創(chuàng)新活動的萎縮，因此對

剛性規(guī)范的制定應(yīng)持慎重態(tài)度，不妨更多地借

助“軟法”等非正式的有序化機(jī)制。日本的人

工智能開發(fā)指針方案提出了五大理念：（1）

人通過與人工智能網(wǎng)絡(luò)共生而享受其恩惠，并

建立一個尊重人的尊嚴(yán)和個體自主性的，，以人

為本”的社會；（2）利益相關(guān)者應(yīng)該對作為

非約束性軟法的指針及其最佳實(shí)踐經(jīng)驗(yàn)進(jìn)行

國際共享；（3）應(yīng)該通過創(chuàng)新的、開放式的

研發(fā)活動和公平競爭增進(jìn)社會效益，在尊重學(xué)

術(shù)自由等民主主義社會價(jià)值的同時(shí)防范風(fēng)險(xiǎn)，

確保效益和風(fēng)險(xiǎn)的適當(dāng)平衡；（4）堅(jiān)持技術(shù)

的中立性，注意不給開發(fā)者造成過度負(fù)擔(dān)；（5）

對指針方案的內(nèi)容不斷斟酌，根據(jù)需要靈活進(jìn)

行修改。

在中國，從2017年國務(wù)院頒布的《中國

新一代人工智能發(fā)展規(guī)劃》可以看出，關(guān)于數(shù)

字化社會秩序構(gòu)建的基本理念、主要方法、立

法重點(diǎn)，有關(guān)表述都是非常清晰的。該規(guī)劃指

出有必要積極參與人工智能全球治理，加強(qiáng)機(jī)

器人異化和安全監(jiān)管等人工智能重大國際共

性問題研究，深化在人工智能法律法規(guī)、國際

規(guī)則等方面的國際合作，共同應(yīng)對全球性挑戰(zhàn),

并且在全球范圍內(nèi)優(yōu)化配置創(chuàng)新資源。特別是

該規(guī)劃關(guān)于人工智能治理的九條原則，即共享

互信原則、個體尊嚴(yán)原則、民主參與原則、國

際合作原則、相機(jī)治理原則、公開透明原則、

雙重規(guī)制原則、追蹤制裁原則、預(yù)防響應(yīng)原則，

都是與國際接軌的。該規(guī)劃也有一些中國特色,

比如，第五條關(guān)于相機(jī)而動的治理，與網(wǎng)絡(luò)社

會的特征相吻合，也反映了中國傳統(tǒng)治理方式

的影響；又如，其中的雙重規(guī)制原則，也體現(xiàn)

了中國行政主導(dǎo)、綜合治理的特色。2019年，

國家新一代人工智能治理專業(yè)委員會制定了

《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任

的人工智能》，明確提出了八條基本原則，即

和諧友好、公平公正、包容共享、尊重隱私、

安全可控、共擔(dān)責(zé)任、開放協(xié)作、敏捷治理。

其中特別值得注意的是責(zé)任分擔(dān)和共擔(dān)的方

式以及對敏捷治理的要求。實(shí)際上，無論是數(shù)

據(jù)治理，還是算法治理，都包括制度治理與技

術(shù)治理這兩種不同的方式或者層面。制度治理

主要表現(xiàn)為法律、法規(guī)、標(biāo)準(zhǔn)、指南、政策以

及倫理規(guī)則等，既有硬法又有軟法。有必要指

出,2019年世界人工智能大會法治論壇上提出

的法治導(dǎo)則，把算法納入專利保護(hù)的范圍，這

體現(xiàn)了中國制度治理的重要成果；另外，關(guān)于

人工智能侵權(quán)的責(zé)任，強(qiáng)調(diào)根據(jù)過錯程度進(jìn)行

分擔(dān)，也具有鮮明的中國特色。技術(shù)治理則主

要表現(xiàn)為人工智能操作中的技術(shù)細(xì)則以及系

統(tǒng)日志、記錄軟硬件的情況、監(jiān)督數(shù)據(jù)的收集

等，還包括同態(tài)加密、安全多方計(jì)算、聯(lián)邦學(xué)

習(xí)、可信計(jì)算等隱私增強(qiáng)技術(shù)（PETs）的采用。

制度治理和技術(shù)治理的這種耦合是理解人工

智能治理規(guī)則體系的重要視角。

綜上所述，2016年以后的國際社會，就人

工智能治理以及數(shù)字權(quán)利保護(hù)達(dá)成的基本共

識如下。（1）對國際通用的指針、標(biāo)準(zhǔn)等采

取合作態(tài)度。其包括確保數(shù)據(jù)空間互聯(lián)互通，

必須共有相關(guān)信息，參照國際標(biāo)準(zhǔn)和規(guī)格進(jìn)行

人工智能系統(tǒng)及算法的設(shè)計(jì)，實(shí)現(xiàn)數(shù)據(jù)格式的

標(biāo)準(zhǔn)化，公開應(yīng)用程序編程接口以及協(xié)議、揭

示知識產(chǎn)權(quán)的特許合同條件等。（2）實(shí)現(xiàn)技

術(shù)的中立性以及透明性。為此需要實(shí)現(xiàn)人工智

能系統(tǒng)輸入和輸出的檢驗(yàn)可能性，對演算結(jié)果

要履行說明義務(wù)。（3）實(shí)現(xiàn)人工智能的可控

性。應(yīng)該由其他人工智能系統(tǒng)進(jìn)行監(jiān)視和警告，

實(shí)現(xiàn)技術(shù)與技術(shù)的制衡，并為人工智能系統(tǒng)的

停止、網(wǎng)絡(luò)的切斷和修理預(yù)先做好充分的準(zhǔn)備。

（4）優(yōu)先保護(hù)人的安全。算法設(shè)計(jì)應(yīng)該堅(jiān)持

的價(jià)值優(yōu)先順位為生命、身體、財(cái)產(chǎn)。對于數(shù)

據(jù)和算法的安全性要對利用者和利益相關(guān)者

履行充分說明的義務(wù)。這種共識也反映于2019

年5月公布的《OECD關(guān)于人工智能的政府間政

策指導(dǎo)方針》和同年6月公布的《G20人工智

能原則》之中，其倡導(dǎo)以人類為中心、以負(fù)責(zé)

任的態(tài)度開發(fā)人工智能和培養(yǎng)數(shù)字生態(tài)系統(tǒng)。

新興權(quán)利的形成和發(fā)展正是以這樣的共識為

前提條件。如果把人工智能治理分為數(shù)據(jù)治理、

算法治理以及應(yīng)用系統(tǒng)治理這三個不同層面，

來具體考察國際社會已經(jīng)達(dá)成的共識，還可以

發(fā)現(xiàn)其中存在不同的原則和規(guī)制，或者各有其

重點(diǎn)內(nèi)容。在數(shù)據(jù)治理層面，特別強(qiáng)調(diào)審慎處

理個人敏感信息，側(cè)重保護(hù)隱私以及個人信息

安全，并要求消除數(shù)據(jù)噪音、提高其質(zhì)量和規(guī)

格化程度。在算法治理層面，以透明性、準(zhǔn)確

性、可靠性、可解釋性、可驗(yàn)證性、可追溯性

作為衡量的標(biāo)準(zhǔn)。在應(yīng)用系統(tǒng)治理層面，追求

向善性和無偏性等目標(biāo)。仔細(xì)推敲又可以發(fā)現(xiàn)，

在人工智能治理方面似乎若隱若現(xiàn)地存在歐

盟和美國這兩種不同的模式。歐盟始終側(cè)重統(tǒng)

一立法，特別強(qiáng)調(diào)數(shù)據(jù)安全和算法公正，并傾

向于事先規(guī)制。例如，GDPR嚴(yán)格限制數(shù)據(jù)跨

境流轉(zhuǎn)，降低數(shù)據(jù)跨境傳輸?shù)娘L(fēng)險(xiǎn)，并且要求

企業(yè)履行事前審批手續(xù)。與此形成對照的是美

國，其采取逐步立法的漸進(jìn)路線，針對人工智

能典型應(yīng)用場景分別制定特殊法規(guī)，更強(qiáng)調(diào)數(shù)

字經(jīng)濟(jì)的開放性和競爭性，鼓勵數(shù)據(jù)有條件的

自由流通，傾向于事后救濟(jì)，例如建立數(shù)據(jù)泄

密通知機(jī)制。對不同層次、不同模式的問題狀

況進(jìn)行梳理，有利于新興權(quán)利群的體系化，特

別是從憲法與民法、基本權(quán)利與一般權(quán)利、道

德與商務(wù)等不同維度進(jìn)行分類。

三、歐盟關(guān)于隱私和數(shù)據(jù)安全的憲法視角和司法救濟(jì)

在現(xiàn)代啟蒙精神的影響下，歐洲各國歷來

重視人權(quán)和公民基本權(quán)利的保障。關(guān)于數(shù)據(jù)和

算法的有關(guān)原則和規(guī)則，也以《歐洲人權(quán)公約》

（1953年生效）、《歐盟基本權(quán)利憲章》（2009

年生效）作為高階法律根據(jù)，特別是后者明確

把個人數(shù)據(jù)保護(hù)納入憲法規(guī)范。從1995年的

數(shù)據(jù)保護(hù)指令到2018年的GDPR,再到2020

年11月提上議事日程的數(shù)據(jù)治理?xiàng)l例建議稿、

數(shù)字市場法草案以及數(shù)字服務(wù)法草案，始終從

憲法規(guī)范的視角來強(qiáng)調(diào)信息自決和個人隱私

保護(hù)的基本權(quán)利，對數(shù)據(jù)畫像和自動化決策采

取斷然拒絕的態(tài)度。與此同時(shí)，歐盟也非常重

視數(shù)據(jù)主權(quán)問題。眾所周知，中國在人工智能

研發(fā)和數(shù)字經(jīng)濟(jì)轉(zhuǎn)型方面進(jìn)展非常迅猛，以致

讓歐盟不得不采取“高筑墻”的對策，把防范

美國和中國的數(shù)字優(yōu)勢地位作為制定法律的

基本指針。這就勢必更進(jìn)一步強(qiáng)調(diào)信息安全和

算法公正，通過法律和審批程序嚴(yán)格限制數(shù)據(jù)

跨境流轉(zhuǎn)，使人工智能治理的相關(guān)制度宛如一

座堅(jiān)固的城堡。

2018年5月25日起實(shí)施的GDPR號稱人工

智能時(shí)代的人權(quán)宣言。該法以個人尊嚴(yán)和基本

權(quán)利保障為宗旨，直接約束各加盟國的立法，

并對歐盟各國的數(shù)據(jù)向其他國家的轉(zhuǎn)移業(yè)務(wù)

也產(chǎn)生效力oGDPR還規(guī)定了一些新型的基本權(quán)

利，例如，第5條強(qiáng)調(diào)限定數(shù)據(jù)收集和處理的

目的、在一定目的范圍內(nèi)最大限度地減少對數(shù)

據(jù)的處理和保存、讓數(shù)據(jù)保持完整、正確、更

新以及匿名的狀態(tài)（信息安全保障權(quán)）；第13

條第2款則從另一個角度強(qiáng)調(diào)了透明性原則

（信息公開請求權(quán)），要求數(shù)據(jù)管理者必須對

數(shù)據(jù)權(quán)利主體履行信息公開的義務(wù)，且所提供

的信息必須能為數(shù)據(jù)權(quán)利主體所理解。GDPR

第20條還特別規(guī)定個人享有自我數(shù)據(jù)便攜式

獲取權(quán)；第21條承認(rèn)數(shù)據(jù)主體的異議權(quán)，如

果數(shù)據(jù)管理者不能出示正當(dāng)性根據(jù)，必須中止

電腦化處理；第22條宣布數(shù)據(jù)主體享有不服

從那種僅根據(jù)人工智能而自動化做出的決定

的權(quán)利，并且明確指出數(shù)據(jù)管理者不得通過假

裝有人介入的方式來規(guī)避第22條的約束。這

些權(quán)利條款分別涉及數(shù)據(jù)獲取、數(shù)據(jù)權(quán)屬、數(shù)

據(jù)保護(hù)、信息隱私、倫理問題等不同的法律維

度。有關(guān)權(quán)利的保障和具體事項(xiàng)的權(quán)衡主要依

賴各國法院以及歐盟普通法院、歐洲法院、歐

洲人權(quán)法院。

從GDPR上述條款中可以發(fā)現(xiàn)，僅就數(shù)據(jù)

治理而言，首先應(yīng)該充分讓公民享有兩項(xiàng)最基

本的權(quán)利：一項(xiàng)是捍衛(wèi)隱私，因?yàn)檫@是意思自

治的基礎(chǔ)；另一項(xiàng)是信息安全的保障，因?yàn)檫@

是通信自由的基礎(chǔ)。這些基本權(quán)利在歐洲過去

的憲法規(guī)范中都已有明文規(guī)定，在數(shù)字化時(shí)代

需要刷新的是怎樣界定隱私和信息安全的范

圍、在什么情況下允許干涉隱私權(quán)的判斷標(biāo)準(zhǔn)

以及正當(dāng)化根據(jù)。從相關(guān)原則和規(guī)則中其實(shí)還

可以歸納出一種新型的基本權(quán)利，這就是數(shù)據(jù)

保護(hù)權(quán)，直接影響到數(shù)據(jù)處理的范圍和意義。

在歐盟的語境中，數(shù)據(jù)保護(hù)權(quán)包括公民個人有

權(quán)接觸和更正其個人數(shù)據(jù)，對數(shù)據(jù)保護(hù)權(quán)進(jìn)行

限制的條件、程序以及標(biāo)準(zhǔn)，對數(shù)據(jù)的收集、

處理、應(yīng)用進(jìn)行監(jiān)管的獨(dú)立機(jī)構(gòu)等具體內(nèi)容。

如果把數(shù)據(jù)保護(hù)權(quán)適用于大數(shù)據(jù)的收集一分

析一應(yīng)用流程，在法律上必須考慮的問題還包

括個人數(shù)據(jù)的概念和類型、公共空間獲得的個

人信息的私生活寧靜的意義、不同場景中的個

人可識別性、應(yīng)該告知的事項(xiàng)或權(quán)利清單、對

風(fēng)險(xiǎn)進(jìn)行監(jiān)控的方式、算法透明度以及例外情

形、各種利益權(quán)衡的尺度、公共利益的界定等。

在歐洲數(shù)據(jù)權(quán)認(rèn)定的司法實(shí)踐中，當(dāng)然堅(jiān)持基

本權(quán)利優(yōu)先、賦予個人自由較高權(quán)重的立場。

因?yàn)镚DPR和相應(yīng)的司法實(shí)踐主要著眼于

個人數(shù)據(jù)以及相應(yīng)的憲法性權(quán)利保障，不能在

私人主體之間的糾紛中強(qiáng)制執(zhí)行，也就不能完

全適應(yīng)數(shù)字經(jīng)濟(jì)的發(fā)展，所以在歐盟內(nèi)部也出

現(xiàn)修改法律框架的議論和動向，試圖把數(shù)據(jù)保

護(hù)的范圍擴(kuò)大到所有數(shù)據(jù)（不限于個人可識別

數(shù)據(jù)）。在司法實(shí)踐中，有些判例已開始將消

費(fèi)者保護(hù)法、競爭法的相關(guān)規(guī)定及集團(tuán)訴訟方

式適用于大數(shù)據(jù)流程，以提升個人與強(qiáng)勢的網(wǎng)

絡(luò)大公司進(jìn)行博弈的地位。在行政實(shí)踐中，各

國政府也開始加強(qiáng)對數(shù)據(jù)行業(yè)的監(jiān)管和算法

審計(jì)，并強(qiáng)調(diào)大數(shù)據(jù)倫理的意義。與這種新趨

勢相關(guān)聯(lián)，法學(xué)界開始討論創(chuàng)設(shè)數(shù)據(jù)財(cái)產(chǎn)權(quán)的

議題，以充分實(shí)現(xiàn)數(shù)據(jù)的商業(yè)價(jià)值并加強(qiáng)個人

數(shù)據(jù)主體的議價(jià)能力。總之，歐盟開始調(diào)整過

強(qiáng)的憲法指向，探索針對大數(shù)據(jù)特征的綜合治

理方案，試圖實(shí)現(xiàn)個人信息安全和隱私保護(hù)的

多層多樣性和整合化。

四、中國關(guān)于智能物聯(lián)網(wǎng)治理的民法視角和行政救濟(jì)

中國的現(xiàn)實(shí)與歐盟形成鮮明的對照，不是

側(cè)重憲法，而是主要從民法以及行政舉措的視

角來加強(qiáng)對隱私、信息安全及人格利益的綜合

保護(hù)。因此，關(guān)于數(shù)據(jù)和隱私的中國法律規(guī)范

主要在公民個人、集體以及企業(yè)之間強(qiáng)制執(zhí)行,

很少針對政府。從2016年底開始，中國通過

一些單行的法律、法規(guī)、規(guī)章來對數(shù)字化時(shí)代

的新興權(quán)利進(jìn)行認(rèn)定和保護(hù)，并明確了相應(yīng)的

義務(wù)和責(zé)任。例如，我國《網(wǎng)絡(luò)安全法》（2016

年11月）規(guī)定了公民對個人信息的刪除權(quán)和

訂正權(quán)、《個人信息安全規(guī)范》（2017年12

月）加強(qiáng)了對網(wǎng)絡(luò)平臺的規(guī)制、我國《電子商

務(wù)法》（2018年8月）使網(wǎng)絡(luò)平臺經(jīng)營者的監(jiān)

管責(zé)任具體化、《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》

（2020年3月）著手整頓個人信息交易和調(diào)整

算法推薦邏輯。我國《數(shù)據(jù)安全法》已經(jīng)在2021

年6月10日通過、同年9月1日起實(shí)施；我

國《個人信息保護(hù)法》也于2021年11月施行。

我國《民法典》專設(shè)人格權(quán)編，清楚地界

定隱私和個人信息的權(quán)利范圍，以加強(qiáng)對新興

權(quán)利的保護(hù)，具有補(bǔ)充憲法的基本權(quán)利清單的

意義，但主要是適應(yīng)了數(shù)字化時(shí)代經(jīng)濟(jì)社會的

需要。例如，我國《民法典》第1034條規(guī)定

受這項(xiàng)基本法律保護(hù)的個人信息包括健康信

息、行蹤信息，還規(guī)定了處理虛擬身份（第1017

條）、數(shù)字肖像（第1019條）、數(shù)字聲音（第

1023條）等個人信息時(shí)必須遵循的原則、條件

以及義務(wù)。我國《民法典》第1035條規(guī)定了

大數(shù)據(jù)收集和應(yīng)用之際應(yīng)該堅(jiān)持的合法、正當(dāng)、

必要、適度的原則；第1033條、第1038條、

第1039條還分別明確了信息安全保障義務(wù)，

包括不得泄露、不得篡改以及不得非法提供；

第1037條進(jìn)一步完善了個人信息主體的權(quán)利

構(gòu)成，確立了查閱權(quán)、復(fù)制權(quán)、更正權(quán)、刪除

權(quán)以及網(wǎng)絡(luò)侵權(quán)的責(zé)任、網(wǎng)絡(luò)服務(wù)提供者的注

意義務(wù)，將數(shù)據(jù)和虛擬財(cái)產(chǎn)都納入法律保護(hù)范

圍。

我國《民法典》并沒有創(chuàng)設(shè)數(shù)據(jù)財(cái)產(chǎn)權(quán)，

但我國《數(shù)據(jù)安全法》第7條表明“國家保護(hù)

個人、組織與數(shù)據(jù)有關(guān)的權(quán)益，鼓勵數(shù)據(jù)依法

合理有效利用，保障數(shù)據(jù)依法有序自由流動，

促進(jìn)以數(shù)據(jù)為關(guān)鍵要素的數(shù)字經(jīng)濟(jì)發(fā)展該

法第19條規(guī)定“國家建立健全數(shù)據(jù)交易管理

制度，規(guī)范數(shù)據(jù)交易行為，培育數(shù)據(jù)交易市場

第33條還指出：“從事數(shù)據(jù)交易中介服務(wù)的

機(jī)構(gòu)提供服務(wù)，應(yīng)當(dāng)要求數(shù)據(jù)提供方說明數(shù)據(jù)

來源，審核交易雙方的身份，并留存審核、交

易記錄”。這意味著中國通過對數(shù)據(jù)進(jìn)行評價(jià)

和共享的程序來確保數(shù)據(jù)交易的順利進(jìn)行，并

把合法、同意以及通過契約之鏈確認(rèn)的正當(dāng)來

歷作為數(shù)據(jù)處理合法性的基礎(chǔ)，對個人數(shù)據(jù)的

人格利益和財(cái)產(chǎn)利益進(jìn)行債權(quán)式的保護(hù)----

例如對違約及侵權(quán)行為的損害賠償請求權(quán)，權(quán)

利人可以借助反不正當(dāng)競爭法和消費(fèi)者權(quán)益

保護(hù)法的規(guī)定進(jìn)行維權(quán)。

根據(jù)我國《民事訴訟法》，還存在非營利

機(jī)構(gòu)或公益機(jī)構(gòu)代表分散的數(shù)據(jù)主體進(jìn)行民

事集團(tuán)訴訟的可能性。例如我國《個人信息保

護(hù)法》就規(guī)定對于違法處理個人信息、侵害眾

多個人的權(quán)益的，人民檢察院、法律規(guī)定的消

費(fèi)者組織和由國家網(wǎng)信部門確定的組織可以

依法向人民法院提起訴訟。另外，《未成年人

網(wǎng)絡(luò)保護(hù)條例（草案征求意見稿）》也規(guī)定如

果未成年人的網(wǎng)絡(luò)合法權(quán)益收到侵犯，且相關(guān)

組織和個人未代為提起訴訟的，人民檢察院可

以督促、支持其提起訴訟；涉及公共利益的，

人民檢察有權(quán)提起公益訴訟。然而，在這樣的

狀況下，實(shí)體法上的數(shù)據(jù)財(cái)產(chǎn)權(quán)關(guān)系不清晰，

也很容易引起糾紛。多明戈指出：“控制好數(shù)

據(jù)，控制好算法掌握的模型的所有權(quán)，這就是

21世紀(jì)戰(zhàn)爭的內(nèi)容。”這已經(jīng)暗示了數(shù)據(jù)財(cái)產(chǎn)

權(quán)以及學(xué)習(xí)后模型的知識產(chǎn)權(quán)之爭的必然性。

與這種“21世紀(jì)戰(zhàn)爭”相關(guān)，中國大數(shù)據(jù)產(chǎn)業(yè)

和人工智能產(chǎn)業(yè)在走出去的過程中反復(fù)遭到

歐美各國的質(zhì)疑和制裁，主要理由就是涉及數(shù)

據(jù)安全和算法倫理的基本權(quán)利保障不充分。因

此，完善數(shù)據(jù)財(cái)產(chǎn)權(quán)的實(shí)體規(guī)范，進(jìn)而將之提

升至基本權(quán)利的高度，是一項(xiàng)很重要并具有迫

切性的立法課題。

然而，如果完全按照歐盟那樣的根本規(guī)范

行事，又難免遏制數(shù)字經(jīng)濟(jì)高速增長的勢頭。

鑒于上述問題，筆者曾經(jīng)揭示了數(shù)據(jù)的規(guī)模和

質(zhì)量與人工智能的預(yù)測能力之間的正比例關(guān)

系，指出中國在數(shù)據(jù)收集和應(yīng)用方面的獨(dú)特優(yōu)

勢正是機(jī)器學(xué)習(xí)算法提高精密度的重要條件。

何況數(shù)據(jù)的本質(zhì)是信息，以流動性為特征，很

難進(jìn)行排他化、絕對化的處理；如果采取過度

保護(hù)的立法政策，反而有可能使數(shù)據(jù)的經(jīng)濟(jì)價(jià)

值無法實(shí)現(xiàn)。例如歐盟設(shè)立數(shù)據(jù)庫權(quán)利并進(jìn)行

嚴(yán)格的保護(hù)，最終導(dǎo)致沒有一家大型的數(shù)字經(jīng)

濟(jì)平臺和企業(yè)在歐洲崛起。實(shí)際上，歐盟也開

始對以GDPR為核心的數(shù)據(jù)法制框架進(jìn)行反思，

試圖兼顧數(shù)字經(jīng)濟(jì)發(fā)展的需求，在厘清數(shù)據(jù)產(chǎn)

權(quán)關(guān)系的基礎(chǔ)上充分發(fā)掘數(shù)據(jù)的商業(yè)價(jià)值。在

這里，中國可以與歐盟相向而行、互相借鑒。

五、數(shù)據(jù)合理使用原則與個人基本權(quán)利的保障

首先，對于中國而言，應(yīng)該認(rèn)識到片面強(qiáng)

調(diào)數(shù)字經(jīng)濟(jì)發(fā)展和對數(shù)據(jù)權(quán)利偏重民法救濟(jì)

的弊端，結(jié)合中國的實(shí)際情況適當(dāng)借鑒歐盟保

護(hù)數(shù)據(jù)權(quán)利的憲法方法。因?yàn)閷﹄[私和個人信

息的保護(hù)是自由的基礎(chǔ)，涉及個人意思自治、

言論自由、信息處分權(quán)以及反歧視，所以必須

把隱私和個人信息保護(hù)提升至基本權(quán)利的高

度，進(jìn)而強(qiáng)調(diào)數(shù)字人權(quán)的保障。結(jié)合大數(shù)據(jù)和

人工智能應(yīng)用場景可以看到，預(yù)測式警察系統(tǒng)

和信用評分系統(tǒng)的初衷雖然很好，但會導(dǎo)致標(biāo)

簽主義、身份原理的復(fù)活和大規(guī)模監(jiān)控，導(dǎo)致

社會的區(qū)塊分化和階層固化，這與黨的十八大

以來強(qiáng)調(diào)的國家治理體系和治理能力現(xiàn)代化

的目標(biāo)是不相符的。另外，缺乏倫理制約的機(jī)

器學(xué)習(xí)會導(dǎo)致算法黑箱化，在決策自動化的同

時(shí)導(dǎo)致問責(zé)機(jī)制分崩離析，形成機(jī)器官僚主義

支配的格局。因此，人工智能時(shí)代的數(shù)據(jù)權(quán)利

保障不僅需要民法的視角，而且非常需要憲法

的視角，包括對基于數(shù)據(jù)畫像而復(fù)活的身份原

理、基于遺傳信息而抬頭的血統(tǒng)主義、基于算

法偏見而加強(qiáng)的差別對待等現(xiàn)象的預(yù)防或糾

正。一旦保障數(shù)據(jù)基本權(quán)利的憲法框架得以確

立，數(shù)字經(jīng)濟(jì)立法的空間就有可能適當(dāng)拓展。

其次，為了在人工智能時(shí)代有效地落實(shí)基

本權(quán)利保障，有必要特別關(guān)注區(qū)塊鏈技術(shù)在社

會治理方面的應(yīng)用，因?yàn)閰^(qū)塊鏈的本質(zhì)在于隱

私的黑箱化、個人