人工智能倫理導(dǎo)論 課件 lecture5-隱私泄露問題、lecture6-偏見歧視問題

隱私泄露問題Lecture52024/7/2412024/7/242如果一個人被迫每分鐘都與其他人生活在一起，并且他的所有需要、思想、語言、幻想或喜悅都要受到公眾監(jiān)督，那么他就被剝奪了個性和人的尊嚴(yán)。被淹沒在大眾之中……這樣的生命，雖然是有意識的，但卻是可替代的；他已經(jīng)失去了自我?！剪斔梗‥dwardJ.Bloustein）人工智能倫理隱私及隱私權(quán)目錄隱私泄露方式人工智能隱私隱私概念隱私權(quán)123隱私泄露案例4隱私及隱私權(quán)2024/7/243人工智能倫理2024/7/244隱私概念4.1隱私及隱私權(quán)隱私隱私，是由“隱”和“私”兩個可拆分的具有獨(dú)立意思的字組成，但對隱私的正確理解，必須將“隱”和“私”有機(jī)地結(jié)合起來?！八健保孩賯€人的、自己的、與“公”相對，②為了自己的，③暗地里的，④秘密而不合法的?！八健本哂锌陀^性，是客觀存在的事實(shí)，必須是真實(shí)的而不是他人虛構(gòu)的?！八健迸c個人具有極強(qiáng)的關(guān)聯(lián)性，與個人生活、行為等聯(lián)系在一起，直接來源于人生經(jīng)歷、特異體質(zhì)、特殊情感經(jīng)歷或生活瑣事，只有能夠直接或間接判斷出當(dāng)事人的事情才是“私”?！半[”：①藏匿、不顯露的、不公開的，②藏在深處的，③秘密的事?！半[”并不是描述某件事情不為人知的事實(shí)狀態(tài)，而是當(dāng)事人不愿為他人知悉和介入的主觀意識?！半[”具有主觀性，不同歷史時期、不同國家、不同民族、不同文化背景、不同的個人，對其所享有隱私的范圍及隱私程度都有不同的認(rèn)識?！半[”具有能動性，即個人可以決定隱什么、對誰隱。對個人而言，隱的對象可以是所有人也可以是一部分人。隱私，是指一種同“公共利益、群體利益無關(guān)，個人不愿外界干涉的個人私密和個人不愿意外界介入或不便介入的個人領(lǐng)域。”隱私既是一種個人價值也是一種個人權(quán)利，其核心價值在于尋求個體的相對獨(dú)立性與自主性。隱私，顧名思義，隱蔽、不公開的私事。人工智能倫理2024/7/245隱私概念4.1隱私及隱私權(quán)隱私分為三種形態(tài)：個人信息、私人活動和私人空間，分別代表無形的隱私、動態(tài)的隱私及有形的隱私。個人信息隱私是指私人信息，包括所有的個人資料，例如姓名、健康狀況、財(cái)產(chǎn)狀況、家庭情況等；私人活動隱私是指個人生活由自己決定，包括生育、家庭和個人切身事務(wù)等；私人空隱私是個人隱秘范圍，如身體私密部位、家庭住所等。隱私的性質(zhì)：隱私的客觀性：隱私是客觀真實(shí)的社會存在。社會輿論、國家法律或其他規(guī)則可以對特定隱私作否定性的評價，但無法否認(rèn)它的存在。隱私的自然性：只要主體愿意隱瞞，隱私客體即可成為隱私事實(shí)，即使違反法律或公序良俗，隱私照樣可以產(chǎn)生并繼續(xù)存在。而且，是否公開、何時公開隱私內(nèi)容，也任由當(dāng)事人自行處置。隱私是一種范圍非常廣的概念，并沒有任何一部立法或文件對隱私權(quán)作出明確而又具體的定義。粗略地看，隱私至少包括以下九個方面：關(guān)于私有財(cái)產(chǎn)的隱私；關(guān)于姓名與形象利益的隱私；關(guān)于自己之事不為他/她人干涉之隱私；關(guān)于一個組織或事業(yè)內(nèi)部事務(wù)的隱私；關(guān)于某些場合不便露面的隱私；關(guān)于尊重他/她人不透露其個人信息之隱私；關(guān)于性生活及其它私生活之隱私；關(guān)于不被他/她人監(jiān)視之要求的隱私；私人相對于官員的隱私。人工智能倫理2024/7/2464.1隱私及隱私權(quán)隱私的內(nèi)容即客觀方面是指特定個人對其事務(wù)、信息或領(lǐng)域秘而不宣、不愿他人探知或干涉的事實(shí)或行為。隱私的內(nèi)容是隱私主體的主觀意志作用于客體及客觀世界，即主客觀因素相統(tǒng)一的過程和結(jié)果，也就是隱私中"隱"的表現(xiàn)。隱私的客體是自然人的個人事務(wù)、個人信息和個人領(lǐng)域。個人事務(wù)是相對于公共事務(wù)、群體事務(wù)、單位事務(wù)而言，是以具體的、有形的形式表現(xiàn)于外界的隱私，且以特定個人為活動的主體，如朋友往來、夫妻生活等。個人信息系指特定個人不愿公開的情報(bào)、資料、數(shù)據(jù)等，是抽象的、無形的隱私。個人領(lǐng)域是指個人的隱秘范圍，如身體的隱蔽部位、日記內(nèi)容、通信秘密等，隱私的客體是隱私中的"私"的具體表現(xiàn)。隱私的主體是自然人。隱私源于人的羞恥感，故只有自然人才可以成為享有隱私的主體。企業(yè)法人及其他非法人組織等經(jīng)營單位的秘密屬于商業(yè)秘密，僅與商業(yè)信譽(yù)和經(jīng)濟(jì)利益相聯(lián)系，與人的羞恥感無關(guān)，故企業(yè)單位不能構(gòu)成隱私主體。國家機(jī)關(guān)的秘密，如審判秘密是公共權(quán)力運(yùn)作的表現(xiàn)，此種秘密的泄露將對機(jī)關(guān)系統(tǒng)的正常運(yùn)作產(chǎn)生損害，也與羞恥感無關(guān)，故國家機(jī)關(guān)也不能成為隱私主體。隱私概念隱私具有主體、客體和內(nèi)容共三個方面的屬性人工智能倫理2024/7/247隱私概念古老部落的居民為了防止其他部落居民及野獸進(jìn)入，在居住山洞周圍設(shè)立屏障，縱使主要是為了安全，其中也包含了自身群體生活不被外界所知的隱私意識。西方《圣經(jīng)》里記載的故事：人類始祖亞當(dāng)和夏娃在偷吃禁果后，不愿赤身裸體去見上帝，開始穿上無花果葉子制作裙子來遮羞，其中不乏其對隱私的需求。由此可知，原始社會時期，人們的隱私意識處于朦朧階段，隱私范圍主要體現(xiàn)在軀體方面。隱私意識更加清晰，隱私保護(hù)意識逐漸增強(qiáng)，開始被賦予道德意義。隱私范圍，除了軀體外，增加了住所、生產(chǎn)和生活方面的秘密。1341年，倫敦一名婦女投訴其鄰居，稱鄰居能透過房子的破損窗戶，看見她的花園，侵犯了她的私人空間。從西周時期統(tǒng)治者派人監(jiān)視路上行人，到明朝的錦衣衛(wèi)制度，為了維護(hù)宗族、封建統(tǒng)治，常以犧牲百姓的個人隱私作為代價，隱私范圍和隱私保護(hù)十分有限。4.1隱私及隱私權(quán)隨著社會生產(chǎn)力的發(fā)展，政治、經(jīng)濟(jì)、文化文明的演變，隱私的概念內(nèi)涵在不斷演化和變遷。以時間為線索，從原始社會、到農(nóng)業(yè)社會、到工業(yè)社會、再到信息社會，通過人類隱私意識的進(jìn)化可以看出隱私概念的嬗變。人工智能倫理原始社會農(nóng)業(yè)社會2024/7/248隱私概念工業(yè)社會信息社會社會生產(chǎn)力出現(xiàn)飛躍式進(jìn)步，隨著小農(nóng)經(jīng)濟(jì)的逐漸瓦解，商品經(jīng)濟(jì)日益發(fā)展，資產(chǎn)階級逐漸登上歷史舞臺，為了保障資產(chǎn)階級私人財(cái)產(chǎn)權(quán)和和伴隨財(cái)富積累而來對自由的追求，在資產(chǎn)階級天賦人權(quán)觀的基礎(chǔ)上形成了明確的隱私觀。傳統(tǒng)的私人生活領(lǐng)域獲得保護(hù)，人們不再單純遵循集體利益，而是開始大膽追求個人利益、關(guān)注個人隱私，人格尊嚴(yán)包括個人生活秘密等被首次賦予了法律意義，以滿足人們?nèi)找嬖鲩L的對個人私密生活的追求。人類進(jìn)入高速發(fā)展的信息社會，互聯(lián)網(wǎng)改變了人類傳統(tǒng)的生產(chǎn)與生活模式，網(wǎng)絡(luò)社交逐漸成為主流，人與人之間的互動越來越深入和頻繁，也增加了人們私生活被侵犯的可能性，其侵犯速度之快、范圍之廣、程度之深，也是史無前例的，個人隱私面臨著前所未有的威脅。從美國“棱鏡門”事件到我國近年頻繁發(fā)生的網(wǎng)絡(luò)隱私泄露事件，再次引發(fā)了人們對隱私的強(qiáng)烈關(guān)注，保護(hù)隱私成為人們共識。同時，隨著大數(shù)據(jù)時代的來臨，隱私范圍也在不斷擴(kuò)展，傳統(tǒng)隱私面臨著很大的改變。4.1隱私及隱私權(quán)人工智能倫理2024/7/249隱私概念4.1隱私及隱私權(quán)人工智能倫理棱鏡計(jì)劃（PRISM）棱鏡計(jì)劃（PRISM）是一項(xiàng)由美國國家安全局（NSA）和聯(lián)邦調(diào)查局（FBI）自2007年開始實(shí)施的絕密電子監(jiān)聽計(jì)劃，該計(jì)劃的正式名號為“US-984XN”。通過“棱鏡”項(xiàng)目，當(dāng)局能夠直接進(jìn)入美國網(wǎng)際網(wǎng)絡(luò)公司的中心服務(wù)器進(jìn)行數(shù)據(jù)挖掘、情報(bào)收集、民眾網(wǎng)絡(luò)活動監(jiān)視。包括微軟、雅虎、谷歌、Facebook、PalTalk、美國在線、Skype、YouTube、蘋果在內(nèi)的國際網(wǎng)絡(luò)巨頭參與其中。PRISM計(jì)劃能夠?qū)磿r通信和既存資料進(jìn)行深度監(jiān)聽，包括電子郵件、即時消息、視頻、照片、存儲數(shù)據(jù)、語音聊天、文件傳輸、視頻會議、登錄時間和社交網(wǎng)絡(luò)資料的細(xì)節(jié)。通過棱鏡項(xiàng)目，NSA能看到個人聊天日志、存儲的數(shù)據(jù)、語音通信、文件傳輸、個人社交網(wǎng)絡(luò)數(shù)據(jù)、私人電話記錄(時長、通話地點(diǎn)、通話雙方的電話號碼)，甚至可以實(shí)時監(jiān)控一個人正在搜索的網(wǎng)絡(luò)內(nèi)容。需要說明，PRISM項(xiàng)目的監(jiān)控目標(biāo)主要為外籍人士，而非美國人，，從互聯(lián)網(wǎng)獲取信息后，系統(tǒng)會進(jìn)行篩選，除去美國公民有關(guān)的信息。PRISM項(xiàng)目將監(jiān)控國家國劃為三個等級：不侵入、侵入和嚴(yán)重侵入。例如，英國、澳大利亞、新西蘭、加拿大被列為不侵入國家；法國被列為侵入國家，每日監(jiān)聽約2百萬起通訊；德國被列為嚴(yán)重侵入國家舉，每月監(jiān)聽約5億次，幾乎與中國等監(jiān)控程度相等。僅2012年，在《總統(tǒng)每日簡報(bào)》中，PRISM項(xiàng)目數(shù)據(jù)被引用1477次，美國國安局至少有1/7的報(bào)告使用項(xiàng)目數(shù)據(jù)。2024/7/2410隱私概念4.1隱私及隱私權(quán)人工智能倫理棱鏡計(jì)劃（PRISM）2013年6月5日，英國《衛(wèi)報(bào)》先扔出了第一顆輿論炸彈：美國國家安全局有一項(xiàng)代號為"棱鏡"的秘密項(xiàng)目，要求電信巨頭威瑞森公司（Verizon）必須每天上交數(shù)百萬用戶的通話記錄。2013年6月6日，美國《華盛頓郵報(bào)》披露稱，過去6年間，美國國家安全局和聯(lián)邦調(diào)查局通過進(jìn)入九大網(wǎng)絡(luò)巨頭的服務(wù)器，監(jiān)控美國公民的電子郵件、聊天記錄、視頻及照片等秘密資料。美國輿論隨之嘩然。2013年6月7日，在加州圣何塞視察的美國總統(tǒng)奧巴馬做出回應(yīng)，公開承認(rèn)該計(jì)劃。他強(qiáng)調(diào)說，這一項(xiàng)目不針對美國公民或在美國的人，目的在于反恐和保障美國人安全，而且經(jīng)過國會授權(quán)，并置于美國外國情報(bào)監(jiān)視法庭的監(jiān)管之下。2013年6月9日，《衛(wèi)報(bào)》拋出專訪，應(yīng)“告密者”本人要求公布其身份?，F(xiàn)年29歲的愛德華·斯諾登是美國防務(wù)承包商博思艾倫咨詢公司的一名雇員，過去4年內(nèi)一直為美國國家安全局工作。在2013年5月將文件復(fù)制后前往香港，并將文件交由媒體陸續(xù)公開。他在專訪中說，自己良心上無法允許美國政府侵犯全球民眾隱私以及互聯(lián)網(wǎng)自由。2013年6月11日，斯諾登離開在香港居住的酒店去向不明，美多名政府高官譴責(zé)斯諾登為“叛國者”。美國公民自由聯(lián)盟正式起訴美國政府，認(rèn)為“棱鏡”項(xiàng)目侵犯言論自由違憲。2024/7/2411隱私概念4.1隱私及隱私權(quán)人工智能倫理棱鏡計(jì)劃（PRISM）2013年6月13日，香港《南華早報(bào)》發(fā)布斯諾登獨(dú)家專訪，披露美國政府更多監(jiān)視細(xì)節(jié)。斯諾登披露，自2009年以來，美國在全球進(jìn)行了6.1萬次的滲透行動，目標(biāo)包括數(shù)百個內(nèi)地及香港個人及機(jī)構(gòu)。“我們（斯諾登受雇公司以及美國國安局）主要攻擊網(wǎng)絡(luò)中樞，像大型互聯(lián)網(wǎng)路由器，”“這樣我們可以接觸數(shù)以十萬計(jì)電腦的通信數(shù)據(jù)，而不用入侵每一臺電腦?！蓖?，《衛(wèi)報(bào)》和《華盛頓郵報(bào)》報(bào)道，美國聯(lián)邦調(diào)查局（FBI）局長羅伯特·米勒表示，F(xiàn)BI已經(jīng)開始對曝光美國國家安全局“棱鏡”計(jì)劃的斯諾登展開調(diào)查，這是美國官方首次證實(shí)已對斯諾登采取行動。2013年6月14日，英國政府警告全球的航空公司不要讓斯諾登乘坐他們的班機(jī)前往英國。2013年6月15日，香港特區(qū)行政長官梁振英表示，在斯諾登事件上，特區(qū)政府將按香港的法律和既定程序處理。2013年6月16日，《衛(wèi)報(bào)》再發(fā)斯諾登的文件，曝光英國情報(bào)機(jī)構(gòu)曾監(jiān)聽2009年G20峰會。2013年6月20日，美國人事監(jiān)督機(jī)構(gòu)總監(jiān)說，一家2011年受雇對斯諾登實(shí)施背景審查的公司正受到調(diào)查。我愿意犧牲一切的原因是，良心上無法允許美國政府侵犯全球民眾隱私、互聯(lián)網(wǎng)自由。——愛德華·斯諾登2024/7/2412隱私概念4.1隱私及隱私權(quán)人工智能倫理棱鏡計(jì)劃（PRISM）2013年6月21日，斯諾登遭美國政府通緝，事發(fā)時人在香港，聯(lián)邦檢察官正式指控斯諾登，其中包括根據(jù)美國反間諜法提出的刑事指控。2013年6月23日，中國香港特別行政區(qū)政府就斯諾登事件發(fā)表聲明，稱斯諾登已自行循合法和正常途徑，離開中國香港，前往第三國。據(jù)俄媒援引機(jī)場內(nèi)部人士的消息，斯諾登的飛行路線是23日從香港乘坐俄航SU213航班飛抵莫斯科，24日乘坐SU150飛往古巴，當(dāng)天再飛往委內(nèi)瑞拉的加拉加斯。俄羅斯航空確認(rèn)斯諾登飛往古巴哈瓦那的行程。2013年6月24日，據(jù)俄羅斯媒體報(bào)道，斯諾登24日并未出現(xiàn)在由莫斯科飛往哈瓦那的飛機(jī)上，下落成迷。2013年7月1日，斯諾登向俄羅斯遞交避難申請，同時發(fā)表聲明，抨擊美國總統(tǒng)奧巴馬和美國政府，并威脅向外界披露更多機(jī)密。2013年8月1日，斯諾登離開俄羅斯謝列梅捷沃機(jī)場前往莫斯科境內(nèi)，并獲得俄羅斯為期1年的臨時避難申請。2013年10月8日，斯諾登在俄購物照曝光。這是斯諾登8月離開首都莫斯科機(jī)場以來首次出現(xiàn)在公眾視線。2014年8月，斯諾登再次獲得俄羅斯的居留許可，期限為3年。2020年10月22日，俄羅斯給予斯諾登永久居留權(quán)。2020年11月2日，據(jù)俄羅斯衛(wèi)星網(wǎng)報(bào)道斯諾登決定提交美俄雙重國籍申請。2024/7/2413隱私概念4.1隱私及隱私權(quán)人工智能倫理棱鏡計(jì)劃（PRISM）各國就數(shù)據(jù)保護(hù)制訂有不同法律，但這些法律傾向于規(guī)范公司可以保存何種客戶數(shù)據(jù)、拿這些數(shù)據(jù)做什么、能保存多長時間，而不是管理政府活動。大多數(shù)公司的隱私政策包括一個條款：在收到合法請求情況下，它們將會共享信息。官員們通常會辯稱，阻止恐怖主義高于保護(hù)隱私權(quán)。奧巴馬9日在對美國的監(jiān)視方法進(jìn)行辯護(hù)時稱：“你不能在擁有100%安全的情況下同時擁有100%隱私、100%便利?！庇饨淮蟪己诟裨诮邮蹷BC采訪時稱，“英國的守法公民永遠(yuǎn)不會知道政府部門為了阻止其身份被盜或者挫敗恐怖襲擊所作的一切事情?！庇脩魯?shù)據(jù)（例如電子郵件和社交媒體活動）并不總是存儲在用戶自身所在的國家里。例如，F(xiàn)acebook在其隱私條款中稱，所有用戶必須同意他們的數(shù)據(jù)“被轉(zhuǎn)送和存儲在美國”。美國2001年的愛國者法案給予美國政府在使用按這種方式存儲的歐洲數(shù)據(jù)新的權(quán)力?！半[私國際（PrivacyInternational）”認(rèn)為：“由于世界主要技術(shù)公司的總部都在美國，那些參與我們互聯(lián)世界、使用谷歌或者SKYPE的人士的隱私都可能被棱鏡項(xiàng)目所侵犯。美國政府可能接觸到世界的大部分?jǐn)?shù)據(jù)。”斯諾登稱，出于對隱私權(quán)的擔(dān)心才采取報(bào)料行為。他對英國衛(wèi)報(bào)稱：“我不想生活在一個做那些事情的社會里，我不想生活在一言一行都被記錄的世界里?！?024/7/2414隱私權(quán)塞繆爾·D·沃倫路易斯·D·布蘭迪斯隱私權(quán)（Righttoprivacy）是指公民享有的私人生活安寧與私人信息依法受到保護(hù)，不被他人非法侵?jǐn)_、知悉、搜集、利用和公開等的一種人格權(quán)

。隱私權(quán)賦予權(quán)利人對私人生活的控制權(quán)，這種控制權(quán)包括防御他人竊取個人隱私與是否向他人公開隱私及公開范圍的決定權(quán)

?！墩撾[私權(quán)》一文中將隱私權(quán)定義為：個人在通常情況下決定他的思想、觀點(diǎn)和情感在多大程度上使別人知悉的權(quán)利，每一個人都有決定自己的所有事情不被公之于眾、不受他人干涉的權(quán)利。英國《牛津法律大辭典》認(rèn)為，隱私權(quán)是不受他人干擾的權(quán)利，關(guān)于人的私生活不受侵犯或不得將人的私生活非法公開的權(quán)利要求。1890年12月，哈佛大學(xué)法學(xué)院的布蘭迪斯和沃倫在《哈佛法律評論》上發(fā)表了《論隱私權(quán)》（TheRighttoPrivacy）一文，首次提出隱私權(quán)的概念及系統(tǒng)理論。這是人類歷史上第一次使隱私這個主題變得清晰。他們認(rèn)為隱私權(quán)是生存權(quán)的延展，是一種不受打擾的獨(dú)處權(quán)利。在其后數(shù)百年的發(fā)展歷程中，經(jīng)歷了各種隱私被侵害的情況發(fā)生后，逐漸形成了隱私權(quán)這一重要的權(quán)利內(nèi)容，并賦予其重要含義。4.1隱私及隱私權(quán)人工智能倫理2024/7/2415隱私權(quán)隱私權(quán)的幾種觀點(diǎn)：其一，所謂隱私權(quán)，也稱為私生活的秘密權(quán)，是指公民以自己的個人私生活秘密和個人生活自由為內(nèi)容，禁止他/她人干涉的一種人格權(quán)。其二，隱私權(quán)是自然人享有的對其個人的與公共利益無關(guān)的個人信息、私人活動和私有領(lǐng)域進(jìn)行支配的一種人格權(quán)。其三，隱私權(quán)是指自然人享有的私生活安寧與私人信息依法受到保護(hù)，不被他/她人非法侵?jǐn)_、知悉、搜集、利用和公開等的一種人格權(quán)。其四，所謂隱私權(quán)，也就是公民個人隱瞞純屬個人的私事和秘密，未經(jīng)本人允許不得公開的權(quán)利。其五，隱私權(quán)是自然人對自己私生活秘密信息進(jìn)行獨(dú)立支配的一種人格權(quán)。其六，隱私權(quán)是自然人和社會組織對其秘密信息加以控制、保護(hù)的權(quán)利。按照主體的多寡，可分為集體隱私權(quán)和個人隱私權(quán)。集體隱私權(quán)是指集團(tuán)、機(jī)構(gòu)自己決定自己的信息在何時、以何種方式、以及在多大程度上向他人傳播的權(quán)利。4.1隱私及隱私權(quán)人工智能倫理隱私權(quán)的主體隱私權(quán)的主體應(yīng)為自然人，自然人擁有理性和情感，需要法律保護(hù)其情感安定、維護(hù)其人格尊嚴(yán)。隱私權(quán)是一種人格權(quán)，是存在于權(quán)利人自身人格上的權(quán)利。隱私權(quán)的主體不包括法人，法人也會有不欲人知的秘密，一般表現(xiàn)為國防機(jī)密、商業(yè)秘密等，但是法人的秘密一般屬于公共領(lǐng)域的事務(wù)，而非個人的人格尊嚴(yán)內(nèi)容。隱私權(quán)的主體不包括死者，隱私權(quán)是一種個人利益，自然人死亡后，個人利益會隨著本身的物質(zhì)載體死亡而消亡，但是對死者生前利益的侵害，可能會對死者的親屬及利害關(guān)系人造成傷害，甚至對公序良俗也會造成不良影響。隱私權(quán)的客體隱私權(quán)的客體應(yīng)只包含信息，而不涉及其它與個人相關(guān)的利益或領(lǐng)域，特別是隨著信息社會的建立，各國紛紛調(diào)用強(qiáng)大的行政權(quán)力來建構(gòu)龐大的個人資料處理體系，監(jiān)控著人們?nèi)粘Ｉ畹囊慌e一動，使得隱私權(quán)中信息利益的地位得到了進(jìn)一步的凸顯。個人與公共利益無關(guān)的事情是構(gòu)成隱私權(quán)客體的前提條件，任何公共的、群體的事情或與之有關(guān)的事情都不能成為某個人的隱私。被法律所保護(hù)的個人隱私才是法律意義上的隱私，才能真正構(gòu)成隱私權(quán)的客體。2024/7/2416隱私權(quán)隱私權(quán)的常見類型：生活自由權(quán)。權(quán)利主體按照自己的意志從事或不從事某種與社會公共利益無關(guān)或無害的活動，不受他人干預(yù)、破壞或支配；情報(bào)保密權(quán)。個人生活情報(bào)，包括所有的個人信息和資料。諸如，身高、體重、身體缺陷、健康狀況、財(cái)產(chǎn)狀況、婚戀、家庭社會關(guān)系、愛好、信仰、心理特征等等。權(quán)利主體有權(quán)禁止他/她人非法使用個人生活情報(bào)資料，例如，未經(jīng)他人同意不得強(qiáng)制披露其財(cái)產(chǎn)狀況、社會關(guān)系以及其它不為外界知悉或公開的私事等；通訊秘密權(quán)。權(quán)利主體有權(quán)對個人信件、電報(bào)、電話、傳真及談?wù)摰膬?nèi)容加以保密，禁止他/她人非法竊聽或竊取。信息處理及傳輸技術(shù)的飛速發(fā)展，使個人通訊內(nèi)容可以輕而易舉地被竊聽或竊取，保障個人通訊安全已成為隱私權(quán)的重要內(nèi)容；隱私利用權(quán)。權(quán)利主體有權(quán)依法按自己的意志利用其隱私，以從事各種滿足自身需要的活動。如利用個人的生活資料撰寫自傳、利用自身形象或形體供繪畫或攝影的需要等。但隱私的利用不得違反法律的強(qiáng)制性規(guī)定，不得有悖于公序良俗，即，權(quán)利不得濫用。如，利用自己身體隱私部位制作淫穢物品。4.1隱私及隱私權(quán)人工智能倫理隱私權(quán)包括四項(xiàng)基本權(quán)利：隱私隱瞞權(quán)：權(quán)利主體對于自己的隱私進(jìn)行隱瞞，不為人所知的權(quán)利。隱私利用權(quán)：自然人對于自己的隱私權(quán)積極利用，以滿足自己精神、物質(zhì)等方面需要的權(quán)利。隱私支配權(quán)：公民對自己的隱私有權(quán)按照自己的意愿進(jìn)行支配。隱私維護(hù)權(quán)：隱私權(quán)主體對于自己的隱私享有維護(hù)其不受侵犯的權(quán)利，在受到非法侵犯時可以尋求公力與私力救濟(jì)。2024/7/241719世紀(jì)60年代，隨著機(jī)器化大生產(chǎn)的發(fā)展，城鎮(zhèn)化進(jìn)程加劇，人們曾經(jīng)熟悉的熟人社會逐漸被陌生人社會所取代，人與人之間需要一定的空間感和距離感。這就需要人與人之間有一定的私人空間，也就是公民的個人隱私，因此，隱私權(quán)應(yīng)時而生，這是隱私權(quán)產(chǎn)生的社會基礎(chǔ)。而在另一方面，專業(yè)化社會大生產(chǎn)推動了社會文明的進(jìn)步，人們的獨(dú)立自主意識日益受到重視，在這種背景下隱私權(quán)概念被提出。在信息社會階段，隱私權(quán)保護(hù)上升到法律層面，隱私權(quán)觀念深入人心。從20世紀(jì)60年代開始，隱私權(quán)逐漸成為一種憲法性權(quán)利。1959年德國聯(lián)邦最高法院作出憲法判例，從法律上確認(rèn)了對隱私權(quán)的保護(hù)。1982年，我國在制定憲法時也涉及了相關(guān)隱私權(quán)保護(hù)的法律規(guī)定。以法律形式確定對公民隱私權(quán)的保護(hù)，維護(hù)公民生活的安定和自由，也是維護(hù)人類生活和諧的重要組成部分。隨著人工智能時代到來，各種高科技產(chǎn)品層出不窮，各種新技術(shù)應(yīng)用于社會生活的各個方面。這使人們的生活更加便利，但同時也增加了隱私權(quán)被侵犯的風(fēng)險(xiǎn)。隱私權(quán)又被賦予新的時代內(nèi)涵和意義。如何利用人工智能技術(shù)加大對隱私權(quán)的保護(hù)是值得密切關(guān)注和重點(diǎn)研究的課題。2017年我國新頒布的《民法總則》是民事立法史上具有里程碑意義的事件。作為對人工智能時代的回應(yīng)，《民法總則》對隱私、個人信息、數(shù)據(jù)保護(hù)都做了有針對性的規(guī)定。4.1隱私及隱私權(quán)隱私權(quán)人工智能倫理隱私及隱私權(quán)目錄隱私泄露方式人工智能隱私隱私概念隱私權(quán)123隱私泄露案例4隱私權(quán)的新特點(diǎn)隱私泄露與侵權(quán)2024/7/2418人工智能倫理2024/7/2419隱私權(quán)的新特點(diǎn)隱私權(quán)的范圍不斷深化擴(kuò)大隨著現(xiàn)代人格權(quán)的發(fā)展和豐富，隱私權(quán)空間范圍從私人住所擴(kuò)展及公共區(qū)域。隱私權(quán)判斷不能僅從空間上區(qū)分，私人住所和公共區(qū)域不再是隱私權(quán)的絕對界限，公民個人隱私權(quán)也及于公共區(qū)域。如幼兒園為了方便家長實(shí)時關(guān)注孩子的情況，在園內(nèi)安裝同步上傳畫面信息的攝像頭。這在一定程度上侵犯了園內(nèi)教職工和其他孩子的隱私權(quán)。隨著信息網(wǎng)絡(luò)的發(fā)展，隱私權(quán)的保護(hù)也從有形空間擴(kuò)展至無形空間。人工智能技術(shù)發(fā)展使信息網(wǎng)絡(luò)的開放性、交互性得到更大的發(fā)揮。因而隱私權(quán)保護(hù)的范圍也從物理空間擴(kuò)展及虛擬空間。4.2人工智能隱私②隱私權(quán)的效力在一定程度上發(fā)生了變化。隱私權(quán)產(chǎn)生之初，是因其消極防御性功能而產(chǎn)生的。隱私權(quán)的消極防御功能是為了防止他人侵害，排除他人干涉。因而，個人對其隱私享有處置的權(quán)利。個人有權(quán)決定個人隱私被他人知悉或者禁止他人知悉。但隨著人工智能時代的到來，隱私權(quán)已從消極防御性權(quán)利向積極利用性權(quán)利轉(zhuǎn)化。人們在積極合理的利用人工智能技術(shù)保護(hù)隱私權(quán)方面有了重大進(jìn)展。如：在醫(yī)療方面，通過挖掘社交媒體數(shù)據(jù)推測用戶的健康風(fēng)險(xiǎn)，且在實(shí)現(xiàn)護(hù)理自動化方面人工智能也發(fā)揮了難以替代的作用。甚至在公共安全方面，人工智能以其技術(shù)的獨(dú)特性和創(chuàng)造性在無人機(jī)監(jiān)控、數(shù)據(jù)算法識別金融詐騙等方面起了至關(guān)重要作用。人工智能倫理③隱私權(quán)保護(hù)與數(shù)據(jù)共享之間的平衡問題人工智能時代的特點(diǎn)之一是數(shù)據(jù)共享，數(shù)據(jù)共享為隱私保護(hù)帶來新的危機(jī)，隱私權(quán)的保護(hù)也為數(shù)據(jù)共享造成了一定困擾。為了加強(qiáng)數(shù)據(jù)共享，用戶勢必要讓渡部分隱私權(quán)作為交換。人工智能技術(shù)加強(qiáng)用戶的數(shù)據(jù)保護(hù)，但也造成了用戶信息的全程留痕。在人工智能時代平衡數(shù)據(jù)共享與保護(hù)個人隱私最重要的是要在數(shù)據(jù)共享中最大程度維護(hù)個人隱私。因而如何平衡隱私權(quán)保護(hù)與數(shù)據(jù)共享之間的關(guān)系是需要重點(diǎn)關(guān)注的問題之一。2024/7/2420隱私泄露與侵權(quán)4.2人工智能隱私泄露是指不應(yīng)該讓人知道的事情讓人知道了。隱私泄露是隱秘信息無意或有意地被他/她人獲取。隱私泄露通常是指利用技術(shù)手段和工具對個人信息進(jìn)行的技術(shù)性竊取，屬于信息安全問題。隱私通常以數(shù)據(jù)為代表的各種形式進(jìn)行存儲、傳輸和加工。隱私泄露也稱為數(shù)據(jù)泄露或者信息泄露。隱私泄露可分為直接泄露和間接泄露：隱私直接泄露，也稱一次泄露，指個人隱私信息被個人或組織直接獲取。即隱私原本只有隱私所有者自己知道，其他人不知道，只有當(dāng)隱私所有者將隱私以某種信號進(jìn)行釋放，隱私才會被人知道。比如在社交媒體上發(fā)送自己的個人基本信息、個人照片。隱私間接泄露，也稱二次泄露，指在隱私直接泄露的基礎(chǔ)上惡意攻擊者依然可以對用戶已泄露的隱私進(jìn)行分析和挖掘，得出進(jìn)一步的詳細(xì)用戶隱私。比如，社交媒體服務(wù)商通過讀取用戶的通訊錄，運(yùn)用大數(shù)據(jù)技術(shù)將用戶與其好友進(jìn)行一種關(guān)聯(lián)，在用戶使用社交軟件時推送與好友相關(guān)的一些信息。人工智能倫理淘寶類似的消費(fèi)平臺重定向，對普通用戶平時瀏覽的網(wǎng)頁、圖片、搜索的關(guān)鍵詞、消費(fèi)記錄等進(jìn)行標(biāo)記，推測分析出用戶需求，進(jìn)行智能推送，激發(fā)用戶的潛在性消費(fèi)；百度地圖等通過手機(jī)可以快速定位用戶的位置信息，這些信息綜合在一起可以預(yù)測用戶未來可能的行為或狀態(tài)。電商通過購物記錄的大數(shù)據(jù)進(jìn)行分析，可以做到比家人更了解你的消費(fèi)習(xí)慣，甚至推測出你的年齡區(qū)間、興趣愛好、健康體態(tài)等。每一個網(wǎng)絡(luò)用戶都會在網(wǎng)絡(luò)上留下不可磨滅的“印記”，人工智能通過這種“印記”分析用戶的興趣，判斷并推測用戶的個人信息，以及預(yù)測用戶未來的行動狀態(tài)。。2024/7/2421隱私泄露與侵權(quán)4.2人工智能隱私人工智能隱私侵權(quán)的新特點(diǎn)侵權(quán)主體更具多元性隱私侵權(quán)主體從個人、組織擴(kuò)大到企業(yè)乃至相關(guān)擁有隱私數(shù)據(jù)的主體。凡隱私數(shù)據(jù)的擁有者或能夠利用人工智能技術(shù)對海量數(shù)據(jù)進(jìn)行分析利用者，均有可能成為隱私權(quán)侵權(quán)的新主體。大型企業(yè)和政府相關(guān)部門擁有海量的數(shù)據(jù)信息，并且最先進(jìn)人工智能技術(shù)的使用權(quán)限，這為他們從海量的數(shù)據(jù)信息中獲取自己需要的精準(zhǔn)化信息提供了強(qiáng)有力支撐。侵權(quán)客體更具擴(kuò)展性隱私權(quán)客體范圍從原本僅與社會生活息息相關(guān)的信息擴(kuò)展到公民社會生活方方面面的信息。除了原有的包含電話號碼、家庭住址、身份證信息、戶籍信息等依舊為公民的隱私信息外，購物記錄、社交聊天記錄甚至應(yīng)用下載記錄都是當(dāng)代隱私信息的范疇。這些不同形式的數(shù)據(jù)信息是當(dāng)代隱私權(quán)的保護(hù)范圍。傳統(tǒng)公共和私人場所物理空間界限被突破。侵權(quán)手段更具多樣性除了合法收集的隱私信息被不當(dāng)利用引發(fā)的隱私權(quán)侵權(quán)現(xiàn)象，還存在著因隱私信息被非法收集而導(dǎo)致隱私侵權(quán)事件的發(fā)生。各大網(wǎng)絡(luò)平臺成為隱私數(shù)據(jù)的聚集地，黑客們非法入侵?jǐn)?shù)據(jù)源電腦盜取因信息交互而產(chǎn)生的大量數(shù)據(jù)。黑客熟練運(yùn)用人工智能技術(shù)發(fā)現(xiàn)各大網(wǎng)站的漏洞進(jìn)而盜取大量的用戶隱私信息，嚴(yán)重侵犯了公民的隱私權(quán)。侵權(quán)后果更具嚴(yán)重性豐富的數(shù)據(jù)源經(jīng)過先進(jìn)的人工智能技術(shù)運(yùn)算和分析，可以挖掘出前所未有的大量隱藏信息，并以各種形式發(fā)布、被公眾所知悉。人們的隱私信息會被過度收集和非法使用，私人空間不僅是原有的生活空間，還包括私密的社交空間、虛擬空間等,幾乎囊括了我們?nèi)粘Ｉ畹姆椒矫婷?，受眾面廣、波及范圍增大，后果將更加嚴(yán)重、不堪設(shè)想。人工智能倫理侵權(quán)是指侵害他/她人權(quán)利或利益的行為，包括一般侵權(quán)行為和特殊侵權(quán)行為。前者指行為人基于過錯直接致人損害，因而適用民法上一般責(zé)任條款的行為；后者指行為人雖無過錯，但依民法特別責(zé)任條款或民事特別法應(yīng)承擔(dān)責(zé)任的行為。隱私侵權(quán)，又稱為隱私權(quán)侵權(quán)，是指對他/她人的隱私信息或隱私權(quán)利的侵害。隱私及隱私權(quán)目錄隱私泄露方式人工智能隱私隱私概念隱私權(quán)123隱私泄露案例4隱私權(quán)的新特點(diǎn)隱私泄露與侵權(quán)數(shù)據(jù)采集環(huán)節(jié)數(shù)據(jù)存儲環(huán)節(jié)數(shù)據(jù)傳輸環(huán)節(jié)數(shù)據(jù)應(yīng)用環(huán)節(jié)人工智能倫理2024/7/2423數(shù)據(jù)采集環(huán)節(jié)4.3隱私泄露方式數(shù)據(jù)采集環(huán)節(jié)的隱私泄露方式主要是通過便攜式終端、遠(yuǎn)程設(shè)備、可穿戴設(shè)備等進(jìn)行數(shù)據(jù)采集或連接互聯(lián)網(wǎng)留下的數(shù)據(jù)信息。主要有兩種情況：主動提交，用戶通過互聯(lián)網(wǎng)或者APP進(jìn)行信息的登記，或發(fā)布自己的信息。被動采集，用戶在使用軟/硬件過程中，軟/硬件收集用戶信息并記錄在數(shù)據(jù)庫。人工智能倫理泄露方式解釋主動提交誤登錄釣魚網(wǎng)站收到來自類似官方手機(jī)短信通知，內(nèi)容一般為資料、禮品領(lǐng)取等。之后點(diǎn)擊登錄某個網(wǎng)站進(jìn)行必要的信息填寫。提交明文信息用戶在進(jìn)行信息錄入時，APP或者網(wǎng)站采取的是明文(信息未經(jīng)加密)提交的方式進(jìn)行信息提交或錄入。公共機(jī)器遺留cookie用戶在公共機(jī)器上提交或錄入個人隱私信息時，瀏覽器保存用戶錄入的信息并存儲在cookie里。用戶填寫隱私信息用戶填寫的個人信息或其他隱私信息。泄露方式解釋被動采集假冒第三方人為采集數(shù)據(jù)竊取者冒充數(shù)據(jù)采集人員進(jìn)行數(shù)據(jù)的采集。暴力獲取數(shù)據(jù)通過違法暴力等手段，強(qiáng)行獲得數(shù)據(jù)庫的數(shù)據(jù)。法律法規(guī)不完善法律法規(guī)缺少對隱私數(shù)據(jù)保護(hù)的措施。APP采集Android或IOS等系統(tǒng)的應(yīng)用軟件，在用戶使用APP的過程中進(jìn)行隱私信息的采集。社交賬號授權(quán)登錄登錄第三方網(wǎng)站或者APP時，微信、QQ等社交軟件的快捷登錄，使第三方獲得用戶的信息?？纱┐髟O(shè)備后臺采集用戶在使用可穿戴設(shè)備進(jìn)行健康監(jiān)測時，第三方通過后臺直接在用戶不知情的情況下將用戶的健康隱私信息發(fā)送到第三方數(shù)據(jù)庫。身份認(rèn)證不完善數(shù)據(jù)采集軟件等存在身份認(rèn)證漏洞，導(dǎo)致攻擊者有機(jī)可乘。訪問控制不健全訪問控制的措施的缺失，可能會導(dǎo)致數(shù)據(jù)的貢獻(xiàn)者在數(shù)據(jù)采集時被其他攻擊者利用。生物特征采集通過計(jì)算機(jī)收集人體固有的生理特征（指紋、虹膜、面相等）或行為特征(步態(tài)、擊鍵習(xí)慣等)。2024/7/2424數(shù)據(jù)存儲環(huán)節(jié)4.3隱私泄露方式數(shù)據(jù)存儲環(huán)節(jié)隱私泄露方式：訪問控制不完善：訪問控制不完善主要表現(xiàn)在缺乏密鑰管理、權(quán)限管理、指定的時間和網(wǎng)絡(luò)環(huán)境管理、安全信道訪問管理等形式的訪問限制。身份認(rèn)證不健全：身份認(rèn)證主要是用來確定真實(shí)操作者與系統(tǒng)中的數(shù)字身份相一致。身份認(rèn)證的不健全就可能導(dǎo)致其物理身份與數(shù)字身份匹配過程產(chǎn)生錯誤認(rèn)證，導(dǎo)致非法人員進(jìn)入數(shù)據(jù)庫。端口爆破：端口爆破是數(shù)據(jù)庫數(shù)據(jù)泄露的主要途徑之一，可以認(rèn)為是設(shè)備與外界通訊交流的出口。通過端口爆破，可以獲得服務(wù)器IP和登錄密碼。漏洞利用：除了端口爆破攻擊，漏洞攻擊也是攻擊者攻擊數(shù)據(jù)庫善于利用的手段，常用攻擊手段有攻擊未打安全補(bǔ)丁的數(shù)據(jù)庫、利用網(wǎng)站常見漏洞等。黑客攻擊：通過攻擊本地的前置機(jī)獲得權(quán)限后，再利用前置機(jī)潛入到本地內(nèi)網(wǎng)當(dāng)中進(jìn)行一些列提權(quán)操作，從而獲取本地的數(shù)據(jù)庫信息。最終導(dǎo)致本地?cái)?shù)據(jù)庫的泄露。操作失誤：操作員的低級失誤等原因?qū)е码[私數(shù)據(jù)泄露。遭到人為竊?。喝藶楦`取指數(shù)據(jù)竊取者通過物理途徑接觸到本地?cái)?shù)據(jù)的實(shí)體機(jī)，進(jìn)行人為拷貝或者數(shù)據(jù)介質(zhì)盜取。數(shù)據(jù)管理系統(tǒng)不完善：本地?cái)?shù)據(jù)管理系統(tǒng)管理出現(xiàn)問題，導(dǎo)致數(shù)據(jù)竊取者可以輕易登錄，獲取用戶隱私數(shù)據(jù)。人為管理混亂：分工不明，管理混亂等綜合因素導(dǎo)致的用戶隱私泄露。人工智能倫理醫(yī)療互聯(lián)網(wǎng)服務(wù)敏感數(shù)據(jù)泄露風(fēng)險(xiǎn)調(diào)查報(bào)告指出：近年來，人為因素造成的醫(yī)療數(shù)據(jù)泄露案例在逐年減少，而權(quán)限訪問因素和黑客攻擊因素在增加，尤其是黑客攻擊因素導(dǎo)致的醫(yī)療數(shù)據(jù)的泄露尤為突出。2024/7/2425數(shù)據(jù)傳輸環(huán)節(jié)4.3隱私泄露方式數(shù)據(jù)傳輸環(huán)節(jié)隱私泄露方式：傳輸錯誤：傳輸過程中，安全網(wǎng)站重定向至未知網(wǎng)站導(dǎo)致數(shù)據(jù)泄露。網(wǎng)絡(luò)監(jiān)聽：當(dāng)黑客登錄網(wǎng)絡(luò)主機(jī)并取得超級用戶權(quán)限后，若要登錄其它主機(jī)，使用網(wǎng)絡(luò)監(jiān)聽便可以有效地截獲網(wǎng)絡(luò)上數(shù)據(jù)，通常被用來獲取用戶密碼等。數(shù)據(jù)篡改：攔截傳輸過程的數(shù)據(jù)，篡改數(shù)據(jù)，造成數(shù)據(jù)破壞。數(shù)據(jù)丟失：在網(wǎng)頁端傳輸數(shù)據(jù)時，雖然是同步發(fā)送，不過由于公網(wǎng)傳輸?shù)木W(wǎng)絡(luò)問題，一般也會有3%到7%的數(shù)據(jù)丟失，并且基本難以避免。攔截傳輸過程：第三方可能會在傳輸過程中截獲傳輸?shù)臄?shù)據(jù)，從而拿到傳輸?shù)倪@些用戶行為數(shù)據(jù)。這些用戶數(shù)據(jù)都是體現(xiàn)用戶在客戶端的一些具體的用戶行為，蘊(yùn)含著用戶的隱私。偽造傳輸過程：第三方可能會在傳輸過程中偽造數(shù)據(jù)，從而讓后臺的分析結(jié)果不準(zhǔn)確。人工智能倫理在使用社交軟件過程中會使用網(wǎng)絡(luò)上傳數(shù)據(jù)、圖片、視頻等，甚至還會發(fā)布個人位置信息，殊不知這已經(jīng)泄露了個人信息。人們在分享數(shù)據(jù)過程中個人的隱私信息可能會被一些別有用心的人利用人工智能技術(shù)竊取，信息匿名化程度日趨下降。無線通信中的所有通信內(nèi)容，包括用戶的通話信息、位置信息、數(shù)據(jù)信息甚至身份信息經(jīng)由通過無線信道進(jìn)行傳送。只要有適當(dāng)?shù)臒o線接收設(shè)備，就能對用戶的信號進(jìn)行截取，理論上如果有相應(yīng)的密碼破譯手段就能對用戶的信息進(jìn)行解密。2024/7/2426數(shù)據(jù)應(yīng)用環(huán)節(jié)4.3隱私泄露方式數(shù)據(jù)交易：數(shù)據(jù)交易過程中隱私泄露風(fēng)險(xiǎn)主要在于交易不當(dāng)導(dǎo)致的數(shù)據(jù)隱私泄露問題。例如用途不明，可信度不高交易方進(jìn)行交易，數(shù)據(jù)遭受泄露的可能性大大增加。人為管理混亂：主要指數(shù)據(jù)應(yīng)用方的管理不當(dāng)造成的數(shù)據(jù)泄露。

惡意的人員操作：指在數(shù)據(jù)應(yīng)用階段，數(shù)據(jù)應(yīng)用者個人的不當(dāng)行為導(dǎo)致的用戶隱私的泄露，此種行為的不可控因素比較大。數(shù)據(jù)存儲設(shè)施遭到人為破壞：在數(shù)據(jù)應(yīng)用過程中同樣存在，數(shù)據(jù)應(yīng)用方存儲數(shù)據(jù)時數(shù)據(jù)存儲介質(zhì)遭到人為破壞的風(fēng)險(xiǎn)。數(shù)據(jù)介質(zhì)遭到竊?。簲?shù)據(jù)應(yīng)用方的存儲介質(zhì)遭到人為的竊取，也會導(dǎo)致隱私數(shù)據(jù)的泄露。身份認(rèn)證不健全：數(shù)據(jù)應(yīng)用階段，大量的數(shù)據(jù)應(yīng)用軟件都需要身份認(rèn)證后進(jìn)行相應(yīng)數(shù)據(jù)操作，而身份認(rèn)證的不健全有可能導(dǎo)致數(shù)據(jù)攻擊者利用漏洞進(jìn)入到應(yīng)用軟件當(dāng)中竊取用戶隱私數(shù)據(jù)。數(shù)據(jù)應(yīng)用環(huán)節(jié)隱私泄露方式：權(quán)限控制不當(dāng)：在交換共享過程中，對于數(shù)據(jù)的應(yīng)用方的管理，特別是數(shù)據(jù)應(yīng)用方對數(shù)據(jù)的訪問和應(yīng)用權(quán)限的管理也很重要，權(quán)限控制不合理，會使更多的數(shù)據(jù)應(yīng)用人員接觸最原始數(shù)據(jù)，增加隱私泄露的風(fēng)險(xiǎn)。數(shù)據(jù)脫敏不完善：在處理數(shù)據(jù)的過程中，如果數(shù)據(jù)脫敏規(guī)則過于簡單或者沒有進(jìn)行可靠的數(shù)據(jù)脫敏，交換分享出去的數(shù)據(jù)泄露隱私的可能性就會大大增加。違規(guī)備份：違規(guī)備份是指數(shù)據(jù)的使用方在使用數(shù)據(jù)時沒有正規(guī)流程的情況下備份數(shù)據(jù)，備份的數(shù)據(jù)缺乏有效的保護(hù)措施，導(dǎo)致數(shù)據(jù)遭受其他攻擊而導(dǎo)致的數(shù)據(jù)泄露，從而增加隱私數(shù)據(jù)泄露的可能性。違規(guī)分析挖掘：數(shù)據(jù)應(yīng)用的主要方式是從數(shù)據(jù)中挖掘出有用信息，但不合規(guī)數(shù)據(jù)挖掘也可能導(dǎo)致隱私泄露。過度披露隱私：過度隱私披露是指在數(shù)據(jù)進(jìn)行脫敏階段對隱私數(shù)據(jù)的保護(hù)脫敏程度不夠，通過簡單的分析挖掘即可獲取原有的數(shù)據(jù)完整信息。用戶隱私數(shù)據(jù)。人工智能倫理隱私及隱私權(quán)目錄隱私泄露方式人工智能隱私隱私概念隱私權(quán)123隱私泄露案例4隱私權(quán)的新特點(diǎn)隱私泄露與侵權(quán)數(shù)據(jù)采集環(huán)節(jié)數(shù)據(jù)存儲環(huán)節(jié)數(shù)據(jù)傳輸環(huán)節(jié)數(shù)據(jù)應(yīng)用環(huán)節(jié)機(jī)器學(xué)習(xí)的案例語音識別的案例人臉識別的案例生物識別的案例2024/7/2427人工智能倫理2007年，英國諾丁漢大學(xué)念心理學(xué)本科的斯蒂維爾平時愛寫一些小程序。畢業(yè)前，在Facebook上發(fā)布了一個性格測試的第三方小程序：myPersonality。測試是免費(fèi)的，參與者可以匿名捐獻(xiàn)自己在Facebook上的行為數(shù)據(jù)作為研究使用。有六百萬用戶使用過這款小程序。其中一小部分同意捐出Facebook上行為數(shù)據(jù)供研究使用。用戶的心理性格測試數(shù)據(jù)與Facebook行為數(shù)據(jù)相疊加，就形成了包含有數(shù)十萬用戶數(shù)據(jù)的myPersonality數(shù)據(jù)集。2008年，科辛斯基進(jìn)入了劍橋大學(xué)，在心理測量中心攻讀碩士。他和斯蒂維爾用myPersonality這個金礦，在《美國國家科學(xué)院院刊》上分別于2013、2015年發(fā)表了兩篇極有影響的文章。第一篇”Privatetraitsandattributesarepredictablefromdigitalrecordsofhumanbehavior”（個人性格特質(zhì)可以用行為數(shù)據(jù)來預(yù)測），使用機(jī)器學(xué)習(xí)技術(shù)，用用戶的Facebook行為數(shù)據(jù)（Facebook上點(diǎn)贊）建立模型，來預(yù)測用戶的性格和其他特質(zhì)（如性別，黨派），并且得到比較高的準(zhǔn)確率。如，對HelloKitty點(diǎn)贊的人較神經(jīng)質(zhì)，更可能支持民主黨而非共和黨。第二篇“Computer-basedpersonalityjudgmentsaremoreaccuratethanthosemadebyhumans”（基于電子足跡的算法模型比你親近的人更了解你），運(yùn)用他們之前建立的模型來預(yù)測你的性格，竟然比你好友的預(yù)測還準(zhǔn)確。機(jī)器學(xué)習(xí)的隱私泄露4.3隱私泄露的案例myPersonality數(shù)據(jù)集遠(yuǎn)遠(yuǎn)小于Facebook和劍橋分析所造成的數(shù)據(jù)泄露的數(shù)量（約五千萬）。但對于社會科學(xué)研究者，這個數(shù)據(jù)集無疑是一個金礦。傳統(tǒng)的定量社科研究，收集數(shù)據(jù)的方法主要是實(shí)驗(yàn)和問卷兩種。實(shí)驗(yàn)很難規(guī)模化，能達(dá)到幾百人就相當(dāng)不容易了。但myPersonality數(shù)據(jù)集把性格量表和用戶的Facebook行為結(jié)合在一起，樣本量遠(yuǎn)遠(yuǎn)超過了傳統(tǒng)定量研究。2024/7/2428人工智能倫理科辛斯基和斯蒂維爾的研究成果取得了轟動：第一，海量行為數(shù)據(jù)建模能夠精準(zhǔn)地預(yù)測用戶性別、年齡、性取向、政治傾向、購買意愿……之前不管是營銷公司，廣告公司，還是公關(guān)，民調(diào)機(jī)構(gòu)，要了解用戶，只能辛辛苦苦做訪談、問卷、焦點(diǎn)小組。這些方法不但勞民傷財(cái)，準(zhǔn)確率也不夠高。電子足跡不但精準(zhǔn)，而且俯拾皆是，只要是上網(wǎng)，每個人都會有自己的電子足跡。他們的算法并不高深，但海量的電子足跡充分發(fā)揮了優(yōu)勢，因此取得了精準(zhǔn)程度很高的用戶行為畫像。第二，他們的研究啟發(fā)了很多人，原來科研還可以這么做，可以通過第三方app獲取Facebook的用戶數(shù)據(jù)。要知道Facebook的海量行為數(shù)據(jù)極少對外界開放。雖然在Facebook上可以精準(zhǔn)投放廣告給用戶，但是沒有靠譜的行為模型做支撐，但是有了myPersonality這樣的先例，為大家提供了一個嶄新的思路，那就是通過第三方小程序以獲取Facebook的行為數(shù)據(jù)。毫無意外，劍橋分析找上了科辛斯基和斯蒂維爾。雖然叫劍橋，這家公司和劍橋大學(xué)沒有任何關(guān)系。這家公司的背后金主是墨森，他為英國脫歐和特朗普2016年大選做出了貢獻(xiàn)。但劍橋分析并沒有買到科辛斯基和斯蒂維爾的數(shù)據(jù)。劍橋分析最后和同在劍橋大學(xué)心理系擔(dān)任的講師科根達(dá)成了協(xié)議。在劍橋分析的資助下，科根直接抄襲了科辛斯基和斯蒂維爾的研究設(shè)計(jì)，也寫了一個專做心理測試Facebook第三方小程序：thisisyourdigitallife（據(jù)英國衛(wèi)報(bào)報(bào)道，科辛斯基和斯蒂維爾舉報(bào)科根侵犯了他們的知識產(chǎn)權(quán)，而科根則認(rèn)為已發(fā)表的知識產(chǎn)權(quán)屬于公眾領(lǐng)域，誰都可以使用）。機(jī)器學(xué)習(xí)的隱私泄露4.3隱私泄露的案例2024/7/2429人工智能倫理在MechaincalTurk和其他網(wǎng)絡(luò)平臺上，科根以五美元的酬金，吸引了27萬用戶答題并出讓自己的Facebook數(shù)據(jù)。五美元是什么概念呢？MechanicalTurk是亞馬遜旗下的兼職網(wǎng)站，上面有很多小任務(wù)，完成一項(xiàng)任務(wù)會有一定報(bào)酬，但是任務(wù)價格都非常低廉，耗時十分鐘任務(wù)的報(bào)酬在一角到一元美金不等。相較之下，五美元不亞于一個天文數(shù)字。注意，所有參加者都是心甘情愿地讓出他們的Facebook行為數(shù)據(jù)的。Facebook并沒有被黑客入侵，也沒有所謂的數(shù)據(jù)“泄露”或是“偷盜”。因?yàn)樵诋?dāng)時，F(xiàn)acebook小程序在用戶同意情況下收集數(shù)據(jù)是完全合法的。報(bào)道中都提到了五千萬用戶，又是從哪里來的呢？因?yàn)榭聘某绦虿粌H收集了用戶本人的數(shù)據(jù)（以五美元做交換），也收集了用戶的Facebook好友數(shù)據(jù)。一個用戶可能有幾百個好友，所以27萬個“種子”最后就變成了五千萬用戶。機(jī)器學(xué)習(xí)的隱私泄露4.3隱私泄露的案例2024/7/2430人工智能倫理至此，整件事情還是合理合法的。下一步則不然?？聘救艘彩切睦韺W(xué)家，他設(shè)計(jì)這個小程序時聲稱要研究社交媒體和心理健康。Facebook也是基于這個研究目的，才同意他收集了五千萬用戶的數(shù)據(jù)。但不久以后，科根就通過自己開的公司GSR，把這個龐大的數(shù)據(jù)集轉(zhuǎn)手給了劍橋分析，其用途已經(jīng)不屬于學(xué)術(shù)研究。這一轉(zhuǎn)手違背了Facebook的安全協(xié)議，也違背了小程序本身和用戶之間的協(xié)議，是整個事件違法的部分。但也有人認(rèn)為，這時的數(shù)據(jù)集屬于“二手?jǐn)?shù)據(jù)”（secondarydata），在數(shù)據(jù)的監(jiān)管上屬于灰色區(qū)域?？聘?dāng)時和Facebook的用戶簽訂協(xié)議時，明確指出收集數(shù)據(jù)是供研究使用，并且他也的確做了研究，那么數(shù)據(jù)完成了它的使命之后，是否應(yīng)該直接刪檔（這是Facebook對科根的要求）？這時的數(shù)據(jù)到底歸誰所有？機(jī)器學(xué)習(xí)的隱私泄露4.3隱私泄露的案例2024/7/2431（歐美多數(shù)的大學(xué)和研究機(jī)構(gòu)在做人類相關(guān)研究時，都會專門設(shè)立一個委員會（InstitutionalReviewBoard，IRB）來監(jiān)管類似的倫理問題。至少在學(xué)術(shù)界，因?yàn)锳而收集的數(shù)據(jù)后來用作B用途并不少見。很多數(shù)據(jù)集都是開放下載的，如斯坦福的SNAP，Dataverse等等。）人工智能倫理這里有一個很有意思的問題，就是數(shù)據(jù)的歸屬問題。張三有個朋友叫李四，這個信息是張三個人的信息，還是李四的信息？張三為了五塊錢出賣自己的數(shù)據(jù)（其中包括李四的姓名，性別，年齡等等），需不需要李四的同意？很多學(xué)者認(rèn)為，在社交媒體上，隱私不再是一個個人的決定，而已經(jīng)演變成一個網(wǎng)絡(luò)共同的決定。但在當(dāng)時，收集用戶好友的基本信息是合乎Facebook規(guī)定的。不僅僅科根的小程序這么干，其他數(shù)十萬個Facebook小程序都這么干。劍橋分析運(yùn)用這個數(shù)據(jù)量超過五千萬的超大規(guī)模的用戶數(shù)據(jù)建立模型，其目的就是找出符合某種特定心理畫像的選民（低開放心性，高情緒不穩(wěn)定性）。在美國“贏者通吃”的大選制度下，絕大部分選票對選舉結(jié)果都沒有影響（比如說深紅州和深藍(lán)州選票）。還有一部分選票，無法被廣告左右（比如民主黨或者共和黨的死忠粉）。能左右選舉結(jié)果，且可以被廣告影響的選票數(shù)量微乎其微。一旦有了一個特定的心理畫像，劍橋分析就可以在茫茫人海中找出他們要的這一小部分選民，集中精力給這一小部分選民施加影響。他們買了大量Facebook廣告對這些人進(jìn)行狂轟濫炸，進(jìn)行所謂的“信息戰(zhàn)爭”（informationwarfare），以達(dá)到操縱大選的目的。此次Facebook的隱私泄露事件之所以如此嚴(yán)重，就是因?yàn)槿藗兓腥话l(fā)現(xiàn)自己的決定并不是真正的由自己做出，而是很可能是被人操控了。小到購物大到總統(tǒng)的選舉，在這個數(shù)字時代，經(jīng)過互聯(lián)網(wǎng)的放大之后，人們更容易會受到媒介的影響?？梢灶A(yù)言，未來無論是政治層面，還是經(jīng)濟(jì)、金融、文化、宗教等層面，“戰(zhàn)爭、斗爭、競爭”的主戰(zhàn)場將轉(zhuǎn)移到網(wǎng)絡(luò)線上。在Facebook信息泄露事件中，公民最關(guān)心的是自己的信息特別是隱私被泄露，行動行為被誤導(dǎo)，網(wǎng)絡(luò)數(shù)據(jù)被歪用，甚至稀里糊涂充當(dāng)了邪惡的打手。Facebook信息泄露事件，已經(jīng)證明網(wǎng)絡(luò)大數(shù)據(jù)超過所有人想象的、比核武器厲害百倍的威力，大數(shù)據(jù)分析公司具有超過所有人預(yù)期的超人般能力。全球要重點(diǎn)盯住與監(jiān)管大數(shù)據(jù)巨頭公司。目前你、我、他的數(shù)據(jù)都基本掌握在全球八大公司平臺上：蘋果、Facebook、亞馬遜、谷歌、微軟、阿里巴巴、騰訊、百度?！叭蛩泄竦囊磺行袨槎急贿@八大公司完全掌控了！”對這八大公司的數(shù)據(jù)要重點(diǎn)盯防，同時，八大公司要協(xié)助配合政府保護(hù)好個人數(shù)據(jù)隱私，自覺服從監(jiān)管，保護(hù)好平臺個人數(shù)據(jù)隱私。機(jī)器學(xué)習(xí)的隱私泄露4.3隱私泄露的案例引發(fā)的思考？2024/7/2432人工智能倫理警方要求獲取亞馬遜Echo數(shù)據(jù)協(xié)助破案，引發(fā)隱私討論亞馬遜Echo音箱一經(jīng)推出便成了市場的寵兒，人們買它就是因?yàn)橐粝涞拇竽X——Alexa虛擬助手。只需通過語音命令，Alexa就能幫你找到答案。2016年，Echo卻跟一樁命案搭上了關(guān)系，美國阿肯色州警方認(rèn)為它曾經(jīng)“聽到”過嫌疑犯的某些對話，而這些信息對破解謀殺案至關(guān)重要。本頓維爾警方要求亞馬遜交出嫌犯家中Echo記錄下來的音頻信息，如果音頻中確實(shí)有相關(guān)證據(jù)，那么嫌犯明年就將出庭受審，他將面臨一級謀殺的指控。亞馬遜拒絕向警方上繳Echo服務(wù)器上的相關(guān)信息，但它們將嫌犯的賬號信息和購買記錄交給了警方。借助這些信息，警方表示自己可以從嫌犯的Echo上獲取所需的數(shù)據(jù)，不過他們到底要拿走什么信息現(xiàn)在還是個謎。語音識別的隱私泄露4.3隱私泄露的案例2024/7/2433人工智能倫理由于Echo有永不掉線的特性，但用戶需要用特定的詞語才能將其激活，不過在未激活狀態(tài)下它是否會偶爾“偷聽”并記錄下一些信息恐怕只有亞馬遜知道。警方稱嫌犯家中還有其他智能家居設(shè)備，其中就包括一款智能水表。這款產(chǎn)品顯示當(dāng)天凌晨1點(diǎn)至3點(diǎn)間嫌犯家用了140加侖水，而當(dāng)天受害人就是在嫌犯家的浴缸中。檢方認(rèn)為這些水是嫌犯用來洗凈犯罪證據(jù)的。對于此事，亞馬遜發(fā)言人表示：“除非收到當(dāng)局的合法要求，亞馬遜不會將用戶信息上繳給任何人。”語音識別的隱私泄露4.3隱私泄露的案例關(guān)于Echo音箱記錄音頻的問題，亞馬遜表示，只有用戶說出喚醒詞“Alexa”，Echo才會抓取音頻并上傳至云端。同時，在錄音時Echo頂端會亮起藍(lán)燈提醒用戶，而存在云端的音頻信息是否刪除，則取決于用戶自己，一旦刪除就永遠(yuǎn)不能恢復(fù)。此外，Echo上的麥克風(fēng)還可以手動關(guān)閉。2024/7/2434人工智能倫理智能音箱Echo記錄音頻問題曾受到過用戶的投訴：Echo未經(jīng)許可，將用戶的私人對話錄音，并隨機(jī)發(fā)給了用戶聯(lián)系人列表中的一位朋友。某天晚上，美國俄勒岡州波特蘭的一名女士丹尼爾（化名）接到了老公同事的電話，對方稱：收到了一封郵件，內(nèi)容是她與老公的對話錄音，并提醒她趕緊關(guān)掉亞馬遜音箱Echo?！澳銈儌z剛剛在聊木地板”，聽到朋友這話，丹尼爾才相信，Echo的確是將她與老公方才的談話內(nèi)容，泄露給了距離他們176英里之外的朋友。于是，丹尼爾在第一時間拔掉了屋里4個Echo的電源，并打電話給亞馬遜客服，質(zhì)問為何會發(fā)生這種情況。初步調(diào)查之后，亞馬遜回電解釋說，Echo確實(shí)出現(xiàn)了故障，但未說出具體原因，只是在30分鐘的通話中，說了足足15次“我們真的很抱歉”。丹尼爾表示：“完全就是隱私侵犯。我再也不使用那些設(shè)備了，因?yàn)槲覠o法再相信它們?！彪m然查詢智能家居設(shè)備信息的目的是破案，但也引起了輿論對于隱私的關(guān)注。如果家中智能設(shè)備能自動追蹤并記錄你的習(xí)慣和信息，這些信息能在法庭上成為呈堂證供嗎？嫌犯的代理律師認(rèn)為答案是否定的。嫌犯代理律師表示“家中的隱私應(yīng)該受到保護(hù)，但現(xiàn)在執(zhí)法部門卻利用那些可以提高我們生活質(zhì)量的新技術(shù)在法庭上針對我們?！贝送猓硪粋€需要注意的問題是，智能家居設(shè)備存儲的信息到底可靠性如何？4.3隱私泄露的案例2024/7/2435人工智能倫理此后，亞馬遜發(fā)布聲明回應(yīng)此次泄露隱私事件，對于向好友發(fā)送談話錄音的原因，亞馬遜解釋如下：丹尼爾與丈夫的談話聲中有貌似“Alexa”的單詞，于是，Echo被喚醒。然后，在接下來的對話中，又恰巧聽到“sendmessage”（發(fā)送消息）請求。這時，Alexa問道：“Towhom？”（發(fā)給誰?）。接下來，背景對話被理解為用戶聯(lián)系人列表中的一個名字。Alexa又問道：“[contactname]，right？”（“給[聯(lián)系人名字]，對吧？”）。然后Alexa將背景對話理解為“right”（對）。在以上一連串喚醒Echo并命令其執(zhí)行任務(wù)的流程中，丹尼爾與丈夫“恰巧”命令Echo4次，而對于Echo的2次反問，丹尼爾與丈夫還都無視，甚至同意了Echo的行為。語音識別的隱私泄露媒體報(bào)道稱，當(dāng)時Echo錯誤判斷了這對夫婦的對話信息，被激活之后又錯誤的進(jìn)行了“發(fā)送消息”之類的語音命令，然后，截取了這對夫婦的談話內(nèi)容，發(fā)送給了通訊錄列表上的一位聯(lián)系人，整個過程充滿了各種誤識別問題。同時在信中還表示，想知道亞馬遜究竟收到了多少用戶投訴，包括Echo在用戶不知情情況下秘密記錄了多少數(shù)據(jù)。如果能夠找到亞馬遜使用、存儲和保存用戶信息的證據(jù)，包括語音數(shù)據(jù)，并且這些證明這些數(shù)據(jù)是由Echo進(jìn)行收集和傳輸，那將會引發(fā)整個科技界震動。美國參議院司法委員會成員弗萊克和庫恩斯聯(lián)名簽署，向亞馬遜首席執(zhí)行官貝索斯發(fā)出了一封擔(dān)憂亞馬遜存在大量隱私問題的公開信，信中專門提到了丹尼爾夫婦的例子。在信中，參議員提出了這樣一個問題：“在用戶說出激活單詞之前，Echo是否被設(shè)計(jì)成始終待命監(jiān)聽用戶語音命令的狀態(tài)？”如果這種假設(shè)成立，那么就會有一系列后續(xù)的問題。Siri涉嫌泄露用戶隱私2019年7月27日，據(jù)《衛(wèi)報(bào)》消息稱，蘋果Siri團(tuán)隊(duì)承包商透露，蘋果公司會把Siri收集到的語音記錄分發(fā)給該公司的員工進(jìn)行收聽，并對錄音內(nèi)容根據(jù)評級來評分，用以改善Siri語音體驗(yàn)并幫助Siri更好地理解語音指令。據(jù)《衛(wèi)報(bào)》報(bào)道，這些泄露的錄音片段，會包括機(jī)密醫(yī)療信息、毒品交易、婚姻行為以及位置、用戶數(shù)據(jù)等私人信息。蘋果在對待Siri錄音和蘋果公司是否能聽到錄音的問題上含糊不清，只在隱私條例中列出“幫助公司識別你的發(fā)音和提供更好的回答，某些信息會發(fā)送到使用加密協(xié)議的蘋果服務(wù)器，比如你的名字、聯(lián)系人、收聽的音樂和搜索記錄”，而蘋果公司是否收聽錄音并沒有交代清楚。語音識別的隱私泄露4.3隱私泄露的案例2024/7/2436人工智能倫理蘋果公司的回應(yīng)蘋果公司在給《衛(wèi)報(bào)》的聲明中承認(rèn)，“Siri的一小部分詢問請求會被分析，目的在于改進(jìn)Siri的功能。用戶的Siri請求沒有與用戶的蘋果賬號關(guān)聯(lián)在一起。Siri的回答在安全的設(shè)施中進(jìn)行分析，所有的審查員都有義務(wù)遵守蘋果嚴(yán)格的保密要求?！痹摴具€指出，在這種機(jī)制下被分析的Siri日常互動占比不到1%。而且錄音長度只有幾秒鐘。盡管蘋果公司堅(jiān)稱“只有不到1%的錄音被用于分析，而且錄音長度只有‘幾秒鐘’”，但不少蘋果手機(jī)用戶還是認(rèn)為，“難免會有涉及位置、醫(yī)療信息、家庭對話等敏感內(nèi)容被泄露”。迫于輿論的壓力，蘋果公司發(fā)表聲明宣布，終止人工語音分析業(yè)務(wù)，并將著手刪除用戶與Siri的所有對話錄音——不過，蘋果公司并未放棄對Siri服務(wù)的改進(jìn)，但前提是：用戶必須自愿同意將自己與Siri的對話錄音用于分析；而且錄音只能由蘋果公司的員工聽取，不能再被發(fā)送給蘋果公司的承包商；此外，用戶有權(quán)隨時終止這一合作。人臉識別的隱私泄露4.3隱私泄露的案例“售樓處戴口罩也能人臉識別！”“殺傷力驚人的售樓處人臉識別系統(tǒng)”……以“買房”加“人臉識別”為關(guān)鍵詞在網(wǎng)上檢索，這樣的消息比比皆是。在南都記者的調(diào)查中，多家售樓處承認(rèn)安裝了人臉識別系統(tǒng)，更有房地產(chǎn)業(yè)內(nèi)人士稱，“類似的系統(tǒng)每一個公司都有”。但專家提醒，未經(jīng)消費(fèi)者同意就抓拍其人臉照片涉嫌侵權(quán)，數(shù)據(jù)一旦泄露危害極大。房地產(chǎn)中介袁某告訴南都記者，房企安裝人臉識別系統(tǒng)，與其“分銷模式”有關(guān)。每當(dāng)新樓盤上市，房企一方面會花大量費(fèi)用做營銷宣傳，吸引潛在購房者，另一方面也會找各種賣房平臺作為“分銷渠道”，讓渠道幫忙招徠客戶。2024/7/2437戴著頭盔去看房想買房的你走進(jìn)了一家售樓處。熱情的工作人員舉著托盤走到你身邊，托盤上放著三種不同的飲料。在接下來的一個小時里，他/她會替你考慮周末去哪娛樂，孩子在哪上學(xué)，怎樣付款“最劃算”……但他/她大概率不會告訴你，當(dāng)你在暢想未來的美好生活時，天花板上的攝像頭正在對你進(jìn)行人臉識別。小視頻“戴頭盔看房”在網(wǎng)上流傳，視頻中還有字幕：“為保護(hù)個人信息，戴著頭盔去看房”。導(dǎo)致看房者出此奇招的，正是售樓處的人臉識別系統(tǒng)。人工智能倫理如果購房者是看了房企宣傳前來買房，叫做“自然到訪客戶”，說明房企的營銷費(fèi)沒白花；如果購房者被渠道中介帶上門，就屬于“渠道客戶”，房企要給予中介一定的“好處費(fèi)”，即提成傭金。房企銷售與渠道中介搶客戶的“混戰(zhàn)”經(jīng)常發(fā)生。而人臉識別，就是為了幫助房企判斷某個購房者是什么類型、是誰的客戶，傭金應(yīng)該發(fā)給誰。人臉識別的隱私泄露4.3隱私泄露的案例徐某還提到，房企銷售和渠道中介的傭金不一樣，一些購房者會在自己到過售樓處后再去找中介?！爸薪闀o他們一些優(yōu)惠的甜頭，但對于房地產(chǎn)公司來說，這一單的銷售成本就變高了，既花了營銷費(fèi)，又多付了傭金?！狈康禺a(chǎn)中介程鑫認(rèn)為，除了房企，中介也能從人臉識別中受益。他告訴南都記者，人臉識別可以確定中介的首看時間、獲客數(shù)量。在中介首次帶客看房后，房企會為中介機(jī)構(gòu)提供兩到三個月的保護(hù)期。這期間即使有其他中介搶走客戶并簽約，也不會獲得傭金。2024/7/2438南都記者調(diào)查發(fā)現(xiàn)，為了滿足房企需求，多家公司推出了“人臉識別渠道風(fēng)控”產(chǎn)品，且市場鋪得很大。以深圳市明源云客電子商務(wù)有限公司（下稱“明源”）為例，該公司在其官網(wǎng)宣稱，相關(guān)產(chǎn)品已覆蓋“80+”城市、“1100+”項(xiàng)目。佛山市大邁信息科技有限公司（以下簡稱“大邁”）則介紹，疫情發(fā)生后，看房者往往戴著口罩，但其系統(tǒng)在江門駿景灣集團(tuán)-領(lǐng)峰項(xiàng)目上線一個月以來，識別率仍然高達(dá)97.77%。人工智能倫理“現(xiàn)在基本上每個開發(fā)商都有這種人臉識別系統(tǒng)”，房企員工徐某對南都記者說，如果沒有人臉識別，就會有很多“灰色地帶”。她舉例說，客戶A和客戶B一起來售樓處，銷售C接待了他們，但只有客戶A登記了信息。當(dāng)客戶B再次上門時，是跟中介D一起來的。最后，客戶B通過中介D成交了。銷售C發(fā)現(xiàn)他接待過客戶B，會認(rèn)為這是他的客戶，銷售C和中介D就會產(chǎn)生爭執(zhí)。人臉識別的隱私泄露4.3隱私泄露的案例南都記者以購買產(chǎn)品為由，聯(lián)系上了明源公司銷售陳某。據(jù)陳某介紹，明源的人臉識別系統(tǒng)分為軟、硬件兩部分，包括多家合作廠商：攝像頭等硬件跟曠視定制，算法與華為合作，數(shù)據(jù)則緩存在阿里云。“我們做過測試，可以同時識別50個人，戴口罩也可以識別?！迸c傳統(tǒng)的安防視頻不同，系統(tǒng)可以識別并預(yù)測看房者的行動路徑，框選其必經(jīng)路線，設(shè)置攝像頭進(jìn)行抓拍。拍完后，系統(tǒng)還會自動選出一到兩張“最優(yōu)照片”。等看房者確定買房，用“人證一體機(jī)”進(jìn)行身份驗(yàn)證時，系統(tǒng)后臺就會將身份證信息綁定到此前記錄上，“相當(dāng)于人、人臉、手機(jī)號、所有來訪記錄進(jìn)行比對”。2024/7/2439人工智能倫理當(dāng)記者以前述“戴頭盔看房”的視頻舉例，提出看房者可能有隱私顧慮時，陳某表示，人臉識別攝像頭和監(jiān)控?cái)z像頭的外觀一樣，可以全程“無感”抓拍?！八麄兪遣恢赖模按_實(shí)聽說過相關(guān)的案例，但現(xiàn)在慢慢沒有了?！睘榱梭w驗(yàn)無感抓拍的效果，南都記者假裝看房，來到了北京市的中國鐵建國際公館售樓處。在一個小時的體驗(yàn)中，南都記者看到了多個標(biāo)著“曠視”字樣的攝像頭，一樓有三個，二樓樣板間區(qū)域至少有兩個。但無論是在售樓處門口還是樓內(nèi)，攝像頭處均無人臉識別提示，銷售人員也并沒有提及人臉識別。記者全程戴口罩完成“看房”后，很快找其同事調(diào)出了四張抓拍照片——每一張照片都成功拍到了記者，有一張甚至是記者在售樓處外張望的照片，右上角的時間標(biāo)記精確到秒。為了更全面地展示系統(tǒng)功能，陳某又展示了另一個項(xiàng)目的后臺截圖。截圖顯示，戴口罩的陳某在33分鐘內(nèi)被抓拍到三次，每一次抓拍的時間、照片、“人證一體機(jī)”拍攝的對比底圖及“人臉相似度”均列在其中。此外，系統(tǒng)還有“查看短視頻”的功能，其中一個視頻展示了陳某從畫面外走進(jìn)售樓處門口的全過程。4.3隱私泄露的案例2024/7/2440人工智能倫理在房地產(chǎn)從業(yè)者看來，人臉識別好處多多。但對于消費(fèi)者來說，其中暗藏貓膩?！耙话闳藢︻愃迫四樧R別這樣的高科技運(yùn)用，大概都是一種‘用就用了’的無所謂態(tài)度。不過，當(dāng)人臉識別和購房優(yōu)惠掛鉤，一張臉?biāo)阆聛碛泻脦资f的折扣時，恐怕沒人能夠淡定了吧？”房地產(chǎn)自媒體“重慶地產(chǎn)news”這段話，道出了其中玄機(jī)。人臉識別的隱私泄露某自媒體發(fā)布的一篇文章中指出，某項(xiàng)目推出了一系列年底購房優(yōu)惠，只要購房者第一次到訪項(xiàng)目并當(dāng)場下單，各種折扣算下來可以少花30萬元。但購房者必須是第一次到訪，或者說此前沒有被攝像頭拍到過。同一套房屋，消費(fèi)者從不同渠道購入，差價在幾萬元到幾十萬元不等。“貨比三家”本是人之常情，但房企用上人臉識別之后，就等于將消費(fèi)者“一拍定終身”。一位知乎網(wǎng)友提到，她的老公曾經(jīng)陪朋友去看房，沒有主動留下任何信息。今年兩口子自己買房，找的是中介，也談好了“返點(diǎn)”。但他們交完首付后，中介說，兩人被人臉識別系統(tǒng)鎖定到了此前接待朋友的銷售身上，不屬于他的客戶，也就無法返點(diǎn)。所謂的人臉識別渠道風(fēng)控產(chǎn)品，最大的賣點(diǎn)之一就是無感抓拍：陳某在向記者推銷時，多次提到這一點(diǎn)，并稱這會提高客戶的體驗(yàn)。售樓處的人臉數(shù)據(jù)會被保存多久？陳某稱，人臉數(shù)據(jù)、手機(jī)號碼“都是永久保存的”，但房企內(nèi)部一般只對指定的管理層開放數(shù)據(jù)查看權(quán)限。在實(shí)地體驗(yàn)“無感抓拍”后，記者以看房者身份致電中國鐵建國際公館售樓處，詢問人臉識別情況。工作人員承認(rèn)了系統(tǒng)的存在，但辯稱售樓處沒有隱瞞客戶，“一進(jìn)門的位置就有攝像頭”——她認(rèn)為，看房者看到了攝像頭，就會意識到自己的人臉會被抓拍。只有確定成交的看房者，才會被要求輸入身份證等更具體的個人信息。然而，當(dāng)記者要求刪除人臉圖片時，該工作人員表示，如果集團(tuán)核對信息時發(fā)現(xiàn)錄像缺失，“有的領(lǐng)導(dǎo)肯定會挨說，可能會有相應(yīng)的處罰”。因此，她拒絕了記者的要求，并坦言短期內(nèi)相關(guān)信息不會被刪除。人臉識別的隱私泄露4.3隱私泄露的案例“售樓處的組織方肯定是侵權(quán)行為的第一責(zé)任人。有個比較有意思的問題是，人臉識別的技術(shù)提供方是否侵權(quán)。要重點(diǎn)關(guān)注技術(shù)提供方的主觀故意和過錯問題。雖然他們在出售產(chǎn)品和技術(shù)的時候不一定知道最終用在何處，但他們具有法定義務(wù)去審核接收方是否盡到了合理的個人信息保護(hù)義務(wù)，自己的行為是否在幫助接收方共同侵權(quán)?！比魏螜C(jī)構(gòu)與企業(yè)應(yīng)該慎重使用人臉識別系統(tǒng)，使用前需要仔細(xì)評估其正當(dāng)性、必要性、安全性?！坝脩魮碛兄闄?quán)。如確需使用，應(yīng)當(dāng)征得用戶同意。”中國信息安全研究院專家指出，售樓處使用人臉識別系統(tǒng)的目的是維護(hù)自身利益，而不是保護(hù)用戶權(quán)益，因此使用該系統(tǒng)的正當(dāng)性、必要性令人懷疑?！澳壳皣艺谥贫ǖ娜四樧R別數(shù)據(jù)安全標(biāo)準(zhǔn)，對數(shù)據(jù)的存儲、傳輸、銷毀有嚴(yán)格要求。相關(guān)企業(yè)應(yīng)該考慮這些問題：永久存儲數(shù)據(jù)有必要嗎？是否與用戶達(dá)成約定？”在房屋銷售的場景下，看房者的人臉信息會關(guān)聯(lián)其他個人信息，相關(guān)數(shù)據(jù)一旦泄露，危害極大。App治理工作組專家認(rèn)為，主打“無感”的個人信息收集和處理行為，存在明顯合規(guī)問題：既沒有單獨(dú)向看房者告知收集、使用其個人生物識別信息的目的、方式和范圍，也沒有征得個人信息主體的明示同意。此外，人臉識別將看房者區(qū)分為不同類型，給予不同的優(yōu)惠力度，還有“價格和服務(wù)歧視”的嫌疑。2024/7/2441人工智能倫理《網(wǎng)絡(luò)安全法》和《民法典》已有規(guī)定，收集、使用個人信息，應(yīng)當(dāng)遵循合法、正當(dāng)、必要原則，公開收集、使用規(guī)則，明示收集、使用信息的目的、方式和范圍，并經(jīng)被收集者同意。售樓處工作人員所謂“購房者看到攝像頭就等于知道被抓拍人臉”的說法，完全不能成立。某律師事務(wù)所首席合作人認(rèn)為，售樓處的無感抓拍，已侵犯了看房者的個人信息權(quán)益，“侵權(quán)行為與侵權(quán)結(jié)果非常明顯”，值得探討的是有哪些侵權(quán)主體。人臉識別的隱私泄露4.3隱私泄露的案例科勒衛(wèi)浴門店的萬店掌2021年3月15日，以“提振消費(fèi)，從心開始”為主題的3.15國際消費(fèi)者權(quán)益日晚會如期舉行。今年也不例外。晚會把人臉識別數(shù)據(jù)泄露問題排在首位，曝光了部分商家利用人臉識別技術(shù)搜集顧客信息的違法行為。國內(nèi)多個行業(yè)的多家商戶存在著濫用人臉識別技術(shù)抓取顧客信息的情況，如衛(wèi)浴行業(yè)的科勒（KOHLER）衛(wèi)浴專賣店、汽車銷售行業(yè)中的寶馬4S店、服裝銷售行業(yè)中的Maxmara專賣門店等。2024/7/2442人工智能倫理在上海家飾佳科勒衛(wèi)浴專賣店，店內(nèi)的攝像頭看起來沒有什么特別之處。然而，科勒（中國）投資有限公司一位工作人員卻告訴記者，這種攝像頭與眾不同，具有人臉識別功能，而且不少門店都裝有這種攝像頭。有了人臉識別功能的攝像頭，一旦顧客進(jìn)入科勒衛(wèi)浴門店，人臉信息就會被捕捉和記錄，以后顧客再去哪家店，去了幾次，科勒衛(wèi)浴都會知道。“比如這個人過來了，B店會提示這個人也逛過A店，B店如何去接待、如何去報(bào)價，就有心理準(zhǔn)備了?！庇浾咴谏虾＝舆B走訪了三家科勒衛(wèi)浴的門店，均看到了這種號稱具有人臉識別功能的攝像頭，然而從記者進(jìn)店一直到離開，都沒有得到明確的提示和告知，征得同意更是無從談起。人臉識別的隱私泄露4.3隱私泄露的案例2024/7/2443人工智能倫理在科勒衛(wèi)浴門店，看上去并不起眼的攝像頭，真的偷偷捕捉了顧客的人臉信息嗎？記者注意到，這個攝像頭上標(biāo)注著“萬店掌”字樣，記者通過聯(lián)系，見到了蘇州萬店掌公司的相關(guān)負(fù)責(zé)人。薛經(jīng)理承認(rèn)，科勒衛(wèi)浴的確裝了他們公司具有人臉識別功能的攝像頭。記者問到：“科勒是全國性地裝嗎？每家店都裝？”陳經(jīng)理回答到：“全國性的，科勒有上千家，每家店都安裝。”為了證實(shí)所言非虛，記者僅僅提供了一個到店時間點(diǎn)，薛經(jīng)理就通過科勒衛(wèi)浴系統(tǒng)的后臺，調(diào)出了記者的照片進(jìn)店信息。捕捉記錄顯示，不到兩分鐘，記者被攝像頭的人臉識別功能抓拍了三次，角度雖然不同，但人臉編號都是相同的，不僅如此，記者去過的不同門店，人臉信息均被抓取，而且人臉信息編號也都是相同的，可見記者的人臉信息已經(jīng)被科勒衛(wèi)浴精準(zhǔn)掌握。記者從后臺系統(tǒng)上看到，與記者同一時間段進(jìn)入科勒衛(wèi)浴門店的其他顧客，人臉識別信息同樣被抓取。陳經(jīng)理講到：“跟你講一下，只要進(jìn)店，就能夠獲取。它是在人不知情的情況下被動抓取。每一個后面會生成一個ID?！毖?jīng)理介紹到，蘇州萬店掌能夠?yàn)樯碳姨峁I(yè)的人臉互動營銷解決方案，人臉識別率非常高?！盎緛碇v，現(xiàn)在不戴口罩，人臉識別率肯定有95%，但是戴口罩就不好說了，80%-85%吧?！薄俺丝评招l(wèi)浴，不少企業(yè)都安裝了類似的人臉識別系統(tǒng)?！比四樧R別的隱私泄露4.3隱私泄露的案例2024/7/2444人工智能倫理央視財(cái)經(jīng)頻道報(bào)道稱，一些號稱提供“人臉互動營銷解決方案”的科技公司，在商家的線下門店中安裝可以采集顧客人臉信息的攝像頭設(shè)備，當(dāng)顧客一進(jìn)店就抓取人臉數(shù)據(jù)，被抓取的顧客人臉信息被傳回科技公司的數(shù)據(jù)后臺進(jìn)行ID分類、儲存和分析。安裝了這種攝像頭設(shè)備的商家，利用科技公司提供的數(shù)據(jù)，能夠做到對進(jìn)店客戶的“實(shí)時動態(tài)分析”，進(jìn)而完成“精準(zhǔn)銷售”。這一切，都是在顧客毫不知情情況下進(jìn)行。這些科技公司包括蘇州萬店掌網(wǎng)絡(luò)科技有限公司、上海悠洛客電子科技股份有限公司、雅量智能科技（廣州）有限公司、瑞為信息技術(shù)（深圳）有限公司等。在被曝光案例中，悠洛客電子科技股份有限公司的客戶之一是汽車經(jīng)銷商正通汽車。悠洛客公司的一位經(jīng)理向央視記者表示，正通汽車有上百家4S店用了他們的人臉識別系統(tǒng)，其中一家店是位于深圳市的寶馬4S店。在無錫一家寶馬4S店，則安裝了瑞為信息技術(shù)有限公司提供的設(shè)備。央視報(bào)道顯示，該位悠洛客經(jīng)理手機(jī)系統(tǒng)后臺上，除了寶馬銷售店，還有奧迪、沃爾沃、路虎等多家豪華汽車品牌的銷售店在列。當(dāng)顧客進(jìn)入正通汽車上百家4S店的任意一家店以后，人臉識別設(shè)備攝像頭會在10秒鐘之內(nèi)瞬間抓取人臉信息，準(zhǔn)確度也相當(dāng)高。悠洛客公司一位經(jīng)理稱，他們的攝像頭是“無感非配合式”，不是人們平時使用手機(jī)人臉識別時需要同意才能進(jìn)行，也不是正對攝像頭然后同意的方式，而是無感知獲取信息。人臉識別的隱私泄露4.3隱私泄露的案例根據(jù)央視調(diào)查，