【論大數(shù)據(jù)“殺熟”的法律規(guī)制（論文）4000字】

論大數(shù)據(jù)“殺熟”的法律規(guī)制目錄TOC\o"1-2"\h\u15086論大數(shù)據(jù)“殺熟”的法律規(guī)制 129397關鍵詞：大數(shù)據(jù)殺熟；算法歧視；算法黑箱；個人信息保護 192811大數(shù)據(jù)“殺熟”基本理論 232081.1大數(shù)據(jù)“殺熟”的特征 215971.2大數(shù)據(jù)“殺熟”涉及的法律問題 3186702大數(shù)據(jù)“殺熟”的法律規(guī)制 3233262.1算法歧視問題 363232.2相關完善建議 4150322.3算法黑箱問題 5242682.4相關完善建議 5176193小結 62534參考文獻 6摘要：在互聯(lián)網迅猛發(fā)展的時代，大數(shù)據(jù)平臺在給大家?guī)矸奖愕臅r候，還衍生出“大數(shù)據(jù)殺熟”的現(xiàn)象。我國現(xiàn)行有關法律法規(guī)中雖然對“大數(shù)據(jù)殺熟”進行了規(guī)制，但是由于種種問題，其實際規(guī)制效力仍然很難得到充分發(fā)揮，對于算法歧視這樣的問題，也依然缺少規(guī)范。本文從國內大數(shù)據(jù)殺熟中所涉及到的算法歧視問題、算法黑箱及其他法律問題研究，以期能夠為我國大數(shù)據(jù)殺熟相關立法與實踐提供完善建議。關鍵詞：大數(shù)據(jù)殺熟；算法歧視；算法黑箱；個人信息保護隨著近幾年云計算的發(fā)展，大數(shù)據(jù)等新興互聯(lián)網技術的廣泛應用，使平臺的操作越來越自動化。在為人們提供方便的同時，還衍生出“大數(shù)據(jù)殺熟”的現(xiàn)象。所謂大數(shù)據(jù)“殺熟”，就是互聯(lián)網消費領域的經營者以采集的方式，對消費者的個人消費偏好、習慣和其他數(shù)據(jù)為用戶提供精準畫像，對同種類、同品質的貨物實行差別定價，將消費者置于價格不平等狀態(tài)，繼而實現(xiàn)利益最大化之舉。“大數(shù)據(jù)殺熟”現(xiàn)象，是大數(shù)據(jù)在精準營銷過程中不斷發(fā)展和成熟，為互聯(lián)網企業(yè)所運用的產物。實際情況是，我國一些網絡平臺公司頻頻出現(xiàn)互聯(lián)網殺熟情況，也就是對于老用戶的定價要高于新用戶、對于iOS系統(tǒng)的顧客而言，其售價要高于Android系統(tǒng)的新顧客?！按髷?shù)據(jù)殺熟”由于本身的特性，很難被《消費者權益保護》所采納、《電子商務法》和其他現(xiàn)有法律規(guī)制。《網絡安全法》由于適用范圍和對用戶所設權利的局限性，不可能把算法全部納入自己的規(guī)制范圍。2020年10月1日生效的《在線旅游經營服務管理暫行規(guī)定》第十五條規(guī)定了數(shù)據(jù)的使用，雖為大數(shù)據(jù)殺熟算法規(guī)制提供了法律依據(jù)，但是它是部門規(guī)章，法律位階不高。《個人信息保護法》于2021年8月20日經國家批準，對于個人信息采集合法，正當性、進一步澄清了必要的原則，由此，規(guī)范了大數(shù)據(jù)殺熟過程中，平臺侵犯用戶個人信息的問題，但是對于算法歧視這樣的問題還缺少規(guī)范[1]。鑒于此,對于深入研究我國大數(shù)殺熟所涉及的算法歧視、算法黑箱等立法問題,有著重大的理論價值與現(xiàn)實意義。1大數(shù)據(jù)“殺熟”基本理論1.1大數(shù)據(jù)“殺熟”的特征大數(shù)據(jù)殺熟的主要特征表現(xiàn)為：①涉及領域廣：各軟件平臺上都會出現(xiàn)大數(shù)據(jù)殺成熟，比如旅游類軟件、打車類軟件，購物類軟件、視頻音樂類軟件、票務類軟件，生活服務等，殺熟的內容還包括價格，品質、服務等等諸多方面；②涉及群眾廣：手機和其他電子產品已成為今天人們社會生活中的一個重要部分，手機中各類服務軟件平臺擁有廣大使用人群，從，每一個用過電子產品的用戶，都有可能是殺熟了的目標。以此為基礎，篩選出殺熟對象，面向老用戶。網絡消費平臺中老用戶留下的數(shù)據(jù)信息較為豐富，且對于常見平臺信任度高，消費黏度大。運營商正是利用這一點對老用戶進行“殺熟”，并實行多種優(yōu)惠補貼，以吸引新增用戶，如此周而復始，可以占據(jù)較大市場份額。但經營者并非把老用戶全部“殺熟”了，而是在準確地進行數(shù)據(jù)分析，對于價格并不敏感的老用戶，或對于高價接受度較高的老用戶，才能進行直接或間接調高價格。直接要求高價格，就是平臺對價格的直接改變，使得老用戶比其他普通用戶付出了更多的代價；間接要高的價格，這就是平臺創(chuàng)造的種種約束，讓用戶主動加價，其實沒有必要，比如，刻意營造高峰時期打車難假象，找老用戶要高價錢；③準確性高：大數(shù)據(jù)殺熟與傳統(tǒng)殺熟相比較，其重要特征是利用大數(shù)據(jù)進行殺熟，經過剖析，能夠非常準確的針對不同消費者不同消費行為特征進行分析，達到準確，高效殺熟目的。1.2大數(shù)據(jù)“殺熟”涉及的法律問題也許許多人都曾經歷過，在電話里或者社交平臺上提及某物品時，再次利用一些購物平臺，可以“恰好”見到這類物品的介紹。如今，手機終端與互聯(lián)網平臺早已經擺脫簡單工具屬性，而且更像個人數(shù)據(jù)采集器，“蓄水池”。雖然《民法典》第1035條規(guī)定“處理個人信息的，應當遵循合法、正當、必要原則，不得過度處理”，但是海量網絡平臺客觀上均有非必要甚至非法收集用戶數(shù)據(jù)的現(xiàn)象。所以，數(shù)據(jù)安全這道“堤壩”若不及時筑起，然后，數(shù)據(jù)濫用這個“洪水”就會滔滔不絕了。因此，大數(shù)據(jù)殺熟的根源表現(xiàn)為算法與數(shù)據(jù)濫用，規(guī)制不清，規(guī)制大數(shù)據(jù)的“殺熟”行為，也需要在根源上加以解決[2]。2大數(shù)據(jù)“殺熟”的法律規(guī)制2.1算法歧視問題算法的歧視問題，不僅使得算法不能完全發(fā)揮自身的正向效用，也成了阻礙大數(shù)據(jù)科學和人工智能技術普及的一個不容忽視的問題。對用戶來說，算法歧視問題對用戶個人權益造成了侵犯。對于企業(yè)而言，算法歧視可能造成信息的錯誤、營銷對象偏差等、職工擇業(yè)范圍窄等方面的虧損；算法歧視會通過對客戶滿意度的影響而間接地對客戶的收入與聲譽產生影響。算法歧視包括顯性歧視和隱性歧視兩大表現(xiàn)。顯性歧視意味著算法被清晰地運用、對受保護群體進行種族分析、民族及其他有關屬性，并且把它當作算法決策中的一個要素來考慮，繼而造成了不公正待遇。與顯性歧視直接倚重受保護群體的有關要素不同，隱性歧視是軟件指令嵌入偏見造成的、偏差較大的數(shù)據(jù)集以及工具的應用，和有針對性地選擇訓練數(shù)據(jù)，設置標簽、選擇特征和其他掩蔽行為導致不平等待遇[3]。2.2相關完善建議①完善算法立法：關于算法歧視立法，首先，要對算法使用范圍，使用方式，使用底線進行規(guī)范。關于算法歧視，既要對濫用算法的公司進行嚴懲，還應考慮針對因“算法歧視”而產生的侵權現(xiàn)象，制定賠償規(guī)則。此外，還需要明確算法的應用底線，對于高敏感問題，算法介入應被取締。另外，還應該給予用戶較大的拒絕權，例如，用戶可選擇與客戶端約定采集自己的個人信息，若用戶識別算法中的歧視，則用戶有拒絕接受處理的權利。此外對算法進行規(guī)制，應采用法律強制，算法設計之初，人文倫理，算法是透明的、算法的說明嵌入了，若算法中存在歧視現(xiàn)象，還必須啟動問責機制。這一舉措可以在法律層面上對算法設計者進行制約，使之謹守法律底線，遵守倫理規(guī)制，規(guī)避“算法歧視”現(xiàn)象。2022年3月1日，我國也實施了《互聯(lián)網信息服務算法推薦管理規(guī)定》，《規(guī)定》的頒布，無疑為算法推薦服務提供者安了一道“緊箍咒”，但是，如何將具體條款落地實施，還是一個重大的課題。因此對算法立法也需要給予更多的關注，作進一步改進。②推進算法優(yōu)化：算法歧視可通過促進算法設計優(yōu)化和技術進步等途徑來克服。持續(xù)優(yōu)化算法，使算法日趨理性化。首先，應增強算法設計合理性。鑒于算法自身所暴露出的不足，技術研發(fā)人員應該重視已有因果推理技術在優(yōu)化算法中的意義。數(shù)據(jù)采樣是建立在盡可能多的綜合數(shù)據(jù)之上，研究人員應該慎用所收集的數(shù)據(jù)樣本，增強數(shù)據(jù)代表性。其次數(shù)據(jù)自身會存在偏差分布，因而對執(zhí)行人工智能訓練的數(shù)據(jù)進行審核是降低算法不公正的重要方式，不管是通過人工介入，還是通過發(fā)展相關技術等方式來審查算法，均可以有效地對抗算法中的歧視問題。2.3算法黑箱問題算法黑箱隱蔽性強，算法治理難就難在其決策過程不透明、不公開流程，易構成“算法黑箱”。算法不透明是常見問題，由于企業(yè)可就算法提出商業(yè)秘密或私人財產的訴求。在互聯(lián)網平臺上，每天都會有很多人力投入其中、財力研發(fā)和優(yōu)化算法的工具，而且這些算法技術因商業(yè)秘密而著稱，沒有向外界披露，使用戶對算法的目的與意圖認識不清，亦無從得知算法設計者的身份、實際控制者和機器產生內容的職責歸屬和其他資料。在此背景下，回顧算法可能會有一定難度。另外，在成本--效益分析方面，解密算法因此透明化，可能會耗費很大成本，也許大大超過了可得到的好處。這時人們就只能試圖檢查不透明算法，但是，這樣做不一定會取得公正的效果。這導致出現(xiàn)了一些情況，比如老用戶并不知道為什么新用戶優(yōu)惠補貼超過了他們。2.4相關完善建議①提高算法透明度：算法設計者、操作者練習算法的透明度，應著眼于用戶體驗，提供了合適，高效、可以理解算法透明度高。用戶對系統(tǒng)的卷入度決定其算法透明度要求，企業(yè)管理者應該了解他們的使用者，并且對算法的透明度進行了靈活調整；針對算法中需要用戶數(shù)據(jù)，要有節(jié)制的征收。通過對算法透明度進行練習，“黑箱”就不會再密不透風了，今后算法治理的走向會更清晰。②以算法規(guī)制算法：算法一開始就設計好了，應將數(shù)據(jù)保護步驟添加到編碼，即歐盟《通用數(shù)據(jù)保護條例》中提及的“經設計的數(shù)據(jù)保護”。通過政府監(jiān)管機構給出了算法的設計標準，算法設計開發(fā)者應利用算法透明度增強的工具進行設計。例如，抓取數(shù)據(jù)的部分設置了標準的過濾數(shù)據(jù)，為了實現(xiàn)數(shù)據(jù)脫敏；在算法運行環(huán)節(jié)，偏向結果進行報警，甚至自我糾正；例如由政府牽頭，發(fā)展政府大數(shù)據(jù)資源的聚合型網絡系統(tǒng)，利用社會公共服務中政府監(jiān)管機構為主的資料，用公權力來控制資料，反對私權利對資料的濫用[4]。3小結大數(shù)據(jù)的“殺熟”，個人信息的侵權，早已為社會公眾所詬病。盡管信息技術給我們提供了方便，但由此派生出來的負面行為，也在不斷蠶食著公眾對互聯(lián)網技術的信任感，而這種負面現(xiàn)象，實質是算法被誤用。算法雖然是中立的，但一旦掌握了算法技術，主體誤用就失去了中立性。由于掌握了海量的用戶數(shù)據(jù)及相關算法技術，因此，電子商務平臺的經營者更容易濫用算法權力。在這樣的現(xiàn)實困境下，在這一階段，我國應當對相關立法進行進一步的完善，積極開展算法監(jiān)管體制改革，對于大數(shù)據(jù)“殺熟”行為，從法律，制度等方面加以規(guī)范；互聯(lián)網企業(yè)經營者還要加強行業(yè)自律，把經濟效益與社會效益相統(tǒng)一。參考文獻[1]趙超.大數(shù)據(jù)“殺熟”的現(xiàn)實困境與規(guī)制