2024算法與AI大模型的用戶認知調(diào)研報告

摘要ABSTRACT消費者對于AI大模型和算法的認知水平是影響人工智能行業(yè)發(fā)展的重要因素，認知程度和使中國建設(shè)產(chǎn)生影響。20248前我國消費者關(guān)于AI大模型以及算法的認知情況。課題組通過支付寶渠道向用戶發(fā)放調(diào)查問卷，8030摘要ABSTRACT一、關(guān)于AI大模型的認知一、關(guān)于AI大模型的認知在基礎(chǔ)認知層面，消費者對AI與此同時，對于AI大模型和算法的拒絕使用權(quán)以及可解釋性，訴求比較強烈。另一方面，數(shù)據(jù)還反映出AI在AI高效和便利等具有正向評價的詞匯。在與AI大模型的關(guān)系上，人們期待更深層次的互動，不僅能夠充當工具，還能夠進一步成為伙伴關(guān)系。但對于AI大模型的普及應(yīng)用，多數(shù)人支持不同領(lǐng)域需進行區(qū)別對待。關(guān)于AI大模型的風(fēng)險和問題，人們普遍認同AI大模型存在風(fēng)險，但多數(shù)人認為風(fēng)險在可控范圍內(nèi)。人們對AI其中超過半數(shù)的受訪者擔心AI不受控制地搜集個人信息以及對人類就業(yè)崗位的替代。消費者對目前的AI面對AI大模型的風(fēng)險，公眾傾向于采取積極主動的應(yīng)對措施避免可能受到的權(quán)益損害。在向AI二、關(guān)于算法認知的變化二、關(guān)于算法認知的變化我們對2022年問卷和2024年問卷中關(guān)于算法認知的問題進行了對比分析，發(fā)現(xiàn)：受程度有所提高。兩年有明顯的減弱趨勢；面對算法可能帶來的不利影響，消費者主動的保護意識和能力有所增強。整體上有所好轉(zhuǎn)。為平臺在人性化設(shè)計方面有所進步。目錄目錄CONTENTS一、前言??????????????????????????????????011背景????????????????????????????????????????????????02問卷設(shè)計理念???????????????????????????????????????????03??????????????????????????????0421調(diào)查對象的性別、年齡和區(qū)域分布????????????????????????????????042.2調(diào)查對象的學(xué)歷、職業(yè)和收入分布????????????????????????????????05三、消費者對AI大模型的認知和態(tài)度???????????????????????0631用戶對算法和AI大模型的基本認知????????????????????????????????063.2用戶對使用AI大模型的態(tài)度????????????????????????????????????083.3用戶對AI大模型風(fēng)險的認知????????????????????????????????????103.4針對AI??????????????????????????????????12四、與國際社會的對比?????????????????????????????1541關(guān)于青少年對人工智能感知的對比????????????????????????????????154.2關(guān)于消費者對生成式AI的認知和態(tài)度的對比???????????????????????????18五、消費者對算法認知的變化??????????????????????????2351關(guān)于算法透明???????????????????????????????????????????235.2關(guān)于算法安全???????????????????????????????????????????255.3關(guān)于算法公平???????????????????????????????????????????265.4關(guān)于算法向善???????????????????????????????????????????27附件????????????????????????????????????29附件1：關(guān)于算法與AI大模型消費者認知的調(diào)查問卷????????????????????????29附件2：聯(lián)合國針對青少年對AI?????????????????????????????36一、前言一、前言在線上世界，企業(yè)通過算法嵌入向消費者提供服務(wù)幾年前就成為一種常態(tài)。2022年ChatGT問世所引發(fā)的AI網(wǎng)信辦數(shù)據(jù)顯示，截至2024年7月30日，全國范圍內(nèi)已備案AI大模型數(shù)量97個，其中70%是通用大模型，注冊登記的用戶數(shù)量超過6億。能（ArtificialIntelligence，AI）擬、實現(xiàn)人類智能的技術(shù)和方法，使計算機具有感知、理解、判斷、推理、學(xué)習(xí)、識別、生成、交互等類人智能的能力，從而能夠執(zhí)行各種任務(wù)。算法和人工智能作為一種顛覆性技術(shù)，已逐步滲透到大眾生產(chǎn)和生活各個領(lǐng)域。例如，在自動駕駛領(lǐng)域，通過計算機視覺、深度學(xué)習(xí)等算法，車輛能夠在復(fù)雜環(huán)境中安全行駛；在醫(yī)療健康領(lǐng)域，人工智能通過分析醫(yī)療圖像、患者數(shù)據(jù)等輔助醫(yī)生進行疾病預(yù)測、診斷和治療方案優(yōu)化；在金融服務(wù)領(lǐng)域，人工智能被用于風(fēng)險評估、投資決策、欺詐檢測等，以提高金融服務(wù)的效率和安全性；在工業(yè)制造領(lǐng)域，人工智能通過機器學(xué)習(xí)和自動化技術(shù)優(yōu)化生產(chǎn)流程、提高生產(chǎn)效率和質(zhì)量。雖然，算法和人工智能的應(yīng)用對生產(chǎn)效率和社會福利的貢獻有目共睹，但另一方面，像人類歷AI擔心過度搜集數(shù)據(jù)導(dǎo)致個人隱私安全受到威脅，AI普及導(dǎo)致的失業(yè)問題和社會不穩(wěn)定，以及I發(fā)展引起的倫理道德方面的擔憂等。算法和人工智能的本質(zhì)是一種工具，工具本身不具備思想和價值判斷，使用算法和人工智能的也在不斷重構(gòu)生產(chǎn)關(guān)系，讓以人為中心的工具主義逐步轉(zhuǎn)向人機協(xié)同的共生關(guān)系。因此如何讓算法和人工智能造福人類、同時又避免算法和人工智能帶來的風(fēng)險，對算法和人工智能服務(wù)提供監(jiān)管的主體才是關(guān)鍵。2023815態(tài)健康發(fā)展提供了制度保障。背景在科技日新月異的時代背景下，算法與人工智能（AI）作為數(shù)字時代的核心驅(qū)動力，正以前所2022用的認知和評價。時至今日，隨著技術(shù)的不斷進步與創(chuàng)新，算法與AI技術(shù)已邁入新的發(fā)展階段，以及深入了解用戶對新興事物——人工智能的整體認知與看法，我們決定再次發(fā)起一項針對性的問卷調(diào)查。本次調(diào)查旨在通過對比分析，探究過去兩年間用戶在算法認知方面的深化程度、態(tài)度轉(zhuǎn)變的軌跡，以及對于人工智能使用的認知現(xiàn)狀與評價。的原因有以下三個。度受到侵害這一問題最有發(fā)言權(quán)。本課題希望通過消費者問卷調(diào)查，了解用戶的真實感受。息繭房”，是否因推薦而過度消費，是否可以利用規(guī)則爭取和維護個人權(quán)益；二是需要了解消費者對AI大模型的認知程度以及對使用AI大模型的態(tài)度，是否認為應(yīng)該推廣使用AI大模型，這些在一人工智能素養(yǎng)水平，提出進行消費者教育的相應(yīng)對策。第三，消費者對算法和人工智能的態(tài)度存在內(nèi)在的不一致性。有研究表明，一方面，用戶在言語表達上更關(guān)注使用算法提供服務(wù)時可能存在的侵犯隱私、價格歧視、倫理風(fēng)險等問題；但另一方面，在行為上，為了得到更好的服務(wù)體驗和提高效率，用戶對個人信息提供、個性化推薦、AI大模型使用等表現(xiàn)出較好的寬容性，并不排斥企業(yè)算法和AI大模型的使用。本課題希望通過問卷中不同問題的設(shè)置，尋找不一致性存在的證據(jù)，以更準確判斷算法和人工智能對消費者福利的影響。問卷設(shè)計理念3313是關(guān)于人工智能方面的134分是關(guān)于消費者個人基本信息的3個問題。問卷具體內(nèi)容請參看附錄。其中一些問題與本課題組2022年的調(diào)研是相同的，我們試圖發(fā)現(xiàn)消費者對算法的認知及態(tài)度是否有變化。老年人的使用需要，是否會傳播不利于未成年人身心健康的信息、誘導(dǎo)未成年人沉迷網(wǎng)絡(luò)。在人工智能方面，一是調(diào)查用戶對人工智能的認知程度，比如用戶是否了解I大模型及其工作流程或工作原理；二是調(diào)查用戶對AI大模型的態(tài)度，比如用戶認為AI大模型應(yīng)該在社會中扮演什么角色以及AI大模型是否應(yīng)該在各個領(lǐng)域普及使用；三是調(diào)查AI大模型使用過程中產(chǎn)生的數(shù)據(jù)隱私、偏見歧視、錯誤判斷、道德決策和倫理等方面的問題。AI大模型安全的相關(guān)規(guī)定和公民自身所擁有的合法權(quán)利；二是調(diào)查企業(yè)是否保障用戶的算法和AI大模型解釋權(quán)，比如AI二、樣本的基本特征二、樣本的基本特征2.1調(diào)查對象的性別、年齡和區(qū)域分布圖1.調(diào)查對象的性別、年齡、區(qū)域分布從性別結(jié)構(gòu)看，男性占比55.34%，女性占比為44.66%，占比相對均勻。從年齡結(jié)構(gòu)看，186018O2O而60從區(qū)域結(jié)構(gòu)看，五線城市占比為6%，相對較低，其他等級城市占比較為均勻。2.2調(diào)查對象的學(xué)歷、職業(yè)和收入分布圖2.調(diào)查對象的學(xué)歷、職業(yè)和收入分布從學(xué)歷構(gòu)成看，半數(shù)以上為本、?？茖W(xué)歷，研究生及以上高學(xué)歷群體比重僅為10%。從職業(yè)分布看，企業(yè)工作人員、機關(guān)事業(yè)單位工作人員的比重為38.09%和15.84%。自由職業(yè)者比重為26.43%，比較高，這可能與自由職業(yè)者多在網(wǎng)上工作，回答問卷的概率較高有關(guān)。8020520—05—本報告來源于三個皮匠報告站（）,由用戶Id:768394下載,文檔Id:186772,下載日期:2024-12-27三、消費者對AI大模型的認知和態(tài)度三、消費者對AI大模型的認知和態(tài)度3.1用戶對算法和AI大模型的基本認知AI大模型的使用尚未普及，消費者對其運作機制的認識也相對匱乏。在收集的8030份問卷中，有超半數(shù)的受訪者完全沒有使用過AI大模型。針對使用過AI大模型的受訪者，進一步調(diào)研了他們對大模型的工作流程或工作原理的了解程度。結(jié)果顯示，僅有1019%左右的消費者非常了解，部分了解的人數(shù)占5.21%，不太了解和完全不了解的人數(shù)占30%AIAI但整體上，這種認知仍較為淺顯和有限。圖3.調(diào)查對象對大模型的了解和使用情況第二，對于算法和AI大模型的拒絕使用權(quán)以及可解釋性，消費者訴求強烈。超80%的受訪者認為用戶應(yīng)該享有主動拒絕使用算法和AI大模型的權(quán)利，只有11%的受訪者認可無權(quán)拒絕使用。關(guān)于企業(yè)是否需要向用戶解釋算法和AI大模型，39.3%的受訪者認為需要詳盡解釋，447%的受16%。圖4.關(guān)于AI大模型拒絕使用權(quán)和可解釋性的訴求第三，用戶使用AI大模型最主要的場景是學(xué)習(xí)和工作，其次是生活場景，AI大模型的實用性得到用戶的廣泛認可。調(diào)查結(jié)果顯示，在那些已經(jīng)使用過AI大模型的受訪者中，分別有5.42%、4095%和35.32%的受訪者在學(xué)習(xí)、工作和生活場景中應(yīng)用了AI大模型。這一數(shù)據(jù)表明，AI大模型在這些領(lǐng)域具有較高的接受度和實用性。然而，在娛樂領(lǐng)域，使用AI大模型的消費者比例不足20，這可能暗示著AI大模型在娛樂行業(yè)的應(yīng)用潛力尚未充分展現(xiàn)，或者該領(lǐng)域的用戶對AI大模型的接受度相對較低。此外，高達9%的受訪者認為AI大模型對他們的工作和生活起到了積極作用，其中超過半數(shù)的人認為AI大模型的作用極為顯著，甚至達到了不可或缺的程度。這些數(shù)據(jù)AI圖5.AI大模型的使用場景及其實用性3.2用戶對使用AI大模型的態(tài)度第一，用戶對IAI大模型的看法時，諸如欺詐和失業(yè)等負面詞匯的使用頻率大多維持在10%左右。這些數(shù)據(jù)表明，大多數(shù)受訪者對AI技術(shù)持有非常積極的態(tài)度。圖6.調(diào)查對象對AI大模型的印象第二，人們期待與AI大模型能夠提供更深層次的互動，不僅能夠充當工具，還能夠進一步成為伙伴關(guān)系。35.5%的受訪者認為AI大模型對于人來說應(yīng)該是工具，這表明這部分人更傾向于將AI視為提高效率和解決問題的手段。這種看法可能源于對AI技術(shù)的實際應(yīng)用和功能的認識。超六成的受訪者認為，AI大模型不僅僅是一個簡單的工具，它們在人們心中還扮演著伙伴的角色。這反映了人們期待AI圖7.調(diào)查對象對人與AI大模型關(guān)系的看法第三，多數(shù)公眾認為AI大模型的普及策略應(yīng)根據(jù)不同領(lǐng)域的實際情況有序推進，只有少數(shù)認AI這意味著人們認為AI技術(shù)在某些領(lǐng)域可能具有更大的應(yīng)用價值和發(fā)展?jié)摿?，而在其他領(lǐng)域則可能存在風(fēng)險或不適用的情形，所以應(yīng)該區(qū)別對待；16.23%AI用范圍，對AI技術(shù)的潛在風(fēng)險和負面影響保持非常謹慎的態(tài)度；12.58%的受訪者認為應(yīng)該普及AI大模型，他們可能認為I技術(shù)具有廣泛的應(yīng)用前景，能帶來積極的社會和經(jīng)濟效益，因此支持其普及。圖8.受訪者對AI大模型普及使用的看法3.3用戶對AI大模型風(fēng)險的認知第一，用戶認為AI90%左右的受訪者都認為AI大模型是存在風(fēng)險的。其中，6.2%的受訪者對AI大模型持謹慎樂觀態(tài)度，認為雖然存在風(fēng)險，但這些風(fēng)險是可以被控制和管理的；22.08%AI部分人對AI的發(fā)展持擔憂態(tài)度；僅有4.26%的受訪者對AI大模型的發(fā)展保持非常抵觸的態(tài)度，認為應(yīng)該立即停止使用。有4.48%的受訪者認為AI大模型完全沒有風(fēng)險，這可能表明這部分人對AI技術(shù)非常信任，或者對AI的了解不夠深入。這組數(shù)據(jù)提示我們，在推進AI技術(shù)發(fā)展的同時，也AI圖9.調(diào)查對象對AI大模型風(fēng)險的感知第二，公眾最關(guān)注AI大模型使用中的隱私保護和就業(yè)替代問題。公眾在使用I大模型的過程中面臨多方面的挑戰(zhàn)，人們對AI大模型的風(fēng)險認知呈現(xiàn)多元化的特點，隱私保護和信息安全是人們最關(guān)注的問題。人們在使用AI大模型的過程中面臨諸多問題，包括數(shù)據(jù)隱私和安全、結(jié)果的準確性和可靠性、技術(shù)易用性、信息質(zhì)量和成本問題等，人們對AI大模型應(yīng)用過程中風(fēng)險的關(guān)注也涵蓋了從就業(yè)、隱私、歧視到政府監(jiān)管等多個方面。超半數(shù)的受訪者遇到了數(shù)據(jù)隱私和安全問題，60.09%AI眾不僅對于AI的自主性和潛在的控制力有所擔憂，而且也擔心AI技術(shù)的發(fā)展可能會放大現(xiàn)實層面的問題。圖10.關(guān)于受訪者對AI大模型潛在風(fēng)險的感知第三，公眾認為目前AI大模型最大的問題是隱私保護不足和產(chǎn)品性能達不到個人需求。在使用I大模型時，超過一半的受訪者遇到過數(shù)據(jù)隱私和安全問題，40%的受訪者表示遇到過生成結(jié)以學(xué)習(xí)、偏見歧視和錯誤判斷以及錯誤和無用信息等問題。這表明，目前的AI大模型在性能方面仍然存在較多問題，需要持續(xù)改進。圖11.受訪者AI大模型的應(yīng)用中遇到的問題3.4針對AI大模型風(fēng)險的用戶策略有一部分受訪者在遇到權(quán)益損害問題時，會選擇不再使用該產(chǎn)品，表明了用戶對于AI潛在風(fēng)險的擔憂。圖12.受訪者應(yīng)對AI大模型帶來的權(quán)益損害采取的措施圖13.受訪者應(yīng)對AI大模型問題采取的措施第二，公眾普遍認為，為了降低AI大模型的風(fēng)險，必須構(gòu)建多元主體開放合作的治理機制，6.83%的受訪者認為AI大模型未來的發(fā)展需要完善相關(guān)法律法規(guī)；在企業(yè)層面，受訪者認為企業(yè)不僅要重視自身的監(jiān)管和審查，技合作、協(xié)商的多元治理機制。這些措施共同構(gòu)成了一個綜合性的風(fēng)險管理框架，旨在確保AI技術(shù)的安全與可持續(xù)發(fā)展。圖14.受訪者防范AI大模型風(fēng)險的認知圖15.受訪者AI未來發(fā)展的看法第三，公眾對AI大模型安全的相關(guān)法規(guī)及自身的合法權(quán)益了解有限。僅有177%的受訪者自己閱讀過AI大模型安全相關(guān)的法律法規(guī)，對自身享有的權(quán)利有一定的認知，482%的受訪者僅聽說過部分內(nèi)容，1.07%的受訪者只聽說過名字，有104%的受訪者甚至完全不了解我國在AI大模型安全領(lǐng)域的相關(guān)立法。圖16.受訪者對AI大模型法律法規(guī)的了解情況四、與國際社會的對比四、與國際社會的對比關(guān)于青少年對人工智能感知的對比對比報告簡介20228：AFuturewithAIVoicesofGlobal該報告旨AI共存的美好未來做出貢獻。36254152424254寫本課題組問卷的青少年人數(shù)為1160人。與國際社會的比較第一，我國青少年對人工智能(AI)的認知度略高于全球平均水平。聯(lián)合國報告顯示，超過85%的青年人意識到I的存在，而本課題組調(diào)研結(jié)果顯示這一比例更高，達到88.88%。僅有112%的青少年表示對AI完全不了解。圖17.國內(nèi)外青少年對AI感知程度的對比第二，中國青少年對AI工作原理的了解程度可能高于全球平均水平。聯(lián)合國報告中，76%的青少年表示不了解I工作原理，而本課題組調(diào)研結(jié)果顯示，6672%的青少年對AI工作原理有一，9.29% 圖18.國內(nèi)外青少年對AI工作原理了解程度的對比第三，國內(nèi)外青少年群體對AI大模型態(tài)度都相對積極，并且國內(nèi)青少年更少擔心就業(yè)壓力。聯(lián)合國報告指出，93.2%AI68%本課題組的調(diào)研中，當提及I大模型時，青少年聯(lián)想比例最高的五個詞匯均為積極詞匯，分別是創(chuàng)新、高效、便利、進步和共存。值得注意的是，失業(yè)這一關(guān)鍵負面詞匯在國際青少年群體中的提及率為307%，而在中國青少年中則不到15%。這可能表明，相較于國際社會，中國青少年對I的發(fā)展和應(yīng)用展現(xiàn)出更加樂觀和積極的態(tài)度。圖19.國內(nèi)青少年對AI大模型的認知第四，隱私保護和失業(yè)風(fēng)險是國內(nèi)外青少年普遍關(guān)注的議題，另外國際青少年還更加關(guān)注算法50%（56.8%）（53.5%）府控制”（51%），20%—30%圖20.國內(nèi)青少年對AI大模型具體風(fēng)險的認知AIAI49%的青少年更傾向于工具型機器人，而非擬人化或動物化的機器人，并普遍不希望機器人擁有AIAI圖21.國內(nèi)青少年人與AI大模型關(guān)系的認知另外，在聯(lián)合國報告中值得關(guān)注的一點是，報告顯示，即使在高風(fēng)險領(lǐng)域，如手術(shù)只要AI置于人類的管控之下，青少年對其的接受程度很高；但在一些自主決策領(lǐng)域，如自動化駕駛，即使技術(shù)已經(jīng)比較完善，但接受程度相對較低。另一方面，在創(chuàng)造藝術(shù)和文化、政治決策、照顧老人和兒童等領(lǐng)域，年輕人認為人工智能根本不應(yīng)該被使用。4.2關(guān)于消費者對生成式AI的認知和態(tài)度的對比對比報告簡介2024424（BostonConsulting，下稱KnowMoreAboutAIThanBusinessLeadersThinkBCG2023消費者信心調(diào)查中，關(guān)于消費者對生成式AI的態(tài)度和認知的分析。CG的客戶洞察中心于023892121000AI以及各個市場消費者的使用情況和情緒。它還捕捉了消費者積極和消極情緒的原因，并探討了與在工作場所使用人工智能相關(guān)的問題。報告中特別提出了消費者對AI的了解遠超企業(yè)領(lǐng)導(dǎo)者的認知，并建議企業(yè)領(lǐng)導(dǎo)者在開發(fā)和部署支持人工智能的解決方案時，應(yīng)該理解消費者，不要低估消費者。BCGChatGT為例，屬于本課題組調(diào)查聚焦的AI大模型，本文僅針對CG披露的調(diào)查結(jié)果與本課題組的調(diào)查中相似的角度進行比較。與國際社會的比較AICG的調(diào)查結(jié)果顯示中國消費者對AI的認知度為8%，與本課題組的調(diào)查結(jié)果中，有接近90%的受訪者對AI大模型有了解基本吻合。有趣的是，CG的調(diào)查結(jié)果中，中國、印度、阿聯(lián)酋和沙特阿拉伯等市場，受訪者對AI的認知超過80%甚至高達90%，而英美等發(fā)達經(jīng)濟體對AI的認知70%AI圖22.各國對AI感知程度的對比第二，新興市場消費者對AI的態(tài)度更加開放。根據(jù)CG的調(diào)查結(jié)果，中國、印度尼西亞和泰國對AI的評價更加積極，對AI感到興奮的比例分別為5%、49%和44%，感到擔憂的比例則低于20%；而美國、英國、法國等發(fā)達經(jīng)濟體的總體態(tài)度偏負面，對AI感到擔憂的比例在40%左右。本課題組調(diào)查中，消費者對AI大模型的態(tài)度中“高效”、“進步”、“創(chuàng)新”等積極正面的BCG和菲律賓等ChatGT人氣較高的國家，消費者更多使用ChatGT查找信息、協(xié)助研究，甚至可以將ChaGTChatGPT圖23.各國對AI態(tài)度傾向的對比第三，全球范圍來看，消費者對工作場所人工智能的看法在不同的職業(yè)領(lǐng)域有所區(qū)分。BCG報告對不同職業(yè)領(lǐng)域中的消費者認為AI取代工作的威脅程度進行了區(qū)分，總體上來看，55%的受19威脅，或表達出一定的擔憂傾向。他們，說明從事高要求職業(yè)的人感覺非常大的威脅。本課題調(diào)查中，將“工作崗位被AI替代”作為受訪者關(guān)注AI對就業(yè)影響的指標，可以看到關(guān)注AI對就業(yè)影響的受訪者中企業(yè)工作人員最多，占比8.26%，學(xué)生占比最少，為.37%，與BCG圖24.各不同職業(yè)領(lǐng)域?qū)I取代工作威脅程度的對比此外，CG的調(diào)查結(jié)果中還有對消費者對AI應(yīng)用在工作和生活場景不同態(tài)度的呈現(xiàn)。43%的消費者對AI在生活場景中的應(yīng)用持積極態(tài)度，其中39%的消費者認為AI在改善日常生活方面有正向影響；對AI在工作場所的應(yīng)用的態(tài)度也很積極，70%的受訪者對I在工作場景的應(yīng)用持積極60%AI，55%AI圖25.消費者對AI應(yīng)用在工作和生活場景的不同態(tài)度五、消費者對算法認知的變化五、消費者對算法認知的變化本次調(diào)研中，關(guān)于算法的消費者認知的題目與2022年我們的研究是相同的。5.1關(guān)于算法透明202466不清楚。202244%16.9%務(wù)中算法的使用有了更多的理解和認識。此外，關(guān)于是否了解企業(yè)使用算法的內(nèi)容和目的的問題，202460202235%。表示完全不了解的用戶比例，2021年高達20%，2024年則減少到853%。這表明，在多方共同努力下，算法透明度顯著提高、用戶體驗明顯改善。圖26.調(diào)查對象對算法的感知度和基本了解第二，受訪者對基于個人信息標簽的算法推薦接受程度有所提高。首先，關(guān)于更加接受企業(yè)企業(yè)如何推送廣告的問題中，接受“千人千面、精準推送”的受訪者比例從257%增加到了29.3%，接受“根據(jù)數(shù)據(jù)大致分類，按照類別推送不同廣告”的比例也上升到60%，希望對所有用戶推送相同廣告的受訪者比例則從.2%下降到了4.5%，整體上，消費者對企業(yè)針對不同消費者推送差異性廣告的接受度是提高的。此外，關(guān)于企業(yè)根據(jù)個人特征標簽推薦商品的態(tài)度變化則比較有趣。一方面，選擇“不接受、希望關(guān)閉該功能”的受訪者比例大大下降，從29%下降到19%，但另一方面，選擇“依法排除某些標簽”的受訪者比例則提高了11個百分點，從25.8%提高到37%。這反映出消費者接受了因人推薦商品的合理性，同時在依法保證個人隱私及利益的訴求在加強。圖27.2024年基于個人信息標簽的推薦算法的接受度圖28.2022年基于個人信息標簽的推薦算法的接受度5.2關(guān)于算法安全510%，認為存在很高風(fēng)險的受訪者比例則從20.3%降低到了105%。關(guān)于算法推薦侵犯了個人隱私這一說法，完全同意的受訪者比例從1%降低到了14.%，下降趨勢非常明顯。持不太同意和完全不同意態(tài)度的受訪者比例則從2.5%上升到25.4%。上述數(shù)據(jù)變化明顯表明，消費者認為算法推薦的消費者權(quán)益受損的現(xiàn)象在減輕。但同時，也必須看到，202480467%的受訪者認為個人隱私受到了不同程度的侵犯，這兩個數(shù)值的水平仍處于高位，這說明解決算法安全問題、仍然需要各界持續(xù)不斷的努力。圖29.消費者的算法風(fēng)險感知對比是要求關(guān)閉個性化推薦的受訪者比例大大下降，從45.3%下降到30%。與此同時，選擇使用搜索功薦，在認知上更加成熟，行為上更加老練了。圖30.針對算法風(fēng)險的應(yīng)對策略對比5.3關(guān)于算法公平息扭曲現(xiàn)象，包括操縱熱榜、流量造假和信息屏蔽等，這一方面，2022年超八成的受訪者認為這202441.2%下降到了12.7%。圖31.對企業(yè)進行人為信息扭曲的感知對比53.7%，10%，說明近年來企業(yè)差別化定價的行為有所好轉(zhuǎn)。圖32.差別定價的消費者感知變化5.4關(guān)于算法向善第一，消費者對算法自動推薦的信息流，正面評價的比例有顯著提高。選擇“推送精準、節(jié)省4052%。相對應(yīng)的，選擇“推送內(nèi)容過于娛樂化、容易上癮”、“推動信息比較同質(zhì)、限制了知識獲取的多元化”這兩個選項的受訪者43%37%圖33.關(guān)于算法推薦的感知變化第二，消費者普遍認為平臺在人性化設(shè)計方面，有一定的進步。202415平臺在“適老化”、“未成年人模式”等人性化設(shè)計方面有明顯進步，531%的受訪者認為有一定512%圖34.關(guān)于平臺人性化設(shè)計的消費者感知附件附件附件1：關(guān)于算法與AI大模型消費者認知的調(diào)查問卷/您好?。ˋIAL我們課題組試圖了解用戶對于算法和AI大模型的認識和看法，希望得到您的配合。本問卷搜集的數(shù)據(jù)將只用于課題研究，無任何商業(yè)目的或信息泄露的可能，非常感謝您的參與。對外經(jīng)濟貿(mào)易大學(xué)數(shù)字經(jīng)濟與法律創(chuàng)新研究中心中國人民大學(xué)數(shù)字經(jīng)濟研究中心聯(lián)合課題組第一部分1.您是否知曉企業(yè)在提供互聯(lián)網(wǎng)服務(wù)時使用了算法？（如個性化推薦、靈活定價）A.完全清楚B.比較清楚C.不太清楚2.您了解企業(yè)使用算法的內(nèi)容和目的嗎？A.完全了解B.比較了解C.不太了解3.如果廣告不可避免，您希望企業(yè)如何推送廣告？A.千人千面，精準推送B.C.對所有人推送相同廣告.無所謂4.若企業(yè)根據(jù)個人特征標簽（如性別、喜好、地理位置、交易和瀏覽記錄等）向您推薦商品，您的態(tài)度是？A.允許企業(yè)自主確定標簽B.希望依法排除某些標簽C.用戶自己確定標簽E.無所謂5.您是否認為算法在向您推薦個性化的廣告、視頻、新聞時侵犯了您的個人隱私？A.完全同意B.比較同意C.一般6.總體而言，您認為算法的應(yīng)用對消費者權(quán)益造成損害的風(fēng)險狀況如何？A.不存在風(fēng)險B.存在一定風(fēng)險C.存在很高風(fēng)險D.不清楚為避免算法可能帶來的不利影響，您通常會？【多選】A.主動管理企業(yè)的數(shù)據(jù)收集請求，拒絕不合理的數(shù)據(jù)請求B.盡可能使用企業(yè)的搜索功能，少接觸企業(yè)算法推薦的內(nèi)容C.E.沒有使用上述任何做法A.很多B.比較多C.比較少D.很少9.您有過受企業(yè)推送廣告的影響而購買了不必要的產(chǎn)品或服務(wù)的經(jīng)歷嗎？A.B.很少C.經(jīng)常10.依賴企業(yè)自動排序進行閱讀或觀看，您在獲取信息、知識方面的使用體驗是？A.推送精準，節(jié)省了我獲取有用信息的時間B.推送內(nèi)容比較多元化，可獲得較豐富的信息C.推送內(nèi)容過于娛樂化，容易上癮E.一點都不智能，還不如自己找11.你認為近幾年算法對自己造成的不良影響是否有減輕？A.有所減輕B.C.有所加重12.您認為近幾年在“適老化”、“未成年人模式”等人性化設(shè)計方面是否有所進步？A.進步明顯B.有一定進步C.沒有變化D.有所退步E.不清楚第二部分13.您對AI大模型（如文字生成、圖像生成、生活管家等）的了解程度是？A.完全不了解B.C.偶爾使用（如果選A、B，直接跳至18題）14.您在什么方面使用了AI大模型？A.工作用（如工業(yè)機器人、智能分析B.學(xué)習(xí)用（如大語言模型）C.生活用（如智能生活助理）（如圖像繪畫技術(shù)）15.您是否了解AI大模型的工作原理？A.非常了解B.部分了解C.不太了解16.您認為AI大模型的幫助大嗎？A.不可或缺B.很有幫助C.有一點幫助D.沒有幫助E.不清楚17.在使用AI大模型的過程中，您遇到過哪些問題？【最多選3項】A.生成的結(jié)果不令人滿意B.數(shù)據(jù)隱私和安全問題C.偏見歧視和錯誤判斷E.錯誤和無用信息18.當提到AI大模型，您會想到什么詞？【最多選5項】A.創(chuàng)新B.威脅C.高效D.戰(zhàn)爭E.便利F.失業(yè)G.進步H.武器I.共存J.欺詐K.朋友L.失控M.19.你認為AI大模型對人類的風(fēng)險在于？【最多選3項】被用作武器人類過于依賴AIC.工作崗位被AI機器人主導(dǎo)世界E.不受控制地搜集和處理個人信息F.政府過度使用AI進行監(jiān)管G.AI的偏見與歧視H.其他，請補充（）20.為避免AI大模型應(yīng)用帶來的不利影響，您通常會？【最多選2項】A.盡可能減少AI大模型產(chǎn)品的使用B.主動學(xué)習(xí)基礎(chǔ)知識，增強對AIC.注意保護個人隱私和數(shù)據(jù)安全.其他應(yīng)對措施您認為應(yīng)該采取哪些措施以降低AI大模型可能帶來的風(fēng)險？【最多選3項】A.限制AI大模型運用的空間和領(lǐng)域B.加大對企業(yè)的監(jiān)管和處罰力度C.鼓勵技術(shù)創(chuàng)新以解決可能的風(fēng)險企業(yè)建立內(nèi)部倫理審查及自我監(jiān)督機制構(gòu)建全社會開放、合作、協(xié)商的多元治理機制其他您認為AI的風(fēng)險有多高？A.沒有風(fēng)險，完全不擔心B.有風(fēng)險，但可以控制C.有比較大的風(fēng)險D.風(fēng)險非常大，應(yīng)該立即停止使用您認為AI大模型對于人應(yīng)該保持什么樣的地位？A.工具B.伙伴C.兩者兼具D.不清楚您認為AI大模型是否應(yīng)該在各個領(lǐng)域普及使用？應(yīng)該普及不同領(lǐng)域區(qū)別對待應(yīng)該嚴格限制使用范圍你認為AI大模型在未來的發(fā)展中，最應(yīng)該關(guān)注的問題是什么？【最多選3項】A.技術(shù)的創(chuàng)新和突破B.商業(yè)應(yīng)用場景的拓展C.法律法規(guī)的完善倫理道德的討論E.社會接受度的提高G.其他第三部分26.您是否了解國家有關(guān)算法安全、AI大模型安全的相關(guān)規(guī)定和公民自身所擁有的合法權(quán)利？（如薦管理規(guī)定》、《生成式人工智能服務(wù)管理暫行辦法》等）A.親自閱讀過B.C.只聽說過名字27.您認為企業(yè)需要向用戶解釋算法和AI大模型的原理嗎？A.需要詳盡解釋B.需要簡單解釋C.不需要解釋28.您認為用戶是否應(yīng)當有權(quán)利拒絕算法個性化推薦，或拒絕使用AI大模型？A.有權(quán)拒絕B.無權(quán)拒絕C.無所謂29.算法或AI大模型產(chǎn)品侵害了您的權(quán)益時您會？【最多選2項】A.向企業(yè)反饋B.C.第四部分30.您的學(xué)歷是？A.B.?？艭.本科D.研究生及以上E.不便透露31.您的職業(yè)是？A.學(xué)生B.C.企業(yè)工作人員E.其他32.您的年收入是？A.2萬以下B.2-5萬C.6-20萬E.50附件2：聯(lián)合國針對青少年對AI看法的問卷AboutAIQ.HeoueerheadofArtificialIntelligence(AI)?Ihaveneverheardofit(→skiptoQuestion4)I’eheadaboutit,butIdon’tknowwhatitmeansIknowwhatitmeansbutIhavenotuseditIhaveuseditQ2.DoyouunderstandhowAIworks?Idon’tknowwhatitdoesorhowitworksIknowwhatitdoes,butIdon’tknowhowitworksIknowalittlebitabouthowitworksIknowalotabouthowitworksQ3.DoyouseeAIassomethingpositiveornegative?(1=verynegative,2=abitnegative,3=abitpositive,4=verypositive)Q4.WhichwordscometoyourmindwhenyouthinkaboutAI?(chooseupto5words)ThreatHopeDangerViolenceUnemploymentSafetyFutureConvenienceInnovationCo-existenceFriendNoneofthesewordsQ5.HowoftendoyouseeAIaroundyou?NeverOnceamonthOnceaweekOnceadayMultipletimesadayQ6.Howmuchdoouageewiththeollowing?(atefom1=disagee…4=agee)IsearchforinformationaboutAI(e.g.,programming,newAIservices)IstudyAIthroughtheinternet,booksorclasses.ItrustAI.Iseelasyfriendoraamiymember(.g.,Siri,lea).IthinkAIorrobotscanbemybestfriends.IanttoeepyoboteenthoughIbuyanewoneasIeelsadifIthowit.IanttouseAIinodertolearnlanguages,mathematics,etc.athom.IwanttoplaygameswithAIinordertoincreasemyskills.IwanttocollaboratewithAI(e.g.,playinggames,creatingarts).IthinkhumanshouldbecriticalagainstanydecisionwhichismadebyAI.IwanttocreatenewAIorrobotsincollaborationwithotherpeoplearoundtheworld.IwanttodiscussAIuseandregulationwithotherpeoplearoundtheworld.IwanttocreateaworldwherehumansandAIliveOPPORTUNITIESANDRISKSOFAIQ.Fortheollowingactivities,dooupeerAItodoit,orhuman?OrAIandhumanworkingtogether?(chooseoneoutofthree:AI,Human,Together)Doingmanuallaborinfactories(robotswithAI)HousekeepingChildcareCareforelderlypeopleTeachingAssessingstudents(e.g.,gradingtests)PoliticaldecisionmakingSurveillance(helpingthegovernmentorpolice)SurgeryInventingnewmedicineDrivingcarsDeliery(ydon,obots)Workasasalesperson(e.g.selfdrivingcarsorrobots)TheuseofAIinweaponsCreatingArtandCulture(e.g.music,paintings,novelsetc.)Q8.HowseriousdoyouthinktherisksofAIare?Notsoserious-Idon’tworryaboutthemTherisksareserious,buttheycanbecontrolledVeryseriousWemuststopusingAInow!Q9.WhatdoyouthinkisthebiggestriskofAI?(chooseasmanyasyouwant)MalfunctioningofAI(e.g.selfdrivingcarsorrobots)TheuseofAIinweaponsHumansdependingtoomuchonAIHumanslosingtheirjobstoAITheunfairdistributionofAIamongcountriesRobotstakingovertheworldCollectingandprocessingpersonaldatawithouthumancontrolGovernmentregulatingpeoplethroughAIUnfairjudgementsanddiscriminationbyAIQ1.hfegdIredo?esysuSelectthebestcandidateforajob(AIinrecruitment)childrenCareforelderlypeopleNursingandMedicalcare(e.g.surgery)AutomaticallymakemedicaldecisionsKillpeopleCreatenewAIthatisevenmorepowerfulHavethesamerightsashumansHowwouldyouseeyourselflivinginaworldthatishighlyautomated,whereAIispoweringmostthingsaroundyou?