試述AI在安全播出領(lǐng)域的應(yīng)用

試述AI在安全播出領(lǐng)域的應(yīng)用摘要：隨著互聯(lián)網(wǎng)和大數(shù)據(jù)的發(fā)展，人工智能技術(shù)（AI）得到了高速和深入的發(fā)展。在有線電視安全播出領(lǐng)域運(yùn)用AI技術(shù)，將會(huì)顯著提升安全播出工作效果。本文對(duì)安全播出中的內(nèi)容安全審播現(xiàn)狀進(jìn)行了總結(jié)，對(duì)AI技術(shù)發(fā)展進(jìn)行了介紹，并對(duì)如何將AI應(yīng)用于安全播出領(lǐng)域進(jìn)行了詳細(xì)分析，提出具體技術(shù)部署方案和相關(guān)建議，對(duì)AI技術(shù)運(yùn)用于數(shù)字電視安全播出具有啟示價(jià)值。關(guān)鍵詞：AI；安全播出；大數(shù)據(jù)1引言隨著我國(guó)經(jīng)濟(jì)發(fā)展和社會(huì)進(jìn)步，人民群眾對(duì)精神文化生活的需求日益增長(zhǎng)。廣播電視播出機(jī)構(gòu)通過(guò)不斷增加播出頻道數(shù)量和節(jié)目?jī)?nèi)容來(lái)滿足用戶這方面需求，這對(duì)作為廣播電視產(chǎn)業(yè)發(fā)展的基礎(chǔ)和廣播電視工作生命線的安全播出工作提出了更高要求。在我國(guó)，廣播電視承擔(dān)了黨、政府和人民宣傳喉舌的特殊功能，是輿論引導(dǎo)的主要工具。安全播出是廣播電視運(yùn)營(yíng)商的首要任務(wù)，而內(nèi)容安全是安全播出的重點(diǎn)之一，特別是涉及政治、外交、軍事、國(guó)計(jì)民生大政方針等內(nèi)容時(shí)，更加不能有絲毫差錯(cuò)。2內(nèi)容安全審核與播出現(xiàn)狀對(duì)于有線電視運(yùn)營(yíng)商來(lái)說(shuō)，安全播出包括電視節(jié)目的播出、傳輸與覆蓋等網(wǎng)絡(luò)傳輸環(huán)節(jié)，也包括點(diǎn)播形式的媒資和頁(yè)面海報(bào)等內(nèi)容呈現(xiàn)環(huán)節(jié)。其中，媒資內(nèi)容安全涉及意識(shí)形態(tài)和輿論導(dǎo)向，是安全播出重中之重的環(huán)節(jié)。針對(duì)媒資內(nèi)容的安全播出措施主要包括播出前審核和播出過(guò)程中監(jiān)聽監(jiān)看。目前，對(duì)媒資內(nèi)容的審核由審核專家采取人工方式進(jìn)行，人工審核的特點(diǎn)是審核效率有限。播出過(guò)程中對(duì)媒資內(nèi)容進(jìn)行監(jiān)聽監(jiān)看以人工方式為主，但這種方式存在明顯不足：第一，對(duì)內(nèi)容安全的認(rèn)知取決于人員業(yè)務(wù)素質(zhì)、主客觀判斷等因素，不同人員對(duì)同樣內(nèi)容的認(rèn)知結(jié)果存在差異；第二，欄目數(shù)量和點(diǎn)播媒資內(nèi)容日益增多，需要增加具備安全播出業(yè)務(wù)素質(zhì)的人員數(shù)量，相應(yīng)的人力成本也會(huì)大幅增加；第三，監(jiān)聽監(jiān)看人員值守期間安播壓力大，精神高度緊張，工作體驗(yàn)不佳，專業(yè)人員流失嚴(yán)重。針對(duì)內(nèi)容審核以人工方式為主存在的問題，通過(guò)引入AI技術(shù)，基于智能算法，輔助內(nèi)容安全審核，可以大幅度減輕目前內(nèi)容安全審核壓力，提升安全播出的工作效果。3AI技術(shù)發(fā)展現(xiàn)狀近些年，隨著互聯(lián)網(wǎng)和大數(shù)據(jù)的發(fā)展，AI技術(shù)得到了高速和深入發(fā)展，很多領(lǐng)域的AI技術(shù)，如人臉識(shí)別、圖像識(shí)別、語(yǔ)音識(shí)別、OCR文字識(shí)別、自然語(yǔ)言處理（NaturalLanguageProcessing，NLP）等，已經(jīng)具備成熟的算法，通過(guò)大量數(shù)據(jù)的訓(xùn)練和配備強(qiáng)大的運(yùn)算能力，其識(shí)別精度和處理速度已經(jīng)能夠滿足實(shí)際應(yīng)用的需求，也在各種場(chǎng)景中逐步得到應(yīng)用。3.1人臉識(shí)別人臉識(shí)別，基于深度學(xué)習(xí)算法，能夠準(zhǔn)確識(shí)別視頻中的人臉信息，提供人臉檢測(cè)、人臉1:1比對(duì)、人臉1:N識(shí)別等能力。人臉識(shí)別算法應(yīng)用過(guò)程是通過(guò)建設(shè)敏感人物人臉庫(kù)，基于人臉檢測(cè)和1:N識(shí)別技術(shù)對(duì)流數(shù)據(jù)預(yù)處理層分發(fā)的視頻流數(shù)據(jù)進(jìn)行人臉檢測(cè)（找出視頻幀中是否存在人臉）和人臉識(shí)別（對(duì)于通過(guò)人臉檢測(cè)找到的人臉，與已有敏感人物人臉庫(kù)中的N個(gè)人臉進(jìn)行比對(duì)，找出最相似的一張臉或多張臉，并給出相似度排序判斷，從而判別是否有敏感人物出現(xiàn)在節(jié)目中）。3.2圖像識(shí)別圖像識(shí)別，基于深度學(xué)習(xí)算法及大規(guī)模圖像訓(xùn)練，可以準(zhǔn)確識(shí)別圖片的內(nèi)容分類或圖片中包含的物體類別，從而可以審核圖片是否含有色情、暴恐等不健康內(nèi)容或違規(guī)物品。圖像識(shí)別算法應(yīng)用過(guò)程是通過(guò)提取節(jié)目視頻關(guān)鍵幀后，轉(zhuǎn)換為一張張圖片，然后傳送給圖像識(shí)別算法，圖像識(shí)別算法會(huì)給出其屬于色情、暴恐的概率或圖像中出現(xiàn)違規(guī)物品的概率，相關(guān)違規(guī)分類或違規(guī)物品需要提前定義并進(jìn)行訓(xùn)練樣本標(biāo)注。3.3語(yǔ)音識(shí)別語(yǔ)音識(shí)別算法能夠讓計(jì)算機(jī)自動(dòng)地識(shí)別語(yǔ)音中所攜帶的信息。基于深度學(xué)習(xí)的算法，語(yǔ)音識(shí)別和處理技術(shù)可以克服傳統(tǒng)語(yǔ)音識(shí)別中采用時(shí)間、頻率而導(dǎo)致的不穩(wěn)定問題。語(yǔ)音識(shí)別算法應(yīng)用過(guò)程先對(duì)音頻文件進(jìn)行識(shí)別處理，在我國(guó)一般要求能夠識(shí)別普通話、粵語(yǔ)、英語(yǔ)，并將結(jié)果轉(zhuǎn)換為中英文文本，再由自然語(yǔ)言處理引擎對(duì)文本內(nèi)容是否敏感違規(guī)進(jìn)行分析識(shí)別?，F(xiàn)在語(yǔ)音處理技術(shù)在秒級(jí)實(shí)時(shí)語(yǔ)音識(shí)別方面仍然不夠成熟而且支持語(yǔ)言有限制。因此，如果應(yīng)用在直播節(jié)目實(shí)時(shí)監(jiān)管的場(chǎng)景上，語(yǔ)音識(shí)別只能作為輔助手段，采用分鐘級(jí)延遲；對(duì)回放視頻和回放音頻則沒有延遲的問題。3.4OCR文字識(shí)別對(duì)硬字幕的視頻文件，可以進(jìn)行視頻幀提取并轉(zhuǎn)換為一張張圖片，然后借助OCR文字識(shí)別技術(shù)進(jìn)行處理，獲得視頻幀中出現(xiàn)的字幕文本，再由NLP引擎對(duì)文本內(nèi)容是否敏感違規(guī)進(jìn)行分析識(shí)別。3.5自然語(yǔ)言處理自然語(yǔ)言處理算法是AI智能深度學(xué)習(xí)的一個(gè)重要應(yīng)用領(lǐng)域，經(jīng)過(guò)幾十年的發(fā)展，基于統(tǒng)計(jì)的模型已經(jīng)成為NLP的主流，同時(shí)人工神經(jīng)網(wǎng)絡(luò)在NLP領(lǐng)域也受到了足夠重視。自然語(yǔ)言處理算法提供包括分詞、命名實(shí)體識(shí)別、文本分類等功能。在我國(guó)，通過(guò)自然語(yǔ)言處理算法對(duì)視頻字幕和音頻轉(zhuǎn)換后的文本以及節(jié)目網(wǎng)站的其他文本進(jìn)行敏感或違規(guī)內(nèi)容識(shí)別，能支持中英文文本識(shí)別。4AI在安全播出領(lǐng)域應(yīng)用需求分析4.1AI在節(jié)目審核中的應(yīng)用功能上，AI技術(shù)已支持圖像、文本、視頻、音頻的識(shí)別與理解，可提供內(nèi)容敏感、淫穢色情、恐怖暴力及不良圖文信息鑒別過(guò)濾等多個(gè)維度的審核能力。但在實(shí)際情況中，媒資內(nèi)容中往往存在語(yǔ)意不清、界限模糊的內(nèi)容，需要通過(guò)專家的人工審核來(lái)鑒別，而專家的政治素質(zhì)和業(yè)務(wù)素質(zhì)是審核鑒別的關(guān)鍵因素。在廣播電視行業(yè)，對(duì)媒資內(nèi)容的審核能力，對(duì)不良信息的鑒別能力是需要經(jīng)歷長(zhǎng)期培養(yǎng)和實(shí)踐方可形成的；同時(shí)，審核專家還必須實(shí)時(shí)更新業(yè)務(wù)知識(shí)方可跟上安全播出的需求發(fā)展。因此，在較長(zhǎng)時(shí)期內(nèi)，AI審核無(wú)法代替人工審核，媒資內(nèi)容審核必須依靠有經(jīng)驗(yàn)的審核專家。AI系統(tǒng)對(duì)于較確定條件下的情景具有快速判斷和處理的能力，可將AI應(yīng)用于對(duì)媒資內(nèi)容的初步審核環(huán)節(jié)，利用AI審核鑒別和過(guò)濾出媒資中明顯違規(guī)的有害內(nèi)容并提供視頻標(biāo)簽，在此基礎(chǔ)上進(jìn)行專家人工二次審核。在待審核節(jié)目數(shù)量較多的情況下，采取這種審核模式，AI可以在較大程度上提升專家審核速度和效率。4.2AI在監(jiān)聽監(jiān)看中的應(yīng)用AI技術(shù)可以應(yīng)用于電視節(jié)目的媒資內(nèi)容監(jiān)聽監(jiān)看環(huán)節(jié)，在電視節(jié)目播出方面發(fā)揮安全播出輔助作用。從時(shí)效性分類，電視臺(tái)播出的節(jié)目有兩種類型：非直播節(jié)目和直播節(jié)目。對(duì)于電視臺(tái)而言，非直播類節(jié)目在節(jié)目播出編排之前對(duì)其內(nèi)容進(jìn)行審核；直播類節(jié)目，尤其是體育賽事、大型國(guó)內(nèi)和國(guó)際活動(dòng)的現(xiàn)場(chǎng)直播，則無(wú)法實(shí)現(xiàn)播出前審核，只能采取在直播過(guò)程中對(duì)其內(nèi)容進(jìn)行實(shí)時(shí)監(jiān)聽監(jiān)看的措施并疊加延時(shí)機(jī)制。大型活動(dòng)現(xiàn)場(chǎng)具有人群聚集的特點(diǎn)，現(xiàn)場(chǎng)情景不可控風(fēng)險(xiǎn)高，其直播畫面信息量大、背景環(huán)境復(fù)雜，人工監(jiān)聽監(jiān)看難以全面應(yīng)對(duì)。這種情況下，可以利用AI技術(shù)輔助人工對(duì)現(xiàn)場(chǎng)直播內(nèi)容進(jìn)行監(jiān)聽監(jiān)看。具體來(lái)說(shuō)，可以利用AI圖像識(shí)別技術(shù)，對(duì)現(xiàn)場(chǎng)直播畫面中的人臉、場(chǎng)景和文字信息進(jìn)行識(shí)別提取，快速判斷是否含有敏感信息。此外，可以利用AI語(yǔ)音識(shí)別技術(shù)和自然語(yǔ)言處理技術(shù)對(duì)現(xiàn)場(chǎng)的語(yǔ)音進(jìn)行識(shí)別分析，并進(jìn)行敏感信息檢索過(guò)濾。境外頻道由于涉及的語(yǔ)言種類多，對(duì)其節(jié)目?jī)?nèi)容進(jìn)行監(jiān)聽監(jiān)看的難度非常大。隨著支持的語(yǔ)言種類不斷豐富，可以利用AI語(yǔ)種識(shí)別和語(yǔ)音識(shí)別技術(shù)來(lái)輔助人工在境外頻道監(jiān)聽監(jiān)看中發(fā)揮積極作用。5AI輔助安全播出技術(shù)部署方案AI輔助安全播出技術(shù)部署方案示意如圖1所示，按功能模塊分為AI平臺(tái)、審核平臺(tái)、監(jiān)聽監(jiān)看平臺(tái)、播控平臺(tái)和安全播出知識(shí)庫(kù)。AI平臺(tái)對(duì)接收到的音視頻數(shù)據(jù)進(jìn)行智能分析，提取其特征并與安全播出知識(shí)庫(kù)比對(duì)，發(fā)現(xiàn)問題會(huì)返回結(jié)果給審核平臺(tái)和監(jiān)看監(jiān)聽平臺(tái)；安全播出知識(shí)庫(kù)存放違反安全播出的一些敏感信息特征；審核平臺(tái)主要針對(duì)播出內(nèi)容進(jìn)行合規(guī)性審核；監(jiān)聽監(jiān)看平臺(tái)主要對(duì)直播播出節(jié)目?jī)?nèi)容再次審核，確保播出節(jié)目萬(wàn)無(wú)一失；播控平臺(tái)負(fù)責(zé)電視傳輸及切換。按實(shí)現(xiàn)內(nèi)容分為AI輔助內(nèi)容審核和AI輔助監(jiān)聽監(jiān)看兩個(gè)部分。在AI輔助內(nèi)容審核中，審核人員主要是利用AI平臺(tái)對(duì)內(nèi)容進(jìn)行初審，通過(guò)人臉識(shí)別可發(fā)現(xiàn)敏感問題內(nèi)容，場(chǎng)景識(shí)別可發(fā)現(xiàn)淫穢色情和恐怖暴力等明顯問題內(nèi)容，通過(guò)語(yǔ)音轉(zhuǎn)文本后進(jìn)行關(guān)鍵詞識(shí)別以及語(yǔ)義分析可發(fā)現(xiàn)音頻中的問題內(nèi)容。在AI輔助監(jiān)聽監(jiān)看中，通過(guò)監(jiān)聽監(jiān)看平臺(tái)統(tǒng)一實(shí)施對(duì)電視頻道的監(jiān)測(cè)，由監(jiān)聽監(jiān)看平臺(tái)調(diào)度AI平臺(tái)實(shí)現(xiàn)輔助監(jiān)聽監(jiān)看，具體工作流程如下。（1）播控平臺(tái)傳送電視頻道信號(hào)到監(jiān)聽監(jiān)看平臺(tái)。（2）監(jiān)聽監(jiān)看平臺(tái)將節(jié)目數(shù)據(jù)傳送給AI平臺(tái)。（3）AI平臺(tái)對(duì)節(jié)目數(shù)據(jù)進(jìn)行識(shí)別，根據(jù)安全播出知識(shí)庫(kù)進(jìn)行推理和判斷，并將結(jié)果返回給監(jiān)聽監(jiān)看平臺(tái)。（4）工作人員從監(jiān)聽監(jiān)看平臺(tái)獲取AI平臺(tái)運(yùn)行結(jié)果，用于輔助監(jiān)聽監(jiān)看。6AI引發(fā)的變化可以預(yù)見，安全播出領(lǐng)域引入AI技術(shù)后，可引發(fā)如下變化。6.1監(jiān)聽監(jiān)看工作模式的調(diào)整引入AI技術(shù)輔助安全播出工作后，一方面，由少數(shù)專業(yè)技術(shù)人員對(duì)安全播出知識(shí)庫(kù)進(jìn)行日常更新和維護(hù)，將內(nèi)容安全審核相關(guān)知識(shí)和專家經(jīng)驗(yàn)實(shí)時(shí)轉(zhuǎn)化為符合規(guī)則的電子數(shù)據(jù)；另一方面，在AI輔助下，更多的推理判斷由AI執(zhí)行，監(jiān)聽監(jiān)看工作人員則可將工作重心放在應(yīng)急操作及技術(shù)處置上。6.2降低人工監(jiān)聽監(jiān)看難度和復(fù)雜度AI技術(shù)基于安全播出知識(shí)庫(kù)對(duì)節(jié)目?jī)?nèi)容安全性提供輔助推理判斷，一方面，全體監(jiān)聽監(jiān)看人員能夠共享知識(shí)庫(kù)中的知識(shí)和專家經(jīng)驗(yàn)，減小因人員業(yè)務(wù)素質(zhì)和主觀判斷能力不同而造成的工作結(jié)果差異；另一方面，AI平臺(tái)強(qiáng)大的運(yùn)算能力使得監(jiān)聽監(jiān)看更加全面和細(xì)節(jié)化。AI能夠大大降低監(jiān)聽監(jiān)看人員對(duì)內(nèi)容安全進(jìn)行判斷的難度和復(fù)雜度，提升安全播出工作整體效果。6.3減輕安播人員值守期間壓力AI技術(shù)在起到內(nèi)容安全審核輔助作用的同時(shí)提高了安播工作的整體效果，減輕了安播人員的審核和監(jiān)聽監(jiān)看工作精神壓力，提升了工作體驗(yàn)，有利于留住業(yè)務(wù)人才，培養(yǎng)專業(yè)安播團(tuán)隊(duì)。7結(jié)語(yǔ)為更好地將AI應(yīng)用于安全播出領(lǐng)域，本文提出如下建議供參考：一是出于安全播出工作重要性，建立AI行業(yè)能力平臺(tái)，以滿足利用AI輔助安全播出工作在安全性和運(yùn)算能力方面的實(shí)際需求；二是建立安全播出行業(yè)專家知識(shí)庫(kù)，以滿足監(jiān)聽監(jiān)看從業(yè)人員對(duì)不斷更新的安全播出相關(guān)知識(shí)和專家經(jīng)驗(yàn)的實(shí)際需求?；ヂ?lián)網(wǎng)技術(shù)、通信技術(shù)和編碼技術(shù)的發(fā)展，使得視頻以高清、超高清、AR/VR等多形式進(jìn)行高質(zhì)量呈現(xiàn)，視頻的信息量以幾何級(jí)數(shù)暴漲。隨著AI技術(shù)和運(yùn)算能力持續(xù)發(fā)展與提升，AI必將不斷賦能廣播電視行業(yè)，目前媒體內(nèi)容安全審核以“人工為主、AI為輔”人機(jī)結(jié)合方式將會(huì)發(fā)展到以“AI為主、人工為輔”的機(jī)人智慧方式，進(jìn)一步加強(qiáng)各類情況、各種方式的大數(shù)據(jù)分析、智能處理和機(jī)器學(xué)習(xí)能力，進(jìn)一步優(yōu)化提升AI對(duì)內(nèi)容識(shí)別、報(bào)警和處理的精確度與可信度，最大程度降低監(jiān)播人員的干預(yù)度，實(shí)現(xiàn)內(nèi)容安全管控的L5級(jí)“自動(dòng)駕駛”，在安全播出領(lǐng)域發(fā)揮更重要的作用。參考文獻(xiàn)[1]王文敏.人工智能原理[M].北京:高等教育出版社,2019.[2]劉樹春,賀盼,馬建奇,等.深度實(shí)踐OCR：基于深度學(xué)習(xí)的文字識(shí)別[M].北京:機(jī)械工業(yè)出版社,20