基于BERT-TextCNN的中證1000輿情增強(qiáng)策略

內(nèi)容目錄1、引言 42、金融論壇輿情信息的情感評(píng)分方法 4數(shù)據(jù)來(lái)源 4數(shù)據(jù)基本情況介紹 5大語(yǔ)言模型與傳統(tǒng)NLP模型相結(jié)合的文本情感識(shí)別步驟 5數(shù)據(jù)預(yù)處理 6大語(yǔ)言模型標(biāo)注樣本 6文本情感分析模型的選擇與構(gòu)建 8模型訓(xùn)練及金融論壇輿情信息的文本情感分類(lèi)結(jié)果 103、多維度輿情因子構(gòu)建與回測(cè) 11樣本預(yù)處理 11周頻輿情選股因子計(jì)算方式與測(cè)方法介紹 11多維度輿情因子構(gòu)建 12多因子合成與測(cè)試 15輿情因子與傳統(tǒng)選股因子的相關(guān)性較低 16因子覆蓋度 174、基于金融論壇多維度輿情因子的中證1000指數(shù)增強(qiáng)策略構(gòu)建 17基于金融論壇多維度輿情因子的中證1000指數(shù)增強(qiáng)策略構(gòu)建方法 17基于金融論壇多維度輿情因子的中證1000指數(shù)增強(qiáng)策略表現(xiàn) 185、總結(jié) 196、風(fēng)險(xiǎn)提示 19圖表目錄圖表1：AI大模型發(fā)展進(jìn)程 4圖表2：金融論壇數(shù)據(jù)形式 5圖表3：大語(yǔ)言模型與傳統(tǒng)NLP模型相結(jié)合的文本情感識(shí)別流程 5圖表4：數(shù)據(jù)預(yù)處理效果展示 6圖表5：大語(yǔ)言模型在各類(lèi)情感分析任務(wù)中的零樣本性能 6圖表6：FinGPT模型結(jié)構(gòu) 7圖表7：標(biāo)注樣本中各類(lèi)情緒帖子占比 7圖表8：BERT-TextCNN模型結(jié)構(gòu) 8圖表9：Bert模型的結(jié)構(gòu) 9圖表10：BertVSAlbert模型的參數(shù)量對(duì)比 9圖表11：TextCNN模型結(jié)構(gòu) 10圖表12：情感分類(lèi)結(jié)果樣例 10圖表13：BERT-TextCNN模型標(biāo)注結(jié)果各類(lèi)型占比 10圖表14：?jiǎn)沃还善睂?duì)應(yīng)帖子數(shù)量周平均值（向前7天滾動(dòng)計(jì)算） 11圖表15：周頻輿情選股因子計(jì)算方式 11圖表16：輿情選股因子分類(lèi) 12圖表17：情感一致性因子IC測(cè)試及分位數(shù)組合測(cè)試結(jié)果 12圖表18：積極帖子占比因子分位數(shù)組合表現(xiàn)（升序） 13圖表19：積極帖子占比因子多空組合表現(xiàn)（升序） 13圖表20：消極帖子占比因子分位數(shù)組合表現(xiàn) 13圖表21：消極帖子占比因子多空組合表現(xiàn) 13圖表22：關(guān)注度因子IC測(cè)試結(jié)果即分位數(shù)組合表現(xiàn) 13圖表23：積極帖子數(shù)量因子分位數(shù)組合表現(xiàn)（升序） 14圖表24：積極帖子數(shù)量因子多空組合表現(xiàn)（升序） 14圖表25：關(guān)注度波動(dòng)因子IC測(cè)試及分位數(shù)組合測(cè)試結(jié)果 14圖表26：整體情緒因子IC測(cè)試及分位數(shù)組合測(cè)試結(jié)果 14圖表27：整體情緒因子分位數(shù)組合表現(xiàn) 15圖表28：整體情緒因子多空組合表現(xiàn) 15圖表29：整體情緒周內(nèi)極值因子IC測(cè)試及分位數(shù)組合測(cè)試結(jié)果 15圖表30：情緒周內(nèi)極值因子分位數(shù)組合表現(xiàn)（升） 15圖表31：情緒周內(nèi)極值因子多空組合表現(xiàn)（升序） 15圖表32：各因子相關(guān)性 16圖表33：合成因子IC測(cè)試及分位數(shù)組合測(cè)試結(jié)果 16圖表34：合成因子分位數(shù)組合表現(xiàn) 16圖表35：合成因子多空組合表現(xiàn) 16圖表36：合成因子與傳統(tǒng)選股因子的相關(guān)系數(shù) 17圖表37：主帖數(shù)量因子對(duì)中證1000成分股的覆蓋（只） 17圖表38：合成因子對(duì)中證1000指數(shù)成分股的覆蓋（只） 17圖表39：選股策略指標(biāo)統(tǒng)計(jì) 18圖表40：中證1000輿情增強(qiáng)策略表現(xiàn) 18圖表41：中證1000輿情增強(qiáng)策略超額凈值表現(xiàn) 18圖表42：策略分年度表現(xiàn) 18NLPBert2022OpenAIAITransformer圖表1：AI大模型發(fā)展進(jìn)程來(lái)源：SuperCLUE，ChatGPTtoken數(shù)據(jù)來(lái)源20231016AlphaFinGPT300300成分股的金融論壇輿情數(shù)據(jù)，構(gòu)建了滬深300增強(qiáng)策略。2018LKM1000VAILKM，準(zhǔn)確將股民情緒關(guān)聯(lián)及定位到相關(guān)股票。并根據(jù)LKM數(shù)據(jù)基本情況介紹圖表2：金融論壇數(shù)據(jù)形式來(lái)源：100020181202312500070001.2大語(yǔ)言模型與傳統(tǒng)NLP我們將大語(yǔ)言模型與傳統(tǒng)文本情感分析模型進(jìn)行結(jié)合，充分發(fā)揮大語(yǔ)言模型進(jìn)行文本情感識(shí)別的優(yōu)勢(shì)。我們將采用如下步驟，進(jìn)行文本情感識(shí)別模型的估計(jì)。圖表3：大語(yǔ)言模型與傳統(tǒng)NLP模型相結(jié)合的文本情感識(shí)別流程來(lái)源：數(shù)據(jù)預(yù)處理（正文圖表4：數(shù)據(jù)預(yù)處理效果展示標(biāo)題正文合并結(jié)果明天漲停明天漲停明天漲停今日形勢(shì)不錯(cuò)可以考慮入手今日形勢(shì)不錯(cuò)可以考慮入手--希望大漲希望大漲華錦還有一萬(wàn)股但是華錦怎么不如ST股呢？--華錦還有一萬(wàn)股但是華錦怎么不如ST股呢？來(lái)源：子長(zhǎng)科技，大語(yǔ)言模型標(biāo)注樣本大語(yǔ)言模型具有文本情感分析能力Transformer在《SentimentAnalysisintheEraofLargeLanguageModels:ARealityCheckChatGPT在情感分類(lèi)任務(wù)上的能力進(jìn)行了測(cè)試，ChatGPT圖表5：大語(yǔ)言模型在各類(lèi)情感分析任務(wù)中的零樣本性能來(lái)源：《SentimentAnalysisintheEraofLargeLanguageModels:ARealityCheck》，ChatGPT4及開(kāi)源的FinGPTFinGPTAI4Finance-FoundationChatGLM-6BLoRANLPLLMsLoRA相關(guān)性和準(zhǔn)確性。應(yīng)用層：展示實(shí)際應(yīng)用和演示，凸顯FinGPT在金融領(lǐng)域的潛在能力。FinGPT的訓(xùn)練數(shù)據(jù)，涵蓋金融新聞、社交媒體、上市公司報(bào)告、交易所、金融論壇等。圖表6：FinGPT模型結(jié)構(gòu)來(lái)源：《FinGPT:Open-SourceFinancialLargeLanguageModels》，大模型進(jìn)行樣本標(biāo)注的步驟首先，從主帖數(shù)據(jù)集中隨機(jī)抽取4萬(wàn)條股評(píng)數(shù)據(jù)，作為預(yù)備標(biāo)注訓(xùn)練集。然后我們利用大4LKMLKM2661851.0223.33。圖表7：標(biāo)注樣本中各類(lèi)情緒帖子占比23.33%25.65%23.33%25.65%消極 積極 中性來(lái)源：子長(zhǎng)科技，ChatGPT，F(xiàn)inGPT，文本情感分析模型的選擇與構(gòu)建文本情感分析模型的演變TransformerBERT（BidirectionalEncoderRepresentationsfromTransformersBERT模型通過(guò)預(yù)訓(xùn)練和微調(diào)策略，在情感分析任務(wù)上展現(xiàn)了優(yōu)異的性能模型選擇：BERT-TextCNN模型BERT-TextCNN，BERTTextCNNBERT-TextCNN模型流程分為以下三步驟：BertB，F(xiàn)；FdropoutH；H，softmax圖表8：BERT-TextCNN模型結(jié)構(gòu)來(lái)源：《AsentimentanalysismethodbasedonFinBERT-CNNforGubastockforum.》，BertBirectionalEncoderRepresentationfromTransformers，即雙向TransformerEncoder1224transformertransformer模型是一個(gè)兩階段模型，第一階段pre-tuning（預(yù)訓(xùn)練fine-tuning（微調(diào)MaskedLMNextSentencePrediction圖表9：Bert模型的結(jié)構(gòu)來(lái)源：《BERT:Pre-trainingofDeepBidirectionalTransformersforLanguageUnderstanding》，GPU/TPUGooglealbertBERTBERT-largeALBERTBERT-large1.7BertALBERTalbert_chinese_small，該albertsmall圖表10：BertVSAlbert模型的參數(shù)量對(duì)比來(lái)源：《ALBERT:ALITEBERTFORSELF-SUPERVISEDLEARNINGOFLANGUAGEREPRESENTATIONS》，2014，YoonKimCVCNNTextCNNembeddingN-gram（卷積層，然后通過(guò)最大池化操作來(lái)突出各個(gè)卷積操作提取的最關(guān)鍵信息（池化層，拼接后通過(guò)全softmaxTextCNN圖表11：TextCNN模型結(jié)構(gòu)來(lái)源：《ConvolutionalNeuralNetworksforSentenceClassification》，模型訓(xùn)練及金融論壇輿情信息的文本情感分類(lèi)結(jié)果8:2100085.52。我們利用訓(xùn)練好的BERT-TextCNN模型對(duì)主帖數(shù)據(jù)集中的超過(guò)5000萬(wàn)條股評(píng)數(shù)據(jù)重新進(jìn)行情感評(píng)分與分類(lèi)。股評(píng) 股評(píng) 情感分類(lèi)加速度暴跌浦發(fā)銀行故意拉指數(shù)掩護(hù)出逃 消極期待3月份的復(fù)盤(pán)，振業(yè)一定會(huì)一炮沖天，每個(gè)參入者會(huì)收獲滿滿，預(yù)測(cè)積極35—40元左右…有沒(méi)有人打過(guò)振業(yè)公司客服電話？年前能復(fù)盤(pán)嗎？ 中性來(lái)源：子長(zhǎng)科技，BERT-TextCNN-2023100026.6650.09圖表13：BERT-TextCNN模型標(biāo)注結(jié)果各類(lèi)型占比情感分類(lèi)占比積極 消極 中性23.24%26.66%23.24%26.66%50.09%來(lái)源：子長(zhǎng)科技，樣本預(yù)處理基于文本情感評(píng)分結(jié)果，我們將股民發(fā)帖文本對(duì)應(yīng)到股票上，以便進(jìn)行選股因子的構(gòu)建，對(duì)已標(biāo)注樣本進(jìn)行了如下處理：根據(jù)子長(zhǎng)科技提供的標(biāo)簽，去掉新聞、上市公司公告、董秘回復(fù)等與股民情緒不相關(guān)的信息；核對(duì)股票與帖子的對(duì)應(yīng)關(guān)系：論壇對(duì)應(yīng)的股票與帖子中提及的股票一致時(shí)，將主帖與論壇股票代碼對(duì)應(yīng)；帖子中未提及股票，將主帖與論壇股票代碼對(duì)應(yīng)；帖子中提及的股票與其所在論壇的股票代碼不一致，不保留這部分樣本。圖表14：?jiǎn)沃还善睂?duì)應(yīng)帖子數(shù)量周平均值（向前7天滾動(dòng)計(jì)算）250200150100500過(guò)去一周積極子量值 過(guò)去一周消極子量值來(lái)源：子長(zhǎng)科技，周頻輿情選股因子計(jì)算方式與回測(cè)方法介紹金融論壇的用戶在節(jié)假日、盤(pán)后仍然可能會(huì)發(fā)帖，因此我們構(gòu)建的周頻選股因子，使用了t-7日至t-1日的發(fā)帖數(shù)據(jù)，作為t日（周初）的選股因子。圖表15：周頻輿情選股因子計(jì)算方式來(lái)源：ICICRank????,??表示因子取值，????+??,??表示下一期股票的收益率。IC的絕對(duì)值越高，因子的下期收益率的預(yù)測(cè)能力越強(qiáng)。??????????????=????????(????????(????,??),????????(????+??,??))10TopBottomTopBottomL-T多維度輿情因子構(gòu)建3.3.1整體思路我們利用金融論壇輿情信息文本情感評(píng)分結(jié)果，從多維度構(gòu)建了輿情選股因子，包括情緒一致性、關(guān)注度、周內(nèi)關(guān)注度波動(dòng)、整體情緒、周內(nèi)情緒波動(dòng)等因子。圖表16：輿情選股因子分類(lèi)來(lái)源：情緒一致性因子對(duì)未來(lái)股價(jià)的影響我們用周度積極主帖占總帖子數(shù)量比與消極主帖占總帖子數(shù)量比來(lái)刻畫(huà)股民情感的一致ICICIC1.50，在中證1000股票池中，情感一致性可能會(huì)帶來(lái)股價(jià)反轉(zhuǎn)。圖表17：情感一致性因子IC測(cè)試及分位數(shù)組合測(cè)試結(jié)果多空年化收多空夏普多空最大top組合超因子 IC均值標(biāo)準(zhǔn)差最小值 最大值 風(fēng)險(xiǎn)調(diào)整的ICt統(tǒng)計(jì)量益率比率回撤率額收益率消極帖子占比1.508.38-20.7129.320.183.127.370.6612.136.03積極帖子占比-2.248.09-28.7419.89-0.28-4.8310.681.0916.197.69來(lái)源：子長(zhǎng)科技圖表18：積極帖子占比因子分位數(shù)組合表現(xiàn)（升序） 圖表19：積極帖子占比因子多空組合表現(xiàn)（升序）0 1 2 3 4 5 690 1 2 3 4 5 698710.00%5.00%0.00%-5.00%-10.00%

8.00%6.00%4.00%2.00%0.00%-2.00%-4.00%-6.00%

21.81.61.41.210.80.60.40.20-15.00%

年化收益率

多空組合收益率 多空組合凈值右）來(lái)源：子長(zhǎng)科技 來(lái)源：子長(zhǎng)科技圖表20：消極帖子占比因子分位數(shù)組合表現(xiàn) 圖表21：消極帖子占比因子多空組合表現(xiàn)0 1 2 3 4 5 6 7 8 912.00%0 1 2 3 4 5 6 7 8 910.00%8.00%6.00%4.00%2.00%0.00%-2.00%-4.00%-6.00%

年化收益率

10.00%8.00%6.00%4.00%2.00%0.00%-2.00%-4.00%-6.00%

多空組合收益率 多空組合凈值（右軸

1.81.61.41.210.80.60.40.20來(lái)源：子長(zhǎng)科技 來(lái)源：子長(zhǎng)科技關(guān)注度高的股票未來(lái)可能會(huì)發(fā)生反轉(zhuǎn)我們可以用主帖數(shù)量來(lái)刻畫(huà)股票的關(guān)注度，發(fā)帖數(shù)量越多，說(shuō)明關(guān)注該股票的股民越多。IC-6.22ICt10.39，59.41。1000圖表22：關(guān)注度因子IC測(cè)試結(jié)果即分位數(shù)組合表現(xiàn)因子IC均值標(biāo)準(zhǔn)差最小值最大值風(fēng)險(xiǎn)調(diào)整的ICt統(tǒng)計(jì)量益率多空夏普比率多空最大回撤率top組合超額收益率主帖數(shù)量-5.9410.76-39.1922.78-0.55-9.6252.353.0217.1711.51消極帖子數(shù)量-5.7410.54-35.1224.41-0.54-9.4943.152.787.659.73積極帖子數(shù)量-6.2210.44-39.7217.52-0.60-10.3959.413.7013.4511.92來(lái)源：子長(zhǎng)科技圖表23：積極帖子數(shù)量因子分位數(shù)組合表現(xiàn)（升序） 圖表24：積極帖子數(shù)量因子多空組合表現(xiàn)（升序）0 1 2 3 4 5 6 7 8 920.00%0 1 2 3 4 5 6 7 8 915.00%10.00%5.00%0.00%-5.00%-10.00%-15.00%-20.00%-25.00%-30.00%-35.00%

年化收益率

5.00%0.00%

86420多空組合收益率 多空組合凈值右）來(lái)源：子長(zhǎng)科技 來(lái)源：子長(zhǎng)科技關(guān)注度的波動(dòng)對(duì)股價(jià)的影響我們對(duì)周內(nèi)每日關(guān)注度（積極數(shù)量、消極數(shù)量）計(jì)算了方差，如果因子值較大，說(shuō)明股票的關(guān)注度發(fā)生了波動(dòng)，并不是持續(xù)受到高關(guān)注或者低關(guān)注。因子 因子 平均值標(biāo)準(zhǔn)差最小值最大值風(fēng)險(xiǎn)調(diào)整的ICt統(tǒng)計(jì)量多空年化收益率多空夏普比率多空最大回top組合超額收撤率 益率積極數(shù)量-6.55周方差9.56-35.5214.74-0.68-11.9460.194.0210.4011.25消極數(shù)量-5.759.91-32.1020.40-0.58-10.1250.813.475.997.51周方差來(lái)源：子長(zhǎng)科技股民整體情緒對(duì)股價(jià)的影響我們用積極主帖數(shù)量減去消極主帖數(shù)量，來(lái)刻畫(huà)股民對(duì)某一只股票的整體情緒。一周內(nèi)積極主帖數(shù)量相比于消極主帖數(shù)量越多，這周整體的情緒越樂(lè)觀。IC0，3.89，IC0.39，t6.89。這說(shuō)明，股民整體情緒越積極，未來(lái)一周股票表現(xiàn)越好。圖表26：整體情緒因子IC測(cè)試及分位數(shù)組合測(cè)試結(jié)果多空年化收多空夏普多空最大top組合超因子 IC均值標(biāo)準(zhǔn)差 最小值 最大值風(fēng)險(xiǎn)調(diào)整的ICt統(tǒng)計(jì)量益率比率回撤率額收益率積極數(shù)量-消極數(shù)量3.899.85-26.57 28.180.396.8926.061.9310.591.46來(lái)源：子長(zhǎng)科技圖表27：整體情緒因子分位數(shù)組合表現(xiàn) 圖表28：整體情緒因子多空組合表現(xiàn)0 1 2 3 4 5 690 1 2 3 4 5 698710.00%5.00%0.00%-5.00%-10.00%-15.00%-20.00%-25.00%

年化收益率

8.00%6.00%4.00%2.00%0.00%-2.00%-4.00%-6.00%

多空組合收益率 多空組合凈值（右軸

4.543.532.521.510.50來(lái)源：子長(zhǎng)科技 來(lái)源：子長(zhǎng)科技情緒變化可能會(huì)導(dǎo)致股價(jià)反轉(zhuǎn)基于整體情緒因子，我們對(duì)過(guò)去一周內(nèi)每日的情緒值（即日度的積極帖子數(shù)量-消極帖子數(shù)量IC0，為-5.42，IC這說(shuō)明，過(guò)去一周內(nèi)股民整體情緒波動(dòng)越大，未來(lái)一周股票表現(xiàn)越差。多空年化收多空夏普比多空最大回top組合超額因多空年化收多空夏普比多空最大回top組合超額因子 IC均值標(biāo)準(zhǔn)差 最小值 最大值風(fēng)險(xiǎn)調(diào)整的ICt統(tǒng)計(jì)量益率率撤率收益率整體情緒周-5.429.84-31.6321.21-0.55-9.6142.792.7414.6910.10內(nèi)極值來(lái)源：子長(zhǎng)科技圖表30：情緒周內(nèi)極值因子分位數(shù)組合表現(xiàn)（升序） 圖表31：情緒周內(nèi)極值因子多空組合表現(xiàn)（升序）0 1 2 3 4 5 690 1 2 3 4 5 698715.00%10.00%5.00%0.00%-5.00%-10.00%-15.00%-20.00%-25.00%

年化收益率

10.00%5.00%0.00%-5.00%-10.00%-15.00%

9876543210多空組合收益率 多空組合凈值右）來(lái)源：子長(zhǎng)科技 來(lái)源：子長(zhǎng)科技多因子合成與測(cè)試9圖表32：各因子相關(guān)性來(lái)源：，子長(zhǎng)科技，ICIC54.769.02。合成因子分位數(shù)組合單調(diào)性較好，top組合的年化超額收益率能夠達(dá)到12.99。風(fēng)險(xiǎn)調(diào)整 top風(fēng)險(xiǎn)調(diào)整 top組合超額年因子 IC均值標(biāo)準(zhǔn)差 最小值最大值 t統(tǒng)計(jì)量多空年化收益率多空夏普比率多空最大回撤率的IC 化收益率合成因子 6.13 8.62 -21.8031.66 0.71 12.4 54.76 4.07 9.02 12.99來(lái)源：，子長(zhǎng)科技，圖表34：合成因子分位數(shù)組合表現(xiàn) 圖表35：合成因子多空組合表現(xiàn)0 1 2 3 4 5 6 790 1 2 3 4 5 6 79815.00%10.00%5.00%0.00%-5.00%-10.00%-15.00%-20.00%-25.00%-30.00%

年化收益率

8.00%6.00%4.00%2.00%0.00%-2.00%-4.00%2018/1/82018/4/232018/1/82018/4/232018/8/62018/11/262019/3/182019/7/12019/10/142020/2/32020/5/182020/8/312020/12/142021/3/292021/7/122021/10/252022/2/142022/5/302022/9/132023/1/32023/4/242023/8/72023/11/27

86420多空組合收益率 多空組合凈值（右軸）來(lái)源：，子長(zhǎng)科技， 來(lái)源：，子長(zhǎng)科技，輿情因子與傳統(tǒng)選股因子的相關(guān)性較低-0.18。圖表36：合成因子與傳統(tǒng)選股因子的相關(guān)系數(shù)0.350.300.250.200.150.100.050.00-0.05來(lái)源：，子長(zhǎng)科技，因子覆蓋度1001000201810002023末目前已經(jīng)能夠覆蓋800-900只股票。由于我們?cè)谝蜃雍铣蓵r(shí)要求各個(gè)單因子均不是空值，合成因子覆蓋程度略有下降。圖表37：主帖數(shù)量因子對(duì)中證1000成分股的覆蓋（只） 圖表38：合成因子對(duì)中證1000指數(shù)成分股的覆蓋（只）100010009009008008007007006006000

0來(lái)源：，子長(zhǎng)科技， 來(lái)源：，子長(zhǎng)科技，基于金融論壇多維度輿情因子的中證1000指數(shù)增強(qiáng)策略構(gòu)建方法10001）選股范圍：中證1000指數(shù)成分股2）回測(cè)時(shí)間區(qū)間：2018.1.8-2023.12.29調(diào)倉(cāng)頻率：周度調(diào)倉(cāng)，每周第一個(gè)交易日進(jìn)行調(diào)倉(cāng)，按開(kāi)盤(pán)價(jià)進(jìn)行交易10