貝殼用戶(hù)偏好挖掘的思考與實(shí)踐

貝殼用戶(hù)偏好挖掘的思考與實(shí)踐1.

背景1.1

什么是\o"用戶(hù)偏好"用戶(hù)偏好挖掘用戶(hù)偏好，即對(duì)用戶(hù)內(nèi)在需求的具體刻畫(huà)。通過(guò)用戶(hù)的歷史行為和數(shù)據(jù)，對(duì)用戶(hù)進(jìn)行多角度全方位的刻畫(huà)與描述，利用統(tǒng)計(jì)分析或算法，來(lái)挖掘出用戶(hù)潛在的需求傾向。用戶(hù)在平臺(tái)有多種多樣的行為，用戶(hù)的行為都是有內(nèi)在的驅(qū)動(dòng)因素的，而挖掘用戶(hù)偏好可以幫助我們從雜亂的信息中抽象出對(duì)用戶(hù)需求的具體描述，從而指導(dǎo)搜索、推薦、push等策略的制定，圈定用戶(hù)群，進(jìn)行精準(zhǔn)營(yíng)銷(xiāo)與精細(xì)化運(yùn)營(yíng)。1.2

偏好挖掘工作面臨的挑戰(zhàn)準(zhǔn)確表達(dá)：用戶(hù)偏好挖掘工作對(duì)準(zhǔn)確的要求是天然存在的，有兩點(diǎn)需要考慮：首先，用戶(hù)偏好的準(zhǔn)確應(yīng)當(dāng)如何度量，決定了我們以何為目標(biāo)；其次，用戶(hù)的偏好可能存在多峰的情況，因此在挖掘任務(wù)中需要對(duì)多峰的特性做出準(zhǔn)確反映。可理解：本質(zhì)上我們希望對(duì)用戶(hù)的偏好信息進(jìn)行編碼和傳遞，基于貝殼的業(yè)態(tài)，下游不止有規(guī)則與算法，還有運(yùn)營(yíng)與經(jīng)紀(jì)人等‘人’，這對(duì)偏好挖掘輸出的可理解提出了要求。高維的偏好：在偏好挖掘工作中，另一個(gè)重點(diǎn)是，存在部分高維非序數(shù)偏好，比如房產(chǎn)場(chǎng)景下的地理位置屬性。如何有效的對(duì)高維偏好進(jìn)行挖掘，是我們要面臨的第三個(gè)問(wèn)題。2

常見(jiàn)的偏好挖掘思路偏好的挖掘是通過(guò)用戶(hù)的歷史行為來(lái)判斷一個(gè)用戶(hù)在各種屬性的不同維度上的偏好程度，進(jìn)而挖掘出用戶(hù)的潛在需求。比如，在貝殼的場(chǎng)景下，衡量一個(gè)用戶(hù)偏好200萬(wàn)還是偏好300萬(wàn)、喜歡二居室還是三居室。常見(jiàn)的偏好挖掘的方法可以分為統(tǒng)計(jì)和模型兩類(lèi)。2.1

基于統(tǒng)計(jì)的偏好挖掘通過(guò)統(tǒng)計(jì)的方法挖掘用戶(hù)偏好的思想是基于一定的業(yè)務(wù)假設(shè)的，即用戶(hù)行為越多則偏好越重、距當(dāng)前時(shí)間越近越偏好。技術(shù)方案：用戶(hù)偏好通過(guò)用戶(hù)在不同屬性的維度上行為次數(shù)的帶衰減的線性加權(quán)求和，再進(jìn)行歸一化得到。這里有兩個(gè)關(guān)鍵點(diǎn)：第一個(gè)關(guān)鍵點(diǎn)是：不同行為的權(quán)重如何衡量用戶(hù)有著多種不同的行為，例如，在購(gòu)物網(wǎng)站，用戶(hù)可能發(fā)生瀏覽、收藏、加購(gòu)物車(chē)、下單等行為，顯然，下單的成本要比普通的瀏覽成本要高，即在不同行為上花費(fèi)的成本是存在差異的，在數(shù)據(jù)上的反映是不同行為的權(quán)重差異很大，如何定義、衡量并驗(yàn)證不同行為的權(quán)重是一件并不容易的事情。我們采用的權(quán)重計(jì)算方法有：后驗(yàn)轉(zhuǎn)化率的方法，轉(zhuǎn)化率的倒數(shù)作為權(quán)重；有監(jiān)督的方法，bagging+LR模型，可以將成交或者下單作為label，模型得到的特征重要性作為權(quán)重；通過(guò)貝葉斯模型計(jì)算權(quán)重。第二個(gè)關(guān)鍵點(diǎn)是：衰減系數(shù)的定義用戶(hù)的需求并不是持續(xù)穩(wěn)定的，會(huì)隨時(shí)間會(huì)發(fā)生變化和轉(zhuǎn)移，這種需求的變化需要被偏好捕捉到，因此，距離當(dāng)前越近的行為越能反映現(xiàn)在的需求。對(duì)于衰減形式，我們采取了指數(shù)衰減以及階躍形式衰減。指數(shù)形式用戶(hù)行為對(duì)未來(lái)偏好的影響程度，隨著時(shí)間的拉長(zhǎng)呈指數(shù)型下降，對(duì)于t天前的行為，衰減因子為λ的t次方;階躍形式將時(shí)間人為劃分成若干不同的時(shí)間區(qū)間，同一個(gè)時(shí)間區(qū)間內(nèi)的行為的衰減因子是相同的。因此，增加了衰減系數(shù)和行為權(quán)重的偏好計(jì)算公式為：挑戰(zhàn)：很難證明什么樣的行為權(quán)重是最優(yōu)的，且很難找到優(yōu)化方向；人為選定的衰減方式以及衰減因子的選取具有主觀因素，并不適用于所有的偏好；基于統(tǒng)計(jì)的偏好挖掘難以?xún)?yōu)化。2.2

基于模型的偏好計(jì)算基于統(tǒng)計(jì)的偏好計(jì)算方法的優(yōu)點(diǎn)是直觀，可解釋性強(qiáng)，但缺點(diǎn)是難以?xún)?yōu)化，因此我們考慮通過(guò)有監(jiān)督模型的方式解決偏好預(yù)估的優(yōu)化問(wèn)題。技術(shù)方案：對(duì)于低維且等長(zhǎng)的偏好，可以通過(guò)有監(jiān)督的多分類(lèi)模型。利用用戶(hù)過(guò)去發(fā)生不同行為所對(duì)應(yīng)的屬性，預(yù)測(cè)未來(lái)在不同屬性上發(fā)生重行為的概率。需要解決的問(wèn)題主要是歷史行為的時(shí)間窗口的劃分，這類(lèi)低維、行為相對(duì)稠密、長(zhǎng)度統(tǒng)一的偏好，可以采用有監(jiān)督模型XGBoost、DNN，以及時(shí)序模型LSTM和GRU等。然而，對(duì)于枚舉值較多的屬性的用戶(hù)偏好，例如地理位置相關(guān)的屬性，用戶(hù)在不同枚舉值上的行為稀疏，且用戶(hù)過(guò)去行為覆蓋的位置Item數(shù)目不同，導(dǎo)致召回的候選集長(zhǎng)度不統(tǒng)一，因此使用傳統(tǒng)意義上的多分類(lèi)模型很難去完成。對(duì)于這類(lèi)偏好，常見(jiàn)的方法是embedding，通過(guò)用戶(hù)近期交互過(guò)的物品，將偏好預(yù)估視為top-n推薦，使用pair-wise訓(xùn)練策略訓(xùn)練模型，得到個(gè)性化的用戶(hù)偏好向量。雖然用embedding表征用戶(hù)偏好在推薦系統(tǒng)中取的了很好的效果，然而這種向量化的偏好表征方法不可解釋?zhuān)谛枰巳ダ斫獠煌靡饬x的場(chǎng)景中具有局限性。挑戰(zhàn)：高維、稀疏的偏好，很難預(yù)估；輸出需要是可解釋的。3

偏好挖掘在貝殼找房的實(shí)踐貝殼找房作為一個(gè)居住服務(wù)類(lèi)的平臺(tái)，將用戶(hù)、經(jīng)紀(jì)人和房源鏈接在一起，幫助用戶(hù)找到更滿(mǎn)意的居住環(huán)境，幫助經(jīng)紀(jì)人更好地服務(wù)用戶(hù)，對(duì)用戶(hù)的偏好進(jìn)行挖掘可以幫助平臺(tái)更好的了解用戶(hù)。偏好挖掘在貝殼找房主要有兩類(lèi)的應(yīng)用場(chǎng)景，一方面是對(duì)業(yè)務(wù)賦能，有助于平臺(tái)算法和策略的制定，如個(gè)性化推薦、定向push等場(chǎng)景；另一方面是給人傳達(dá)可理解的用戶(hù)需求，比如幫助運(yùn)營(yíng)人員圈人群包，進(jìn)行精細(xì)化運(yùn)營(yíng)和定向推送，或者在用戶(hù)從線上轉(zhuǎn)線下的過(guò)程中，將用戶(hù)的需求無(wú)損地傳遞給經(jīng)紀(jì)人，更快地了解用戶(hù)。3.1

基于多分類(lèi)的偏好挖掘3.1.1

問(wèn)題抽象問(wèn)題定義：在用戶(hù)信息交互中，如果用戶(hù)對(duì)某一屬性的Item付出了較大成本，則說(shuō)明用戶(hù)對(duì)Item背后的屬性有較強(qiáng)的偏好，基于此假設(shè)，在已知用戶(hù)過(guò)去發(fā)生不同行為及行為對(duì)應(yīng)的屬性維度，將偏好預(yù)估問(wèn)題定義為預(yù)測(cè)未來(lái)時(shí)間段內(nèi)發(fā)生重行為所對(duì)應(yīng)的屬性維度。樣本構(gòu)造：我們需要思考偏好的主要應(yīng)用場(chǎng)景，以及環(huán)境對(duì)動(dòng)作的解釋能力。如果我們對(duì)線上行為的采集能力明顯高于線下環(huán)節(jié)，那么我們?cè)谒伎肌爸匦袨椤睍r(shí)，就要考慮如果使用大量生命周期末端的線下行為，基于線上的特征是否可以很好的解釋。優(yōu)化目標(biāo)：模型的目標(biāo)為預(yù)估用戶(hù)在不同屬性的Item上發(fā)生重行為的概率。這里我們要考慮用戶(hù)的偏好是multi-hot還是one-hot，基于這兩種形式，我們需要考慮對(duì)輸出層的構(gòu)造方法。但需要強(qiáng)調(diào)的是，使用one-hot并不意味著否定用戶(hù)多峰偏好的事實(shí)。離線后驗(yàn)：這是一個(gè)被高頻提問(wèn)的點(diǎn)，即偏好的質(zhì)量如何評(píng)估，自然我們可以從下游應(yīng)用的角度進(jìn)行評(píng)估，但該評(píng)估方式存在實(shí)驗(yàn)難、效果回收慢、影響因素多等諸多不便。從中臺(tái)角度我們更希望建立中間指標(biāo)實(shí)現(xiàn)對(duì)偏好質(zhì)量的獨(dú)立可衡量，建立小閉環(huán)。我們通過(guò)預(yù)估向量與真實(shí)行為向量的內(nèi)積或交叉熵來(lái)衡量預(yù)估的效果，內(nèi)積越大、交叉熵越小，則預(yù)估越準(zhǔn)確。如何選擇適合自己的指標(biāo)建議從下游應(yīng)用出發(fā)，例如下游使用內(nèi)積的方式進(jìn)行排序操作，那么內(nèi)積可能更為合適。但使用內(nèi)積的方式進(jìn)行評(píng)價(jià)可能存在與模型的優(yōu)化方向不一致的問(wèn)題，需要在模型評(píng)價(jià)時(shí)考慮進(jìn)來(lái)。3.1.2

樹(shù)模型、DNN模型思想：通過(guò)用戶(hù)的行為，構(gòu)建一個(gè)有監(jiān)督的分類(lèi)模型，預(yù)估用戶(hù)的各維度的偏好。特征工程：特征工程的原問(wèn)題是什么可以反應(yīng)用戶(hù)的偏好，需要考慮兩個(gè)層面，一是，基于用戶(hù)歷史與屬性Item交互反應(yīng)用戶(hù)愿為什么屬性付出成本；二是考慮用戶(hù)當(dāng)前的業(yè)務(wù)進(jìn)程，反應(yīng)了用戶(hù)的偏好是否在未來(lái)發(fā)生發(fā)幅度的遷移和改變，即用戶(hù)的偏好預(yù)估多大程度上依托歷史交互行為?；谶@兩點(diǎn)思考，我們將兩類(lèi)信息編碼進(jìn)特征中：用戶(hù)歷史與不同Item交互，例如，用戶(hù)在某個(gè)屬性上訪問(wèn)次數(shù)、頻率、轉(zhuǎn)化率等；用戶(hù)的生命周期，例如，用戶(hù)當(dāng)前各類(lèi)行為的帶衰減線性加權(quán)，或用戶(hù)最重行為的one-hot都可以表達(dá)用戶(hù)的生命周期。優(yōu)化點(diǎn)：特征工程實(shí)際上是對(duì)用戶(hù)個(gè)體與用戶(hù)歷史交互序列進(jìn)行了編碼，編碼的過(guò)程中引入了較多的人工先驗(yàn)知識(shí)，例如人為劃分行為聚合時(shí)間的長(zhǎng)度。3.1.3

在模型中引入用戶(hù)行為序列思想：用戶(hù)偏好是個(gè)復(fù)雜且不穩(wěn)定的問(wèn)題，當(dāng)前偏好與過(guò)去的不同階段的行為量及偏好有關(guān)系，而傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)很難去捕捉不同時(shí)間對(duì)當(dāng)前階段的偏好的影響，因此我們把將偏好預(yù)估問(wèn)題抽象為一個(gè)多變量時(shí)間序列預(yù)測(cè)的問(wèn)題，將用戶(hù)行為按照時(shí)間劃分成不同周期，根據(jù)每個(gè)周期內(nèi)的行為，預(yù)估下一周期用戶(hù)發(fā)生重行為所在的屬性維度。這樣，模型可以感知到過(guò)去偏好的變化情況，通過(guò)時(shí)序模型學(xué)習(xí)到過(guò)去對(duì)未來(lái)偏好的影響。LSTM時(shí)序模型：圖

3.1LSTM結(jié)構(gòu)及計(jì)算公式LSTM是一種特殊的循環(huán)神經(jīng)網(wǎng)絡(luò)，可以將過(guò)去的信息與當(dāng)前的目標(biāo)之間建立連接，例如，在空氣質(zhì)量預(yù)測(cè)中，用過(guò)去每個(gè)時(shí)間點(diǎn)的天氣狀況、氣溫、風(fēng)速等特征，來(lái)幫助推測(cè)下一個(gè)時(shí)間點(diǎn)的空氣質(zhì)量。LSTM有兩個(gè)傳輸狀態(tài)，一個(gè)cellstate(C_t)，一個(gè)hiddenstate(h_t)，其中

C_t

改變較為緩慢，作為貫穿整個(gè)cell的傳送帶，保存長(zhǎng)期記憶，而

h_t

在每個(gè)cell內(nèi)的區(qū)別相對(duì)較大。LSTM通過(guò)“門(mén)”來(lái)決定將哪些信息保留、哪些信息刪除，forgetgate決定了上一時(shí)刻的單元狀態(tài)C_t-1

有多少保留到當(dāng)前時(shí)刻

C_t；inputgate決定了當(dāng)前時(shí)刻網(wǎng)絡(luò)的輸入

x_t有多少保存到單元狀態(tài)C_t，outputgate控制單元狀態(tài)

C_t有多少輸出到

LSTM

的當(dāng)前輸出值

h_t。其網(wǎng)絡(luò)結(jié)構(gòu)和前向計(jì)算公式如圖3.1所示。特征工程：劃定周期，將一個(gè)周期內(nèi)的行為次數(shù)與屬性Item、行為類(lèi)別進(jìn)行交叉聚合。周期的選擇根據(jù)下游場(chǎng)景的需求和業(yè)務(wù)類(lèi)型，選擇不同長(zhǎng)度的周期，對(duì)于用戶(hù)需求相對(duì)穩(wěn)定、下游場(chǎng)景不需要緊隨用戶(hù)當(dāng)前實(shí)時(shí)偏好的場(chǎng)景中，可以選擇周為周期粒度，反之，如果需要實(shí)時(shí)關(guān)注用戶(hù)當(dāng)前的偏好變化，可以以天為周期粒度。優(yōu)化點(diǎn)：在貝殼平臺(tái)，由于城市對(duì)用戶(hù)偏好的影響很大，所以我們加入城市作為特征，先將城市進(jìn)行embedding，再將embedding后的結(jié)果與sequence特征經(jīng)過(guò)LSTM的結(jié)果進(jìn)行拼接，進(jìn)入全連接層。技術(shù)路線：獲取用戶(hù)每個(gè)周期內(nèi)的行為次數(shù)與屬性Item、行為類(lèi)別作交叉得到的序列特征，以及城市的編碼結(jié)果或one-hot結(jié)果；序列特征經(jīng)過(guò)LSTM，得到用戶(hù)的歷史行為表達(dá)；城市特征經(jīng)過(guò)Embedding層，得到的向量作為城市屬性表達(dá)；歷史行為表達(dá)與城市屬性表達(dá)進(jìn)行拼接，經(jīng)過(guò)全連接層輸出概率向量。整體的架構(gòu)如下圖：圖

3.2

基于行為序列的偏好預(yù)估架構(gòu)圖3.2

基于二分類(lèi)的偏好挖掘?qū)τ贗tem數(shù)目較多的屬性，多分類(lèi)的方法存在局限性，一是構(gòu)造特征時(shí)，屬性Item與行為進(jìn)行交叉會(huì)導(dǎo)致特征維度爆炸；二是用戶(hù)的行為稀疏，絕大部分Item上沒(méi)有行為；三是當(dāng)類(lèi)別較多時(shí)多分類(lèi)模型表現(xiàn)不夠好。因此，為了在高維稀疏的偏好預(yù)估問(wèn)題中取得更好的效果，我們對(duì)模型進(jìn)行了進(jìn)一步的優(yōu)化，將多分類(lèi)問(wèn)題轉(zhuǎn)化為二分類(lèi)問(wèn)題。3.2.1Seq4Rec模型思考：實(shí)際上，對(duì)于Item數(shù)量較多的屬性，我們只需要關(guān)注用戶(hù)對(duì)其訪問(wèn)過(guò)的Item的偏好情況，我們可將問(wèn)題簡(jiǎn)化為預(yù)估用戶(hù)對(duì)其訪問(wèn)過(guò)的屬性的Item的偏好情況，這樣大大縮減了問(wèn)題的難度。但是每個(gè)用戶(hù)訪問(wèn)過(guò)的Item不同、Item數(shù)量不一，依然無(wú)法使用多分類(lèi)模型。那么，既然不能多分類(lèi)，能否將多分類(lèi)的問(wèn)題轉(zhuǎn)化為二分類(lèi)呢？沿著這個(gè)思路，我們將多分類(lèi)中的不同屬性信息作為召回項(xiàng)加入到特征中，將后續(xù)是否在召回項(xiàng)上發(fā)生重行為作為目標(biāo)。這樣，序列特征作為用戶(hù)表達(dá)，召回項(xiàng)特征作為Item表達(dá)，這種方法我們稱(chēng)其為Seq4Rec。特征工程：Seq4Rec方法的用戶(hù)序列特征不是基于時(shí)間的行為交叉聚合，而是用戶(hù)的每次交互，序列特征包含序列類(lèi)型的編碼，以及行為所在的屬性Item的編碼，最后加上召回項(xiàng)Item的編碼。特征構(gòu)造的主要步驟如下：首先，獲取用戶(hù)交互過(guò)的屬性Item編碼以及行為類(lèi)型編碼，構(gòu)造基于行為的sequence，作為用戶(hù)的表達(dá)；第二步，獲取召回集，用戶(hù)歷史訪問(wèn)過(guò)的Item作為其召回集；第三步，將召回集中的每個(gè)Item作為屬性表達(dá)；最后，屬性表達(dá)與用戶(hù)表達(dá)的sequence拼接到一起。Item的Embedding：在模型訓(xùn)練過(guò)程中，為了降低維度，并且更好地表達(dá)屬性信息，需要對(duì)sequence中的Item以及召回的Item進(jìn)行embedding，將高維稀疏的離散特征轉(zhuǎn)化為低維稠密的向量特征。為此將我們采取預(yù)訓(xùn)練的方式，先進(jìn)行embedding，再用得到的向量對(duì)Item進(jìn)行替換。對(duì)Item進(jìn)行embedding的技術(shù)路線為：根據(jù)用戶(hù)在每個(gè)session中瀏覽的房源的時(shí)間順序，構(gòu)建去重的屬性Item的序列；根據(jù)曝光次數(shù)，對(duì)Item編碼成字典；根據(jù)時(shí)間序列，生成樣本；skip-gram模型得到屬性的Item的embedding值。模型架構(gòu)：整體的架構(gòu)流程圖如下。首先將用戶(hù)交互行為的Item編碼替換成與訓(xùn)練的embedding向量，與行為類(lèi)型編碼共同形成用戶(hù)行為sequence，經(jīng)過(guò)LSTM，與召回項(xiàng)Item的embedding向量進(jìn)行concat，進(jìn)入全連接層，最終輸出0到1范圍內(nèi)的概率值。圖3.3Seq4Rec模型架構(gòu)3.2.2

優(yōu)化用戶(hù)側(cè)表達(dá)思考：在LSTM的方案中，我們將用戶(hù)歷史屬性交互序列用于用戶(hù)的編碼，取得了一定的效果提升。接下來(lái)，我們進(jìn)一步探索序列的更優(yōu)表達(dá)形式。在前述版本中，用戶(hù)的行為序列被壓縮編碼到了一個(gè)定長(zhǎng)向量中參與后續(xù)計(jì)算，是否會(huì)成為瓶頸。其次對(duì)于一個(gè)屬性枚舉而言，用戶(hù)行為序列是否等權(quán)重，等作用的影響特定屬性。最后，在匹配邏輯上，歷史訪問(wèn)序列與目標(biāo)屬性的關(guān)系，應(yīng)當(dāng)被如何表達(dá)與強(qiáng)調(diào)。我們嘗試結(jié)合深度興趣網(wǎng)絡(luò)思路，對(duì)偏好挖掘任務(wù)進(jìn)行優(yōu)化。對(duì)深度興趣網(wǎng)絡(luò)的借鑒：從思想上，深度興趣網(wǎng)絡(luò)框架提出在基于用戶(hù)序列進(jìn)行用戶(hù)編碼過(guò)程中考慮目標(biāo)Item，而不是對(duì)用戶(hù)的多峰偏好進(jìn)行等重表達(dá)。公式表達(dá)如下：其中U(A)為用戶(hù)表達(dá)，e_1,e_2,…,e_H為用戶(hù)序列，v_A為目標(biāo)Item。從實(shí)踐上，深度興趣網(wǎng)絡(luò)相比BaseModel增加了ActivationUnit，通過(guò)用戶(hù)序列與目標(biāo)Item的element-wiseminus以及用戶(hù)序列Item與目標(biāo)Item成對(duì)輸入FCs的方法，計(jì)算用戶(hù)Seq中每個(gè)節(jié)點(diǎn)相對(duì)于目標(biāo)Item的權(quán)重，內(nèi)積用戶(hù)Seq的Embedding從而實(shí)現(xiàn)目標(biāo)影響用戶(hù)編碼的目的。圖3.4深度興趣網(wǎng)絡(luò)模型用戶(hù)偏好多峰的理解：在購(gòu)房場(chǎng)景下，滿(mǎn)足用戶(hù)需求的方案存在多種，以北京為例，可以購(gòu)買(mǎi)高價(jià)地段的中戶(hù)型獲得優(yōu)質(zhì)的配套資源，也可以購(gòu)買(mǎi)遠(yuǎn)郊房產(chǎn)選擇大空間接父母來(lái)居住，更可以以較低價(jià)格購(gòu)買(mǎi)小戶(hù)型、將剩余的錢(qián)留做他用。不同居住方案，產(chǎn)生了用戶(hù)的復(fù)雜偏好，當(dāng)用戶(hù)瀏覽一個(gè)內(nèi)環(huán)高單價(jià)中戶(hù)型時(shí)，對(duì)用戶(hù)的編碼應(yīng)當(dāng)更加關(guān)注歷史對(duì)相似高價(jià)地段方案產(chǎn)生的序列。而非關(guān)注其在京郊別墅方案中對(duì)容積率的要求。圖3.5

用戶(hù)不同的購(gòu)房方案用戶(hù)偏好序列構(gòu)造：在偏好挖掘場(chǎng)景中，我們將其抽象為偏好推薦問(wèn)題，因此用戶(hù)的訪問(wèn)序列由用戶(hù)訪問(wèn)房源的偏好組合構(gòu)成，其中組合的概念我們可以理解為多通道。圖3.6

用戶(hù)偏好序列偏好挖掘網(wǎng)絡(luò)結(jié)構(gòu)：用戶(hù)對(duì)房源的訪問(wèn)實(shí)際是與偏好的組合做了交互，這里我們假設(shè)，用戶(hù)對(duì)小區(qū)屬性的偏好會(huì)受到其包括價(jià)格、面積等多維度偏好的影響。從另一個(gè)層面看，目標(biāo)屬性對(duì)用戶(hù)交互序列的多屬性的信息提取都會(huì)產(chǎn)生影響，而非單獨(dú)影響對(duì)應(yīng)屬性。因此注意力對(duì)用戶(hù)S