推薦系統(tǒng)解構(gòu)

1. 基本架構(gòu)

我這里拿一個(gè)前幾年我剛開(kāi)始入門(mén)推薦系統(tǒng)時(shí)候的架構(gòu)：

最開(kāi)始的階段是召回過(guò)程，分為多個(gè)模塊；實(shí)時(shí)模塊會(huì)拿到用戶實(shí)時(shí)的信息，比如用戶實(shí)時(shí)點(diǎn)擊、收藏、加購(gòu)的商品，并獲取這些商品的相似商品；歷史模塊會(huì)獲取用戶的歷史信息，如歷史的購(gòu)買行為；畫(huà)像模塊則會(huì)獲取用戶的靜態(tài)信息和偏好標(biāo)簽，如用戶的設(shè)備型號(hào)、年齡、性別、類目偏好等；最后還會(huì)包括現(xiàn)在以及過(guò)去的熱門(mén)商品等。

在經(jīng)過(guò)這些召回的過(guò)程后，我們會(huì)進(jìn)行一層過(guò)濾。比如曝光過(guò)濾，即某個(gè)類目已經(jīng)曝光了一定次數(shù)，但是用戶都沒(méi)有點(diǎn)擊，隱式表明用戶不感興趣。還有用戶購(gòu)買過(guò)濾，即已經(jīng)購(gòu)買過(guò)的短期內(nèi)不再推薦。同時(shí)還有購(gòu)買率過(guò)濾、性別過(guò)濾等等。

經(jīng)過(guò)過(guò)濾階段后，我們可以對(duì)過(guò)濾后的商品進(jìn)行一定的預(yù)估。如點(diǎn)擊率、轉(zhuǎn)化率預(yù)估等。同時(shí)可以考慮單價(jià)，多樣性以及新品率等影響進(jìn)行排序。隨后我們可以通過(guò)規(guī)則或者模型，將這些粗排后的物品統(tǒng)一得分進(jìn)行融合，最后再經(jīng)過(guò)精排階段給出最終得分，這個(gè)階段還會(huì)增加一些業(yè)務(wù)規(guī)則進(jìn)行強(qiáng)控，比如考慮多樣性的打散、出于運(yùn)營(yíng)需求的置頂?shù)取?/span>

上述是大致推薦系統(tǒng)的簡(jiǎn)單介紹，不同的業(yè)務(wù)和團(tuán)隊(duì)，在構(gòu)建過(guò)程中也存在模塊的差異，推薦系統(tǒng)沒(méi)有特別強(qiáng)的標(biāo)準(zhǔn)存在。

2. 召回策略

主要策略包括：

① 實(shí)時(shí)行為召回：在線實(shí)時(shí)捕捉用戶對(duì)商品的點(diǎn)擊，收藏，加購(gòu)，購(gòu)買等反饋行 為，并召回相似商品，迅速抓住用戶的短期購(gòu)物需求。

② 歷史行為召回：離線分析用戶對(duì)商品的歷史點(diǎn)擊，收藏，加購(gòu)，購(gòu)買等反饋行為，并召回相似商品，兼顧用戶的長(zhǎng)期購(gòu)物需求。

③ profile召回：從性別，年齡段，設(shè)備等多個(gè)維度，在線和離線同時(shí)對(duì)用戶進(jìn)行

畫(huà)像，并召回相對(duì)應(yīng)的熱門(mén)商品。不要小看這個(gè)召回，非常關(guān)鍵，往往新用戶需要用這些靜態(tài)信息和標(biāo)簽來(lái)做召回，往往可以快速圈定其圈層進(jìn)行精準(zhǔn)的探索和數(shù)據(jù)反饋，比如5-6線城市和北京西二旗的用戶往往大概率興趣差異較大。這層召回是全局熱門(mén)召回的更精細(xì)化拆解。

④ 熱銷&趨勢(shì)召回：分析商品的長(zhǎng)期和短期銷量變化，召回爆款和近期熱點(diǎn)商品。

• 召回模塊特別重要，因?yàn)檎倩氐膩?lái)源/相似分可以作為排序特征(推薦日志落盤(pán)-回看/溯源機(jī)制)

• 召回作為漏斗的頂部，好壞對(duì)漏斗底部(排序)的影響很大。

3. 排序策略

排序階段的影響因子較多，可以作為特征，也可以獨(dú)立在外作為排序因子存在。比如以下的一些因子：Ctr Cvr Price、Ctr Ts、Match Score、Trigger score time decay、Match type ctr cvr、Match type score、...

當(dāng)然針對(duì)不同的產(chǎn)品有不同的側(cè)重點(diǎn)，比如電商的內(nèi)容差異較大，甚至同是內(nèi)容也會(huì)因?yàn)楫a(chǎn)品形態(tài)存在差異，比如快手的雙列可以考慮點(diǎn)擊率建模，而抖音單列下滑不需要考慮點(diǎn)擊率建模。甚至還需要考慮多樣性，驚喜性，新穎性等更多的指標(biāo)。并且建模過(guò)程可以嘗試end2end或單獨(dú)建模的方式，這里面需要考慮的是稀疏性、正負(fù)比例、預(yù)估不準(zhǔn)等問(wèn)題。

如果一個(gè)指標(biāo)不夠，還可以考慮多個(gè)指標(biāo)的結(jié)合，形成新的指標(biāo)。如電商場(chǎng)景下，gmv這個(gè)指標(biāo)，可以用CTR^α*CVR^β*Price^γ代表gmv，那為什么還需要α、β、γ呢？因?yàn)槿绻鹀tr和cvr估計(jì)是準(zhǔn)確的， α、β、γ均為1的排序公式是可解釋的，你把這幾個(gè)指標(biāo)的分子分母拆開(kāi)就看到了，相乘以后就是gmv。但是由于模型各自的準(zhǔn)確率差異，導(dǎo)致了我們需要學(xué)習(xí)這幾個(gè)參數(shù)，理論上建模越準(zhǔn)確的指標(biāo)系數(shù)越大。而這三個(gè)系數(shù)如果相對(duì)穩(wěn)定可以通過(guò)離線統(tǒng)一參數(shù)學(xué)習(xí)的情況完成；如果不穩(wěn)定，可通過(guò)強(qiáng)化學(xué)習(xí)來(lái)解決這個(gè)超參的設(shè)定。

可參看下圖的電商場(chǎng)景建模的相關(guān)排序因子，當(dāng)然部分因子作為特征可納入排序模型。

4. 排序階段還有一些常見(jiàn)的原則

① 針對(duì)不同的召回策略，主要秉持“短期行為優(yōu)先，兼顧長(zhǎng)期行為”，“保證多樣性，避免過(guò)度個(gè)性化”原則。算法上主要通過(guò)長(zhǎng)短期用戶行為密度建模，正負(fù)反饋反向調(diào)節(jié)等手段來(lái)實(shí)現(xiàn)。

② 不同排序因子(商家質(zhì)量/分發(fā)寬度及強(qiáng)度等等)可共用一套底層表征。

③ 覆蓋率：通過(guò)類目，品牌，頻道，場(chǎng)景等多粒度的打散重排，最大化各個(gè)維度的個(gè)性化覆蓋率。

④ 疲勞度：通過(guò)引入一定的隨機(jī)因子，針對(duì)不同個(gè)性化程度，建立合理的輪轉(zhuǎn)機(jī)制，保證一定的新穎性。

⑤ 轉(zhuǎn)化能力：通過(guò)對(duì)用戶，商品，會(huì)場(chǎng)等多維度采集特征數(shù)據(jù)，訓(xùn)練點(diǎn)擊轉(zhuǎn)化和交易轉(zhuǎn)化模型。大促期間 根據(jù)不同的階段，采取差異化的處理策略。比如預(yù)熱期強(qiáng)化點(diǎn)擊轉(zhuǎn)化，正式售賣期則強(qiáng)調(diào)交易轉(zhuǎn)化。

5. 更加精細(xì)化的排序

① 考慮到召回和排序的壓力，可以再精排和召回中間加一層，少量核心特征+簡(jiǎn)單模型進(jìn)行粗排。

② 多過(guò)程建模：如直接購(gòu)買還是收藏比價(jià)使用模型判斷。舉個(gè)例子，在購(gòu)物車推薦中，用模型來(lái)操控推薦策略。在購(gòu)物的流程中，通過(guò)數(shù)據(jù)分析可以發(fā)現(xiàn)，有一部分用戶是希望通過(guò)加入購(gòu)物車來(lái)進(jìn)行比價(jià)， 還有一部分用戶加入購(gòu)物車是直接購(gòu)買。通過(guò)模型來(lái)判斷用戶的行為，比如用戶一直添加同類目的商品，那么比價(jià)的概率就高一些。如果判斷出用戶是直接購(gòu)買，那么就盡量推薦相關(guān)商品，如果是比價(jià)用戶，就推薦相似物品。

③ 粗粒度召回：離線產(chǎn)出不同類目下的精品數(shù)據(jù)，作為召回補(bǔ)充和兜底

④ E&E探索解決低置信度預(yù)估模型問(wèn)題

6. 模型演進(jìn)

模型的演進(jìn)路線可以由下圖表示：

而模型的時(shí)效性也從天級(jí)別，慢慢演化成小時(shí)（一天幾次）， 再演化成近實(shí)時(shí)級(jí)別，而目前主流的推薦系統(tǒng)都是實(shí)時(shí)級(jí)別。

目前模型的演進(jìn)已經(jīng)進(jìn)入到深度學(xué)習(xí)時(shí)代，各個(gè)大廠提出的新的深度學(xué)習(xí)架構(gòu)也層出不窮：

這里不對(duì)于模型具體結(jié)構(gòu)過(guò)過(guò)多展開(kāi)，主要趨勢(shì)就是通過(guò)時(shí)序、行為特征的使用，通過(guò)embedding、LSTM、attention、tansformor等結(jié)構(gòu)提取特征信息，擬合用戶興趣，提高預(yù)測(cè)精度。

7. 特征構(gòu)建

這里主要解構(gòu)一下電商推薦系統(tǒng)中特征的構(gòu)建方式：

初級(jí)的方式，一般大家會(huì)對(duì)用戶和商品進(jìn)行一些用戶畫(huà)像，然后作為特征加入模型。但是長(zhǎng)期來(lái)看，匹配類的特征非常重要，比如待排序的商品和用戶歷史行為的一個(gè)關(guān)系，上面提到的模型中，DIN和DIEN都很好的使用了這種行為序列。匹配特征一般是與點(diǎn)擊特征結(jié)合在一起的，比如用戶對(duì)于某個(gè)商品的點(diǎn)擊，對(duì)于某個(gè)類別的點(diǎn)擊，某類用戶對(duì)于商品的點(diǎn)擊等等?？梢钥偨Y(jié)為下圖：

8. 評(píng)估方式

針對(duì)于召回的評(píng)估方式，絕大部分都是通過(guò)命中率、準(zhǔn)確率、覆蓋率、F1-score等方式評(píng)估，參考下圖：

但是因?yàn)橥扑]系統(tǒng)是串聯(lián)的，我們往往需要考慮到前置模塊對(duì)后置模塊的影響，比如召回對(duì)于排序的影響，下圖是LinkedIn的方式。

03