一、千川由來

得物的推薦場景，除了首頁瀑布流等幾個比較大的場景之外，還有很多長尾的小場景，包括：頻道、會場、購中購后場景、品牌墻等。這類場景存在單個場景體量?。║V和GMV均偏?。?、場景零散、類型多元的情況。如需對這類場景進行單獨優化，涉及的成本投入遠高于產出。而隨著業務發展，這類長尾場景只會越來越多，對這類場景的優化亟待解決。因此，我們需要這樣一個通用推薦平臺，來承接住這些小場景，并能夠持續優化，帶來收益?！盎銥檎薄ⅰ凹嫒莶?、“統一平臺”，這就是千川。

二、千川需要解決的難題

結合各類需求及定位，千川作為統一推薦系統，面臨不少難題，至少需具備五種能力。

三、工程和算法解決方案

應對上述困難，千川提出統一推薦框架。在千川ID體系基礎上，實現多場景推薦的統一優化。

千川推薦框架總體分五層

• APP服務層：對接各個長尾場景，目前接入了包括主題、頻道、會場、購中購后獨立流、出圖等場景
• 千川接入層：目前提供兩種接入方式，一種是通過商品投放服務接入，一種是注冊千川直連。千川依據接入場景的差異建立千川ID體系，會為每個接入的場景提供特定的千川ID（或者千川ID集合）。
• 千川DPP層：提供多種DPP推薦模塊，滿足多類型推薦需求，包括商品推薦DPP，多類型推薦DPP，樓層推薦DPP，品牌推薦DPP。每個DPP模塊框架基本一致，會根據推薦類型設計差異化推薦策略。
• 算法層：搭建完整推薦鏈路，在召回、粗排、精排、策略等全流程上進行效率和體驗優化。

• 召回階段：設計包括I2I、U2I等在內5類召回，盡可能處理場景、行為、興趣偏差，召回用戶喜好商品。
• 粗排階段：在滿足高性能要求上，提供單目標及多目標粗排能力，為后續精排提升空間。
• 精排階段：針對場景差異、用戶興趣、多種目標、大促應用方面進行一系列模型迭代。
• 策略階段：結合業務需求提供策略干預、場景差異化配置、流控調權、多樣性重排、多類型分發等能力。

• 基建層：依托包括機器學習平臺、索引平臺、特征服務、流控平臺等在內的強大能力支持，方可打造出整套千川推薦框架。

四、算法迭代過程

4.1 召回粗排演進

因千川多業務場景的特色，召回和粗排階段面臨一系列挑戰，包括：場景行為偏好差異、多場景下用戶興趣偏差、場景目標定位差異。

挑戰1：場景行為偏好差異

千川用戶行為較為分散，不同場景下行為稀疏且差異較大。為處理這類偏差，千川匯集全場景下用戶的長短期行為，設計I2I、重定向、Trigger選取、向量化等一系列策略。

• I2I、重定向捕獲行為偏好
• 不同的Trigger選取策略兼顧長短期行為
• GraphEmb、RankI2I實現行為偏好的向量化

挑戰2：多場景下用戶興趣偏差

不同場景下用戶的興趣不完全一致，具體表現如：男性用戶A在主題落地頁更多關注鞋、運動、3C等之類的商品，在送禮頻道更關注化妝品相關商品；女性用戶B在主題落地頁更傾向于包袋、玩偶等，在送禮頻道更關注籃球、休閑服之類的商品。用戶在不同場景之間的興趣表現既有共性又存在差異，千川通過實現全場景的DSSM向量表征與結合場景特征的MIND向量表征多場景下用戶的興趣偏差。

• DSSM引入全場景數據表征用戶對商品的基礎興趣
• MIND結合場景特征擴展用戶在多場景多興趣上的表征

挑戰3：場景目標定位差異

因場景定位不同，對應的目標也不一致。整體可歸納為dpv導向場景和uv價值導向場景。dpv導向場景對應的是對點擊的預估，uv價值導向場景需要同時預估點擊和轉化。千川針對兩類場景目標，設計了粗排雙塔和粗排ESMM模型實現分目標差異化預估，消除場景目標定位差異。

• 粗排雙塔模型實現點擊預估
• 粗排ESMM實現點擊與轉化的多目標預估

4.2 排序模型迭代

挑戰1: 用戶興趣建模

用戶興趣建模一直是推薦系統中重要的優化點之一，用戶的歷史行為則是用戶潛在興趣最直接的表達。

之前的工作主要針對用戶實時和中短期行為進行建模，僅使用近期行為無法建模用戶長期以來穩定的興趣和周期性的行為，同時也會將推薦系統的數據反饋循環限制在局部的熱門的內容中。

另一方面則是特征交叉的不足，模型從deepFM單目標范式遷移到基于dmt范式下的多目標模型，去掉了fm側結構，雖然可以充分挖掘用戶行為序列特征，但是對稀疏特征在模型上的交叉還較少，有一定的優化空間。

挑戰2: 場景差異建模

由于不同的場景往往具備自身獨特的定位，服務的用戶、包含的商品都有較大的差異。而小場景本身的用戶分布和行為偏好也隨活動和運營策略等變化發生較大的波動。

新人落地頁、新人頻道等場景，新用戶占比較高，點擊率偏高而轉化率明顯偏低；補貼頻道主要以性價比高商品為主，點擊、轉化的意向都不錯，但是aov較整體有明顯的下降；女性頻道的受眾基本是女性，這個場景的商品集較主流場景有著明顯差異，女性用戶在喜好上也有明顯偏向，數據上看這個場景的女裝、箱包占比有明顯提升；而會場等場景，日常和大促用戶分布和商品池變化很大，用戶行為也有相應的變化，在預熱期收藏意愿持續提升，直到大促當天集中實現轉化。而對于購后、支付后等場景，由于用戶需求已經部分滿足，瀏覽深度就相應偏低。

迭代1: 用戶興趣建模

為了充分建模用戶的興趣的差異，我們在構建場景下用戶、商品各種顯式交叉統計特征的基礎上，進一步通過優化對用戶行為序列的充分建模和隱式的特征交叉方式，提升我們對用戶偏好刻畫的準確性。

1. 首先我們增加了transformer的結構來處理用戶的長短期用戶行為序列，并對行為序列做了合并和去重處理來增大信息容量。
2. 我們增加了顯式的對用戶統計特征、稀疏特征的交叉，提升模型效果。
3. 增加千川id、商品、用戶屬性對用戶行為的交叉特征，并利用co-action結構做隱式交叉。

1. 用戶行為序列作為Feed Feature, 復用attention之前的sequence embedding
2. cspu、qcid、gender、brand等作為Induction Feature，構建3層mlp
3. 做3次階乘，增加高階的特征交叉

迭代2: 多場景差異建模

為了充分建模不同場景的差異，我們在構建場景下商品、品牌、類目的交叉統計特征基礎上，進一步通過模型結構的優化，充分學習用戶在不同場景的偏好差異。

1. 通過構建特征刻畫場景偏好以及場景效率的差異

2. 通過構建特征刻畫用戶活躍度、用戶生命周期標簽等特征

1. 用戶標簽-生命周期
2. 用戶-不同場景-活躍度 【exp｜clk｜buy｜clickbuy && cspu｜brand｜cate】
3. 用戶-全場景-活躍度【exp｜clk｜buy｜clickbuy && cspu｜brand｜cate】

3. 通過mmoe結構，使得模型進一步學習到場景的差異。
4. 盡管豐富了特征，但是不同場景的樣本混合，只用一個模型會使得不同場景互相干擾覆蓋，難以達到最優的效果，所以進一步對模型結構做了調整，復用了mmoe的結構。
5. 為了凸顯場景的差異性，需要對原始的MMoE的 Gate 網絡的輸入做調整，為此只選擇千川id的本身信息作為特征，利用場景id的信息對experts進行選擇，使得不同場景經過softmax輸出不同的Gate 權重。
6. 針對不同的場景，模型能夠感知場景的差異，不同場景能夠選擇不同的experts子網絡的組合，從而實現不同場景的差異化建模。
7. 通過poso結構，使得模型能進一步學習到用戶群的差異。
8. 在初步使用用戶特征時，發現新用戶的特征因為數據稀少(新用戶的樣本只占所有樣本的4.6%)，并沒有被網絡充分學習利用，導致這些特征即使被MASK也幾乎不影響網絡參數分布。
9. 為了解決不平衡分布的特征的處理，采用了POSO的結構，主要在Gate側輸入用戶標簽特征，例如是否新客、是否賣家、性別等特征。然后在全連接結構使用POSO時，全連接的每層輸出和gate的輸出按位相乘。

按照預估點擊率分桶，可以看到模型在對新客的預估上，準確率明顯提升，而且從整體的pcoc上看，模型建模效果也顯著提升。

5、未來展望

5.1 業務

千川一如既往的支持各類業務發展：

• 規范對接流程，繼續擴展新場景，做到準確高效，如：會場主圖，金剛位出圖等。
• 歸納業務訴求，提煉需求共性，進一步擴展能力，如：多類型分發能力、多樣性重排能力等。
• 維護系統穩定，完善監控、神盾巡檢，及時發現、處理相關問題。

5.2 算法

千川召回迭代會繼續聚焦在處理場景、行為、興趣偏差上：一方面從場景相關特征入手，圍繞場景特征進行召回模型迭代，如：將場景特征作為獨立塔引入，加入場景、用戶、商品之間的特征交叉，探索SDM模型結構等；一方面持續深挖用戶、商品特征，強化價格因素占比，豐富價格特征、加深價格與場景、用戶、商品的關聯，實現精準建模。

千川精排迭代會繼續聚焦在多場景差異建模方向上，一方面探索現有建模范式的進階方向，例如PepNet等。一方面繼續挖掘特征，例如場景內的用戶行為序列等，并探索與之適配的模型結構，如SAR-Net等。

另外在許多千川的實際應用中，有許多非瀑布流場景，K個商品可能一次性呈現給用戶。例如金剛位、中通位、會場樓層內、商品分類等等場景。此時，這K個商品如同被呈現在一張卡片上，且這K個推薦位之間是相互影響的。會嘗試探索生成重排等整屏優化的算法方向。

而千川會場商品推薦很容易受外界干預和大促日程節點的影響，排序模型常常出現日常表現優于基線，但是到了大促就效率大幅下滑的現象。這既是挑戰也是算法技術創新的機遇。會進一步探索諸如持續學習、實時ODL、LTR等方向。

5.3 通用性

此外，我們會繼續升級，將千川變得更加通用，爭取做到組件化、構建算法庫、靈活擴展和可復制。