一、推薦現狀

先簡單介紹一下推薦系統的現狀。

推薦系統其實在生活中已經很常見了，隨著網絡上的信息越來越多，人們很難從海量信息中找出最適合自己的東西。為了解決這種信息過載的問題，衍生出了推薦系統。它會預測用戶的需求，推薦其可能喜歡的內容，緩解用戶做出選擇的煩惱。

早期的推薦算法比較簡單，經典算法包括基于內容的、基于知識的、還有基于協同過濾的等等。

現在的研究方向主要集中在深度學習方面，通過神經網絡的訓練來有效提取特征、獲取更精準的表示能力，提升匹配程度。在推薦系統領域已經獲得不錯的效果。

上述這些方法上面都存在著一個問題，就是冷啟動問題。

冷啟動問題分為兩類：

• 用戶冷啟動：如何給新加入的用戶推薦可能感興趣的物品，對于一個公司來說，用戶冷啟動是非常關鍵的，新用戶的留存可以讓公司發展得更快；
• 物品冷啟動：如何把新上架的物品推薦給潛在的用戶。

本次分享將針對用戶冷啟動問題來展開討論。

二、社交興趣網絡

針對用戶冷啟動有兩個解決方法：

• 首先是高效地利用 Side Information

除了 ID 信息以外，通常把用戶屬性特征，比如年齡、性別，還有額外的一些東西補充到模型中去訓練，這是利用 Side Information 的一個方式。

• 第二是高效地利用有限的交互數據

我們沒辦法拿到更多的 Side Information，因此要高效地利用現有的 Side Information，來提升效果。

接下來將重點講解如何高效地利用 Side Information。這就引出了我們今天要講的社交興趣網絡。

社交興趣網絡主要分為兩個部分：

• 一個是社交網絡，代表人與人之間的直接關系，比如 Facebook、 Twitter 、QQ等上面的好友關系。
• 另一個是興趣網絡，主要表示的是人和社交圈之間的關系，包含非常明確的，比如你經常喜歡看搞笑視頻，或者比較喜歡看足球，或者是你在某些平臺上面經常追哪個劇，關注哪些博主等類似的信息。

我們提出了興趣抽取器SocialNet，來抽取用戶的社交興趣。這個抽取器是一個可集成到其他推薦算法中的非常實用的組件。在這基礎上，我們選取了YouTube DNN 做 baseline，把 SocialNet 獲得的用戶興趣集成進去，通過 attention 的方式來進行權重融合，得到最終的網絡，叫做 Socail4Rec。下面來詳細介紹這一算法。

三、Socail4Rec

1、算法模型的概覽圖

模型的總體概覽圖如上所示，其中包含三個部分：

• 粗粒度興趣抽取器 – SoNN
• 細粒度興趣抽取器 – metapath neighborhood aggregation
• 最后將抽取器集成到 YouTube DNN 模型里面去，做成興趣向量模型應用，興趣增強網絡 – Social Enhanced Recommendation

2、Social4Rec-粗粒度興趣提取器-SoNN

如上圖，通過用戶，我們可以拿到他的一些社交興趣信息，比如他平時喜歡看什么電影，喜歡關注哪些明星，他的好友等等。針對這些信息，通過 Embedding Layer拿到其 embedding。

我們在中間設計了一個網絡，叫自組織神經網絡，這個網絡的用途是將得到的這些 embedding 劃分興趣組，將用戶歸到興趣組里面。

具體做法：

（1）第一步通過自組織神經網絡，先得到它所屬的興趣組。

自組織神經網絡相當于一個權重矩陣，在計算過程中會不斷更新。

我們先把用戶的這些興趣特征 embedding匯到網絡里面，去得出它所屬的興趣組。公式中Wj 就是自組織神經網絡的可訓練的權重，根據用戶的embedding，去得出用戶所屬的最接近的興趣組。

（2）第二步根據用戶的 embedding 去更新總的用戶興趣組。

更新的方式主要是下面兩個公式：把用戶的輸入去計算出跟整個矩陣組的差值，根據學習率和衰減系數得到更新權重。衰減的系數可以根據公式算出來的。Sj,i 就代表當前興趣和我們需要計算的另一個興趣的距離，來得出它所屬的范圍：

• 如果距離是0：我們以最大權重更新，相當于在矩陣里面可能有 100 個興趣，如果用戶算出來的上一個方法里面的興趣跟當前興趣是同一個興趣，我們就以最大的權重去更新。
• 如果有不一樣的距離：我們就根據公式算出它的衰減系數。
• 如果距離太遠：我們就直接不更新它的權重。

更新權重的方式，在經過幾次迭代之后可以更新成一個比較合適的權重矩陣，也可以對每一個用戶區分出他的興趣組。在這個過程中，我們就可以把用戶區分到興趣組上面。

（3）第三步興趣組聚合

興趣組可能會存在一些情況，太稀疏，每個組里面的人可能很少。我們需要通過 KMeans 的方法，把這些比較稀疏的興趣組進行小小的聚合。比如可能足球細分類里面又有很多的小類。這些小類的興趣組里面的用戶并不多，我們就需要把他們重新聚合成一個大類，將用戶重新歸到大的興趣組里面。

在這一步我們就把用戶進行了一個粗的分類，分到了比較大的興趣組里面。

3、Social4Rec-細粒度興趣提取器-Meta-path neighborhood aggregation

第二個就是進行細分類，通過粗分類我們已經把用戶群體歸到大的組里面，但這個組會比較大。要在這個大的組里面更精細地去抽取用戶的興趣向量，我們采用了Meta-path 的方法去抽取。

一個典型的 Meta-path UMU 定義為：比如用戶訂閱電影， User 1 訂閱了 Movie 1, User 2 也訂閱了 Movie 1，通過 Meta-path 他們兩個是可以關聯起來的。通過這樣的方式，在同一個大的興趣組里面，我們可以找到這樣user1具有關聯性的很多個user2用戶，我們抽取其中的 top N 的user2用戶進行 embedding 的聚合。

top N的用戶怎么選取？

直接把它們的初始 embedding 與當前user的embedding算 距離最近的top10，然后將這個 top10 聚合到 user embedding 上面去。

這是具體的計算公式，在興趣組里面，通過 Meta-path 的方法找最近 top k 的用戶，將這些用戶的 embedding 聚合起來，再加上自己用戶本身的embedding，得到最終的細粒度的用戶的 embedding。

因為我們初始的時候是有通過多種興趣，電影、關注的明星、Up 主、朋友這 4 種關系，所以我們有 4 個 Meta-path 的方法，分別得出了 4 種 Meta-path embedding。每個方式通過聚合自己的embedding、top N 個的鄰居 embedding 的向量，得到 4 個 Meta-path 的embedding。最終我們拿這 4 個興趣向量 embedding 聚合到初始的 YouTube DNN 模型上面。

4、興趣向量聚合

我們的聚合方式：

• 首先我們輸入用戶特征到 YouTube DNN 模型里面，得到 Input DNN 的 embedding， 
• 分別對4 種興趣向量做 attention ，會得到這 4 種興趣向量的權重。比如用戶本身屬性特征過完 YouTube DNN 之后，得到一串 embedding，發現是比較喜歡看電影的，可能對于電影的抽出來的興趣向量的權重就會比較高。如果對于明星或者對于朋友這種關系比較重，那么它們各自的權重肯定會更高。
• 通過這種方式得出每個興趣的權重向量，再通過權重融合，得到用戶最終疊加的興趣向量的權重融合的 embedding，再跟 item 的 embedding 進行內積，得到最終的 CTR 分數。

簡單來說，就是把用戶興趣直接 concat 到用戶表達上做 attention，之后再經過 MLP 層得到 embedding，然后跟 item 做內積，得到CTR。

這個方式在我們之前的數據集上得到了有效的驗證。

之前數據集主要是兩個，一個是社交的圖， star 代表有多少用戶關注明星的 UA 對的數量。Movie 就是用戶觀看電影的數量。

下面這個是我們主要用的數據集。我們抽取了 15 天的在線的流量日志，前 14 天用于訓練，最后一天用于測試。其中區分了冷啟動用戶的數據，用于單獨在冷啟動用戶上驗證效果。

5、總體的效果

總體的效果可以看上圖的消融實驗數據。

離線部分，在全部用戶上面從最初的單獨用 YouTube DNN 模型的AUC 0.765，提升到了 0.770。在冷啟用戶上面的提升更多，將近 2.33 個百分點。

這四個消融實驗中三個對照實驗代表的含義分別為：

• 第一個是代表不帶粗粒度提取器的版本
• 第二個是不帶細粒度提取器的版本
• 第三個是不進行 Attention，而是直接將興趣特征拼起來平均聚合。

在線部分，我們在所有用戶上面去統計了一下，在線CTR提升了 3.6%，在冷啟用戶上CTR提升了 2%，在點擊數量和觀看時長上面都分別有比較大的提升。其中冷啟用戶的提升更多。所以在解決冷啟用戶問題方面，我們的模型顯現出來比較顯著的效果。

四、總結

在item推薦中，學術界、業界典型的工作都是如何更好地提取用戶直接交互行為信息，而忽視了在真實平臺上我們存在的各種各樣的信息。Social interest信息在推薦算法中的實用性，這對于在推薦平臺上做算法的同學應該是一個特別好的啟發，因為我們平臺上存在大量的社交信息，有效地利用這些信息將為我們的各種業務帶來極大的提升。

五、Q&A

Q1：Meta-path 的定義很大程度決定效果，而 Meta-path 的組合種類很多，怎么根據產品選擇？

Q2：聚類的個數有什么方法確定嗎？

A2：聚類的個數，其實剛開始是拍的，主要還是通過調參的方式去判斷出聚類數，自組織神經網絡聚成一些小類，最開始是定義得比較大的，在大了之后再用 KMeans 去減小它的個數，中間是通過去調整得出來的，其實還主要是超參，超參是調試出來的。

Q3：有沒有分析為什么冷啟動用戶效果更好？

A3：在一個 YouTube DNN 模型里面，冷啟動用戶能拿到行為序列特征是非常少的。在這種比較少的特征上面，我們抽取出來的社交興趣的Embedding 是相對比較重的，起到的作用就比較高。所以在冷啟動用戶上面，我們單獨加這個模塊效果是更好的。

注：相關代碼和論文鏈接:https://github.com/xuanjixiao/onerec。

關于OneRec

在常規推薦系統算法和系統雙優化的范式下，一線公司針對單個任務或單個業務的效果挖掘幾乎達到極限。從2019年我們開始關注多種信息的萃取融合，提出了OneRec算法，希望通過平臺或外部各種各樣的信息來進行知識集成，打破數據孤島，極大擴充推薦的“Extra World Knowledge”。已實踐的算法包括行為數據（多信號，長短期信號），內容描述，社交信息，知識圖譜等。在OneRec，每種信息和整體算法的集成是可插拔的，這樣的話一方面方便大家在自己的平臺數據下靈活組合各種信息，另一方面方便開源共建，大家可以在上邊集成自己的各種算法。OneRec分享的都是之前在線上驗證過效果的工作，相關代碼和論文已經開源在：https://github.com/xuanjixiao/onerec 。

OneRec系列算法目前已經發布的算法：

（1） OneRec1_NeighbourEnhancedDNN 行為和內容兩種信號的強化建模。增強用戶/item的表達和他們的交互。

相關文章：后續在OneRec主頁放出。

相關論文：Neighbor Based Enhancement for the Long-Tail Ranking Problem in Video Rank Models , DLP-KDD 2021。

（2）OneRec2_Social4Rec 行為/內容之外使用social interest信息。增強用戶的表達，有效融合行為，內容，社交興趣三種信號。

相關文章：后續在OneRec主頁放出。

相關論文：Social4Rec: Distilling User Preference from Social Graph for Video Recommendation in Tencent。

論文鏈接：https://arxiv.org/pdf/2302.09971.pdf。

（3）OneRec3_SparseSharing 如何更好的利用點擊信號和轉化信號。通過彩票理論實現神經元級別的多任務學習，進一步優化cvr的效果。

相關文章：《OneRec4_LT4REC:基于彩票假設的多任務學習算法》。

相關論文：LT4REC: A Lottery Ticket Hypothesis Based Multi-task Practice for Video Recommendation System。

論文鏈接：https://arxiv.org/abs/2008.09872。

[后續] 2023 CVR多任務工作：Click-aware Structure Transfer with Sample Weight Assignment for Post-Click Conversion Rate Estimation, 2023, ECML-PKDD。

[前序] 2018 CVR多任務工作：Calibration4CVR：2018年關于“神經元級別共享的多任務CVR”的初探-2018。

（4）OneRec4_SessionLTV 對于一個session瀏覽過程，結合短期reward和長期reward，通過強化學習來建模用戶價值，從而找到LTV價值更高的結果給到用戶，在視頻場景和google RL simulator上均有正向效果。

相關論文：On Modeling Long-Term User Engagement from Stochastic Feedback。

論文鏈接：https://arxiv.org/pdf/2302.06101.pdf， WWW 2023。