百度大規(guī)模推薦系統(tǒng)介紹

1、百度大規(guī)模推薦系統(tǒng)介紹目錄百度機器學習開放平臺歷程云端上的BML大規(guī)模推薦系統(tǒng)實踐20122009平臺化2014升級為BML2016百度機器學習 開放平臺大規(guī)模LR 算法上線百度機器學習開放平臺發(fā)展平臺整體架構(gòu)Web ConsoleBML Restful APIJob SchedulerJob MonitorVisualizationMatrix + Normandy SchedulerParameter ServerHDFSDataBaseConsole APIIAM / STSRest ServerRequest ParserBOSLR / DNN / CF / K-means / LDA

2、 TrainerLR / DNN / CF / K-means / LDA Trainer LR / DNN / CF / K-means / LDA TrainerNext百度機器學習開放平臺歷程云端上的BML大規(guī)模推薦系統(tǒng)實踐云端上的BML/云端上的BML預處理分類算法推薦算法生成數(shù)據(jù)集聚類算法主題模型神經(jīng)網(wǎng)絡在線學習可視化效果評估云端上的BMLNext百度機器學習開放平臺歷程云端上的BML大規(guī)模推薦系統(tǒng)實踐推薦系統(tǒng)必備高效的算法干凈的數(shù)據(jù)完善的系統(tǒng)業(yè)務場景菜品推薦新聞推薦搜索推薦ELF (Essential Learning Framework)FS (local, hdfs, bos)

3、FS (local, hdfs, bos)Parameter serverParameter serverParameter serverCompute workerCompute workerCompute worker同步/ 異步多輪迭代coordinatorELF (Essential Learning Framework)簡單易用, 編寫Async SGD LR僅需要200行代碼組件分布式多線程實現(xiàn), 支持紳粒度的線程控制節(jié)點間通信依賴高效的baidu-rpc深度優(yōu)化hashtable, 專用于Parameter Server協(xié)同過濾-基于user的CF路人甲路人乙路人丙物品A物品B物

4、品C相似推薦喜歡協(xié)同過濾-基于item的CF路人甲路人丙物品A物品B物品C相似路人乙推薦喜歡協(xié)同過濾收集用戶偏好找到相似的用戶或物品計算推薦 , = , =11+(,)隱式/顯式反饋Cosine相似度, = , =歐幾里得距離, , (, ,)=( ) , ,協(xié)同過濾當item數(shù)量很大時，計算量會大到難以計算沒有利用到矩陣稀疏的性質(zhì)協(xié)同過濾DataParseParseParseNorm AggregatorDot Aggregator, TopK AggregatorOutputcosi , j=ratingu1i ratingu1j + + ratinguni ratingunj22rati

5、ngu1i+ + ratinguni22ratingu1j+ + ratingunjAlaya推薦基于深度學習的推薦系統(tǒng)支持基于用戶和商品的協(xié)同過濾可以使用上更多的用戶信息并行分布式訓練Alaya訓練Alaya整體架構(gòu)Exploration and ExploitationEpsilon-Greedy方法UCB方法ExploreExploitPlanB假設有一個廣告資源池，每個廣告的收益都服從一個未知的分 布。怎么知道該給每個用戶展示哪個廣告，從而獲得最大的點 擊收益？PlanA PlanC先在前K輪每個Plan都執(zhí)行一次在后面的N輪，選值最大的那個Exploration and ExploitationLinUCBT