推荐系统的参考阅读

专栏主体内容已经结束了,在专栏写作的过程中,我阅读了很多业界公开的资料,我觉得有必要整理出来,供想深入阅读的人继续去找虐。

整体来说,在选择参考文献时,我偏爱那些由公司发表的。因为推荐系统本质上还是一种非常依赖实践的算法应用方向,并且,这些商业公司论文中的技术内容也在他们实际的场景中经过了检验。

另外,更多的内容是来自我自己的大脑中,所以我在下面列出来的只是一部分,在经过反复删减之后,保留了这些,有中文有英文,一般来说英文居多。有较理论化的,如优化理论,更多的是较实践派,可以学完即用。这些资料分成这么几个类型。

  1. 论文:以论文形式发表的,期刊数据库中可以下载到。
  2. 网络文章:就是在网上自由流传的内容或者博客,为了方便阅读,我将它们保存为 PDF 格式。
  3. 演示文稿:就是作者曾公开演讲过的内容,相对来说不是那么严谨,但是更容易理解。
  4. 书:推荐系统相关的书较少,我在专栏中参考过的书只有一本(附件中不提供书的电子文档)。

以上的参考文献我按照章节顺序列在了下面,我还在后面附上一个推荐书单。你可以点击查看。

原理篇

1. 内容推荐

Facebook 开源的文本处理工具 fastText 背后原理。可以训练词嵌入向量,文本多分类,效率和线性模型一样,效果和深度学习一样,值得拥有。

介绍了一种基于文本和行为给用户建模的思路,是信息流推荐的早期探索,Gmail 智能邮箱背后的原理。

这本书收录了推荐系统很多经典论文,话题涵盖非常广,第三章专门讲内容推荐的基本原理,第九章是一个具体的基于内容推荐系统的案例。

介绍了文本挖掘中常用的算法,及基础概念。内容涉及概率论,信息论,文本分类,聚类,深度学习,推荐系统等。

由浅入深地讲解 LDA 原理,对于实际 LDA 工具的使用有非常大的帮助。

2. 近邻推荐

介绍 Amazon 的推荐系统原理,主要是介绍 Item-Based 协同过滤算法。

Slope One 算法。

GroupLens 的研究团队对比了不同的 Item-to-Item 的推荐算法。

是的,Amazon 申请了 Item-Based 算法的专利,所以如果在美上市企业,小心用这个算法。

第四章综述性地讲了近邻推荐,也就是基础协同过滤算法。

3. 矩阵分解

从 PCA 这种传统的数据降维方法讲起,综述了矩阵分解和协同过滤算法。矩阵分解也是一种降维方法。

把矩阵分解和近邻模型融合在一起。

更关注推荐结果的排序好坏,而不是评分预测精度,那么 BPR 模型可能是首选,本篇是出处。

不同于通常矩阵分解处理的都是评分数据这样的显式反馈,本文介绍一种处理点击等隐式反馈数据的矩阵分解模型。

本文是大神 Yehuda Koren 对矩阵分解在推荐系统中的应用做的一个普及性介绍,值得一读。

也是一篇综述,或者说教程,针对 Netflix Prize 的。

4. 模型融合

FTRL 是 CTR 预估常用的优化算法,本文介绍 FTRL 算法原理。

是对 FTRL 的通俗版解说。

FTRL 工程实现解读。

提出 FM 模型的论文,FM 用于 CTR 预估。

FFM 模型,用于 CTR 预估。

提出融合深度和宽度模型的Wide&Deep 模型,用于 CTR 预估。

5.Bandit 算法

介绍 bandit 算法概念,理论和算法,这部分主要针对小的选项候选集。

介绍 Bandit 算法概念,理论和算法,这部分主要针对较大的选项候选集。

Linucb 的原始论文,考虑上下文的 Bandit 算法。

Bandit 算法与协同过滤结合,提出 COFIBA 算法。

6. 深度学习

介绍 YouTube 视频推荐系统在深度神经网络上的尝试。能从中看到 wide&deep 模型的影子。

Word2Vec 的作者在这篇文章中提出了一种词嵌入向量学习方法,也就是把开源工具包 Word2Vec 背后的模型详细介绍了一次。理论上很简单,更多是一些工程技巧的分享。Word2Vec 给推荐系统带来了一种新的隐因子向量学习方法,深陷评分预测泥潭的矩阵分解被开拓了思路。

这篇就是借鉴了 word2vec 在语言建模中的思路,为推荐系统的行为建模,从中为物品学习嵌入向量。

理解为 word2vec 作者写一个教程。

可以用来为序列建模的 LSTM,实际上在 1997 年就发表论文了,只是在十几年后才大火。

这是 Erik Bernhardsson 在 Spotify 期间所做的尝试,用 RNN 自动构建音乐播单。Erik Bernhardsson 还有一项开源项目 Annoy,用于稠密向量的近邻搜索,在推荐系统中也用得较多。

7. 其他实用算法

对流式数据的加权采样。

介绍了两种对流式数据的加权采样。

工程篇

1. 常见架构

本文非常详细地介绍了社交动态信息流的架构设计细节。

这是一份动态信息流数据模型的协议规范文档,由 Activity Streams Working Group 共同发出,这个组织包含 Google 和 Microsoft。

Netflix 详细宏观上介绍了自家推荐系统的产品形态,不只是比赛中的评分预测那么简单的。

Netflix 推荐系统的架构介绍。

探讨搜索、推荐、广告三者架构统一。

2. 关键模块

ABTest 实验平台的扛鼎之作,Google 出品,值得拥有。

介绍了腾讯内部的实时推荐系统架构。

介绍了 Spotify 在推荐系统所用到的数据存储中间件。

3. 效果保证

本文非常详细讨论了对推荐系统的攻击和防护,并有实验模拟。

该书第八章介绍了能见到的几乎所有推荐系统评价指标,只是实际上用不到这么多指标。

其他书目

  1. Pattern Recognization and Machine Learning(机器学习基础,有此一本足够了)。
  2. 推荐系统实践(国内唯一一本非翻译的推荐系统书籍,入门必选)。
  3. 信号与噪声(介绍贝叶斯统计的一本科普书)。
  4. 复杂(推荐系统面对的是复杂网络,了解复杂系统和复杂网络的特点,有助于开脑洞)。
  5. 信息简史(既然是信息经济,当然要读一本关于信息的历史)。

知道你们不会读的,所以就不推荐太多了。但愿我这个激将法有助于你学习进步。

打包资料下载地址: