diff --git a/README.md b/README.md index 25234efe..15e71d25 100644 --- a/README.md +++ b/README.md @@ -10,16 +10,14 @@

AI learning

-## 网站地址 +> 协议：[CC BY-NC-SA 4.0](https://creativecommons.org/licenses/by-nc-sa/4.0/deed.zh) +> +> 一种新技术一旦开始流行，你要么坐上压路机，要么成为铺路石。——Stewart Brand -> 组织构建 - -* GitHub Pages(国外): https://ailearning.apachecn.org -* Gitee Pages(国内): https://apachecn.gitee.io/ailearning - -> 第三方站长 - -地址A: xxx (欢迎留言，我们完善补充) +* [在线阅读](https://ailearning.apachecn.org) +* [在线阅读（Gitee）](https://apachecn.gitee.io/ailearning) +* [ApacheCN 面试求职交流群 724187166](https://jq.qq.com/?_wv=1027&k=54ujcL3) +* [ApacheCN 学习资源](http://www.apachecn.org/) ## 下载 @@ -49,436 +47,31 @@ ailearning ## 组织介绍 -* 合作or侵权，请联系: `apachecn@163.com` -* **我们不是 Apache 的官方组织/机构/团体，只是 Apache 技术栈（以及 AI）的爱好者！** -* **ApacheCN - 学习群【724187166】ApacheCN - 学习机器学习群[724187166]** +> 我们是布客（iBooker），一个大型开源社区、自媒体和网赚社区，旗下 QQ 群共一万余人，订阅用户至少一万人。Github Star 数量超过 60k 个，在所有 Github 组织中[排名前 100][top100]。旗下所有网站日 uip 超过 4k，[Alexa 排名的峰值为 20k][top20k]。我们的核心成员拥有[ CSDN 博客专家][csdn-pro]和[简书程序员优秀作者][js-pro]认证。我们建立了公益性文档和教程翻译项目 [ApacheCN][apachecn]。 +> +> 与商业组织不同，我们并不会追逐热点，或者唯利是图。作为公益组织，我们将完成项目放在首要位置，并有足够时间把项目打磨到极致。我们希望做出广大 AI 爱好者和个人开发者真正需要的东西，打造真正有价值的长尾作品。 -> 一种新技术一旦开始流行，你要么坐上压路机，要么成为铺路石。——Stewart Brand +* **We are ApacheCN Open Source Organization, not ASF! We are fans of AI, and have no relationship with ASF!** +* 合作 or 侵权，请联系 | 请抄送一份到 -# 路线图 +[top100]: https://gitstar-ranking.com/apachecn +[top20k]: http://home.apachecn.org/img/about/alexa_201906.png +[csdn-pro]: https://blog.csdn.net/wizardforcel +[js-pro]: https://www.jianshu.com/u/b508a6aa98eb +[apachecn]: https://github.com/apachecn -* 入门只看: 步骤 1 => 2 => 3，你可以当大牛！ -* 中级补充 - 资料库: +## 参考 -> 补充 +* [比赛收集平台](https://github.com/iphysresearch/DataSciComp) +* [pbharrin/machinelearninginaction](https://github.com/pbharrin/machinelearninginaction) +* [ML Mastery](https://machinelearningmastery.com/datasets-natural-language-processing) -* 头条视频汇总: -* 算法刷题: -* 面试求职: -* 机器学习实战: -* NLP教学视频: -* **AI常用函数说明**: +## 致谢 -## 1.机器学习 - 基础 +最近无意收到群友推送的链接，发现得到大佬高度的认可，并在热心的推广。在此感谢: -> 支持版本 - -| Version | Supported | -| ------- | ------------------ | -| 3.6.x | :x: | -| 2.7.x | :white_check_mark: | - -注意事项: - -- 机器学习实战: 仅仅只是学习，请使用 python 2.7.x 版本 （3.6.x 只是修改了部分） - -### 基本介绍 - -* 资料来源: Machine Learning in Action(机器学习实战-个人笔记) -* 统一数据地址: - * 百度云打包地址: -* 书籍下载地址: -* 机器学习下载地址: -* 深度学习数据地址: -* 推荐系统数据地址: -* 视频网站: 优酷 ／bilibili / Acfun / 网易云课堂，可直接在线播放。（最下方有相应链接） -* -- 推荐 [红色石头](https://github.com/RedstoneWill): [台湾大学林轩田机器学习笔记](https://github.com/apachecn/ntu-hsuantienlin-ml) -* -- 推荐 [机器学习笔记](https://feisky.xyz/machine-learning): https://feisky.xyz/machine-learning - -### 学习文档 - -| 模块 | 章节 | 类型 | 负责人(GitHub) | QQ | -| --- | --- | --- | --- | --- | -| 机器学习实战 | [第 1 章: 机器学习基础](docs/ml/1.md) | 介绍 | [@毛红动](https://github.com/ElmaDavies) | 1306014226 | -| 机器学习实战 | [第 2 章: KNN 近邻算法](docs/ml/2.md) | 分类 | [@尤永江](https://github.com/youyj521) | 279393323 | -| 机器学习实战 | [第 3 章: 决策树](docs/ml/3.md) | 分类 | [@景涛](https://github.com/jingwangfei) | 844300439 | -| 机器学习实战 | [第 4 章: 朴素贝叶斯](docs/ml/4.md) | 分类 | [@wnma3mz](https://github.com/wnma3mz)
[@分析](https://github.com/kailian) | 1003324213
244970749 | -| 机器学习实战 | [第 5 章: Logistic回归](docs/ml/5.md) | 分类 | [@微光同尘](https://github.com/DataMonk2017) | 529925688 | -| 机器学习实战 | [第 6 章: SVM 支持向量机](docs/ml/6.md) | 分类 | [@王德红](https://github.com/VPrincekin) | 934969547 | -| 网上组合内容 | [第 7 章: 集成方法（随机森林和 AdaBoost）](docs/ml/7.md) | 分类 | [@片刻](https://github.com/jiangzhonglian) | 529815144 | -| 机器学习实战 | [第 8 章: 回归](docs/ml/8.md) | 回归 | [@微光同尘](https://github.com/DataMonk2017) | 529925688 | -| 机器学习实战 | [第 9 章: 树回归](docs/ml/9.md) | 回归 | [@微光同尘](https://github.com/DataMonk2017) | 529925688 | -| 机器学习实战 | [第 10 章: K-Means 聚类](docs/ml/10.md) | 聚类 | [@徐昭清](https://github.com/xuzhaoqing) | 827106588 | -| 机器学习实战 | [第 11 章: 利用 Apriori 算法进行关联分析](docs/ml/11.md) | 频繁项集 | [@刘海飞](https://github.com/WindZQ) | 1049498972 | -| 机器学习实战 | [第 12 章: FP-growth 高效发现频繁项集](docs/ml/12.md) | 频繁项集 | [@程威](https://github.com/mikechengwei) | 842725815 | -| 机器学习实战 | [第 13 章: 利用 PCA 来简化数据](docs/ml/13.md) | 工具 | [@廖立娟](https://github.com/lljuan330) | 835670618 | -| 机器学习实战 | [第 14 章: 利用 SVD 来简化数据](docs/ml/14.md) | 工具 | [@张俊皓](https://github.com/marsjhao) | 714974242 | -| 机器学习实战 | [第 15 章: 大数据与 MapReduce](docs/ml/15.md) | 工具 | [@wnma3mz](https://github.com/wnma3mz) | 1003324213 | -| Ml项目实战 | [第 16 章: 推荐系统（已迁移）](docs/ml/16.md) | 项目 | [推荐系统（迁移后地址）](https://github.com/apachecn/RecommenderSystems) | | -| 第一期的总结 | [2017-04-08: 第一期的总结](docs/report/2017-04-08.md) | 总结 | 总结 | 529815144 | - -### 网站视频 - -> [知乎问答-爆炸啦-机器学习该怎么入门？](https://www.zhihu.com/question/20691338/answer/248678328) - -当然我知道，第一句就会被吐槽，因为科班出身的人，不屑的吐了一口唾沫，说傻X，还评论 Andrew Ng 的视频。。 - -我还知道还有一部分人，看 Andrew Ng 的视频就是看不懂，那神秘的数学推导，那迷之微笑的英文版的教学，我何尝又不是这样走过来的？？ 我的心可能比你们都痛，因为我在网上收藏过上10部《机器学习》相关视频，外加国内本土风格的教程: 7月+小象 等等，我都很难去听懂，直到有一天，被一个百度的高级算法分析师推荐说: 《机器学习实战》还不错，通俗易懂，你去试试？？ - -我试了试，还好我的Python基础和调试能力还不错，基本上代码都调试过一遍，很多高大上的 "理论+推导"，在我眼中变成了几个 "加减乘除+循环"，我想这不就是像我这样的程序员想要的入门教程么？ - -很多程序员说机器学习 TM 太难学了，是的，真 TM 难学，我想最难的是: 没有一本像《机器学习实战》那样的作者愿意以程序员 Coding 角度去给大家讲解！！ - -最近几天，GitHub 涨了 300颗 star，加群的200人， 现在还在不断的增加++，我想大家可能都是感同身受吧！ - -很多想入门新手就是被忽悠着收藏收藏再收藏，但是最后还是什么都没有学到，也就是"资源收藏家"，也许新手要的就是 [MachineLearning(机器学习) 学习路线图](https://docs.apachecn.org/map)。没错，我可以给你们的一份，因为我们还通过视频记录下来我们的学习过程。水平当然也有限，不过对于新手入门，绝对没问题，如果你还不会，那算我输！！ - -> 视频怎么看？ - -![](docs/img/ApacheCN-ML-bilibili-compare.jpg) - -1. 理论科班出身-建议去学习 Andrew Ng 的视频（Ng 的视频绝对是权威，这个毋庸置疑） -2. 编码能力强 - 建议看我们的[《机器学习实战-教学版》](https://space.bilibili.com/97678687/#!/channel/detail?cid=22486) -3. 编码能力弱 - 建议看我们的[《机器学习实战-讨论版》](https://space.bilibili.com/97678687/#!/channel/detail?cid=13045)，不过在看理论的时候，看 教学版-理论部分；讨论版的废话太多，不过在讲解代码的时候是一行一行讲解的；所以，根据自己的需求，自由的组合。 - -> 【免费】数学教学视频 - 可汗学院 入门篇 - -* [@于振梓]() 推荐: 可汗学院-网易公开课 - -| 概率 | 统计 | 线性代数 | -| - | - | - | -| [可汗学院(概率)](http://open.163.com/special/Khan/probability.html) | [可汗学院(统计学)](http://open.163.com/special/Khan/khstatistics.html)| [可汗学院(线性代数)](http://open.163.com/special/Khan/linearalgebra.html) - -> 机器学习视频 - ApacheCN 教学版 - -||| -| - | - | -| AcFun | B站 | -| | | -| 优酷 | 网易云课堂 | -| | | - -> 【免费】机器/深度学习视频 - 吴恩达 - -| 机器学习 | 深度学习 | -| - | - | -| [吴恩达机器学习](http://study.163.com/course/courseMain.htm?courseId=1004570029) | [神经网络和深度学习](http://mooc.study.163.com/course/2001281002?tid=2001392029) | - - -## 2.深度学习 - -> 支持版本 - -| Version | Supported | -| ------- | ------------------ | -| 3.6.x | :white_check_mark: | -| 2.7.x | :x: | - -### 入门基础 - -1. [反向传递](/docs/dl/反向传递.md): https://www.cnblogs.com/charlotte77/p/5629865.html -2. [CNN原理](/docs/dl/CNN原理.md): http://www.cnblogs.com/charlotte77/p/7759802.html -3. [RNN原理](/docs/dl/RNN原理.md): https://blog.csdn.net/qq_39422642/article/details/78676567 -4. [LSTM原理](/docs/dl/LSTM原理.md): https://blog.csdn.net/weixin_42111770/article/details/80900575 - -### Pytorch - 教程 - --- 待更新 - -### TensorFlow 2.0 - 教程 - --- 待更新 - -> 目录结构: - -* [安装指南](docs/TensorFlow2.x/安装指南.md) -* [Keras 快速入门](docs/TensorFlow2.x/Keras快速入门.md) -* [实战项目 1 电影情感分类](docs/TensorFlow2.x/实战项目_1_电影情感分类.md) -* [实战项目 2 汽车燃油效率](docs/TensorFlow2.x/实战项目_2_汽车燃油效率.md) -* [实战项目 3 优化 过拟合和欠拟合](docs/TensorFlow2.x/实战项目_3_优化_过拟合和欠拟合.md) -* [实战项目 4 古诗词自动生成](docs/TensorFlow2.x/实战项目_4_古诗词自动生成.md) - -切分（分词） - -词性标注 - -命名实体识别 - -句法分析 - -WordNet可以被看作是一个同义词词典 - -词干提取（stemming）与词形还原（lemmatization） - -* https://www.biaodianfu.com/nltk.html/amp - -TensorFlow 2.0学习网址 -* https://github.com/lyhue1991/eat_tensorflow2_in_30_days - -## 3.自然语言处理 - -> 支持版本 - -| Version | Supported | -| ------- | ------------------ | -| 3.6.x | :white_check_mark: | -| 2.7.x | :x: | - -学习过程中-内心复杂的变化！！！ - -```python -自从学习NLP以后，才发现国内与国外的典型区别: -1. 对资源的态度是完全相反的: - 1) 国内: 就好像为了名气，举办工作装逼的会议，就是没有干货，全部都是象征性的PPT介绍，不是针对在做的各位 - 2）国外: 就好像是为了推动nlp进步一样，分享者各种干货资料和具体的实现。（特别是: python自然语言处理） -2. 论文的实现: - 1) 各种高大上的论文实现，却还是没看到一个像样的GitHub项目！（可能我的搜索能力差了点，一直没找到） - 2）国外就不举例了，我看不懂！ -3. 开源的框架 - 1）国外的开源框架: tensorflow/pytorch 文档+教程+视频（官方提供） - 2) 国内的开源框架: 额额，还真举例不出来！但是牛逼吹得不比国外差！（MXNet虽然有众多国人参与开发，但不能算是国内开源框架。基于MXNet的动手学深度学习(http://zh.d2l.ai & https://discuss.gluon.ai/t/topic/753)中文教程,已经由沐神(李沐)以及阿斯顿·张讲授录制，公开发布(文档+第一季教程+视频）。) -每一次深入都要去翻墙，每一次深入都要Google，每一次看着国内的说: 哈工大、讯飞、中科大、百度、阿里多牛逼，但是资料还是得国外去找！ -有时候真的挺恨的！真的有点瞧不起自己国内的技术环境！ - -当然谢谢国内很多博客大佬，特别是一些入门的Demo和基本概念。【深入的水平有限，没看懂】 -``` - -![](docs/nlp/img/F94581F64C21A1094A473397DFA42F9C.jpg) - -* **【入门须知】必须了解**: -* **【入门教程】强烈推荐: PyTorch 自然语言处理**: -* Python 自然语言处理 第二版: -* 推荐一个[liuhuanyong大佬](https://github.com/liuhuanyong)整理的nlp全面知识体系: -* 开源 - 词向量库集合: - * - * - * - * - * - * - * - - -### 1.使用场景 （百度公开课） - -> 第一部分 入门介绍 - -* 1.) [自然语言处理入门介绍](/docs/nlp/1.自然语言处理入门介绍.md) - -> 第二部分 机器翻译 - -* 2.) [机器翻译](/docs/nlp/2.机器翻译.md) - -> 第三部分 篇章分析 - -* 3.1.) [篇章分析-内容概述](/docs/nlp/3.1.篇章分析-内容概述.md) -* 3.2.) [篇章分析-内容标签](/docs/nlp/3.2.篇章分析-内容标签.md) -* 3.3.) [篇章分析-情感分析](/docs/nlp/3.3.篇章分析-情感分析.md) -* 3.4.) [篇章分析-自动摘要](/docs/nlp/3.4.篇章分析-自动摘要.md) - -> 第四部分 UNIT-语言理解与交互技术 - -* 4.) [UNIT-语言理解与交互技术](/docs/nlp/4.UNIT-语言理解与交互技术.md) - -### 应用领域 - -#### 中文分词: - -* 构建DAG图 -* 动态规划查找，综合正反向（正向加权反向输出）求得DAG最大概率路径 -* 使用了SBME语料训练了一套 HMM + Viterbi 模型，解决未登录词问题 - -#### 1.文本分类（Text Classification） - -文本分类是指标记句子或文档，例如电子邮件垃圾邮件分类和情感分析。 - -下面是一些很好的初学者文本分类数据集。 - -1. [路透社Newswire主题分类](http://kdd.ics.uci.edu/databases/reuters21578/reuters21578.html)（路透社-21578）。1987年路透社出现的一系列新闻文件，按类别编制索引。[另见RCV1，RCV2和TRC2](http://trec.nist.gov/data/reuters/reuters.html)。 -2. [IMDB电影评论情感分类（斯坦福）](http://ai.stanford.edu/~amaas/data/sentiment)。来自网站imdb.com的一系列电影评论及其积极或消极的情绪。 -3. [新闻组电影评论情感分类（康奈尔）](http://www.cs.cornell.edu/people/pabo/movie-review-data/)。来自网站imdb.com的一系列电影评论及其积极或消极的情绪。 - -有关更多信息，请参阅帖子: -[单标签文本分类的数据集](http://ana.cachopo.org/datasets-for-single-label-text-categorization)。 - -> 情感分析 - -比赛地址: https://www.kaggle.com/c/word2vec-nlp-tutorial - -* 方案一(0.86): WordCount + 朴素 Bayes -* 方案二(0.94): LDA + 分类模型（knn/决策树/逻辑回归/svm/xgboost/随机森林） - * a) 决策树效果不是很好，这种连续特征不太适合的 - * b) 通过参数调整 200 个topic，信息量保存效果较优（计算主题） -* 方案三(0.72): word2vec + CNN - * 说实话: 没有一个好的机器，是调不出来一个好的结果 (: 逃 - -**通过AUC 来评估模型的效果** - -#### 2.语言模型（Language Modeling） - -语言建模涉及开发一种统计模型，用于预测句子中的下一个单词或一个单词中的下一个单词。它是语音识别和机器翻译等任务中的前置任务。 - -它是语音识别和机器翻译等任务中的前置任务。 - -下面是一些很好的初学者语言建模数据集。 - -1. [古腾堡项目](https://www.gutenberg.org/)，一系列免费书籍，可以用纯文本检索各种语言。 -2. 还有更多正式的语料库得到了很好的研究; 例如: - [布朗大学现代美国英语标准语料库](https://en.wikipedia.org/wiki/Brown_Corpus)。大量英语单词样本。 - [谷歌10亿字语料库](https://github.com/ciprian-chelba/1-billion-word-language-modeling-benchmark)。 - -> 新词发现 - -* 中文分词新词发现 -* python3利用互信息和左右信息熵的中文分词新词发现 -* - -> 句子相似度识别 - -* 项目地址: https://www.kaggle.com/c/quora-question-pairs -* 解决方案: word2vec + Bi-GRU - -> 文本纠错 - -* bi-gram + levenshtein - -#### 3.图像字幕（Image Captioning） - -mage字幕是为给定图像生成文本描述的任务。 - -下面是一些很好的初学者图像字幕数据集。 - -1. [上下文中的公共对象（COCO）](http://mscoco.org/dataset/#overview)。包含超过12万张带描述的图像的集合 -2. [Flickr 8K](http://nlp.cs.illinois.edu/HockenmaierGroup/8k-pictures.html)。从flickr.com获取的8千个描述图像的集合。 -3. [Flickr 30K](http://shannon.cs.illinois.edu/DenotationGraph/)。从flickr.com获取的3万个描述图像的集合。 - 欲了解更多，请看帖子: - -[探索图像字幕数据集，2016年](http://sidgan.me/technical/2016/01/09/Exploring-Datasets) - -#### 4.机器翻译（Machine Translation） - -机器翻译是将文本从一种语言翻译成另一种语言的任务。 - -下面是一些很好的初学者机器翻译数据集。 - -1. [加拿大第36届议会的协调国会议员](https://www.isi.edu/natural-language/download/hansard/)。成对的英语和法语句子。 -2. [欧洲议会诉讼平行语料库1996-2011](http://www.statmt.org/europarl/)。句子对一套欧洲语言。 - 有大量标准数据集用于年度机器翻译挑战; 看到: - -[统计机器翻译](http://www.statmt.org/) - -> 机器翻译 - -* Encoder + Decoder(Attention) -* 参考案例: http://pytorch.apachecn.org/cn/tutorials/intermediate/seq2seq_translation_tutorial.html - -#### 5.问答系统（Question Answering） - -问答是一项任务，其中提供了一个句子或文本样本，从中提出问题并且必须回答问题。 - -下面是一些很好的初学者问题回答数据集。 - -1. [斯坦福问题回答数据集（SQuAD）](https://rajpurkar.github.io/SQuAD-explorer/)。回答有关维基百科文章的问题。 -2. [Deepmind问题回答语料库](https://github.com/deepmind/rc-data)。从每日邮报回答有关新闻文章的问题。 -3. [亚马逊问答数据](http://jmcauley.ucsd.edu/data/amazon/qa/)。回答有关亚马逊产品的问题。 - 有关更多信息，请参阅帖子: - -[数据集: 我如何获得问答网站的语料库，如Quora或Yahoo Answers或Stack Overflow来分析答案质量？](https://www.quora.com/Datasets-How-can-I-get-corpus-of-a-question-answering-website-like-Quora-or-Yahoo-Answers-or-Stack-Overflow-for-analyzing-answer-quality) - -#### 6.语音识别（Speech Recognition） - -语音识别是将口语的音频转换为人类可读文本的任务。 - -下面是一些很好的初学者语音识别数据集。 - -1. [TIMIT声学 - 语音连续语音语料库](https://catalog.ldc.upenn.edu/LDC93S1)。不是免费的，但因其广泛使用而上市。口语美国英语和相关的转录。 -2. [VoxForge](http://voxforge.org/)。用于构建用于语音识别的开源数据库的项目。 -3. [LibriSpeech ASR语料库](http://www.openslr.org/12/)。从LibriVox收集的大量英语有声读物。 - -#### 7.自动文摘（Document Summarization） - -文档摘要是创建较大文档的简短有意义描述的任务。 - -下面是一些很好的初学者文档摘要数据集。 - -1. [法律案例报告数据集](https://archive.ics.uci.edu/ml/datasets/Legal+Case+Reports)。收集了4000份法律案件及其摘要。 -2. [TIPSTER文本摘要评估会议语料库](http://www-nlpir.nist.gov/related_projects/tipster_summac/cmp_lg.html)。收集了近200份文件及其摘要。 -3. [英语新闻文本的AQUAINT语料库](https://catalog.ldc.upenn.edu/LDC2002T31)。不是免费的，而是广泛使用的。新闻文章的语料库。 - 欲了解更多信息: - -[文档理解会议（DUC）任务](http://www-nlpir.nist.gov/projects/duc/data.html)。 -[在哪里可以找到用于文本摘要的良好数据集？](https://www.quora.com/Where-can-I-find-good-data-sets-for-text-summarization) - -> 命名实体识别 - -* Bi-LSTM CRF -* 参考案例: http://pytorch.apachecn.org/cn/tutorials/beginner/nlp/advanced_tutorial.html -* CRF推荐文档: https://www.jianshu.com/p/55755fc649b1 - -> 文本摘要 - -* **抽取式** -* word2vec + textrank -* word2vec推荐文档: https://www.zhihu.com/question/44832436/answer/266068967 -* textrank推荐文档: https://blog.csdn.net/BaiHuaXiu123/article/details/77847232 - - -## Graph图计算【慢慢更新】 - -* 数据集: [data/nlp/graph](data/nlp/graph) -* 学习资料: spark graphX实战.pdf 【文件太大不方便提供，自己百度】 - -## 知识图谱 - -* 知识图谱，我只认 [SimmerChan](https://www.zhihu.com/people/simmerchan): [【知识图谱-给AI装个大脑】](https://zhuanlan.zhihu.com/knowledgegraph) -* 说实话，我是看这博主老哥写的博客长大的，写的真的是深入浅出。我很喜欢，所以就分享给大家，希望你们也喜欢。 - -### 进一步阅读 - -如果您希望更深入，本节提供了其他数据集列表。 - -1. [维基百科研究中使用的文本数据集](https://en.wikipedia.org/wiki/List_of_datasets_for_machine_learning_research#Text_data) -2. [数据集: 计算语言学家和自然语言处理研究人员使用的主要文本语料库是什么？](https://www.quora.com/Datasets-What-are-the-major-text-corpora-used-by-computational-linguists-and-natural-language-processing-researchers-and-what-are-the-characteristics-biases-of-each-corpus) -3. [斯坦福统计自然语言处理语料库](https://nlp.stanford.edu/links/statnlp.html#Corpora) -4. [按字母顺序排列的NLP数据集列表](https://github.com/niderhoff/nlp-datasets) -5. [该机构NLTK](http://www.nltk.org/nltk_data/) -6. [在DL4J上打开深度学习数据](https://deeplearning4j.org/opendata) -7. [NLP数据集](https://github.com/caesar0301/awesome-public-datasets#natural-language) -8. 国内开放数据集: https://bosonnlp.com/dev/resource - -## 贡献者信息 - -* 贡献者/负责人/群管理: - -**欢迎贡献者不断的追加** - - -## 免责声明 - 【只供学习参考】 - -* ApacheCN 纯粹出于学习目的与个人兴趣翻译本书 -* ApacheCN 保留对此版本译文的署名权及其它相关权利 - -## **协议** - -* 以各项目协议为准。 -* ApacheCN 账号下没有协议的项目，一律视为 [CC BY-NC-SA 4.0](https://creativecommons.org/licenses/by-nc-sa/4.0/deed.zh)。 - ---- - -## 资料来源: - -* 【比赛收集平台】: https://github.com/iphysresearch/DataSciComp -* https://github.com/pbharrin/machinelearninginaction -* https://machinelearningmastery.com/datasets-natural-language-processing - -## 感谢信 - -最近无意收到群友推送的链接，发现得到大佬高度的认可，并在热心的推广 - -在此感谢: - -* [量子位](https://www.zhihu.com/org/liang-zi-wei-48): -* 人工智能前沿讲习: +* [量子位](https://www.zhihu.com/question/20472776/answer/691646493) +* [人工智能前沿讲习](https://mp.weixin.qq.com/s/f2dqulxOPkt7k5hqPsydyQ) ## 赞助我们 diff --git a/docs/contrib.md b/docs/contrib.md new file mode 100644 index 00000000..1ea83807 --- /dev/null +++ b/docs/contrib.md @@ -0,0 +1,120 @@ +# 贡献者 + +## 项目负责人 + +> Ml 第一期 (2017-02-27) + +* [@片刻](https://github.com/jiangzhonglian) +* [@那伊抹微笑](https://github.com/wangyangting) +* [@瑶妹](https://github.com/chenyyx) + +> Ml 第二期 (2017-08-14) + +* [@片刻](https://github.com/jiangzhonglian) +* [@那伊抹微笑](https://github.com/wangyangting) +* [@瑶妹](https://github.com/chenyyx) +* [@Mike](https://github.com/mikechengwei) + +> Ml 第三期 (2018-04-16) + +* [@片刻](https://github.com/jiangzhonglian) +* [@飞龙](https://github.com/wizardforcel) + +## 项目贡献者 + +> Ml 第一期 (2017-02-27) + +* [@侯法超](https://github.com/geekidentity) +* [@hello19883](https://github.com/hello19883) +* [@徐鑫](https://github.com/sheepmen) +* [@ibe](https://github.com/highfei2011) + +> Ml 第二期 (2017-08-14) + +* [@Arithmetic](https://github.com/LeeMoonCh) +* [@Veyron C](https://github.com/caopeirui) +* [@Cugtyt](https://github.com/Cugtyt) +* [@BBruceyuan](https://github.com/hey-bruce) + +> Ml 第三期 (2018-04-16) + +## 群管理员换届 + +* [@瑶妹](https://github.com/chenyyx) +* [@飞龙](https://github.com/wizardforcel) +* [@片刻](https://github.com/jiangzhonglian) +* [@伪文艺.](https://github.com/Watermelon233) +* [@那伊抹微笑](https://github.com/wangyangting) +* [@LAMDA-健忘症]() 永久留任-非常感谢对群的贡献 + +> Ml 第四届 (2019-06-01) + +* [佛学爱好者]() +* [楚盟]() +* [codefun007.xyz]() +* [大鱼-群花-声优]() +* [大海]() +* [Edge]() +* [if only]() +* [李孟禹]() +* [平静]() +* [任务做不完]() +* [仁礼智爱]() +* [园时空守望者@]() +* [坐看云起]() +* [阿花君霸占路人]() +* [烦焖鸡]() +* [古柳-DesertsX]() +* [青鸟(服务员)]() +* [小明教主]() +* [zhiqing]() +* [SrL.z]() + +> Ml 第三届 (2019-01-01) + +* [只会喊666的存在]() +* [codefun007.xyz]() +* [荼靡]() +* [大鱼]() +* [青鸟]() +* [古柳-DesertsX]() +* [Edge]() +* [Alluka]() +* [不发篇paper不改名片]() +* [FontTian]() +* [Bigjing]() +* [仁 礼 智 爱]() +* [可啪的小乖受]() +* [老古董]() +* [时空守望者]() +* [我好菜啊]() +* [Messi 19]() +* [萌Jay小公举]() + +> Ml 第二届 (2018-07-04) + +* [@张假飞]() +* [@李孟禹]() +* [@小明教主]() +* [@平淡的天]() +* [@凌少skierゞ]() +* [@じ☆νЁ坐看云起]() +* [古柳-DesertsX]() +* [woodchuck]() +* [自由精灵]() +* [楚盟]() +* [99杆清台]() +* [时空守望者@]() +* [只想发论文的渣渣]() +* [目标: ml劝退专家]() + +> Ml 第一届 (2017-09-01) + +* [@易漠]() +* [@Mike](https://github.com/mikechengwei) +* [@Books]() +* [@李孟禹]() +* [@张假飞]() +* [@Glassy]() +* [@红色石头]() +* [@微光同尘]() diff --git a/docs/roadmap.md b/docs/roadmap.md new file mode 100644 index 00000000..f5fe52d2 --- /dev/null +++ b/docs/roadmap.md @@ -0,0 +1,390 @@ +# 路线图 + +* 入门只看: 步骤 1 => 2 => 3，你可以当大牛！ +* 中级补充 - 资料库: + +> 补充 + +* 头条视频汇总: +* 算法刷题: +* 面试求职: +* 机器学习实战: +* NLP教学视频: +* **AI常用函数说明**: + +## 1.机器学习 - 基础 + +> 支持版本 + +| Version | Supported | +| ------- | ------------------ | +| 3.6.x | :x: | +| 2.7.x | :white_check_mark: | + +注意事项: + +- 机器学习实战: 仅仅只是学习，请使用 python 2.7.x 版本 （3.6.x 只是修改了部分） + +### 基本介绍 + +* 资料来源: Machine Learning in Action(机器学习实战-个人笔记) +* 统一数据地址: + * 百度云打包地址: +* 书籍下载地址: +* 机器学习下载地址: +* 深度学习数据地址: +* 推荐系统数据地址: +* 视频网站: 优酷 ／bilibili / Acfun / 网易云课堂，可直接在线播放。（最下方有相应链接） +* -- 推荐 [红色石头](https://github.com/RedstoneWill): [台湾大学林轩田机器学习笔记](https://github.com/apachecn/ntu-hsuantienlin-ml) +* -- 推荐 [机器学习笔记](https://feisky.xyz/machine-learning): https://feisky.xyz/machine-learning + +### 学习文档 + +| 模块 | 章节 | 类型 | 负责人(GitHub) | QQ | +| --- | --- | --- | --- | --- | +| 机器学习实战 | [第 1 章: 机器学习基础](ml/1.md) | 介绍 | [@毛红动](https://github.com/ElmaDavies) | 1306014226 | +| 机器学习实战 | [第 2 章: KNN 近邻算法](ml/2.md) | 分类 | [@尤永江](https://github.com/youyj521) | 279393323 | +| 机器学习实战 | [第 3 章: 决策树](ml/3.md) | 分类 | [@景涛](https://github.com/jingwangfei) | 844300439 | +| 机器学习实战 | [第 4 章: 朴素贝叶斯](ml/4.md) | 分类 | [@wnma3mz](https://github.com/wnma3mz)
[@分析](https://github.com/kailian) | 1003324213
244970749 | +| 机器学习实战 | [第 5 章: Logistic回归](ml/5.md) | 分类 | [@微光同尘](https://github.com/DataMonk2017) | 529925688 | +| 机器学习实战 | [第 6 章: SVM 支持向量机](ml/6.md) | 分类 | [@王德红](https://github.com/VPrincekin) | 934969547 | +| 网上组合内容 | [第 7 章: 集成方法（随机森林和 AdaBoost）](ml/7.md) | 分类 | [@片刻](https://github.com/jiangzhonglian) | 529815144 | +| 机器学习实战 | [第 8 章: 回归](ml/8.md) | 回归 | [@微光同尘](https://github.com/DataMonk2017) | 529925688 | +| 机器学习实战 | [第 9 章: 树回归](ml/9.md) | 回归 | [@微光同尘](https://github.com/DataMonk2017) | 529925688 | +| 机器学习实战 | [第 10 章: K-Means 聚类](ml/10.md) | 聚类 | [@徐昭清](https://github.com/xuzhaoqing) | 827106588 | +| 机器学习实战 | [第 11 章: 利用 Apriori 算法进行关联分析](ml/11.md) | 频繁项集 | [@刘海飞](https://github.com/WindZQ) | 1049498972 | +| 机器学习实战 | [第 12 章: FP-growth 高效发现频繁项集](ml/12.md) | 频繁项集 | [@程威](https://github.com/mikechengwei) | 842725815 | +| 机器学习实战 | [第 13 章: 利用 PCA 来简化数据](ml/13.md) | 工具 | [@廖立娟](https://github.com/lljuan330) | 835670618 | +| 机器学习实战 | [第 14 章: 利用 SVD 来简化数据](ml/14.md) | 工具 | [@张俊皓](https://github.com/marsjhao) | 714974242 | +| 机器学习实战 | [第 15 章: 大数据与 MapReduce](ml/15.md) | 工具 | [@wnma3mz](https://github.com/wnma3mz) | 1003324213 | +| Ml项目实战 | [第 16 章: 推荐系统（已迁移）](ml/16.md) | 项目 | [推荐系统（迁移后地址）](https://github.com/apachecn/RecommenderSystems) | | +| 第一期的总结 | [2017-04-08: 第一期的总结](report/2017-04-08.md) | 总结 | 总结 | 529815144 | + +### 网站视频 + +> [知乎问答-爆炸啦-机器学习该怎么入门？](https://www.zhihu.com/question/20691338/answer/248678328) + +当然我知道，第一句就会被吐槽，因为科班出身的人，不屑的吐了一口唾沫，说傻X，还评论 Andrew Ng 的视频。。 + +我还知道还有一部分人，看 Andrew Ng 的视频就是看不懂，那神秘的数学推导，那迷之微笑的英文版的教学，我何尝又不是这样走过来的？？ 我的心可能比你们都痛，因为我在网上收藏过上10部《机器学习》相关视频，外加国内本土风格的教程: 7月+小象 等等，我都很难去听懂，直到有一天，被一个百度的高级算法分析师推荐说: 《机器学习实战》还不错，通俗易懂，你去试试？？ + +我试了试，还好我的Python基础和调试能力还不错，基本上代码都调试过一遍，很多高大上的 "理论+推导"，在我眼中变成了几个 "加减乘除+循环"，我想这不就是像我这样的程序员想要的入门教程么？ + +很多程序员说机器学习 TM 太难学了，是的，真 TM 难学，我想最难的是: 没有一本像《机器学习实战》那样的作者愿意以程序员 Coding 角度去给大家讲解！！ + +最近几天，GitHub 涨了 300颗 star，加群的200人， 现在还在不断的增加++，我想大家可能都是感同身受吧！ + +很多想入门新手就是被忽悠着收藏收藏再收藏，但是最后还是什么都没有学到，也就是"资源收藏家"，也许新手要的就是 [MachineLearning(机器学习) 学习路线图](https://docs.apachecn.org/map)。没错，我可以给你们的一份，因为我们还通过视频记录下来我们的学习过程。水平当然也有限，不过对于新手入门，绝对没问题，如果你还不会，那算我输！！ + +> 视频怎么看？ + +![](img/ApacheCN-ML-bilibili-compare.jpg) + +1. 理论科班出身-建议去学习 Andrew Ng 的视频（Ng 的视频绝对是权威，这个毋庸置疑） +2. 编码能力强 - 建议看我们的[《机器学习实战-教学版》](https://space.bilibili.com/97678687/#!/channel/detail?cid=22486) +3. 编码能力弱 - 建议看我们的[《机器学习实战-讨论版》](https://space.bilibili.com/97678687/#!/channel/detail?cid=13045)，不过在看理论的时候，看 教学版-理论部分；讨论版的废话太多，不过在讲解代码的时候是一行一行讲解的；所以，根据自己的需求，自由的组合。 + +> 【免费】数学教学视频 - 可汗学院 入门篇 + +* [@于振梓]() 推荐: 可汗学院-网易公开课 + +| 概率 | 统计 | 线性代数 | +| - | - | - | +| [可汗学院(概率)](http://open.163.com/special/Khan/probability.html) | [可汗学院(统计学)](http://open.163.com/special/Khan/khstatistics.html)| [可汗学院(线性代数)](http://open.163.com/special/Khan/linearalgebra.html) + +> 机器学习视频 - ApacheCN 教学版 + +||| +| - | - | +| AcFun | B站 | +| | | +| 优酷 | 网易云课堂 | +| | | + +> 【免费】机器/深度学习视频 - 吴恩达 + +| 机器学习 | 深度学习 | +| - | - | +| [吴恩达机器学习](http://study.163.com/course/courseMain.htm?courseId=1004570029) | [神经网络和深度学习](http://mooc.study.163.com/course/2001281002?tid=2001392029) | + + +## 2.深度学习 + +> 支持版本 + +| Version | Supported | +| ------- | ------------------ | +| 3.6.x | :white_check_mark: | +| 2.7.x | :x: | + +### 入门基础 + +1. [反向传递](/dl/反向传递.md): https://www.cnblogs.com/charlotte77/p/5629865.html +2. [CNN原理](/dl/CNN原理.md): http://www.cnblogs.com/charlotte77/p/7759802.html +3. [RNN原理](/dl/RNN原理.md): https://blog.csdn.net/qq_39422642/article/details/78676567 +4. [LSTM原理](/dl/LSTM原理.md): https://blog.csdn.net/weixin_42111770/article/details/80900575 + +### Pytorch - 教程 + +-- 待更新 + +### TensorFlow 2.0 - 教程 + +-- 待更新 + +> 目录结构: + +* [安装指南](TensorFlow2.x/安装指南.md) +* [Keras 快速入门](TensorFlow2.x/Keras快速入门.md) +* [实战项目 1 电影情感分类](TensorFlow2.x/实战项目_1_电影情感分类.md) +* [实战项目 2 汽车燃油效率](TensorFlow2.x/实战项目_2_汽车燃油效率.md) +* [实战项目 3 优化 过拟合和欠拟合](TensorFlow2.x/实战项目_3_优化_过拟合和欠拟合.md) +* [实战项目 4 古诗词自动生成](TensorFlow2.x/实战项目_4_古诗词自动生成.md) + +切分（分词） + +词性标注 + +命名实体识别 + +句法分析 + +WordNet可以被看作是一个同义词词典 + +词干提取（stemming）与词形还原（lemmatization） + +* https://www.biaodianfu.com/nltk.html/amp + +TensorFlow 2.0学习网址 +* https://github.com/lyhue1991/eat_tensorflow2_in_30_days + +## 3.自然语言处理 + +> 支持版本 + +| Version | Supported | +| ------- | ------------------ | +| 3.6.x | :white_check_mark: | +| 2.7.x | :x: | + +学习过程中-内心复杂的变化！！！ + +```python +自从学习NLP以后，才发现国内与国外的典型区别: +1. 对资源的态度是完全相反的: + 1) 国内: 就好像为了名气，举办工作装逼的会议，就是没有干货，全部都是象征性的PPT介绍，不是针对在做的各位 + 2）国外: 就好像是为了推动nlp进步一样，分享者各种干货资料和具体的实现。（特别是: python自然语言处理） +2. 论文的实现: + 1) 各种高大上的论文实现，却还是没看到一个像样的GitHub项目！（可能我的搜索能力差了点，一直没找到） + 2）国外就不举例了，我看不懂！ +3. 开源的框架 + 1）国外的开源框架: tensorflow/pytorch 文档+教程+视频（官方提供） + 2) 国内的开源框架: 额额，还真举例不出来！但是牛逼吹得不比国外差！（MXNet虽然有众多国人参与开发，但不能算是国内开源框架。基于MXNet的动手学深度学习(http://zh.d2l.ai & https://discuss.gluon.ai/t/topic/753)中文教程,已经由沐神(李沐)以及阿斯顿·张讲授录制，公开发布(文档+第一季教程+视频）。) +每一次深入都要去翻墙，每一次深入都要Google，每一次看着国内的说: 哈工大、讯飞、中科大、百度、阿里多牛逼，但是资料还是得国外去找！ +有时候真的挺恨的！真的有点瞧不起自己国内的技术环境！ + +当然谢谢国内很多博客大佬，特别是一些入门的Demo和基本概念。【深入的水平有限，没看懂】 +``` + +![](nlp/img/F94581F64C21A1094A473397DFA42F9C.jpg) + +* **【入门须知】必须了解**: +* **【入门教程】强烈推荐: PyTorch 自然语言处理**: +* Python 自然语言处理 第二版: +* 推荐一个[liuhuanyong大佬](https://github.com/liuhuanyong)整理的nlp全面知识体系: +* 开源 - 词向量库集合: + * + * + * + * + * + * + * + + +### 1.使用场景 （百度公开课） + +> 第一部分 入门介绍 + +* 1.) [自然语言处理入门介绍](/nlp/1.自然语言处理入门介绍.md) + +> 第二部分 机器翻译 + +* 2.) [机器翻译](/nlp/2.机器翻译.md) + +> 第三部分 篇章分析 + +* 3.1.) [篇章分析-内容概述](/nlp/3.1.篇章分析-内容概述.md) +* 3.2.) [篇章分析-内容标签](/nlp/3.2.篇章分析-内容标签.md) +* 3.3.) [篇章分析-情感分析](/nlp/3.3.篇章分析-情感分析.md) +* 3.4.) [篇章分析-自动摘要](/nlp/3.4.篇章分析-自动摘要.md) + +> 第四部分 UNIT-语言理解与交互技术 + +* 4.) [UNIT-语言理解与交互技术](/nlp/4.UNIT-语言理解与交互技术.md) + +### 应用领域 + +#### 中文分词: + +* 构建DAG图 +* 动态规划查找，综合正反向（正向加权反向输出）求得DAG最大概率路径 +* 使用了SBME语料训练了一套 HMM + Viterbi 模型，解决未登录词问题 + +#### 1.文本分类（Text Classification） + +文本分类是指标记句子或文档，例如电子邮件垃圾邮件分类和情感分析。 + +下面是一些很好的初学者文本分类数据集。 + +1. [路透社Newswire主题分类](http://kdd.ics.uci.edu/databases/reuters21578/reuters21578.html)（路透社-21578）。1987年路透社出现的一系列新闻文件，按类别编制索引。[另见RCV1，RCV2和TRC2](http://trec.nist.gov/data/reuters/reuters.html)。 +2. [IMDB电影评论情感分类（斯坦福）](http://ai.stanford.edu/~amaas/data/sentiment)。来自网站imdb.com的一系列电影评论及其积极或消极的情绪。 +3. [新闻组电影评论情感分类（康奈尔）](http://www.cs.cornell.edu/people/pabo/movie-review-data/)。来自网站imdb.com的一系列电影评论及其积极或消极的情绪。 + +有关更多信息，请参阅帖子: +[单标签文本分类的数据集](http://ana.cachopo.org/datasets-for-single-label-text-categorization)。 + +> 情感分析 + +比赛地址: https://www.kaggle.com/c/word2vec-nlp-tutorial + +* 方案一(0.86): WordCount + 朴素 Bayes +* 方案二(0.94): LDA + 分类模型（knn/决策树/逻辑回归/svm/xgboost/随机森林） + * a) 决策树效果不是很好，这种连续特征不太适合的 + * b) 通过参数调整 200 个topic，信息量保存效果较优（计算主题） +* 方案三(0.72): word2vec + CNN + * 说实话: 没有一个好的机器，是调不出来一个好的结果 (: 逃 + +**通过AUC 来评估模型的效果** + +#### 2.语言模型（Language Modeling） + +语言建模涉及开发一种统计模型，用于预测句子中的下一个单词或一个单词中的下一个单词。它是语音识别和机器翻译等任务中的前置任务。 + +它是语音识别和机器翻译等任务中的前置任务。 + +下面是一些很好的初学者语言建模数据集。 + +1. [古腾堡项目](https://www.gutenberg.org/)，一系列免费书籍，可以用纯文本检索各种语言。 +2. 还有更多正式的语料库得到了很好的研究; 例如: + [布朗大学现代美国英语标准语料库](https://en.wikipedia.org/wiki/Brown_Corpus)。大量英语单词样本。 + [谷歌10亿字语料库](https://github.com/ciprian-chelba/1-billion-word-language-modeling-benchmark)。 + +> 新词发现 + +* 中文分词新词发现 +* python3利用互信息和左右信息熵的中文分词新词发现 +* + +> 句子相似度识别 + +* 项目地址: https://www.kaggle.com/c/quora-question-pairs +* 解决方案: word2vec + Bi-GRU + +> 文本纠错 + +* bi-gram + levenshtein + +#### 3.图像字幕（Image Captioning） + +mage字幕是为给定图像生成文本描述的任务。 + +下面是一些很好的初学者图像字幕数据集。 + +1. [上下文中的公共对象（COCO）](http://mscoco.org/dataset/#overview)。包含超过12万张带描述的图像的集合 +2. [Flickr 8K](http://nlp.cs.illinois.edu/HockenmaierGroup/8k-pictures.html)。从flickr.com获取的8千个描述图像的集合。 +3. [Flickr 30K](http://shannon.cs.illinois.edu/DenotationGraph/)。从flickr.com获取的3万个描述图像的集合。 + 欲了解更多，请看帖子: + +[探索图像字幕数据集，2016年](http://sidgan.me/technical/2016/01/09/Exploring-Datasets) + +#### 4.机器翻译（Machine Translation） + +机器翻译是将文本从一种语言翻译成另一种语言的任务。 + +下面是一些很好的初学者机器翻译数据集。 + +1. [加拿大第36届议会的协调国会议员](https://www.isi.edu/natural-language/download/hansard/)。成对的英语和法语句子。 +2. [欧洲议会诉讼平行语料库1996-2011](http://www.statmt.org/europarl/)。句子对一套欧洲语言。 + 有大量标准数据集用于年度机器翻译挑战; 看到: + +[统计机器翻译](http://www.statmt.org/) + +> 机器翻译 + +* Encoder + Decoder(Attention) +* 参考案例: http://pytorch.apachecn.org/cn/tutorials/intermediate/seq2seq_translation_tutorial.html + +#### 5.问答系统（Question Answering） + +问答是一项任务，其中提供了一个句子或文本样本，从中提出问题并且必须回答问题。 + +下面是一些很好的初学者问题回答数据集。 + +1. [斯坦福问题回答数据集（SQuAD）](https://rajpurkar.github.io/SQuAD-explorer/)。回答有关维基百科文章的问题。 +2. [Deepmind问题回答语料库](https://github.com/deepmind/rc-data)。从每日邮报回答有关新闻文章的问题。 +3. [亚马逊问答数据](http://jmcauley.ucsd.edu/data/amazon/qa/)。回答有关亚马逊产品的问题。 + 有关更多信息，请参阅帖子: + +[数据集: 我如何获得问答网站的语料库，如Quora或Yahoo Answers或Stack Overflow来分析答案质量？](https://www.quora.com/Datasets-How-can-I-get-corpus-of-a-question-answering-website-like-Quora-or-Yahoo-Answers-or-Stack-Overflow-for-analyzing-answer-quality) + +#### 6.语音识别（Speech Recognition） + +语音识别是将口语的音频转换为人类可读文本的任务。 + +下面是一些很好的初学者语音识别数据集。 + +1. [TIMIT声学 - 语音连续语音语料库](https://catalog.ldc.upenn.edu/LDC93S1)。不是免费的，但因其广泛使用而上市。口语美国英语和相关的转录。 +2. [VoxForge](http://voxforge.org/)。用于构建用于语音识别的开源数据库的项目。 +3. [LibriSpeech ASR语料库](http://www.openslr.org/12/)。从LibriVox收集的大量英语有声读物。 + +#### 7.自动文摘（Document Summarization） + +文档摘要是创建较大文档的简短有意义描述的任务。 + +下面是一些很好的初学者文档摘要数据集。 + +1. [法律案例报告数据集](https://archive.ics.uci.edu/ml/datasets/Legal+Case+Reports)。收集了4000份法律案件及其摘要。 +2. [TIPSTER文本摘要评估会议语料库](http://www-nlpir.nist.gov/related_projects/tipster_summac/cmp_lg.html)。收集了近200份文件及其摘要。 +3. [英语新闻文本的AQUAINT语料库](https://catalog.ldc.upenn.edu/LDC2002T31)。不是免费的，而是广泛使用的。新闻文章的语料库。 + 欲了解更多信息: + +[文档理解会议（DUC）任务](http://www-nlpir.nist.gov/projects/duc/data.html)。 +[在哪里可以找到用于文本摘要的良好数据集？](https://www.quora.com/Where-can-I-find-good-data-sets-for-text-summarization) + +> 命名实体识别 + +* Bi-LSTM CRF +* 参考案例: http://pytorch.apachecn.org/cn/tutorials/beginner/nlp/advanced_tutorial.html +* CRF推荐文档: https://www.jianshu.com/p/55755fc649b1 + +> 文本摘要 + +* **抽取式** +* word2vec + textrank +* word2vec推荐文档: https://www.zhihu.com/question/44832436/answer/266068967 +* textrank推荐文档: https://blog.csdn.net/BaiHuaXiu123/article/details/77847232 + + +## Graph图计算【慢慢更新】 + +* 数据集: [data/nlp/graph](data/nlp/graph) +* 学习资料: spark graphX实战.pdf 【文件太大不方便提供，自己百度】 + +## 知识图谱 + +* 知识图谱，我只认 [SimmerChan](https://www.zhihu.com/people/simmerchan): [【知识图谱-给AI装个大脑】](https://zhuanlan.zhihu.com/knowledgegraph) +* 说实话，我是看这博主老哥写的博客长大的，写的真的是深入浅出。我很喜欢，所以就分享给大家，希望你们也喜欢。 + +### 进一步阅读 + +如果您希望更深入，本节提供了其他数据集列表。 + +1. [维基百科研究中使用的文本数据集](https://en.wikipedia.org/wiki/List_of_datasets_for_machine_learning_research#Text_data) +2. [数据集: 计算语言学家和自然语言处理研究人员使用的主要文本语料库是什么？](https://www.quora.com/Datasets-What-are-the-major-text-corpora-used-by-computational-linguists-and-natural-language-processing-researchers-and-what-are-the-characteristics-biases-of-each-corpus) +3. [斯坦福统计自然语言处理语料库](https://nlp.stanford.edu/links/statnlp.html#Corpora) +4. [按字母顺序排列的NLP数据集列表](https://github.com/niderhoff/nlp-datasets) +5. [该机构NLTK](http://www.nltk.org/nltk_data/) +6. [在DL4J上打开深度学习数据](https://deeplearning4j.org/opendata) +7. [NLP数据集](https://github.com/caesar0301/awesome-public-datasets#natural-language) +8. 国内开放数据集: https://bosonnlp.com/dev/resource \ No newline at end of file