CS_ALearn/ailearning
1
0
Fork 0
mirror of https://github.com/apachecn/ailearning.git synced 2026-05-07 14:13:14 +08:00
Code Issues Projects Releases Wiki Activity

修改 k-近邻算法.md

Browse Source
This commit is contained in:
chenyyx
2017-08-10 21:34:49 +08:00
parent 28246f0de3
commit 5117323e6a
1 changed files with 24 additions and 17 deletions
Download Patch File Download Diff File Expand all files Collapse all files

41
docs/2.k-近邻算法.md
View File

@@ -3,10 +3,10 @@
![k-近邻算法_首页](/images/2.KNN/knn_headPage_xy.png "k-近邻算法首页")
众说周知，电影可以按照题材分类的；而我们却知道每部电影在风格上的确可能和同题材的电影相近。
众说周知，电影可以按照题材分类；而我们却知道每部电影在风格上的确可能和同题材的电影相近。
那么动作片具有哪些共有特征，使得动作片之间非常相似，而与爱情片存在着明显的差别呢？<br/>
例如： 1.打斗次数 2.亲吻次数<br/>
动作片中也会存在接吻镜头，爱情片中也会存在打斗场景，我们不能单纯依靠是否是否存在打斗或者亲吻镜头，爱情片中也会存在打斗场景，动作片中的打斗场景也更频繁，基于此类场景在某部电影中出现的次数可以用来进行电影分类。<br/>
动作片中也会存在接吻镜头，爱情片中也会存在打斗场景，我们不能单纯依靠是否存在打斗或者亲吻镜头来判断影片的类型。但是爱情片中的亲吻镜头更多，动作片中的打斗场景也更频繁，基于此类场景在某部电影中出现的次数可以用来进行电影分类。<br/>
基于电影中出现的亲吻、打斗出现的次数，使用k-近邻算法构造程序，自动划分电影的题材类型。
## k-近邻分类算法
@@ -16,7 +16,7 @@
```
存在一个样本数据集合，也称作训练样本集，并且样本集中每个数据都存在标签，即我们知道样本集中每一数据与所属分类的对应关系。
输入没有标签的新数据后，将新数据的每个特征与样本集中数据对应的特征进行比较，然后算法提取样本中特征最相似数据（最近邻）的分类
标签。一般来说，我们只选择样本数据集中前k个最相似的数据，这就是k-近邻算法中k的来历。通常k是一个不大于20的整数。
标签。一般来说，我们只选择样本数据集中前 k 个最相似的数据，这就是 k-近邻算法中 k 的来历。通常k是一个不大于 20 的整数。
最后，选择k个最相似数据中出现次数最多的分类，作为新数据的分类。
```
@@ -30,7 +30,7 @@
```
现在根据上面我们得到的样本集中所有电影与未知电影的距离，按照距离递增排序，可以找到k个距离最近的电影。
假定k=3，则三个最靠近的电影依次是， He's Not Really into Dudes 、 Beautiful Woman 和 California Man。
假定 k=3，则三个最靠近的电影依次是， He's Not Really into Dudes 、 Beautiful Woman 和 California Man。
k-近邻算法按照距离最近的三部电影的类型，决定未知电影的类型，而这三部电影全是爱情片，因此我们判定未知电影是爱情片。
```
@@ -42,18 +42,18 @@
分析数据：任何方法
训练算法：此步骤不适用于k-近邻算法
测试算法：计算错误率
使用算法：输入样本数据和结构化的输出结果，然后运行k-近邻算法判断输入数据分类属于哪个分类，最后对计算出的分类执行后续处理
使用算法：输入样本数据和结构化的输出结果，然后运行 k-近邻算法判断输入数据分类属于哪个分类，最后对计算出的分类执行后续处理
```
> kNN算法伪代码
```
对未知类别属性的数据集中的每个点一次执行一下操作：
对未知类别属性的数据集中的每个点依次执行以下操作：
(1)计算已知类别数据集中的点与当前点之间的距离
(2)按照距离递增次序排序
(3)选取与当前点距离最小的k个点
(4)确定前k个点所在类别的出现频率
(5)返回前k个点出现频率最高的类别作为当前点的预测分类
(3)选取与当前点距离最小的 k 个点
(4)确定前 k 个点所在类别的出现频率
(5)返回前 k 个点出现频率最高的类别作为当前点的预测分类
```
> k-近邻算法的特点
@@ -66,20 +66,27 @@
## 从文本文件中解析和导入数据
描述:海伦一直使用在线约会网站寻找适合自己的约会对象。尽管约会网站会推荐不同的人选，但她并不是喜欢每一个人.经过一番总结，她发现曾交往过三种类型的人:
* 不喜欢的人
* 魅力一般的人
* 极具魅力的人
尽管发现了上述规律，但是海伦依然无法将约会网站推荐的匹配对象归入恰当的类别。她觉得可以在周一到周五约会那些魅力一般的人，而周末则更喜欢与那些极具魅力的人为伴。海伦希望我们的分类软件可以更好地帮助她将匹配对象划分到确切的分类中。此外海伦还收集了一些约会网站未曾记录的数据信息。她认为这些数据更有助于匹配对象的归类。
> 示例：使用 k-近邻算法改进约会网站的配对效果
```
收集数据：提供文本文件
准备数据：使用Python解析文本文件
分析数据：使用Matlotlib画二维扩散图
训练算法：此步骤不适用于k-近邻算法
准备数据：使用 Python 解析文本文件
分析数据：使用 Matlotlib 画二维扩散图
训练算法：此步骤不适用于 k-近邻算法
测试算法：使用海伦提供的部分数据作为测试样本。
测试样本和非测试样本的区别在于：
测试样本是意境完成分类的数据，如果预测分类与实际类别不同，则标记为一个错误。
使用算法：产生简单的命令行程序，然后海伦可以输入一些特征数据以判断对方是否为自己喜欢的类型。
```
> 将文本记录转换为NumPy的解析程序
> 将文本记录转换为 NumPy 的解析程序
```Python
def file2matrix(filename):
@@ -98,15 +105,15 @@ def file2matrix(filename):
return returnMat,classLabelVector
```
> NumPy数组和Python数组
> NumPy 数组和 Python 数组
```
本教程以后将大量使用NumPy数组，你既可以直接在Python命令行环境中输入 from numpy import array 将其导入，
也可以通过直接导入所有NumPy库内容来将其导入。由于NumPy库提供的数组操作并不支持Python自带的数组类型，因此在编写代码时要注意不要使用错误的数组类型。
本教程以后将大量使用 NumPy 数组，你既可以直接在 Python 命令行环境中输入 from numpy import array 将其导入，
也可以通过直接导入所有 NumPy 库内容来将其导入。由于 NumPy 库提供的数组操作并不支持 Python 自带的数组类型，因此在编写代码时要注意不要使用错误的数组类型。
```
## 使用Matplotlib创建扩散图
## 使用 Matplotlib 创建扩散图
```Python
import matplotlib