Merge branch 'master' of github.com:xUhEngwAng/notes

This commit is contained in:
Shine wOng
2020-01-14 20:20:00 +08:00

View File

@@ -281,7 +281,10 @@ $$
之后我手动将这些数据划分成了训练集和测试集其中测试集占所有数据的20%。然后分别使用未正则化的损失函数与正则化的损失函数($\lambda = 1$),利用梯度下降法对模型进行训练。结果如下:
![overfit](images/overfit.png) ![justfit](images/justfit.png)
<table><tr>
<td><img src="images/overfit.png" width="90%" height="90%" /></td>
<td><img src="images/justfit.png" width="90%" height="90%" /></td>
</tr></table>
图中黑色的圆圈或者十字是表示训练集的实例而红色边界的圆圈或者十字表示的是测试集实例。可以看到未经过正则化的损失函数训练出来的模型决策边界相对复杂具有许多高次项同时对于训练集有更高的预测准确率87.21%而正则化后的损失函数利用梯度下降法训练出的决策边界则要简单很多比较规则对训练集的准确率也要低一些80.23%)。