2020-10-19 21:48:57

docs/pytorch/21.md

@@ -12,7 +12,7 @@ GAN 是一个近几年比较流行的生成网络形式. 对比起传统的生
 
 新手画家 (Generator) 在作画的时候需要有一些灵感 (random noise), 我们这些灵感的个数定义为 N_IDEAS . 而一幅画需要有一些规格, 我们将这幅画的画笔数定义一下, N_COMPONENTS  就是一条一元二次曲线(这幅画画)上的点个数. 为了进行批训练, 我们将一整批话的点都规定一下( PAINT_POINTS ).
 
-```
+```py
 import torch
 import torch.nn as nn
 from torch.autograd import Variable
@@ -35,7 +35,7 @@ PAINT_POINTS = np.vstack([np.linspace(-1, 1, ART_COMPONENTS) for _ in range(BATC
 
 我们需要有很多画是来自著名画家的(real data), 将这些著名画家的画, 和新手画家的画都传给新手鉴赏家, 让鉴赏家来区分哪些是著名画家, 哪些是新手画家的画. 如何区分我们在后面呈现. 这里我们生成一些著名画家的画 (batch 条不同的一元二次方程曲线).
 
-```
+```py
 def artist_works():     # painting from the famous artist (real target)
     a = np.random.uniform(1, 2, size=BATCH_SIZE)[:, np.newaxis]
     paintings = a * np.power(PAINT_POINTS, 2)   (a-1)
@@ -53,7 +53,7 @@ def artist_works():     # painting from the famous artist (real target)
 
 D 会接收一幅画作 (一元二次曲线), 输出这幅画作到底是不是著名画家的画(是著名画家的画的概率).
 
-```
+```py
 G = nn.Sequential(                      # Generator
     nn.Linear(N_IDEAS, 128),            # random ideas (could from normal distribution)
     nn.ReLU(),
@@ -72,7 +72,7 @@ D = nn.Sequential(                      # Discriminator
 
 接着我们来同时训练 D 和 G. 训练之前, 我们来看看G作画的原理. G 首先会有些灵感, G_ideas 就会拿到这些随机灵感 (可以是正态分布的随机数), 然后 G 会根据这些灵感画画. 接着我们拿着著名画家的画和 G 的画, 让 D 来判定这两批画作是著名画家画的概率.
 
-```
+```py
 for step in range(10000):
     artist_paintings = artist_works()           # real painting from artist
     G_ideas = Variable(torch.randn(BATCH_SIZE, N_IDEAS))    # random ideas
@@ -84,14 +84,14 @@ for step in range(10000):
 
 然后计算有多少来之画家的画猜对了, 有多少来自 G 的画猜对了, 我们想最大化这些猜对的次数. 这也就是 log(D(x))  log(1-D(G(z))  在[论文](https://www.pytorchtutorial.com/goto/https://arxiv.org/abs/1406.2661)中的形式. 而因为 torch 中提升参数的形式是最小化误差, 那我们把最大化 score 转换成最小化 loss, 在两个 score 的合的地方加一个符号就好. 而 G 的提升就是要减小 D 猜测 G 生成数据的正确率, 也就是减小 D_score1.
 
-```
+```py
     D_loss = - torch.mean(torch.log(prob_artist0)   torch.log(1\. - prob_artist1))
     G_loss = torch.mean(torch.log(1\. - prob_artist1))
 ```
 
 最后我们在根据 loss  提升神经网络就好了.
 
-```
+```py
     opt_D.zero_grad()
     D_loss.backward(retain_variables=True)      # retain_variables 这个参数是为了再次使用计算图纸
     opt_D.step()