生成器和判別器的結構都非常簡單，具體如下：
生成器： 32 ==> 128 ==> 2
判別器： 2 ==> 128 ==> 1
生成器生成的是樣本，即一組坐標（x,y），我們希望生成器能夠由一組任意的 32組噪聲生成座標（x,y）處於兩個半月形狀上。
判別器輸入的是一組座標（x,y），最后一層是sigmoid函數，是一個范圍在（0，1）間的數，即樣本為真或者假的置信度。如果輸入的是真樣本，得到的結果盡量接近1；如果輸入的是假樣本，得到的結果盡量接近0。
batch_size = 50
nb_epochs = 1000
loss_D_epoch = []
loss_G_epoch = []
for e in range(nb_epochs):
np.random.shuffle(X)
real_samples = torch.from_numpy(X).type(torch.FloatTensor)
loss_G = 0
loss_D = 0
for t, real_batch in enumerate(real_samples.split(batch_size)):
# 固定生成器G，改進判別器D
# 使用normal_()函數生成一組隨機噪聲，輸入G得到一組樣本
z = torch.empty(batch_size,z_dim).normal_().to(device)
fake_batch = net_G(z)
# 將真、假樣本分別輸入判別器，得到結果
D_scores_on_real = net_D(real_batch.to(device))
D_scores_on_fake = net_D(fake_batch)
# 優化過程中，假樣本的score會越來越小，真樣本的score會越來越大，下面 loss 的定義剛好符合這一規律，
# 要保證loss越來越小，真樣本的score前面要加負號
# 要保證loss越來越小，假樣本的score前面是正號（負負得正）
loss = -torch.mean(torch.log(1-D_scores_on_fake) + torch.log(D_scores_on_real))
# 梯度清零
optimizer_D.zero_grad()
# 反向傳播優化
loss.backward()
# 更新全部參數
optimizer_D.step()
loss_D += loss
# 固定判別器，改進生成器
# 生成一組隨機噪聲，輸入生成器得到一組假樣本
z = torch.empty(batch_size,z_dim).normal_().to(device)
fake_batch = net_G(z)
# 假樣本輸入判別器得到 score
D_scores_on_fake = net_D(fake_batch)
# 我們希望假樣本能夠騙過生成器，得到較高的分數，下面的 loss 定義也符合這一規律
# 要保證 loss 越來越小，假樣本的前面要加負號
loss = -torch.mean(torch.log(D_scores_on_fake))
optimizer_G.zero_grad()
loss.backward()
optimizer_G.step()
loss_G += loss
if e % 50 ==0:
print(f'\n Epoch {e} , D loss: {loss_D}, G loss: {loss_G}')
loss_D_epoch.append(loss_D)
loss_G_epoch.append(loss_G)
loss的變化情況：
利用生成器生成一組假樣本，觀察是否符合兩個半月形狀的數據分布：
其中，白色的是原來的真實樣本，黑色的點是生成器生成的樣本。
看起來，效果是不令人滿意的。現在把學習率修改為 0.001，batch_size改大到250，再試一次：
# 定義網絡的優化器
optimizer_G = torch.optim.Adam(net_G.parameters(),lr=0.001)
optimizer_D = torch.optim.Adam(net_D.parameters(),lr=0.001)
batch_size = 250
loss 明顯減小了，我們再次利用噪聲生成一組數據觀察一下：
隨着batch size 的增大， loss 的降低，效果明顯改善了.
生成更多的樣本觀察一下:
