TensorFlow应用实战 | 编写训练的python文件

编写训练的python文件

 1# -*- coding: UTF-8 -*-
 2"""
 3训练 DCGAN
 4"""
 5import os
 6import glob
 7import numpy as np
 8from scipy import misc
 9import keras as tf.keras
10from network import *
11def train():
12if __name__ == "__main__":
13train()

获取训练数据

1# 获取训练数据
2data = []
3for image in glob.glob("images/*"):
4# 读取图片，返回一个数组对象
5image_data = misc.imread(image)  # imread 利用 PIL 来读取图片数据
6data.append(image_data)
7input_data = np.array(data)

将数据进行标准化

1# 将数据标准化成 [-1, 1] 的取值, 这也是 Tanh 激活函数的输出范围
2input_data = (input_data.astype(np.float32) - 127.5) / 127.5

tanh的取值范围是-1 到 1

像素值最大255 减去一半127.5 再除以 127.5 被限制到-1到1之间。

构造生成器和判别器

1# 构造 生成器 和 判别器
2g = generator_model()
3d = discriminator_model()

构建生成器和判别器组成的网络模型

1# 构建 生成器 和 判别器 组成的网络模型
2d_on_g = generator_containing_discriminator(g, d)

里面的参数传入g和d

优化器使用Adam optimizers

1# 优化器用 Adam Optimizer
2g_optimizer = tf.keras.optimizers.Adam(lr=LEARNING_RATE, beta_1=BETA_1)
3d_optimizer = tf.keras.optimizers.Adam(lr=LEARNING_RATE, beta_1=BETA_1)

学习率是我们之前定义的学习率。beta_1 参数。

使用compile方法对于神经网络进行配置 生成器 和 判别器

1# 配置 生成器 和 判别器
2g.compile(loss="binary_crossentropy", optimizer=g_optimizer)
3d_on_g.compile(loss="binary_crossentropy", optimizer=g_optimizer)
4d.trainable = True
5d.compile(loss="binary_crossentropy", optimizer=d_optimizer)

交叉熵损失函数。固定住判别器去优化生成器。相反固定一方优化另一方。

开始训练

 1# 开始训练
 2for epoch in range(EPOCHS):
 3# 每经过一个batchsize大小训练一下
 4for index in range(int(input_data.shape[0] / BATCH_SIZE)):
 5    # 数据切片
 6    input_batch = input_data[index * BATCH_SIZE : (index + 1) * BATCH_SIZE]
 7
 8    # 连续型均匀分布的随机数据（噪声）
 9    random_data = np.random.uniform(-1, 1, size=(BATCH_SIZE, 100))
10    # 生成器 生成的图片数据
11    generated_images = g.predict(random_data, verbose=0)
12    # 首尾相连，输入自身以及产生的图片
13    input_batch = np.concatenate((input_batch, generated_images))
14    # 输出的数据要么是0 要么是 1。1就是通过检测，跟真实图片一致。
15    output_batch = [1] * BATCH_SIZE + [0] * BATCH_SIZE
16
17    # 训练 判别器，让它具备识别不合格生成图片的能力
18    d_loss = d.train_on_batch(input_batch, output_batch)
19
20    # 当训练 生成器 时，让 判别器 不可被训练
21    d.trainable = False
22
23    # 重新生成随机数据。很关键
24    random_data = np.random.uniform(-1, 1, size=(BATCH_SIZE, 100))
25
26    # 训练 生成器，并通过不可被训练的 判别器 去判别
27    g_loss = d_on_g.train_on_batch(random_data, [1] * BATCH_SIZE)
28
29    # 恢复 判别器 可被训练
30    d.trainable = True
31
32    # 打印损失
33    print("Epoch {}, 第 {} 步, 生成器的损失: {:.3f}, 判别器的损失: {:.3f}".format(epoch, index, g_loss, d_loss))

保存生成器和判别器的参数

1# 保存 生成器 和 判别器 的参数
2# 大家也可以设置保存时名称不同（比如后接 epoch 的数字），参数文件就不会被覆盖了
3if epoch % 10 == 9:
4    g.save_weights("generator_weight", True)
5    d.save_weights("discriminator_weight", True)

当我们训练完成，会生成一个generator_weight文件.

它是一个h5py的文件。

1pip install h5py

编写神经网络生成图片的方法

 1 # -*- coding: UTF-8 -*-
 2 """
 3 用 DCGAN 的生成器模型 和 训练得到的生成器参数文件 来生成图片
 4 """
 5 import numpy as np
 6 from PIL import Image
 7 import keras as tf.keras
 8 from network import *
 9 def generate():
10 # 构造生成器
11 g = generator_model()
12# 配置 生成器
13g.compile(loss="binary_crossentropy", optimizer=tf.keras.optimizers.Adam(lr=LEARNING_RATE, beta_1=BETA_1))
14# 加载训练好的 生成器 参数
15g.load_weights("generator_weight")
16
17# 连续型均匀分布的随机数据（噪声）
18random_data = np.random.uniform(-1, 1, size=(BATCH_SIZE, 100))
19# 用随机数据作为输入，生成器 生成图片数据
20images = g.predict(random_data, verbose=1)
21
22# 用生成的图片数据生成 PNG 图片
23for i in range(BATCH_SIZE):
24# 将被限制到-1到1之间的数据进行还原
25image = images[i] * 127.5 + 127.5
26Image.fromarray(image.astype(np.uint8)).save("image-%s.png" % i)
27 if __name__ == "__main__":
28generate()

代码完成与测试模型

一个错误的个人使用，因为我的TensorFlow版本较老。keras并没有被集成进来。

我以为可以

1import keras as tf.keras

但是测试失败了，直接把全部的tf.keras全部替换为keras。

新的风暴

1throws OOM when allocating tensor with shape

又是穷人才会遇到的问题。

将batch_size大小从128改为64可以正常训练。

然后使用generator.py生成图片。

1# 配置 生成器 和 判别器
2g.compile(loss="binary_crossentropy", optimizer=g_optimizer)
3d_on_g.compile(loss="binary_crossentropy", optimizer=g_optimizer)
4d.trainable = True
5d.compile(loss="binary_crossentropy", optimizer=d_optimizer)

让判别器先可以训练，再设置。我们训练生成器的随机数据不应该和训练整个dong的一样，不然不够随机化。

基本都得训练好几个小时。

原文链接：https://www.jianshu.com/p/fdac1cdae92d