苏州新区网站制作建设推,怎么让google收录网站,建筑设计研究生考试科目,网站的建设报价一、TensorFlow概述 前言#xff1a; 本文中一些TensorFlow综合案例的代码逻辑一般正常#xff0c;在本地均可运行。如有代码复现运行失败#xff0c;原因如下#xff1a; #xff08;1#xff09;运行环境配置可能有误。 #xff08;2#xff09;由于一些数据集存储空…一、TensorFlow概述 前言 本文中一些TensorFlow综合案例的代码逻辑一般正常在本地均可运行。如有代码复现运行失败原因如下 1运行环境配置可能有误。 2由于一些数据集存储空间较大这里没有上传代码可能无法加载相应文件。 3涉及到一些存储、加载的文件路径没有填写正确等。 4本博客中涉及到TensorFlow的环境安装这里没有详细展开读者如有遇到环境安装问题可通过开源社区互助解决。 读者可注意比对Pycharm中左上部分的project文件区域查看是否有相对应的文件或文件夹。作者这里入过坑但经过不断修改所有代码已验证均可正常运行。作者在此向无数为科学研究及应用、推动人类文明向前发展所付出心血的前辈们致敬祝福开源世界蒸蒸日上让知识不再因壁垒而淡去星辉 1.什么是TensorFlow TensorFlow的发展历史
2.TensorFlow的特点 3.TensorFlow的安装 TensorFlow离线包地址链接:https://pypi.org/project/tensorflow/#files
4.TensorFlow的使用
示例1使用TensorFlow打印“helloworld”
# 01_helloworld.py
# tensorflow版本的helloworld
#这是TensorFlow 1.*版本支持的Session
# import tensorflow as tf
# print(tf.version)#因为 TensorFlow 2.0 引入了重大改变
# 其中最显著的是引入了基于 eager execution 的默认执行模式
# 这意味着不再需要显式的会话session和图构建过程。
#所以需要使用下列方式导入以使用Session
import tensorflow.compat.v1 as tf
tf.disable_v2_behavior()hello tf.constant(hello, world!) # 定义一个常量(张量)
sess tf.Session() # 创建一个session, 用来执行操作
print(sess.run(hello)) # 调用session的run方法执行hello操作并打印结果
sess.close() # 关闭session示例2使用TensorFlow实现加法操作
# 02_add.py
# 张量相加的示例
#import tensorflow as tf
import tensorflow.compat.v1 as tf
tf.disable_v2_behavior()a tf.constant(5.0) # 张量a
b tf.constant(1.0) # 张量b
c tf.add(a, b) # 张量相加with tf.Session() as sess:print(sess.run(c))
5.TensorFlow的体系结构
体系结构概述
5.1单机模式与分布式模式 5.2后端逻辑层次 6.TensorFlow基本概念
张量 数据流
操作 图和会话 变量和占位符
二、TensorFlow基本操作
1.图和会话操作
1.1什么是图 会话的操作
示例3使用TensorFlow查看图对象、指定会话运行某个图
# 03_graph_attr.py
# 查看默认图的属性
#import tensorflow as tf
import tensorflow.compat.v1 as tf
tf.disable_v2_behavior()a tf.constant(5.0)
print(a)
b tf.constant(1.0)
c tf.add(a, b)graph tf.get_default_graph() # 获取默认的图
print(graph:,graph)# 新创建一个图
graph2 tf.Graph()
print(graph2:,graph2)
with graph2.as_default(): # 设置为默认图d tf.constant(11.0) # 操作d属于graph2with tf.Session(graphgraph2) as sess: # 指定执行graph2# print(sess.run(c)) # 报错因为c没有在默认graph2中print(sess.run(d))print(a.graph) # 打印张量的graph属性print(c.graph) # 打印c操作的graph属性print(sess.graph) # 打印session的graph属性会话常见的错误及原因
1.2张量的属性及基本运算
张量的阶与形状 张量的数据类型 示例4使用TensorFlow查看张量属性
# 04_tensor_attr.py
# 查看张量属性示例
#import tensorflow as tf
import tensorflow.compat.v1 as tf
tf.disable_v2_behavior()a tf.constant(5.0) # 标量with tf.Session() as sess:print(sess.run(a))print(name:, a.name) # name属性print(dtype:, a.dtype) # dtypeprint(shape:, a.shape) # shapeprint(op:, a.op) # opprint(graph:, a.graph) # graph
示例5使用TensorFlow创建张量
# 05_create_tensor.py
# 创建张量示例
#import tensorflow as tf
import tensorflow.compat.v1 as tf
tf.disable_v2_behavior()# 创建值全为0的张量
tensor_zeros tf.zeros(shape[2,3], # 2行3列dtypefloat32) # 类型
# 创建值全为1的张量
tensor_ones tf.ones(shape[2,3], dtypefloat32)
# 创建正态分布随机张量
tensor_nd tf.random_normal(shape[10], #一维10个元素mean1.7, # 中位数stddev0.2,dtypefloat32)
# 创建形状和tensor_ones一样值全为0的张量
tensor_zeros_like tf.zeros_like(tensor_ones)with tf.Session() as sess:print(tensor_zeros.eval()) # eval表示在session中执行计算print(tensor_ones.eval())print(tensor_nd.eval())print(tensor_zeros_like.eval())1.3张量类型转换 示例6使用TensorFlow进行张量类型转换
# 06_cast.py
# 张量类型转换示例
#import tensorflow as tf
import tensorflow.compat.v1 as tf
tf.disable_v2_behavior()tensor_ones tf.ones(shape[2,3], dtypeint32)
tensor_float tf.constant([1.1, 2.2, 3.3])with tf.Session() as sess:print(tf.cast(tensor_ones, tf.float32).eval()) # 将tensor_ones转换为浮点型并打印# print(tf.cast(tensor_float, tf.string).eval())1.4占位符 示例7占位符的使用
# 07_placeholder.py
# 占位符使用示例占位符在使用时必须传入参数#import tensorflow as tf
import tensorflow.compat.v1 as tf
tf.disable_v2_behavior()# 定义两个占位符
plhd tf.placeholder(tf.float32, [2, 3]) # 定义2行3列的占位符
plhd2 tf.placeholder(tf.float32, [None, 3]) # N行3列占位符
plhd3 tf.placeholder(tf.float32, [None, 4])with tf.Session() as sess:d [[1, 2, 3],[4, 5, 6]]print(sess.run(plhd, feed_dict{plhd:d})) # 执行占位符操作需要传入数据print(sess.run(plhd2, feed_dict{plhd2:d})) # 定义为N行3列执行时传入2行3列# print(sess.run(plhd3, feed_dict{plhd3:d})) # 定义为N行4列执行时传入2行3列1.5张量形状改变 示例8张量形状改变
# 08_reshape.py
# 张量形状改变
# 静态形状初始形状只能设置一次不能跨阶设置
# 动态形状运行时的形状可以多次设置可以跨阶设置但元素总数要一致
#import tensorflow as tf
import tensorflow.compat.v1 as tf
tf.disable_v2_behavior()pld tf.placeholder(tf.float32, [None, 3])pld.set_shape([4, 3]) # 设置静态形状一旦固定就不能再改变
print(pld)
# pld.set_shape([3, 3]) # 报错# 设置张量的动态形状实际是创建一个新的张量
new_pld tf.reshape(pld, [3, 4]) # 设置动态形状
print(new_pld)new_pld tf.reshape(pld, [2, 6]) # 多次设置动态形状
print(new_pld)# new_pld tf.reshape(pld, [2, 4]) # 报错元素个数不匹配with tf.Session() as sess:pass1.6张量的数学计算 示例9张量的数学计算
# 09_math_oper.py
# 张量的数学计算示例
#import tensorflow as tf
import tensorflow.compat.v1 as tf
tf.disable_v2_behavior()x tf.constant([[1, 2],[3, 4]], dtypetf.float32)
y tf.constant([[4, 3],[3, 2]], dtypetf.float32)x_add_y tf.add(x, y) # 张量相加
x_mul_y tf.matmul(x, y) # 张量相乘(按照矩阵相乘的规则)
log_x tf.log(x) # 求对数
x_sum_1 tf.reduce_sum(x, axis[0]) # 1-行方向 0-列方向# 张量计算片段和
data tf.constant([1,2,3,4,5,6,7,8,9,10], dtypetf.float32)
segment_ids tf.constant([0, 0, 0, 1, 1, 2, 2, 2, 2, 2], dtypetf.int32)
x_seg_sum tf.segment_sum(data, segment_ids)with tf.Session() as sess:print(x_add_y.eval())print(x_mul_y.eval())print(log_x.eval())print(x_sum_1.eval())print(x_seg_sum.eval())
1.7变量 示例10变量使用
# 10_variable.py
# 变量使用示例1. 变量是一种特殊的张量变量中存的值是张量
2. 变量可以进行持久化保存张量则不可
3. 变量使用之前要进行显式初始化#import tensorflow as tf
import tensorflow.compat.v1 as tf
tf.disable_v2_behavior()a tf.constant([1, 2, 3, 4])
var tf.Variable(tf.random_normal([2, 3], mean0.0, stddev1.0), #初始值namevar)
# 变量操作执行之前需要进行全局初始化(初始化也是一个op,需要在session的run方法中执行)
init_op tf.global_variables_initializer()with tf.Session() as sess:sess.run(init_op)print(sess.run([a, var]))三、TensorFlow可视化
1.Tensorboard可视化
1.1什么是可视化 1.2启动Tensorboard
Windows环境下启动Tensorboard演示 在Linux环境下可以直接使用tensorboard --logdir“文件路径” 例如tensorboard --logdir“PycharmProjects/tensorflow_study/summary/” 示例11将图中的信息存入事件文件并在tensorboard中显示示例
# 11_tensorboard_demo.py
# 将图中的信息存入事件文件并在tensorboard中显示示例
#import tensorflow as tf
import tensorflow.compat.v1 as tf
tf.disable_v2_behavior()# 创建一组操作
a tf.constant([1, 2, 3, 4, 5]) # 普通张量
var tf.Variable(tf.random_normal([2,3], mean0.0, stddev1.0),namevar) #变量b tf.constant(3.0, namea) #这里故意将python变量和tf的op名称取的不一致
c tf.constant(4.0, nameb)
d tf.add(b, c, nameadd)# 显式初始化
init_op tf.global_variables_initializer()with tf.Session() as sess:sess.run(init_op)#将当前session的graph信息写入事件文件fw tf.summary.FileWriter(../summary/, graphsess.graph)print(sess.run([a, var, d])) 摘要与事件文件操作
四、TensorFlow综合案例——实现线性回归 示例12使用TensorFlow实现线性回归
# 12_lr.py
# 线性回归示例
#import tensorflow as tf
import tensorflow.compat.v1 as tf
tf.disable_v2_behavior()# 第一步创建样本数据
x tf.random_normal([100, 1], mean1.75, stddev0.5, namex_data)
y_true tf.matmul(x, [[2.0]]) 5.0 # 计算 y 2x 5# 第二步建立线性模型
## 初始化权重(随机数)和偏置固定设置为0,计算wxb得到预测值
weight tf.Variable(tf.random_normal([1, 1], namew),trainableTrue) # 训练过程中值是否允许变化
bias tf.Variable(0.0, nameb, trainableTrue) # 偏置
y_predict tf.matmul(x, weight) bias # 计算预测值# 第三步创建损失函数
loss tf.reduce_mean(tf.square(y_true - y_predict)) # 均方差损失函数# 第四步使用梯度下降进行训练
train_op tf.train.GradientDescentOptimizer(0.1).minimize(loss)# 收集损失函数的值
tf.summary.scalar(losses, loss)
merged tf.summary.merge_all() # 合并摘要操作init_op tf.global_variables_initializer()
with tf.Session() as sess:sess.run(init_op) # 执行初始化op# 打印初始权重和偏置print(weight:, weight.eval(), bias:, bias.eval())# 指定事件文件并记录图的信息fw tf.summary.FileWriter(../summary/, graphsess.graph)# 循环训练for i in range(500):sess.run(train_op) # 执行训练summary sess.run(merged) # 执行摘要合并操作fw.add_summary(summary, i) # 写入事件文件print(i, :, weight:, weight.eval(), bias:, bias.eval())
启动Tensorboard运行
五、TensorFlow数据读取
1.模型保存和加载
模型保存和加载API 示例13线性回归的保存与加载 第一次训练观察weight和bias的值 第二次训练观察到weight和bias的初始值是第一次训练后的保存值 继续训练weight和bias的训练值将会更加接近预期值
# 13_lrsaveload.py
# 线性回归示例,添加保存与加载模块
#import tensorflow as tf
import tensorflow.compat.v1 as tf
tf.disable_v2_behavior()
import os# 第一步创建样本数据
x tf.random_normal([100, 1], mean1.75, stddev0.5, namex_data)
y_true tf.matmul(x, [[2.0]]) 5.0 # 计算 y 2x 5# 第二步建立线性模型
## 初始化权重(随机数)和偏置固定设置为0,计算wxb得到预测值
weight tf.Variable(tf.random_normal([1, 1], namew),trainableTrue) # 训练过程中值是否允许变化
bias tf.Variable(0.0, nameb, trainableTrue) # 偏置
y_predict tf.matmul(x, weight) bias # 计算预测值# 第三步创建损失函数
loss tf.reduce_mean(tf.square(y_true - y_predict)) # 均方差损失函数# 第四步使用梯度下降进行训练
train_op tf.train.GradientDescentOptimizer(0.1).minimize(loss)# 收集损失函数的值
tf.summary.scalar(losses, loss)
merged tf.summary.merge_all() # 合并摘要操作init_op tf.global_variables_initializer()saver tf.train.Saver() #实例化一个saverwith tf.Session() as sess:sess.run(init_op) # 执行初始化op# 打印初始权重和偏置print(weight:, weight.eval(), bias:, bias.eval())# 指定事件文件并记录图的信息fw tf.summary.FileWriter(../summary/, graphsess.graph)#训练之前检查是否已经有模型保存。如果有则加载if os.path.exists(../model/linear_model/checkpoint):saver.restore(sess,../model/linear_model/)# 循环训练for i in range(200):sess.run(train_op) # 执行训练summary sess.run(merged) # 执行摘要合并操作fw.add_summary(summary, i) # 写入事件文件print(i, :, weight:, weight.eval(), bias:, bias.eval())#训练完成保存模型saver.save(sess,../model/linear_model/)
2.数据读取
2.1文件读取机制 2.2文件读取API 六、TensorFlow数据读取案例
1.CSV文件读取
示例14:csv文件读取 注 1上述因为在读取的时候是做了随机化处理读取顺序被打乱了。 2第一个数组为所有文本文件的第一列第二个数组为所有文本文件的第二列。 3虽然读取顺序被打乱但是第一列的数据和第二列的数据是一一对应的。 更改批次大小:
# 01_csv_reader.py
# CSV文件读取示例
#import tensorflow as tf
import tensorflow.compat.v1 as tf
tf.disable_v2_behavior()
import osdef csv_read(filelist): # 从csv样本文件中读取数据# 构建文件队列file_queue tf.train.string_input_producer(filelist)# 定义readerreader tf.TextLineReader()k, v reader.read(file_queue) # 读取返回文件名称、数据# 解码records [[None], [None]]example, label tf.decode_csv(v, record_defaultsrecords)# 批处理example_bat, label_bat tf.train.batch([example, label], # 参与批处理的数据#batch_size9, # 批次大小batch_size4, # 批次大小num_threads1) # 线程数量return example_bat, label_batif __name__ __main__:# 构建文件列表dir_name ../test_data/file_names os.listdir(dir_name) # 列出目录下所有的文件file_list []for f in file_names:# 将目录名称、文件名称拼接称完整路径并添加到文件列表file_list.append(os.path.join(dir_name, f))example, label csv_read(file_list) # 调用自定义函数读取指定文件列表中的数据# 开启Session,执行with tf.Session() as sess:coord tf.train.Coordinator() # 定义线程协调器threads tf.train.start_queue_runners(sess, coordcoord)print(sess.run([example, label])) # 执行操作# 等待线程停止并回收资源coord.request_stop()coord.join(threads)
2.图片文件的读取
2.1图片读取API 示例15图像文件读取
# 02_img_reader.py
# 图像样本读取示例
#import tensorflow as tf
import tensorflow.compat.v1 as tf
tf.disable_v2_behavior()
import os# 图像样本读取函数
def img_read(filelist):# 构建文件队列file_queue tf.train.string_input_producer(filelist)# 定义readerreader tf.WholeFileReader()k, v reader.read(file_queue) # 读取整个文件内容# 解码img tf.image.decode_jpeg(v)# 批处理img_resized tf.image.resize(img, [200, 200]) # 将图像设置成200*200大小img_resized.set_shape([200, 200, 3]) # 固定样本形状批处理时对数据形状有要求img_bat tf.train.batch([img_resized],batch_size10,num_threads1)return img_batif __name__ __main__:# 构建文件列表dir_name ../test_img/file_names os.listdir(dir_name)file_list []for f in file_names:# 将目录名、文件名拼接成完整路径放入文件列表中file_list.append(os.path.join(dir_name, f))imgs img_read(file_list)with tf.Session() as sess:coord tf.train.Coordinator() # 线程协调器threads tf.train.start_queue_runners(sess, coordcoord)result imgs.eval() # 调用函数分批次读取样本# 等待线程结束并回收资源coord.request_stop()coord.join(threads)# 显示图片
import matplotlib.pyplot as pltplt.figure(Img Show, facecolorlightgray)for i in range(10): # 循环显示读取到的样本(批次读取所以有多个样本)plt.subplot(2, 5, i1) # 显示子图, 2行5列的第i1个子图plt.xticks([])plt.yticks([])plt.imshow(result[i].astype(int32))plt.tight_layout()
plt.show()3.深度学习平台数据读取总结
1深度学习平台对数据的读取需要能够实现快速读取因为训练的样本可能很多。 2需要能够实现随机的读取 消除样本的顺序对模型产生的影响。 3需要能够实现批量读取分批处理。
七、TensorFlow综合案例——实现手写体识别
注这里使用的是全连接模型作为分类器
1.MNIST数据集 MNIST数据集地址链接:http://yann.lecun.com/exdb/mnist/ 任务目标
2.网络结构 输入28x28
3.相关API 示例16mnist数据集手写数字识别 一些bug原因 解决办法 注由于目前TensorFlow的最新版本是2.x因此在代码中有一些bug是新版本不再支持1.x版本的调用方式。 “如果你正在使用的是 TensorFlow 2.x 版本tensorflow.examples 已经不存在。TensorFlow 2.x 重构了许多组件并引入了 Keras 作为主要接口tensorflow.examples 中的许多内容已经迁移到其他位置或被新的 API 替代。” 解决办法 1使用新的调用方式 2降低TensorFlow版本 3添加需要的代码包等 本次采用添加需要的代码包作为演示 训练结果 这里是随机选取两张图片进行训练预测 预测数字 另一个预测数字 注释训练模块代码直接使用前次训练模型进行预测 另一个预测数字 可以看出另一个数字预测有失精确但多加训练和调整参数/权重可以提高精确度
# 03_mnist.py
# 手写体识别案例
# 模型全连接模型
#import tensorflow as tf
import tensorflow.compat.v1 as tf
tf.disable_v2_behavior()
#from tensorflow.examples.tutorials.mnist import input_data
import input_data
import pylab# 定义样本读取对象
mnist input_data.read_data_sets(MNIST_data/, # 数据集所在目录one_hotTrue) # 标签是否采用独热编码
# 定义占位符用于表图像数据、标签
x tf.placeholder(tf.float32, [None, 784]) # 图像数据N行784列
y tf.placeholder(tf.float32, [None, 10]) # 标签(图像真实类别), N行784列# 定义权重、偏置
w tf.Variable(tf.random_normal([784, 10])) # 权重,784行10列
b tf.Variable(tf.zeros([10])) # 偏置, 10个偏置# 构建模型计算预测结果
pred_y tf.nn.softmax(tf.matmul(x, w) b)
# 损失函数
cross_entropy -tf.reduce_sum(y * tf.log(pred_y), reduction_indices1)
cost tf.reduce_mean(cross_entropy) # 求均值
# 梯度下降优化器
optimizer tf.train.GradientDescentOptimizer(0.01).minimize(cost)batch_size 100 # 批次大小
saver tf.train.Saver() # saver
model_path ../model/mnist/mnist_model.ckpt # 模型路径with tf.Session() as sess:sess.run(tf.global_variables_initializer()) # 初始化# 开始训练for epoch in range(200):# 计算总批次total_batch int(mnist.train.num_examples / batch_size)avg_cost 0.0for i in range(total_batch):# 从训练集读取一个批次的样本batch_xs, batch_ys mnist.train.next_batch(batch_size)params {x: batch_xs, y: batch_ys} # 参数字典o, c sess.run([optimizer, cost], # 执行的opfeed_dictparams) # 喂入参数avg_cost (c / total_batch) # 计算平均损失值print(epoch:%d, cost%.9f % (epoch 1, avg_cost))print(训练结束.)# 模型评估# 比较预测结果和真实结果返回布尔类型的数组correct_pred tf.equal(tf.argmax(pred_y, 1), # 求预测结果中最大值的索引tf.argmax(y, 1)) # 求真实结果中最大的索引# 将布尔类型数组转换为浮点数并计算准确率# 因为计算均值、准确率公式相同所以调用计算均值的函数计算准确率accuracy tf.reduce_mean(tf.cast(correct_pred, tf.float32))print(accuracy:, accuracy.eval({x: mnist.test.images, # 测试集下的图像数据y: mnist.test.labels})) # 测试集下图像的真实类别# 保存模型save_path saver.save(sess, model_path)print(模型已保存:, save_path)#注释训练模块代码使用训练模型进行直接预测检验with tf.Session() as sess:sess.run(tf.global_variables_initializer()) # 初始化# 开始训练for epoch in range(200):# 计算总批次total_batch int(mnist.train.num_examples / batch_size)avg_cost 0.0for i in range(total_batch):# 从训练集读取一个批次的样本batch_xs, batch_ys mnist.train.next_batch(batch_size)params {x: batch_xs, y: batch_ys} # 参数字典o, c sess.run([optimizer, cost], # 执行的opfeed_dictparams) # 喂入参数avg_cost (c / total_batch) # 计算平均损失值print(epoch:%d, cost%.9f % (epoch 1, avg_cost))print(训练结束.)# 模型评估# 比较预测结果和真实结果返回布尔类型的数组correct_pred tf.equal(tf.argmax(pred_y, 1), # 求预测结果中最大值的索引tf.argmax(y, 1)) # 求真实结果中最大的索引# 将布尔类型数组转换为浮点数并计算准确率# 因为计算均值、准确率公式相同所以调用计算均值的函数计算准确率accuracy tf.reduce_mean(tf.cast(correct_pred, tf.float32))print(accuracy:, accuracy.eval({x: mnist.test.images, # 测试集下的图像数据y: mnist.test.labels})) # 测试集下图像的真实类别# 保存模型save_path saver.save(sess, model_path)print(模型已保存:, save_path)# 从测试集中随机读取2张图像执行预测
with tf.Session() as sess:sess.run(tf.global_variables_initializer())saver.restore(sess, model_path) # 加载模型# 从测试集中读取样本batch_xs, batch_ys mnist.test.next_batch(2)output tf.argmax(pred_y, 1) # 直接取出预测结果中的最大值output_val, predv sess.run([output, pred_y], # 执行的opfeed_dict{x: batch_xs}) # 预测所以不需要传入标签print(预测最终结果:\n, output_val, \n)print(真实结果:\n, batch_ys, \n)print(预测概率:\n, predv, \n)# 显示图片im batch_xs[0] # 第一个测试样本im im.reshape(-1, 28) # 28列-1表示经过计算的值pylab.imshow(im)pylab.show()im batch_xs[1] # 第二个测试样本im im.reshape(-1, 28) # 28列-1表示经过计算的值pylab.imshow(im)pylab.show()
八、TensorFlow综合案例——实现服饰识别
注这里开始采用卷积神经网络进行识别
1.数据集介绍 任务目标
2.网络结构 3.具体实现
这里采用面向对象的方式实现 一些bug说明 代码的逻辑一般是正确的运行失败是TensorFlow2.x版本不再支持contrib, 解决尝试: 1.降低TensorFlow版本(这个不可行目前已无法直接pip install 1.x版本 2.使用contrib迁移到2.x的版本的APl:keras 重新编写代码(这种方式需要重新编写代码使用新的API编写方式。) # 04_fashion_mnist.py
# 使用卷积神经网络实现服饰识别
#import tensorflow as tf
import tensorflow.compat.v1 as tf
tf.disable_v2_behavior()
from tensorflow.contrib.learn.python.learn.datasets.mnist import read_data_sets# 定义FashionMnist类
class FashionMnist():out_features1 12 # 第一组卷积层输出通道数量(即第一个卷积层卷积核数)out_features2 24 # 第二组卷积层输出通道数量(即第二个卷积层卷积核数)con_neurons 512 # 全连接层神经元数量def __init__(self, path):构造方法:param path: 指定数据集目录self.sess tf.Session()self.data read_data_sets(path, one_hotTrue)def init_weight_variable(self, shape):根据指定形状初始化权重:param shape: 指定要初始化的变量的形状:return: 返回经过初始化的变量inital tf.truncated_normal(shape, stddev0.1) # 截尾正态分布return tf.Variable(inital)def init_bias_variable(self, shape):初始化偏置:param shape: 指定要初始化的变量的形状:return: 返回经过初始化的变量inital tf.constant(1.0, shapeshape)return tf.Variable(inital)def conv2d(self, x, w):二维卷积方法:param x: 原始数据:param w: 卷积核:return: 返回卷积运算的结果# 卷积核: [高度, 宽度, 输入通道数, 输出通道数]return tf.nn.conv2d(x, # 原始数据w, # 卷积核strides[1, 1, 1, 1], # 各维度上的步长值paddingSAME) # 输入矩阵和输出矩阵大小一样def max_pool_2x2(self, x):定义池化方法:param x: 原始数据:return: 池化计算结果return tf.nn.max_pool(x,ksize[1, 2, 2, 1], # 池化区域大小strides[1, 2, 2, 1], # 各个维度上的步长值paddingSAME)def create_conv_pool_layer(self, input, input_features, out_features):定义卷积、激活、池化层:param input: 原始数据:param input_features:输入特征数量:param out_features: 输出特征数量:return: 卷积、激活、池化层运算结果filter self.init_weight_variable([5, 5, input_features, out_features]) # 卷积核b_conv self.init_bias_variable([out_features]) # 偏置卷积有多少输出就有多少个偏置h_conv tf.nn.relu(self.conv2d(input, filter) b_conv) # 卷积激活运算h_pool self.max_pool_2x2(h_conv) # 对卷积激活运算结果做池化return h_pooldef create_fc_layer(self, h_pool_flat, input_features, con_neurons):创建全连接层:param h_pool_flat: 输入数据经过拉伸后的一维张量:param input_features: 输入特征数量:param con_neurons: 神经元数量(输出特征数量):return: 经过全连接计算后的结果w_fc self.init_weight_variable([input_features, con_neurons]) # 权重b_fc self.init_bias_variable([con_neurons]) # 偏置h_fc1 tf.nn.relu(tf.matmul(h_pool_flat, w_fc) b_fc) # 计算wxb并做激活return h_fc1def build(self):组建CNN:return:# 定义输入数据、标签数据的占位符self.x tf.placeholder(tf.float32, shape[None, 784])x_image tf.reshape(self.x, [-1, 28, 28, 1]) # 变维成28*28单通道图像数据self.y_ tf.placeholder(tf.float32, shape[None, 10]) # 标签, N个样本每个样本10个类别对应的概率# 第一组卷积池化h_pool1 self.create_conv_pool_layer(x_image, 1, self.out_features1)# 第二层卷积池化h_pool2 self.create_conv_pool_layer(h_pool1, # 以上一个卷积池化层的输出作为输入self.out_features1, # 输入特征数量为上一层输出特征数量self.out_features2) # 输出特征数量# 全连接h_pool2_flat_features 7 * 7 * self.out_features2 # 计算特征点数量h_pool2_flat tf.reshape(h_pool2, [-1, h_pool2_flat_features]) # 拉伸成一维h_fc self.create_fc_layer(h_pool2_flat, # 输入h_pool2_flat_features, # 输入特征数量self.con_neurons) # 输出特征数量# dropout(通过随机丢弃一定比例神经元参数更新防止过拟合)self.keep_prob tf.placeholder(float) # 保存率h_fc1_drop tf.nn.dropout(h_fc, self.keep_prob)# 输出层w_fc self.init_weight_variable([self.con_neurons, 10]) # 512行10列b_fc self.init_bias_variable([10]) # 10个偏置y_conv tf.matmul(h_fc1_drop, w_fc) b_fc # 计算wxb# 计算准确率correct_prediction tf.equal(tf.argmax(y_conv, 1),tf.argmax(self.y_, 1))self.accuracy tf.reduce_mean(tf.cast(correct_prediction, tf.float32))# 损失函数loss_func tf.nn.softmax_cross_entropy_with_logits(labelsself.y_, # 真实值logitsy_conv) # 预测值cross_entropy tf.reduce_mean(loss_func)# 优化器optimizer tf.train.AdamOptimizer(0.001)self.train_step optimizer.minimize(cross_entropy)def train(self):self.sess.run(tf.global_variables_initializer())batch_size 100 # 批次大小print(begin training...)for i in range(10):total_batch int(self.data.train.num_examples / batch_size) # 计算批次数量for j in range(total_batch):batch self.data.train.next_batch(batch_size) # 获取一个批次样本params {self.x: batch[0], # 图像self.y_: batch[1], # 标签self.keep_prob:0.5} # 计算丢弃率t, acc self.sess.run([self.train_step, self.accuracy], # 执行的opparams)if j % 100 0:print(i: %d, j: %d acc: %f % (i, j, acc))def eval(self, x, y, keep_prob):params {self.x:x, self.y_:y, self.keep_prob:0.5}test_acc self.sess.run(self.accuracy, params) # 计算准确率print(Test Accuracy: %f % test_acc)return test_accdef close(self):self.sess.close()if __name__ __main__:mnist FashionMnist(fashion_mnist/)mnist.build() # 组件网络mnist.train() # 训练# 评估xs, ys mnist.data.test.next_batch(100)mnist.eval(xs, ys, 0.5)mnist.close() 后记 ●本博客基于B站开源学习资源是作者学习的笔记记录仅用于学习交流不做任何商业用途
