郑泽宇,现为才云科技(Caicloud.io)联合创始人、首席大数据科学家。针对分布式TensorFlow上手难、管理难、监控难、上线难等问题,他带领团队成功开发了国内首个成熟的分布式TensorFlow深度学习平台(TensorFlow as a Service)。基于此平台,才云大数据团队为安防、电商、金融、物流等多个行业提供有针对性的人工智能解决方案。归国创业之前,郑泽宇曾任美国谷歌高级工程师。从2013 年加入谷歌,郑泽宇作为主要技术人员参与并领导了多个大数据项目。由他提出并主导的产品聚类项目用于衔接谷歌购物和谷歌知识图谱(knowledge graph)数据,使得知识卡片形式的广告逐步取代传统的产品列表广告,开启了谷歌购物广告在搜索页面投递的新纪元。郑泽宇于2011年5月获得北京大学计算机学士学位,并荣获北京大学信息科学技术学院十佳优秀毕业论文、北京大学优秀毕业生。2013年5月获得美国 Carnegie Mellon University(CMU)大学计算机硕士学位,并获得西贝尔奖学金 (Siebel Scholarship)。郑泽宇在机器学习、人工智能领域有多年研究经验,并在SIGIR、SIGKDD、ACL、ICDM、ICWSM等顶级国际会议上发表多篇学术论文。
第1章 深度学习简介 1
1.1 人工智能、机器学习与深度学习 2
1.2 深度学习的发展历程 7
1.3 深度学习的应用 10
1.3.1 计算机视觉 10
1.3.2 语音识别 14
1.3.3 自然语言处理 15
1.3.4 人机博弈 18
1.4 深度学习工具介绍和对比 19
小结 23
第2章 TensorFlow环境搭建 25
2.1 TensorFlow的主要依赖包 25
2.1.1 Protocol Buffer 25
2.1.2 Bazel 27
2.2 TensorFlow安装 29
2.2.1 使用Docker安装 30
2.2.2 使用pip安装 32
2.2.3 从源代码编译安装 33
2.3 TensorFlow测试样例 37
小结 38
第3章 TensorFlow入门 40
3.1 TensorFlow计算模型——计算图 40
3.1.1 计算图的概念 40
3.1.2 计算图的使用 41
3.2 TensorFlow数据模型——张量 43
3.2.1 张量的概念 43
3.2.2 张量的使用 45
3.3 TensorFlow运行模型——会话 46
3.4 TensorFlow实现神经网络 48
3.4.1 TensorFlow游乐场及神经网络简介 48
3.4.2 前向传播算法简介 51
3.4.3 神经网络参数与TensorFlow变量 54
3.4.4 通过TensorFlow训练神经网络模型 58
3.4.5 完整神经网络样例程序 62
小结 65
第4章 深层神经网络 66
4.1 深度学习与深层神经网络 66
4.1.1 线性模型的局限性 67
4.1.2 激活函数实现去线性化 70
4.1.3 多层网络解决异或运算 73
4.2 损失函数定义 74
4.2.1 经典损失函数 75
4.2.2 自定义损失函数 79
4.3 神经网络优化算法 81
4.4 神经网络进一步优化 84
4.4.1 学习率的设置 85
4.4.2 过拟合问题 87
4.4.3 滑动平均模型 90
小结 92
第5章 MNIST数字识别问题 94
5.1 MNIST数据处理 94
5.2 神经网络模型训练及不同模型结果对比 97
5.2.1 TensorFlow训练神经网络 97
5.2.2 使用验证数据集判断模型效果 102
5.2.3 不同模型效果比较 103
5.3 变量管理 107
5.4 TensorFlow模型持久化 112
5.4.1 持久化代码实现 112
5.4.2 持久化原理及数据格式 117
5.5 TensorFlow最佳实践样例程序 126
小结 132
第6章 图像识别与卷积神经网络 134
6.1 图像识别问题简介及经典数据集 135
6.2 卷积神经网络简介 139
6.3 卷积神经网络常用结构 142
6.3.1 卷积层 142
6.3.2 池化层 147
6.4 经典卷积网络模型 149
6.4.1 LeNet-5模型 150
6.4.2 Inception-v3模型 156
6.5 卷积神经网络迁移学习 160
6.5.1 迁移学习介绍 160
6.5.2 TensorFlow实现迁移学习 161
小结 169
第7章 图像数据处理 170
7.1 TFRecord输入数据格式 170
7.1.1 TFRecord格式介绍 171
7.1.2 TFRecord样例程序 171
7.2 图像数据处理 173
7.2.1 TensorFlow图像处理函数 174
7.2.2 图像预处理完整样例 183
7.3 多线程输入数据处理框架 185
7.3.1 队列与多线程 186
7.3.2 输入文件队列 190
7.3.3 组合训练数据(batching) 193
7.3.4 输入数据处理框架 196
小结 198
第8章 循环神经网络 200
8.1 循环神经网络简介 200
8.2 长短时记忆网络(LTSM)结构 206
8.3 循环神经网络的变种 212
8.3.1 双向循环神经网络和深层循环神经网络 212
8.3.2 循环神经网络的dropout 214
8.4 循环神经网络样例应用 215
8.4.1 自然语言建模 216
8.4.2 时间序列预测 225
小结 230
第9章 TensorBoard可视化 232
9.1 TensorBoard简介 232
9.2 TensorFlow计算图可视化 234
9.2.1 命名空间与TensorBoard图上节点 234
9.2.2 节点信息 241
9.3 监控指标可视化 246
小结 252
第10章 TensorFlow计算加速 253
10.1 TensorFlow使用GPU 253
10.2 深度学习训练并行模式 258
10.3 多GPU并行 261
10.4 分布式TensorFlow 268
10.4.1 分布式TensorFlow原理 269
10.4.2 分布式TensorFlow模型训练 272
10.4.3 使用Caicloud运行分布式TensorFlow 282
小结 287
《法律硕士联考基本词条释义》内容简介:法律硕士联考科目法律术语的解释,近似概念的比较辨析,基本概念的理解等等,含刑法学、民
智能优化算法与涌现计算 本书特色 智能优化算法与涌现计算是多种前沿学科交叉融合的结晶。主要包括:模拟人脑思维、人体细胞、器官等的仿人智能优化算法;模拟群居动物觅...
汇编语言(第三版) 本书特色 汇编语言是各种CPU提供的机器指令的助记符的集合,人们可以用汇编语言直接控制硬件系统进行工作。汇编语言是很多相关课程(如数据结构、...
《庆典舞曲》内容简介:《武汉音乐学院“音乐创作·湖北省协同创新中心”作曲家作品系列·庆典舞曲:钢琴与乐队》作品试图以快速旋
混沌同步及其在图像加密中的应用 内容简介 《混沌同步及其在图像加密中的应用研究》对近年来混沌同步控制的研究现状进行了客观的总结与回顾,总结了作者及团队近年来在混...
《马克思主义异化理论的当代诠释》内容简介:异化概念贯穿马克思思想体系发展的始终,马克思的异化理论对于社会现象和问题一直具有
《辽金元诗鉴赏》内容简介:本书是以辽金元三代的诗歌作品——包含诗、词、曲为基础,而编选、注释、鉴赏的广义诗选。共选择经典作
Matlabistheacceptedstandardforscientificcomputing,usedgloballyinvirtuallyallNeur...
jQuerysimplifiesbuildingrich,interactivewebfrontends.GettingstartedwiththisJavaS...
中国互联网治理问题研究 本书特色 《中国互联网治理问题研究》:国际互联网治理的启示·中国互联网治理综述·网络文化环境治理·未成年人网络权益保护·虚拟社区管理·网...
《UML软件建模技术》内容简介:本书以实用、够用为原则,介绍了软件建模技术的基本概念。全书内容由浅入深,逐步展开,并配有大量的
《四季糖水300例》内容简介:《四季糖水300例》向读者推荐了300例适合四季食用的糖水做法,从功效、材料、制作过程、健康指南四个方
「這是個以世界第一為目標、每個人都很辛勤努力的世界。那麼,如果說將人劃分為「可以悠遊」與「不能悠遊」於這個競爭世界的人,
《社群营销与运营实战手册》内容简介:社群经济的崛起极大地改变了现有的商业模式,微商、“网红”、社交电商等新兴模式使社群的地
猜猜硅谷的前端工程师怎么折腾JS的?想知道无限下拉的列表怎么做吗?你知道DropBox可以当Web服务器用吗?你知道怎么做出跨平台的
《本森小姐的甲虫》内容简介:本森小姐,46岁,单身。她跟人类相处不好,却热爱钻研小小的、不起眼的、甚至会让人尖叫的甲虫。在她
本书作者利用丰富的时尚类杂志设计和宝贵的数字出版方面(iPad交互杂志)的经验为我们展示了不需要编程的知识,如何使用平面软件
ThisbookwillintroduceyoutothePythonprogramminglanguage.It’saimedatbeginningprogr...
More Exceptional C++(英文版) 内容简介 本书以英文版的形式,介绍了MoreExceptionalC,通过40个问题帮助你理解关于C软件设计...
《朱子哲学思想的发展与完成》内容简介:本书剖析了集宋代理学之大成的朱熹的学思内涵,比较集中地体现了刘述先先生关于宋明儒学研