郑泽宇,现为才云科技(Caicloud.io)联合创始人、首席大数据科学家。针对分布式TensorFlow上手难、管理难、监控难、上线难等问题,他带领团队成功开发了国内首个成熟的分布式TensorFlow深度学习平台(TensorFlow as a Service)。基于此平台,才云大数据团队为安防、电商、金融、物流等多个行业提供有针对性的人工智能解决方案。归国创业之前,郑泽宇曾任美国谷歌高级工程师。从2013 年加入谷歌,郑泽宇作为主要技术人员参与并领导了多个大数据项目。由他提出并主导的产品聚类项目用于衔接谷歌购物和谷歌知识图谱(knowledge graph)数据,使得知识卡片形式的广告逐步取代传统的产品列表广告,开启了谷歌购物广告在搜索页面投递的新纪元。郑泽宇于2011年5月获得北京大学计算机学士学位,并荣获北京大学信息科学技术学院十佳优秀毕业论文、北京大学优秀毕业生。2013年5月获得美国 Carnegie Mellon University(CMU)大学计算机硕士学位,并获得西贝尔奖学金 (Siebel Scholarship)。郑泽宇在机器学习、人工智能领域有多年研究经验,并在SIGIR、SIGKDD、ACL、ICDM、ICWSM等顶级国际会议上发表多篇学术论文。
第1章 深度学习简介 1
1.1 人工智能、机器学习与深度学习 2
1.2 深度学习的发展历程 7
1.3 深度学习的应用 10
1.3.1 计算机视觉 10
1.3.2 语音识别 14
1.3.3 自然语言处理 15
1.3.4 人机博弈 18
1.4 深度学习工具介绍和对比 19
小结 23
第2章 TensorFlow环境搭建 25
2.1 TensorFlow的主要依赖包 25
2.1.1 Protocol Buffer 25
2.1.2 Bazel 27
2.2 TensorFlow安装 29
2.2.1 使用Docker安装 30
2.2.2 使用pip安装 32
2.2.3 从源代码编译安装 33
2.3 TensorFlow测试样例 37
小结 38
第3章 TensorFlow入门 40
3.1 TensorFlow计算模型——计算图 40
3.1.1 计算图的概念 40
3.1.2 计算图的使用 41
3.2 TensorFlow数据模型——张量 43
3.2.1 张量的概念 43
3.2.2 张量的使用 45
3.3 TensorFlow运行模型——会话 46
3.4 TensorFlow实现神经网络 48
3.4.1 TensorFlow游乐场及神经网络简介 48
3.4.2 前向传播算法简介 51
3.4.3 神经网络参数与TensorFlow变量 54
3.4.4 通过TensorFlow训练神经网络模型 58
3.4.5 完整神经网络样例程序 62
小结 65
第4章 深层神经网络 66
4.1 深度学习与深层神经网络 66
4.1.1 线性模型的局限性 67
4.1.2 激活函数实现去线性化 70
4.1.3 多层网络解决异或运算 73
4.2 损失函数定义 74
4.2.1 经典损失函数 75
4.2.2 自定义损失函数 79
4.3 神经网络优化算法 81
4.4 神经网络进一步优化 84
4.4.1 学习率的设置 85
4.4.2 过拟合问题 87
4.4.3 滑动平均模型 90
小结 92
第5章 MNIST数字识别问题 94
5.1 MNIST数据处理 94
5.2 神经网络模型训练及不同模型结果对比 97
5.2.1 TensorFlow训练神经网络 97
5.2.2 使用验证数据集判断模型效果 102
5.2.3 不同模型效果比较 103
5.3 变量管理 107
5.4 TensorFlow模型持久化 112
5.4.1 持久化代码实现 112
5.4.2 持久化原理及数据格式 117
5.5 TensorFlow最佳实践样例程序 126
小结 132
第6章 图像识别与卷积神经网络 134
6.1 图像识别问题简介及经典数据集 135
6.2 卷积神经网络简介 139
6.3 卷积神经网络常用结构 142
6.3.1 卷积层 142
6.3.2 池化层 147
6.4 经典卷积网络模型 149
6.4.1 LeNet-5模型 150
6.4.2 Inception-v3模型 156
6.5 卷积神经网络迁移学习 160
6.5.1 迁移学习介绍 160
6.5.2 TensorFlow实现迁移学习 161
小结 169
第7章 图像数据处理 170
7.1 TFRecord输入数据格式 170
7.1.1 TFRecord格式介绍 171
7.1.2 TFRecord样例程序 171
7.2 图像数据处理 173
7.2.1 TensorFlow图像处理函数 174
7.2.2 图像预处理完整样例 183
7.3 多线程输入数据处理框架 185
7.3.1 队列与多线程 186
7.3.2 输入文件队列 190
7.3.3 组合训练数据(batching) 193
7.3.4 输入数据处理框架 196
小结 198
第8章 循环神经网络 200
8.1 循环神经网络简介 200
8.2 长短时记忆网络(LTSM)结构 206
8.3 循环神经网络的变种 212
8.3.1 双向循环神经网络和深层循环神经网络 212
8.3.2 循环神经网络的dropout 214
8.4 循环神经网络样例应用 215
8.4.1 自然语言建模 216
8.4.2 时间序列预测 225
小结 230
第9章 TensorBoard可视化 232
9.1 TensorBoard简介 232
9.2 TensorFlow计算图可视化 234
9.2.1 命名空间与TensorBoard图上节点 234
9.2.2 节点信息 241
9.3 监控指标可视化 246
小结 252
第10章 TensorFlow计算加速 253
10.1 TensorFlow使用GPU 253
10.2 深度学习训练并行模式 258
10.3 多GPU并行 261
10.4 分布式TensorFlow 268
10.4.1 分布式TensorFlow原理 269
10.4.2 分布式TensorFlow模型训练 272
10.4.3 使用Caicloud运行分布式TensorFlow 282
小结 287
《季羡林谈国学(新版)》内容简介:★几代人共读的文化通识读本! 季羡林六十多年学术生涯的体悟与沉思,与你分享。★季羡林文化随
《Revit 2018建筑设计从入门到精通(中文版)》内容简介:本书重点介绍了Autodesk Revit2018中文版的新功能及各种基本操作方法和技
成功的网站设计团队依赖开发人员与客户之间的良好沟通,也离不开开发团队内部成员之间的沟通。线框图、站点地图、流程图和其他设
在你体验Minecraft冒险的同时,学习宝贵的编程技能!如果你很喜欢玩Minecraft,却被游戏中的建造耗费大量时间而困扰,并且你想要
《互联网产品(Web/移动Web/APP):视觉设计(风格篇)》旨在介绍Web及移动Web/APP等互联网产品界面风格的知识与方法。新兴的互联
LearnhowtobemoreproductivewithScala,anewmulti-paradigmlanguagefortheJavaVirtualM...
《理性的设计感性的空间:法国DBLANT都林国际设计》贯穿了30余篇设计师的文章,对设计机构的发展模式、设计项目的管理及设计过程中
本书为美国业余无线电转播联盟(ARRL)出版、里奇·阿兰德(K7SZ)编写的LowPowerCommunication第3版中的中文译本。QRP在Q简语里意为
本书是作者在美国、瑞士的ArtCebter研读设计,以及长期在美国和中国大陆从事产品设计工作的经验总结。书籍内容丰富,图文并茂,信
《电商迷藏》内容简介:中国首部小说题材的实战类电商著作,以团购电商为背景,一位拥有10年电商全盘实战经验的资深高管,通过自述
《工业产品设计手绘典型实例(第3版)》内容简介:本书共12章,分为3个层次,对应教学的需要,第1~3章是基础部分,主要讲述线条、
excel图解应用大全全面 专业 实用 高效 本书特色 印刷装帧 平装前卫Excel专家20余载经验完全奉献!卖点1:内容全,更丰富 6篇25章近400个知识点...
《结构化写作》内容简介:本书核心内容包括导论、基础篇、方法篇。其中,导论部分主要强调职场写作技能的必要性和重要性,并解释何
ControlLogix 系统实用手册 内容简介 随着计算机技术的迅猛发展,工业控制产品加快了推陈出新的步伐,可编程自动化控制器问世几年以来,已逐步发展成为操作...
《中国古代小说中的“史传”传统及其历史变迁》内容简介:本书以“辨章学术,考镜源流”为进路,旨在研究中国古代小说的“史传”传
Ifyouveusedamoretraditionalobject-orientedlanguage,suchasC++orJava,JavaScriptpro...
5天通过职称计算机考试PHOTOSHOPCS5 图像处理 本书特色 紧扣*新大纲:*新的精编试题,完全覆盖大纲要求的9大知识模块考点视频串讲:详细讲解每个考点的...
《创新家装设计图典(第4季):玄关走廊》内容简介:全新升级的《创新家装设计图典第4季》将继续为读者提供新的设计案例,针对居室
《计算机病毒防范艺术》作者是赛门铁克(Symantec)公司安全响应中心首席安全架构师,他根据自己设计和改进NortonAntiVirus系统产
《纸币史话》内容简介:本书从汉武帝时发行的“白鹿皮币”和唐宪宗时期的“飞钱”谈起,梳理了中国古代纸币历经宋、金、元、明、清