序言
译者序
深度学习是目前人工智能、机器学习领域异常火热的研究方向,受到了学术界和工业界的高度关注,被《麻省理工学院技术评论》(MIT Technology Review)评为2013年十大突破性技术之首。深度学习已经在语音识别、图像识别、自然语言处理等诸多领域取得了突破性进展,对学术界和工业界产生了深远的影响。本书原著的作者——微软研究院的邓力博士和俞栋博士是最早将深度学习技术付诸于语音识别工业级实践的专家,他们和深度学习专家多伦多大学Geoffrey Hinton教授合作,最早将深度神经网络应用于大词汇量连续语音识别领域中,使相对识别错误率降低了20%以上。
作为多年的导师和好朋友,两位专家将这本书的中文翻译任务交付给我,我倍感荣幸。此次中译本是在忠于原著的基础上进行翻译的,既涉及深度学习的背景和基本概念,又涉及常用的模型与方法,同时包含深度学习在不同领域中的应用。本书共有12章,具体内容包括:引言、深度学习的历史、三类深度学习网络、深度自编码器、预训练的深度神经网络、深度堆叠网络及其变种、语音和音频处理中的应用、在语言模型和自然语言处理中的相关应用、信息检索领域中的应用、在目标识别和计算机视觉中的应用、多模态和多任务学习中的典型应用、结论。
本书的翻译除了受到原著作者的指导,也受到了张蓬副教授、陈小敏、吕航、丁闯、孙思宁、何长青、樊博、张弼弘、张彬彬、周祥增的帮助,在此表示感谢。同时感谢机械工业出版社的大力支持与推动。没有他们的帮助,本书的翻译是无法促成的。
由于深度学习技术是一个快速发展的方向,新的模型和应用层出不穷,加之本人学识有限以及中英文语言表达、术语翻译上的差异,书中难免存在错误,还请广大读者指正与原谅。建议读者在学习过程中和英文原著一起阅读,并参考本书引用的参考文献,以便提高学习和理解效果。
谢磊
原书序
“这本书对最前沿的深度学习方法及应用进行了全面的阐述,不仅包括自动语音识别(ASR),还包括计算机视觉、语言建模、文本处理、多模态学习以及信息检索。在深度学习这一领域,这是第一本,也是最有价值的一本书,能使读者对这一领域进行广泛而深入的学习。深度学习对信息处理的很多方面(尤其对语音识别)都具有重大的影响,甚至对整个科技领域的影响也不容忽视。因此,对于有意了解这一领域的学者,这本书是绝对不容错过的。”
——Sadaoki Furui,芝加哥丰田技术研究院院长,日本东京工业大学教授
如前所述,深度学习指的是一类广泛的机器学习技术和架构,其特点是采用多层的非线性信息处理方法,这种方法在本质上是分层的。根据这些结构和技术不同的应用领域,如合成/生成或识别/分类,我们可以大致把这些结构分为三类:
(1)无监督或生成式学习的深度网络针对模式分析和合成任务,用于在没有目标类标签信息的情况下捕捉观测到的或可见数据的高阶相关性。各种文献中的无监督特征或表达学习指的就是这一类深度网络。当用于生成模式时,它也可以用来描述可见数据和其相关分类的联合概率分布,此时它具有可利用的类别标签,而且这些类别标签被看作是可见数据的一部分。在后一种情况中,利用贝叶斯准则可以把生成式学习网络转换为判别式学习网络。
(2)有监督学习的深度网络 直接提供用于模式分类目的的判别能力,它的特点是描述了可见数据条件下的类别后验分布。对于这种有监督的学习,目标类别标签总是以直接或间接形式给出,所以它们也被称作判别式深度网络。
(3)混合深度网络 目标是判别式模型,往往以生成式或无监督深度网络的结果作为重要辅助,可以通过更好地优化和正则化类别(2)中的深度网络来实现,也可以通过在对类别(1)中所述的深度生成式或无监督深度网络的参数进行估计时,使用判别式准则来实现。
PrateekJoshi计算机视觉专家,曾任职于NVIDIA、微软、高通等公司,其研究方向为基于内容的分析和深度学习。他在计算机视觉领域已
《最好的亲密关系》内容简介:人类为什么会坠入爱河? 为什么坠入爱河之后会把注意力全部集中在一个人身上? 爱情、亲情、友情的本
在这部题材丰富、视界浩淼的散文集中,约瑟夫•布罗茨基开篇便用深沉内省的目光审视了自己在苏俄的早年经历以及随后去往美国的流亡生涯。接着,作者用惊人的博学探讨了诗歌...
芦原义信1942年毕业于东京大学,现任东京大学教授,并开设有芦原义信建筑研究所。他曾主持设计了1967年蒙特利尔国际博览会日本馆、驹泽公园奥林匹克体育馆等建筑。
本书共两部分。第一部分呈现了一个完整的特洛伊英雄诗系故事,从达耳达诺斯定居特洛阿斯、特洛伊城的修筑、特洛伊王朝的更迭、特洛伊战争一直到战争结束后双发阵营主要人物...
精彩摘录你来人间一趟你要看看太阳和你的心上人一起走在街上——引自第12页
*他的想象力丰富,又扎根于中国传统的说书艺术,这是他超过马尔克斯和福克纳的地方。——诺贝尔文学奖评委会前主席谢尔•埃斯普马克*任何人要是想谈论中国,都应该先去读...
王清培(Plen Wang)培元教育咨询公司创始人、架构师、高级讲师,微软C# MVP。对企业级分布式系统、大型电子商务系统有着丰富的设计开发经验。一直是应用框...
司马翎(1933-1989)本名吴思明,别署“吴楼居士”、“天心月”;小说兼有“北派五大家”之长处而以还珠楼主之奇幻玄妙心法为依归。一九五八年出版处女作《关洛风...
一份脑洞大开的趣味研究报告,为你揭秘独角兽的全部真相充满幻想的插画,将神秘的独角兽世界带到大家眼前,满足读者对独角兽的所有好奇◎ 编辑推荐☆ 一份脑洞大开的研究...
精彩摘录要建设一种美好的生活,理性是太消极,太缺乏生命力了。——引自第3页
黄仁宇(1918-2000),生于湖南长沙,1936年入天津南开大学电机工程系就读。抗日战争爆发后,先在长沙《抗战日报》工作,后来进入国民党成都中央军校,195...
唐朝,是中国古代最繁荣强盛的时代,“唐”也成为中国人或中国文化的“代称”。日本正仓院,除中国外收藏唐代文物最著名的机构。正仓院的唐代文物不同于考古出土品,均为传...
《101个唤醒爱的故事》内容简介:爱是一种艺术。要掌握这门艺术,需要了解爱的真谛,并付出努力。然而,伴随着生活的重压,人们却开
《扶轮问路》内容简介:本书是史铁生生前亲自编定的最后一本书,他在“前言”中写“弱冠即扶轮,花甲尤问路”,又在后记里说“荒歌
理查德•罗蒂(Richard Rorty,1931—2007),当代美国最有影响力的哲学家、思想家,美国新实用主义哲学和后现代主义的代表人物之一。罗蒂在耶鲁大学...
我的到来,在这个家族,甚至整座城市引起了轰动。因为我是这里唯一一个在街上闲逛的黄皮肤,也是唯一一个不戴头巾就敢出门的女人,甚至,我是近数年来这座“热城”唯一的长...
难治性泌尿系统疾病 内容简介 本书是“现代难治病诊治学丛书”之一,由国内多位泌尿系统领域的著名 专家共同编写而成。本书针对泌尿系统的难治性疾病,在充分阐述疾病生...
吕思勉(1884-1957),字诚之,出身于江苏常州一个书香门第,少时受教于父母师友,15岁入县学。早年执教于常州溪山小学堂、常州府中学堂,学生中有后来成为文史...
中药速记入门配彩图 本书特色 马波,谢英彪,陈泓静主编的这本《中药速记入门配彩图》精选308种临床常用的中药,分为必须掌握与一般了解两项,较为全面系统地逐一进行...