统计学完全教程-中文版

统计学完全教程中文版 必备的统计学教程现代数学译丛5统计学完全教程美〕L.沃塞曼著张波刘中华译魏秋萍代金斜学出版社北京图字:01-20073533内容简介由美国当代著名统计学家L沃塞曼所著的《统计学完全教程》是本几乎包含了统计学领域全部知识的优秀教材,本书除了介绍传统数理统计学的全部内容以外,还包含了 Bootstrap方法(自助法)、独立性推断、因果推断、图模型、非参数回归、正交函数光滑法、分类、统计学理论及数据挖掘等统计学领域的新方法和技术.本书不但注重概率论与数理统计基本理论的阐述,同时还强调数据分析能力的培养,本书中含有大量的实例以帮助广大读者快速掌握使用R软件进行统计数据分析本书适用于统计学、数学、计算机科学、机器学习与数据挖掘等领域的高年级本科生、研究生,对于相关领域的广大科研工作者和实际工作者来说也不失为一本有价值的参考书.Translation from the English language edition:All of Statistics by Larry WassermanCopyright@ 2004 Springer-Verlag New York, Inc.Springer is a part of Springer Science+Business MediaAll Rights Reserved图书在版编目(C|P)数据统计学完全教程/美)沃塞曼著.张波等译.一北京:科学出版社,2008(现代数学译丛;5)ISBN978-7-03-021705-9I.统…Ⅱ.①沃…②张…Ⅲ统计学一教材ⅣVC8中国版本图书馆CP数据核字(2008)第056121号责任编辑:陈玉琢房阳/责任校对:曾茹责任印制:赵德静/封面设计:王浩鼻学出撤社出版北京东黄城根北街16号邮政编码:100717http:/www.sciencep.com嵊海中刷有限贵国司印刷科学出版社编务公司排版制作科学出版社发行各地新华书店经销2008年6月第版开本:B5(720×1000)2008年6月第一次印刷印张:223/4印数:1-3000字数:423000定价:6800元如有印装质量问题,我社负责调换(明辉)译者前言统计学是一门数据分析科学,它有着漫长的发展历程.值得一提的是,在20世纪20至30年代,数理统计学的基本理论框架形成了,继而得到了快速的发展,数理统计学更加系统化、数学化.但是统计学的主要任务仍然是分析数据.计算机技术的发展和广泛应用改变了统计学的学科结构和研究方法.1979年斯坦福大学教授Efron提出的基于计算机的统计推断技术 Bootstrap方法就是一个很典型的例子21世纪统计学的教育是一个很值得思考和研究的重大课题.一方面我们继续注重统计学的基本理论素质的培养,另一方面强调提高数据分析的实际能力.这两个方面缺一不可,互相促进.但是,现存的国内统计学教材则无法满足这两个要求数理统计学方面的教材虽然理论较严谨,但是忽视了统计学的背景和应用.而介绍数据分析的教材则较欠缺理论基础由美国当代著名统计学家拉里沃塞曼所著的这本教材恰恰可以同时满足上述两个要求,也可以解决目前国内统计学教材存在的一些不足.拉里·沃塞曼是美国卡内基-梅隆大学统计学系教授,他还是1999年度“考普斯”总统奖获得者.正如书名一样,本书包含了统计学领域几乎全部的知识,除了传统的数理统计教材中的内容外,还包含了诸如非参数回归、自助法、分类等统计学领域的新方法和技术我们对《统计学完全教程》一书进行了认真的阅读和研究,认为它是一本优秀的教材和参考书,将其翻译成中文介绍给我国的广大读者本书的第一个主要特点是其适用面广.作为教材,本书适用于数学、统计学、计算机科学的高年级本科生以及统计学、计算机科学的研究生.它也适用于即将从事统计工作而又需要补充数理统计背景知识的毕业生.读者可以根据自己的时间和需要,有选择地学习相关内容本书的第二个主要特点是取材面广.它包含了统计学领域几乎全部的知识第一部分讲述了概率论的基本知识,而且与通常的概率论教材不同的是,该部分强调在统计学里常用到的概率知识,如随机变量的收敛性中的 Delta方法.第二部分的统计推断则涵盖了点估计、假设检验、分布函数的估计和统计泛函、 Bootstrap(自助法)方法、参数推断及贝叶斯推断和统计决策理论.而第三部分则介绍了统计模型和方法,既有常见的回归和多变量模型,也有因果推断、图模型、非参数模型、光滑方法、分类、模拟技术等统计学的前沿课题本书的第三个主要特点是既注重概率统计基本理论的讲述,又强调数据分析能力的培养.本书所有的基本概念和原理的讲述是清晰的,完整的而同时本书具有大量的实际的例子,这些例子的原始数据可以在作者的个人主页上下载,并且附有相应的R程序.R是统计学家最钟爱的统计分析软件之一,而且是一款免费的开源软件.广大读者通过实际的数据例子不但可以学到数据分析方法,而且还可以加深对、译者前言统计学基本概念和方法的理解如果将统计理论和数据分析能力比作人的两条腿,那么这本书无疑将教会学生如何用“两条腿走路”,这与我们的统计教育目标是吻的为了保持原书的风格和特色,在翻译的过程中,我们保留了原书的所有栏目,尽可能地忠实于原著,由于本书内容涵盖面很广并涉及很多统计学前沿的内容,很多统计学词汇还没有严格的中文翻译.在翻译过程中,我们尽量参考现存的中文翻译,对于没有相应中文翻译的专业词汇,我们请教相关专家,力求将本书翻译好.由于时间紧迫,加上我们水平有限,译文中一定有不尽如人意之处,敬请读者不吝指正阅读本书只需要具备微积分和线性代数的基本知识,不需要概率论和数理统计的相关知识.因此,对于那些想尽快掌握概率统计基础知识的读者而言,本书是一本很好的入门教材.又由于其内容的完备性和前瞻性,本书可作为统计学、数学、计算机科学、机器学习和数据挖掘领域的高年级本科生、研究生的教材.对于想了解概率统计方法,尤其是想了解统计学前沿的实际工作者,本书也不失为一本有价值的参考书本书由代金翻译第1~4章,张波翻译第5~8章,魏秋萍翻译第9~16章,刘中华翻译第17~24章,全书由张波统检并负责校译感谢在本书翻译与校对过程中给予我们支持和帮助的同仁吴喜之教授、刘畅副教授、殷红博士和王星博士译者2008年3月于中国人民大学统计学院原书序从字面含义上讲,书名“统计学完全教程”有些夸大其词,但从本书的内容上讲,使用此书名也并无不妥,因为它比一般的数理统计介绍书籍涉及的面要广泛的多本书是为那些希望快速掌握概率和统计知识的读者而编写的.它适合计算机科学、数学、统计学和其他相关学科的研究生或优秀本科生.本书包括许多最新的课题,如非参数曲线估计、自助法、分类等,这些课题通常都有相关的后续课程.学习本书时,读者需要了解一些有关积分和线性代数的知识,不需要概率和统计的相关知识统计、数据挖掘和机器学习三者都关注收集和分析数据.曾经一段时间,统计研究在统计部门进行,而数据挖掘和机器学习研究在计算机科学部门设置,统计学家认为计算机科学家是在重复劳动,而计算机科学家认为统计理论没有应用于他们的问题事过境迁,时代也发生了变化,现在的统计学家都已经意识到计算机科学家作出了卓越的贡献而计算机科学家也意识到统计理论和方法的普遍性,适应性强的数据挖掘算法通常比统计学家的思想更具有预见性,而形式化的统计理论又比计算机科学家意识到的更具有普遍性从事数据分析的学生或者立志开发新型方法进行数据分析的学生需要掌握良好的基本概率和数理统计基础.没有理解最基本的统计含义就去使用如神经网络、提升算法、支持向量机等高级的工具就如同在没有学会如何使用邦迪就去做脑部手术一样但是学生从哪儿能快速学习最基础的概率和统计知识呢?我的答案是无处不在,至少当我的计算机学同事问我“我要将我的学生送到哪儿去快速掌握现代统计的知识?”的时候我是如此回答的典型的数理统计课程在枯燥乏味的内容(计数方法,二维积分等)上消耗了很多时间,而真正讲解前沿课题(自助法,曲线估计,图模型等)的时间却少之又少,所以我决定重新设计本科生在概率和数理统计上的课程,本书就是以此为宗旨进行编写的.本书的主要内容如下1.本书适用于计算机科学的研究生和数学、统计学、计算机科学高年级的本科生,它也适用于即将从事统计工作而又需要补充数理统计背景知识的毕业生2本书包括了初级教程中没有的前沿课题,如非参数回归、自助法、密度估计和图模型3本书删掉了在统计推断中无足轻重的内容,如计数方法4.本书旨在强调基本概念,力图避免枯燥的计算5.本书在讲述参数统计推断之前先讲述非参数统计推断原书序6.本书摒弃了通常的“第一学期=概率”,“第二学期=统计”的教育模式在以前的教育模式下,一些学生仅仅学习了前半部分有关概率的知识,而不懂得任何统计理论的知识,则可能产生难以弥补的过错.另外,当学生能够将概率应用到后面的统计中的时候,概率才能真正体现它的内在价值.本书随机过程是例外,它将在后面的章节里面讲述7.本书前后节奏变化快,包括了很多内容我的同事开玩笑说我在本书中几乎包括了所有的统计知识,因此采用了这一书名.本书学习起来比较费时费力,但我尽力使内容比较直观具体.尽管节奏变化很快,但仍保证内容有血有肉、易于理解8.严格与清晰并非一个含义,本书内容尽量保证两者的平衡性,使它们达到有机的统一.为避免在一些细枝末节上陷入困境,很多结果没有给出具体的证明.每章结尾的文献评述为读者列出其他合适的参考书9.在我的个人主页上有R语言编码程序,学生可以用这些程序来完成所有的计算,具体网页是http://www.stat.cmu.edu/larry/all-of-statistics但是,本书并未讲述R及其常用的计算机语言本书第I部分讨论概率理论,它是表示不确定性的正式用语,是统计推断的基础,在概率论中我们研究的基本问题是给定数据的生成过程,其输出结果具有什么样的性质?本书第Ⅱ部分包括统计推断及其相关内容、数据挖掘和机器学习,统计推断的基本问题可看成是概率论的反向思维:给定输出结果,我们能得出关于数据生成过程什么样的性质?以上思想如图1所示概率数据生成过程观测数据推断与数据挖掘图1概率和统计推断的关系预测、分类、聚类和估计都是统计推断的特殊情形.数据分析、机器学习和数据挖掘是统计推断在不同实践中的称谓,它依赖于具体使用的环境第II部分将第I部分的结论应用到具体问题中,如回归、图像模型、因果关系、密度估计、平滑、分类和模拟.第Ⅲ部分也包括多章概率论的内容,具体内容原书序为随机过程,其中包括马尔可夫链本书的很多地方都引用了其他教材的内容,很多章节后面都有文献评述,一是为了向那些文献的作者表示由衷的感谢,其次是为了给读者提供有帮助的其他参考书.在这里要特别提及的参考书是( Degroot and Schervish,2002; Grimmett andStirzaker,1982),本书从这两本参考书中引用了很多例子和练习花几年时间编写一本书,有些想法和课后练习的出处就失去了线索.本书涉及的问题有一些是我自己构思的,有一些来源于平时的教育工作,还有一些摘自其他参考书.如果未经作者的许可就擅自引用了他的内容,我希望没有冒犯对方.就像我的同事 Mark schervish在他的书中( Schervish,1995)写到:每章后面的问题出自很多地方……有些我也不知道具体出自哪如果我未经许可就使用了您的内容,请在此接受我的感谢”在这里我要感谢很多朋友,没有他们的帮助我不可能完成此书的编写.首先要感谢使用本书早期版本并提供了很多反馈的广大学生.要特别感谢 Liz Prather和Jennifer bakal,他们仔细阅读了这本书;要特别感谢 Rob reeder,他逐字逐句的阅读了这本书,并提供了无数宝贵的修改意见要特别感谢的还有 Chris Genovese,他不仅对本书内容提供了很多创造性想法,还花了很多时间编写 Latex程序,本书的版面设计归功于他的努力;由于本人所学有限,在一些格式上难免存在不足,请读者谅解. David hand, Sam roweis和 David Scott 1细阅读了本书并提供了大量改进的意见. John Lafferty和 Peter Spirtes也给了我很多启发. John Kimmel对本书的编写过程作出了很大的贡献.最后,我的妻子 Isabella Cerdinell给予我无限的关爱、支持和鼓励在此谨向他们致以深深的谢意L.沃塞曼宾夕法尼亚州匹兹堡2003年7月第二次印刷得益于下列人员的评价: Beth Ayers, Frederick eberhardt, Luis Escobar, Warren Ewens, Pat Gray,John Lafferty, Valerie Ventura F Indrayana Rustandi原书序统计/数据挖掘字典统计学家和计算机科学家经常对相同的事情使用不同的用语,如下这些术语将贯串整本书的内容:统计计算机科学含义估计学习使用数据估计未知量分类有指导学习由X预测离散的Y聚类无指导学习将数据分组数据训练样本(X1,Y1),…,(Xn,Yn)协变量特征X分类器假设协变量到结果的映射假设参数子集置信区间以给定频率包括空间e的未知量的一个区间有向非循环图贝叶斯网络给定条件独立性下的多元分布贝叶斯推断贝叶斯推断利用数据修正信度的统计方法频率推断保证频率行为的统计方法大偏差界PAC学习误差概率上的一致有界