内容简介

统计学硕士，“数据分析1480”微信公众号运营者。曾就职于大数据咨询公司，为联想、亨氏、美丽田园、网鱼网咖等企业项目提供服务；曾在唯品会大数据部担任数据分析师一职，负责电商支付环节的数据分析业务。

作品目录

第1章 数据分析与挖掘概览 1
1.1 什么是数据分析和挖掘 1
1.2 数据分析与挖掘的应用领域 1
1.2.1 破坏规则的“害群之马” 1
1.2.2 完美的动态定价营销法 2
1.2.3 抗癌八年的乔布斯 2
1.3 数据分析与挖掘的区别 3
1.4 数据挖掘的流程 4
1.4.1 明确目标 4
1.4.2 数据搜集 5
1.4.3 数据清洗 5
1.4.4 构建模型 6
1.4.5 模型评估 6
1.5 常用的数据分析与挖掘工具 7
1.6 篇章总结 8
第2章 从收入的预测分析开始 9
2.1 下载与安装 9
2.1.1 Windows系统 9
2.1.2 Mac系统 11
2.1.3. Linux系统 12
2.2 基于Python的案例实战 13
2.2.1 数据的预处理 13
2.2.2 数据的探索性分析 14
2.2.3 数据建模 17
2.3 篇章总结 25
第3章 Python入门基础 27
3.1 数据结构及方法 27
3.1.1 列表 27
3.1.2 元组 32
3.1.3 字典 32
3.2 控制流 35
3.2.1 if分支 35
3.2.2 for循环 36
3.2.3 while循环 38
3.3 字符串处理方法 39
3.3.1 字符串的常用方法 39
3.3.2 正则表达式 41
3.4 自定义函数 43
3.4.1 自定义函数语法 43
3.4.2 自定义函数的几种参数 45
3.5 一个爬虫案例 48
3.6 篇章总结 50
第4章 Python数值计算工具—Numpy 52
4.1 数组的创建与操作 52
4.1.1 数组的创建 52
4.1.2 数组元素的获取 53
4.1.3 数组的几个属性 54
4.1.4 数组的形状处理 55
4.2 数组的基本运算符 57
4.2.1 四则运算 57
4.2.2 比较运算 59
4.2.3 广播运算 60
4.3 常用的数学和统计函数 61
4.4 线性代数的相关计算 63
4.5 伪随机数的生成 66
4.6 篇章总结 69
第5章 Python数据处理工具--Pandas 70
5.1 序列与数据框的构造 70
5.1.1 构造序列 70
5.1.2 构造数据框 72
5.2 外部数据的读取 73
5.2.1 文本文件的读取 73
5.2.2 电子表格的读取 75
5.2.3 数据库数据的读取 76
5.3 数据类型转换及描述统计 78
5.4 字符与日期数据的处理 81
5.5 常用的数据清洗方法 84
5.5.1 重复观测处理 84
5.5.2 缺失值处理 85
5.5.3 异常值处理 88
5.6 数据子集的获取 90
5.7 透视表功能 92
5.8 表之间的合并与连接 94
5.9 分组聚合操作 96
5.10 篇章总结 98
第6章 Python数据可视化 100
6.1 离散型变量的可视化 100
6.1.1 饼图 100
6.1.2 条形图 105
6.2 数值型变量的可视化 113
6.2.1 直方图与核密度曲线 113
6.2.2 箱线图 117
6.2.3 小提琴图 120
6.2.4 折线图 122
6.3 关系型数据的可视化 126
6.3.1 散点图 126
6.3.2 气泡图 129
6.4 多个图形的合并 132
6.5 篇章总结 134
第7章 线性回归预测模型 136
7.1 一元线性回归模型 136
7.1.1 拟合线的求解 137
7.2 多元线性回归模型 139
7.2.1 回归模型的参数求解 139
7.2.2 回归模型的预测 140
7.3 回归模型的假设检验 142
7.3.1 模型的显著性检验--F检验 143
7.3.2 回归系数的显著性检验--t检验 145
7.4 回归模型的诊断 146
7.4.1 正态性检验 147
7.4.2 多重共线性检验 149
7.4.3 线性相关性检验 150
7.4.4 异常值检验 151
7.4.5 独立性检验 154
7.4.6 方差齐性检验 154
7.5 篇章总结 156
第8章 岭回归与LASSO回归模型 158
8.1 岭回归模型 158
8.1.1 参数求解 159
8.1.2 系数求解的几何意义 160
8.2 岭回归模型的应用 161
8.2.1 可视化方法确定λ值 161
8.2.2 交叉验证法确定λ值 162
8.2.3 模型的预测 164
8.3 LASSO回归模型 165
8.3.1 参数求解 165
8.3.2 系数求解的几何意义 166
8.4 LASSO回归模型的应用 167
8.4.1 可视化方法确定λ值 167
8.4.2 交叉验证法确定λ值 169
8.4.3 模型的预测 170
8.5 篇章总结 171
第9章 Logistic回归分类模型 173
9.1 Logistic模型的构建 173
9.1.1 Logistic模型的参数求解 175
9.1.2 Logistic模型的参数解释 177
9.2 分类模型的评估方法 178
9.2.1 混淆矩阵 178
9.2.2 ROC曲线 179
9.2.3 K-S曲线 180
9.3 Logistic回归模型的应用 182
9.3.1 模型的构建 182
9.3.2 模型的预测 184
9.3.3 模型的评估 184
第10章 决策树与随机森林 190
10.1 节点字段的选择 191
10.1.1 信息增益 191
10.1.2 信息增益率 193
10.1.3 基尼指数 195
10.2 决策树的剪枝 197
10.2.1 误差降低剪枝法 198
10.2.2 悲观剪枝法 198
10.2.3 代价复杂度剪枝法 199
10.3 随机森林 200
10.3.1 随机森林的思想 200
10.4 决策树与随机森林的应用 202
10.4.1 分类问题的解决 202
10.4.2 预测问题的解决 208
第11章 KNN模型的应用 212
11.1 KNN算法的思想 212
11.2 最佳k值的选择 213
11.3 相似度的度量方法 213
11.3.1 欧式距离 214
11.3.2 曼哈顿距离 214
11.3.3 余弦相似度 215
11.3.4 杰卡德相似系数 215
11.4 近邻样本的搜寻方法 216
11.4.1 KD树搜寻法 217
11.4.2 球树搜寻法 220
11.5 KNN模型的应用 221
11.5.1 分类问题的解决 222
11.5.2 预测问题的解决 226
第12章 朴素贝叶斯模型 230
12.1 朴素贝叶斯理论基础 230
12.2 几种贝叶斯模型 231
12.2.1 高斯贝叶斯分类器 231
12.2.2 高斯贝叶斯分类器的应用 233
12.2.3 多项式贝叶斯分类器 236
12.2.4 多项式贝叶斯分类器的应用 237
12.2.4 伯努利贝叶斯分类器 240
12.3 篇章总结 245
第13章 SVM模型的应用 247
13.1 SVM的简介 247
13.1.1 距离公式的介绍 248
13.1.2 SVM的实现思想 249
13.2 几种常见的SVM模型 250
13.2.1 线性可分的SVM 250
13.2.2 一个手工计算的案例 253
13.2.3 近似线性可分SVM 255
13.2.4 非线性可分SVM 258
13.2.5 几种常用的SVM核函数 260
13.2.6 SVM的回归预测 261
13.3 分类问题的解决 263
13.4 预测问题的解决 265
13.5 篇章总结 268
第14章 GBDT模型的应用 270
14.1 提升树算法 270
14.1.1 AdaBoost算法的损失函数 271
14.1.2 AdaBoost算法的操作步骤 272
14.1.3 AdaBoost算法的简单例子 273
14.1.4 AdaBoost算法的应用 275
14.2 梯度提升树算法 280
14.2.1 GBDT算法的操作步骤 281
14.2.2 GBDT分类算法 281
14.2.3 GBDT回归算法 282
14.2.4 GBDT算法的应用 283
14.3 非平衡数据的处理 285
14.4 XGBoost算法 287
14.4.1 XGBoost算法的损失函数 287
14.4.2 损失函数的演变 288
14.4.3 XGBoost算法的应用 291
14.5 篇章总结 296
第15章 KMeans聚类分析 298
15.1 KMeans聚类 298
15.1.1 KMeans的思想 298
15.1.2 KMeans的原理 300
15.2 最佳k值的确定 300
15.2.1 拐点法 301
15.2.2 轮廓系数法 303
15.2.3 Gap Statistic 305
15.3 Kmeans聚类的应用 307
15.3.1 iris数据集的聚类 307
15.3.2 NBA球员数据集的聚类 310
15.4 Kmeans聚类的注意事项 314
15.5 篇章总结 314
第16章 DBSCAN与层次聚类分析 315
16.1 密度聚类简介 315
16.1.1 密度聚类相关的几个概念 315
16.1.2 密度聚类的步骤 317
16.2 密度聚类与KMeans的比较 318
16.3 层次聚类 322
16.3.1 簇间的距离度量 322
16.3.2 层次聚类的步骤 324
16.3.3 三种层次聚类的比较 325
16.4 密度聚类与层次聚类的应用 327
16.5 篇章总结 333
· · · · · ·

作者简介

统计学硕士，“数据分析1480”微信公众号运营者。曾就职于大数据咨询公司，为联想、亨氏、美丽田园、网鱼网咖等企业项目提供服务；曾在唯品会大数据部担任数据分析师一职，负责电商支付环节的数据分析业务。