内容简介

《亿级流量网站架构核心技术》一书总结并梳理了亿级流量网站高可用和高并发原则，通过实例详细介绍了如何落地这些原则。本书分为四部分：概述、高可用原则、高并发原则、案例实战。从负载均衡、限流、降级、隔离、超时与重试、回滚机制、压测与预案、缓存、池化、异步化、扩容、队列等多方面详细介绍了亿级流量网站的架构核心技术，让读者看后能快速运用到实践项目中。

不管是软件开发人员，还是运维人员，通过阅读《亿级流量网站架构核心技术》都能系统地学习实现亿级流量网站的架构核心技术，并收获解决系统问题的思路和方法。

作品目录

第1部分 概述 / 1

1 交易型系统设计的一些原则 / 2

1.1 高并发原则 / 3

1.1.1 无状态 / 3

1.1.2 拆分 / 3

1.1.3 服务化 / 4

1.1.4 消息队列 / 4

1.1.5 数据异构 / 6

1.1.6 缓存银弹 / 7

1.1.7 并发化 / 9

1.2 高可用原则 / 10

1.2.1 降级 / 10

1.2.2 限流 / 11

1.2.3 切流量 / 12

1.2.4 可回滚 / 12

1.3 业务设计原则 / 12

1.3.1 防重设计 / 13

1.3.2 幂等设计 / 13

1.3.3 流程可定义 / 13

1.3.4 状态与状态机 / 13

1.3.5 后台系统操作可反馈 / 14

1.3.6 后台系统审批化 / 14

1.3.7 文档和注释 / 14

1.3.8 备份 / 14

1.4 总结 / 14

第2部分 高可用 / 17

2 负载均衡与反向代理 / 18

2.1 upstream配置 / 20

2.2 负载均衡算法 / 21

2.3 失败重试 / 23

2.4 健康检查 / 24

2.4.1 TCP心跳检查 / 24

2.4.2 HTTP心跳检查 / 25

2.5 其他配置 / 25

2.5.1 域名上游服务器 / 25

2.5.2 备份上游服务器 / 26

2.5.3 不可用上游服务器 / 26

2.6 长连接 / 26

2.7 HTTP反向代理示例 / 29

2.8 HTTP动态负载均衡 / 30

2.8.1 Consul+Consul-template / 31

2.8.2 Consul+OpenResty / 35

2.9 Nginx四层负载均衡 / 39

2.9.1 静态负载均衡 / 39

2.9.2 动态负载均衡 / 41

参考资料 / 42

3 隔离术 / 43

3.1 线程隔离 / 43

3.2 进程隔离 / 45

3.3 集群隔离 / 45

3.4 机房隔离 / 46

3.5 读写隔离 / 47

3.6 动静隔离 / 48

3.7 爬虫隔离 / 49

3.8 热点隔离 / 50

3.9 资源隔离 / 50

3.10 使用Hystrix实现隔离 / 51

3.10.1 Hystrix简介 / 51

3.10.2 隔离示例 / 52

3.11 基于Servlet 3实现请求隔离 / 56

3.11.1 请求解析和业务处理线程池分离 / 57

3.11.2 业务线程池隔离 / 58

3.11.3 业务线程池监控/运维/降级 / 58

3.11.4 如何使用Servlet 3异步化 / 59

3.11.5 一些Servlet 3异步化压测数据 / 64

4 限流详解 / 66

4.1 限流算法 / 67

4.1.1 令牌桶算法 / 67

4.1.2 漏桶算法 / 68

4.2 应用级限流 / 69

4.2.1 限流总并发/连接/请求数 / 69

4.2.2 限流总资源数 / 70

4.2.3 限流某个接口的总并发/请求数 / 70

4.2.4 限流某个接口的时间窗请求数 / 70

4.2.5 平滑限流某个接口的请求数 / 71

4.3 分布式限流 / 75

4.3.1 Redis+Lua实现 / 76

4.3.2 Nginx+Lua实现 / 77

4.4 接入层限流 / 78

4.4.1 ngx_http_limit_conn_module / 78

4.4.2 ngx_http_limit_req_module / 80

4.4.3 lua-resty-limit-traffic / 88

4.5 节流 / 90

4.5.1 throttleFirst/throttleLast / 90

4.5.2 throttleWithTimeout / 91

参考资料 / 92

5 降级特技 / 93

5.1 降级预案 / 93

5.2 自动开关降级 / 95

5.2.1 超时降级 / 95

5.2.2 统计失败次数降级 / 95

5.2.3 故障降级 / 95

5.2.4 限流降级 / 95

5.3 人工开关降级 / 96

5.4 读服务降级 / 96

5.5 写服务降级 / 97

5.6 多级降级 / 98

5.7 配置中心 / 100

5.7.1 应用层API封装 / 100

5.7.2 配置文件实现开关配置 / 101

5.7.3 配置中心实现开关配置 / 102

5.8 使用Hystrix实现降级 / 106

5.9 使用Hystrix实现熔断 / 108

5.9.1 熔断机制实现 / 108

5.9.2 配置示例 / 112

5.9.3 采样统计 / 113

6 超时与重试机制 / 117

6.1 简介 / 117

6.2 代理层超时与重试 / 119

6.2.1 Nginx / 119

6.2.2 Twemproxy / 126

6.3 Web容器超时 / 127

6.4 中间件客户端超时与重试 / 127

6.5 数据库客户端超时 / 131

6.6 NoSQL客户端超时 / 134

6.7 业务超时 / 135

6.8 前端Ajax超时 / 135

6.9 总结 / 136

6.10 参考资料 / 137

7 回滚机制 / 139

7.1 事务回滚 / 139

7.2 代码库回滚 / 140

7.3 部署版本回滚 / 141

7.4 数据版本回滚 / 142

7.5 静态资源版本回滚 / 143

8 压测与预案 / 145

8.1 系统压测 / 145

8.1.1 线下压测 / 146

8.1.2 线上压测 / 146

8.2 系统优化和容灾 / 147

8.3 应急预案 / 148

第3部分 高并发 / 153

9 应用级缓存 / 154

9.1 缓存简介 / 154

9.2 缓存命中率 / 155

9.3 缓存回收策略 / 155

9.3.1 基于空间 / 155

9.3.2 基于容量 / 155

9.3.3 基于时间 / 155

9.3.4 基于Java对象引用 / 156

9.3.5 回收算法 / 156

9.4 Java缓存类型 / 156

9.4.1 堆缓存 / 158

9.4.2 堆外缓存 / 162

9.4.3 磁盘缓存 / 162

9.4.4 分布式缓存 / 164

9.4.5 多级缓存 / 166

9.5 应用级缓存示例 / 167

9.5.1 多级缓存API封装 / 167

9.5.2 NULL Cache / 170

9.5.3 强制获取最新数据 / 170

9.5.4 失败统计 / 171

9.5.5 延迟报警 / 171

9.6 缓存使用模式实践 / 172

9.6.1 Cache-Aside / 173

9.6.2 Cache-As-SoR / 174

9.6.3 Read-Through / 174

9.6.4 Write-Through / 176

9.6.5 Write-Behind / 177

9.6.6 Copy Pattern / 181

9.7 性能测试 / 181

9.8 参考资料 / 182

10 HTTP缓存 / 183

10.1 简介 / 183

10.2 HTTP缓存 / 184

10.2.1 Last-Modified / 184

10.2.2 ETag / 190

10.2.3 总结 / 192

10.3 HttpClient客户端缓存 / 192

10.3.1 主流程 / 195

10.3.2 清除无效缓存 / 195

10.3.3 查找缓存 / 196

10.3.4 缓存未命中 / 198

10.3.5 缓存命中 / 198

10.3.6 缓存内容陈旧需重新验证 / 202

10.3.7 缓存内容无效需重新执行请求 / 205

10.3.8 缓存响应 / 206

10.3.9 缓存头总结 / 207

10.4 Nginx HTTP缓存设置 / 208

10.4.1 expires / 208

10.4.2 if-modified-since / 209

10.4.3 nginx proxy_pass / 209

10.5 Nginx代理层缓存 / 212

10.5.1 Nginx代理层缓存配置 / 212

10.5.2 清理缓存 / 215

10.6 一些经验 / 216

参考资料 / 217

11 多级缓存 / 218

11.1 多级缓存介绍 / 218

11.2 如何缓存数据 / 220

11.2.1 过期与不过期 / 220

11.2.2 维度化缓存与增量缓存 / 221

11.2.3 大Value缓存 / 221

11.2.4 热点缓存 / 221

11.3 分布式缓存与应用负载均衡 / 222

11.3.1 缓存分布式 / 222

11.3.2 应用负载均衡 / 222

11.4 热点数据与更新缓存 / 223

11.4.1 单机全量缓存+主从 / 223

11.4.2 分布式缓存+应用本地热点 / 224

11.5 更新缓存与原子性 / 225

11.6 缓存崩溃与快速修复 / 226

11.6.1 取模 / 226

11.6.2 一致性哈希 / 226

11.6.3 快速恢复 / 226

12 连接池线程池详解 / 227

12.1 数据库连接池 / 227

12.1.1 DBCP连接池配置 / 228

12.1.2 DBCP配置建议 / 233

12.1.3 数据库驱动超时实现 / 234

12.1.4 连接池使用的一些建议 / 235

12.2 HttpClient连接池 / 236

12.2.1 HttpClient 4.5.2配置 / 236

12.2.2 HttpClient连接池源码分析 / 240

12.2.3 HttpClient 4.2.3配置 / 241

12.2.4 问题示例 / 243

12.3 线程池 / 244

12.3.1 Java线程池 / 245

12.3.2 Tomcat线程池配置 / 248

13 异步并发实战 / 250

13.1 同步阻塞调用 / 251

13.2 异步Future / 252

13.3 异步Callback / 253

13.4 异步编排CompletableFuture / 254

13.5 异步Web服务实现 / 257

13.6 请求缓存 / 259

13.7 请求合并 / 261

14 如何扩容 / 266

14.1 单体应用垂直扩容 / 267

14.2 单体应用水平扩容 / 267

14.3 应用拆分 / 268

14.4 数据库拆分 / 271

14.5 数据库分库分表示例 / 275

14.5.1 应用层还是中间件层 / 275

14.5.2 分库分表策略 / 277

14.5.3 使用sharding-jdbc分库分表 / 279

14.5.4 sharding-jdbc分库分表配置 / 279

14.5.5 使用sharding-jdbc读写分离 / 283

14.6 数据异构 / 284

14.6.1 查询维度异构 / 284

14.6.2 聚合数据异构 / 285

14.7 任务系统扩容 / 285

14.7.1 简单任务 / 285

14.7.2 分布式任务 / 287

14.7.3 Elastic-Job简介 / 287

14.7.4 Elastic-Job-Lite功能与架构 / 287

14.7.5 Elastic-Job-Lite示例 / 288

15 队列术 / 295

15.1 应用场景 / 295

15.2 缓冲队列 / 296

15.3 任务队列 / 297

15.4 消息队列 / 297

15.5 请求队列 / 299

15.6 数据总线队列 / 300

15.7 混合队列 / 301

15.8 其他队列 / 302

15.9 Disruptor+Redis队列 / 303

15.10 下单系统水平可扩展架构 / 311

第4部分 案例 / 323

16 构建需求响应式亿级商品详情页 / 324

16.1 商品详情页是什么 / 324

16.2 商品详情页前端结构 / 325

16.3 我们的性能数据 / 327

16.4 单品页流量特点 / 327

16.5 单品页技术架构发展 / 327

16.5.1 架构1.0 / 328

16.5.2 架构2.0 / 328

16.5.3 架构3.0 / 330

16.6 详情页架构设计原则 / 332

16.7 遇到的一些坑和问题 / 339

16.8 其他 / 347

17 京东商品详情页服务闭环实践 / 348

17.1 为什么需要统一服务 / 348

17.2 整体架构 / 349

17.3 一些架构思路和总结 / 350

17.4 引入Nginx接入层 / 354

17.5 前端业务逻辑后置 / 356

17.6 前端接口服务端聚合 / 357

17.7 服务隔离 / 359

18 使用OpenResty开发高性能Web应用 / 360

18.1 OpenResty简介 / 361

18.1.1 Nginx优点 / 361

18.1.2 Lua的优点 / 361

18.1.3 什么是ngx_lua / 361

18.1.4 开发环境 / 362

18.1.5 OpenResty生态 / 362

18.1.6 场景 / 362

18.2 基于OpenResty的常用架构模式 / 363

18.3 如何使用OpenResty开发Web应用 / 371

18.4 基于OpenResty的常用功能总结 / 375

18.5 一些问题 / 376

19 应用数据静态化架构高性能单页Web应用 / 377

19.1 整体架构 / 378

19.2 数据和模板动态化 / 381

19.3 多版本机制 / 381

19.4 异常问题 / 382

20 使用OpenResty开发Web服务 / 383

20.1 架构 / 383

20.2 单DB架构 / 384

20.3 实现 / 387

21 使用OpenResty开发商品详情页 / 405

21.1 技术选型 / 407

21.2 核心流程 / 408

21.3 项目搭建 / 408

21.4 数据存储实现 / 410

21.5 动态服务实现 / 422

21.6 前端展示实现 / 430