大型网站系统与Java中间件实践曾宪杰网站开发设计入门书籍贯通分布式高并发高数据高访问量网站架构与实现之著作计算机教材程.

到底是本什么书，拥有这样一份作序推荐人列表：阿里集团章文嵩博士|新浪TimYang|去哪网吴永强|丁香园冯大辉|蘑菇街岳旭强|途牛汤峥嵘|豆瓣洪强宁|某电商陈皓/林昊……
这本书出自某电商技术部总监之手，他也是某电商近10年来历次技术飞跃的参与者、贡献者和带领者，其中的经验直接来自某电商服务框架、消息中间件及数据访问层。
《某电商技术这十年》勾勒出某电商Java技术变迁波澜壮阔的轮廓，本书则给出最详尽、深入、系统的解读与演示，实用到足以让任一层级的学习者如获至宝。
看过的人无不暗中叫它“那些年我们一起走过的坑”，领略超大型网站陈年积淀的宝贵经验、领先思路和具体手法，后来者就有机会弯道超车！

通过这本书可以学习到大量构建大型网站系统的核心技术，以及支撑大型网站的Java中间件的必备知识，作者在超大型电子商务网站的多年实战经验使得本书的内容极具价值。如果你所在的技术团队正在因面对大型网站而一筹莫展，或许你可以从这本书中得到启发：另外，如果想成为Java技术架构师，那么你也不应错过此书。 
——冯大辉（@Fenng） 丁香园CTO 
华黎是我的前同事兼好友，听说他要出版一本书，我就猜到守于大型网站和中间件的，因为这是他的老本行。在互联网技术领域，理论永远过剩，而真正从零构建整个体系的机会少之又少，华黎舒模高速增长、中间件体系快速发展的亲历者、核心工程师，实践后的理论才更精确、更务实，这是我推荐这本书的理由。 
——岳旭强（@岳旭强） 蘑菇街CTO 
与宪杰认识多年，也一起共事过不短的时间，我深知他在大型互联网系统和Java中间件领域不仅有很强的理论基础，而且有丰富的实战经验。终于看到他把多年的积淀汇集成书，由衷地为他感到高兴。拿到书稿后，我迫不及待地从头至尾拜读了一遍。这应该竖内第一本从基础知识到构建应用，从理论到实践，把Java中间件非常系统和完整地阐述清楚的书 此外，书中列举的大量实践经验与很多通用设计思路不同，甚至是相反的。这是因为当面对高并发、高访问和海量数据时，在学校中学到的知识或普通书本中看到的方法行不通。这些看似古怪或丑陋的方法，是大型互联网企业用无数血泪换来的宝贵经验特此推荐给对构建大型互联网系统感兴趣的读者。 
——汤峥嵘（@汤峥嵘一还在路上） 途牛CTO 
要用Java构建一个大流量且有着复杂处理流程的网站，中间件技术是必须要用的技术，没有中问件就无法做到水平扩展，无法做到计算或数据集群的构建，也就无法构建一个大型网站。本书通过解决实际问题一步一步地带着你细数了用Java构建一个大型网站的各种技术细节和注意事项，讲解深入浅出，从系统架构到实际代码，从基础理论到实际操作，看得出来作者在中间件技术方面的丰富经验。这是一本系统的可以让你少走很多弯路的实战型技术书。 
——陈皓（@左耳朵耗子）阿里巴巴集团资深技术专家 
拿到书稿，一读之下不禁击节赞叹！这本书对大型网站发展过程中会遇到的各种架构问题和解决方案的讨论和总结，正是我在过去多年的工作中经常碰到和思考的。真是心有戚威焉！本书详细阐述了解决大型网站架构问题时通常都会采用的方案：服务框架、数据访问层、消息中间件、配置管理等，对为什么要做、如何做、如何权衡得失等进行了非常细致的介绍，是一本不可多得的好书。虽然本书的内容是基于Java的实现，但在架构层面，对使用任何语言的架构师和开发者都具有重要的参考价值。 
——洪强宁（@hongqn） 豆瓣网首席架构师 
本书作者是Java应用架构从集中式到分布式的实际参与者。并带领构建中间件两年多的时间 本书详细说明了大型Java网站必备的三利器——服务框架、消息中间件和数据访问层——的具体设计和实现方法，其中很多是在架构演进过程中摸爬滚打的实战经验和血泪教训 书中的内容一方面有助于开阔视野，另一方面大量宝贵的实战经验可以给需要做类似产品的读者带来不小的帮助。 
——林昊 阿里巴巴集团资深技术专家

通过这本书可以学习到大量构建大型网站系统的核心技 术，以及支撑大型网站的Java中间件的必备知识。作者在超大型电子商务网站的多年实战经验使得本书的内容极具价值。 如果你所在的技术团队正在因面对大型网站而一筹莫展，或 许你可以从这本书中得到启发。另外，如果想成为Java技术架 构师，那么你也不应错过此书。 ——冯大辉 （@Fenng） 丁香园CTO
华黎是我的前同事兼好友，听说他要出版一本书，我就猜到守于大型网站和中间件的，因为这是他的老本行。在互联网技术领域，理论永远过剩，而真正从零构建整个体系的机会少之又少，华黎是某宝网规模高速增长、中间件体系快速发展的亲历者、核心工程师，实践后的理论才更精确、更务实，这是我推荐这本书的理由。 ——岳旭强（@岳旭强） 蘑菇街CTO
与宪杰认识多年，也一起在某宝共事过不短的时间，我深知他在大型互联网系统和Java中间件领域不仅有很强的理论基础，而且有丰富的实战经验。终于看到他把多年的积淀汇集成书，由衷地为他感到高兴。拿到书稿后，我迫不及待地从头至尾拜读了一遍。这应该竖内第一本从基础知识到构建应用，从理论到实践，把Java中间件非常系统和完整地阐述清楚的书。此外，书中列举的大量实践经验与很多通用设计思路不同，甚至是相反的。这是因为当面对高并发、高访问和海量数据时，在学校中学到的知识或普通书本中看到的方法行不通。这些看似古怪或丑陋的方法，是大型互联网企业用无数血泪换来的宝贵经验。特此推荐给对构建大型互联网 系统感兴趣的读者。 ——汤峥嵘（@汤峥嵘-还在路上） 途牛CTO
要用Java构建一个大流量且有着复杂处理流程的网站，中间件技术是必须要用的技术，没有中间件就无法做到水平扩展，无法做到计算或数据集群的构建，也就无法构建一个大型网站。本书通过解决实际问题一步一步地带着你细数了用 Java 构建一个大型网站的各种技术细节和注意事项，讲解深入浅出。从系统架构到实际代码，从基础理论到实际操作，看得出来作者在中间件技术方面的丰富经验。这是一本系统得可以让你少走很多弯路的实战型技术书。 ——陈皓（ @左耳朵耗子） 阿里巴巴集团资深技术专家
拿到书稿，一读之下不禁击节赞叹！这本书对大型网站发展过程中会遇到的各种架构问题和解决方案的讨论和总结，正是我在过去多年的工作中经常碰到和思考的。真是心有戚戚焉！本书详细阐述了解决大型网站架构问题时通常都会采用的方案：服务框架、数据访问层、消息中间件、配置管理等，对为什么要做、如何做、如何权衡得失等进行了非常细致的介绍，是一本不可多得的好书。虽然本书的内容是基于Java的实现，但在架构层面，对使用任何语言的架构师和开发者都具有重要的参考价值。 ——洪强宁（@hongqn） 豆瓣网首席架构师
本书作者是某宝Java应用架构从集中式到分布式的实际参与者，并带领构建某宝中间件两年多的时间。本书详细说明了大型Java网站必备的三利器——服务框架、消息中间件和数据访问层——的具体设计和实现方法，其中很多是某宝在架构演进过程中摸爬滚打的实战经验和血泪教训。书中的内容一方面有助于开阔视野，另一方面大量宝贵的实战经验可以给需要做类似产品的读者带来不小的帮助。 —— 林昊 阿里巴巴集团资深技术专家

曾宪杰，某电商花名华黎，现任某电商技术部总监。2002年毕业于浙江大学计算机系。2007年加入某电商网平台架构团队，负责构建某电商自主的消息中间件系统，同期主导了某电商数据层的创建，这两个产品也是某电商中间件中较为重要的两个。2010年下半年起开始负责整个某电商中间件团队，帮助团队成为业内知名的Java技术团队。2012年开始从中间件走向应用系统的研发工作，2013年初负责新组建的某电商技术部。熟悉C++和Java，在多线程、并发、网络通信及支撑大型网站的中间件领域有较多经验，对新技术有浓厚的兴趣。致力于带领团队在无线、数据、业务 平台和组件化开发方面取得突破。与林昊合著有《OSGi原理与最佳实践》一书。

第1章分布式系统介绍1 
1.1初识分布式系统1 
1.1.1分布式系统的定义1 
1.1.2分布式系统的意义3 
1.2分布式系统的基础知识5 
1.2.1组成计算机的5要素5 
1.2.2线程与进程的执行模式6 
1.2.3网络通信基础知识13 
1.2.4如何把应用从单机扩展到分布式18 
1.2.5分布式系统的难点31 
第2章大型网站及其架构演进过程35 
2.1什么是大型网站35 
2.2大型网站的架构演进37 
2.2.1用Java技术和单机来构建的网站37 
2.2.2从一个单机的交易网站说起38 
2.2.3单机负载告警，数据库与应用分离40 
2.2.4应用服务器负载告警，如何让应用服务器走向集群41 
2.2.5数据读压力变大，读写分离吧50 
2.2.6弥补关系型数据库的不足，引入分布式存储系统56 
2.2.7读写分离后，数据库又遇到瓶颈58 
2.2.8数据库问题解决后，应用面对的新挑战60 
2.2.9初识消息中间件63 
2.2.10总结64 
第3章构建Java中间件67 
3.1Java中间件的定义67 
3.2构建Java中间件的基础知识68 
3.2.1跨平台的Java运行环境——JVM69 
3.2.2垃圾回收与内存堆布局70 
3.2.3Java并发编程的类、接口和方法72 
3.2.4动态代理89 
3.2.5反射91 
3.2.6网络通信实现选择93 
3.3分布式系统中的Java中间件94 
第4章服务框架97 
4.1网站功能持续丰富后的困境与应对97 
4.2服务框架的设计与实现100 
4.2.1应用从集中式走向分布式所遇到的问题100 
4.2.2透过示例看服务框架原型101 
4.2.3服务调用端的设计与实现107 
4.2.4服务提供端的设计与实现132 
4.2.5服务升级137 
4.3实战中的优化138 
4.4为服务化护航的服务治理142 
4.5服务框架与ESB的对比146 
4.6总结147 
第5章数据访问层149 
5.1数据库从单机到分布式的挑战和应对149 
5.1.1从应用使用单机数据库开始149 
5.1.2数据库垂直／水平拆分的困难150 
5.1.3单机变为多机后，事务如何处理152 
5.1.4多机的Sequence问题与处理165 
5.1.5应对多机的数据查询168 
5.2数据访问层的设计与实现174 
5.2.1如何对外提供数据访问层的功能174 
5.2.2按照数据层流程的顺序看数据层设计177 
5.2.3独立部署的数据访问层实现方式192 
5.2.4读写分离的挑战和应对194 
5.3总结200 
第6章消息中间件203 
6.1消息中间件的价值203 
6.1.1消息中间件的定义203 
6.1.2透过示例看消息中间件对应用的解耦204 
6.2互联网时代的消息中间件208 
6.2.1如何解决消息发送一致性209 
6.2.2如何解决消息中间件与使用者的强依赖问题218 
6.2.3消息模型对消息接收的影响222 
6.2.4消息订阅者订阅消息的方式229 
6.2.5保证消息可靠性的做法230 
6.2.6订阅者视角的消息重复的产生和应对245 
6.2.7消息投递的其他属性支持249 
6.2.8保证顺序的消息队列的设计252 
6.2.9Push和Pull方式的对比257 
第7章软负载中心与集中配置管理259 
7.1初识软负载中心259 
7.2软负载中心的结构261 
7.3内容聚合功能的设计263 
7.4解决服务上下线的感知267 
7.5软负载中心的数据分发的特点和设计269 
7.5.1数据分发与消息订阅的区别269 
7.5.2提升数据分发性能需要注意的问题271 
7.6针对服务化的特性支持272 
7.6.1软负载数据分组272 
7.6.2提供自动感知以外的上下线开关273 
7.6.3维护管理路由规则273 
7.7从单机到集群274 
7.7.1数据统一管理方案275 
7.7.2数据对等管理方案276 
7.8集中配置管理中心280 
7.8.1客户端实现和容灾策略282 
7.8.2服务端实现和容灾策略284 
7.8.3数据库策略285 
第8章构建大型网站的其他要素287 
8.1加速静态内容访问速度的CDN287 
8.2大型网站的存储支持291 
8.2.1分布式文件系统292 
8.2.2NoSQL294 
8.2.3缓存系统298 
8.3搜索系统301 
8.3.1爬虫问题302 
8.3.2倒排索引302 
8.3.3查询预处理304 
8.3.4相关度计算304 
8.4数据计算支撑304 
8.5发布系统307 
8.6应用监控系统310 
8.7依赖管理系统312 
8.8多机房问题分析315 
8.9系统容量规划317 
8.10内部私有云319 
后记321

由于2007年一个很偶然的机会，我加入了某电商平台架构组，职位是C++工程师。然后我就在只完成了C语言的一个小功能后，开始了Java中间件的研究生涯。从2007年下半年到2013年年初，近6年时间我都在和支撑整个网站应用的Java中间件打交道——从设计实现消息中间件到参与数据访问层设计，再到负责整个Java中间件团队，我也从一个不太懂Java的C++工程师成长为对Java中间件有一定了解和积累的工程负责人。在这个过程中，我也有幸参与了某电商从集中式的Java应用到分布式Java应用的架构变迁。
本书从分布式系统说起，然后介绍大型网站的变迁中遇到的挑战和应对策略，接着讲解Java中间件的内容，重点介绍了笔者在实践中自主开发的支撑大型网站应用的几个Java中间件产品，包括对它们的思考及其设计和实现原理。最后介绍了支撑大型网站的其他基础要素，包括CDN、搜索、存储、计算平台，以及运维相关的系统等内容。
通过阅读本书，笔者希望读者能够尽量完整地了解大型网站的挑战和应对办法，并且能够了解某电商在大型网站变迁过程中产生的这几个中间件的具体产品及其背后的思考和设计，并能够对除中间件之外的支撑大型网站的其他系统有一定的了解。希望初学者能够更多地关注全貌，也希望有相关经验的人士可以从本书中得到一些启发，汲取一些经验。
2013年5月，我的岗位有了调整，在接下来的时间中我将带领某电商技术部承担某电商业务应用的开发工作。这本书也是对自己某电商中间件6年工作生涯的一份纪念。
最后要说的是，能够完成本书有很多的人要感谢，首先要感谢某电商给我这么好的平台和机会，没有这个机会就不会有本书。然后也非常感谢太太王海凤对我的支持，4年前和林昊合著《OSGi原理与最佳实践》一书的时候，我们刚谈恋爱，我把很多本应陪你的时间用在了写作上；4年后，我又把本应陪你和儿子的时间用在了写作上，没有你的支持和理解，我不可能完成这次写作。最后也要感谢我的父母、岳父母、姑姑和小表妹，有你们照顾宸宸，我才能专心地写作本书。

曾宪杰 
2013年11月于杭州