大型电商架构及演化历程_软件开发

PPT 内容

1. 大型电商架构及演化历程盈天讯张宇
2. 自我介绍亿玛科技架构师中宏互联技术总监凡客诚品首席架构师 IBM GBS 资深电子商务顾问苏宁易购项目，技术管理委员会核心成员曾参与上品折扣、广之旅、李锦记、中国银行企业网银、平安保险等项目目前：盈天讯首席架构师
3. Agenda小且快（资金为重）大而全（功能为重）大且快（量级为重）大且敏（终极追求）技术趋势
4. 小且快（资金为重）两个层面的“快” 架构选型：ASP.NET、RoR等他们都选了什么？架构特点部署架构
5. 两个层面的“快”电商的灵魂是“快” 开发速度快运行速度快小而快时候，更多的指的是开发速度快
6. 框架选型ASP.NET RoR Grails PHP Django
7. 他们都选了什么？
8. 架构选型为什么大多数人选择了ASP.NET？人员成本 > 服务器成本人力资源充沛有几个人熟悉其他RAD？维护成本低成长空间：容易晋身为企业级架构为什么大多数人选择了自主研发？需要商业模式创新创业者期望“颠覆” “小而美”的时候，维护成本高
9. 架构特点轻量，直观，容易理解，架构代价（overhead）小耦合度高基本不存在分层能做到静态分层已经很不错了有些团队喜欢把所有查询都写在存储过程中 Data Driven 以数据（库）为中心的设计全局数据共享，极少考虑封装性 CRUD四轮马车的代码没有，也不太可能测试（单元，集成）
10. 部署架构基本上是单点甚至是租用主机现在可以选择云
11. 大而全（功能为重）野蛮生长企业级需求问题架构演进架构特征部署架构
12. 野蛮生长截止到2010年3月份，凡客诚品技术部接到的需求已经排期排到了2013年技术团队从2-5个人突然增长到300+，后来增长到1000+ 苏宁易购也同样经历了开发人员从几十一下子到几百再一下子到上千的阶段网站后台从几个模块增加到上百个模块从单一网站系统演变为众多业务系统（客服系统、联盟系统、搜索系统、供应商系统、物流仓储系统……）每个系统都有少则几十多则上百的模块
13. 企业级需求企业级复杂度工作流（审核、审批）专业的财务需求多系统统一认证（SSO、LDAP）、权限作业（JOB、Cron）系统、队列、批处理各种客户端接入（C/S、B/S）凡客管理平台，ERP，CRM，WMS，客服系统都是C/S架构
14. 问题来不及设计系统关键环节越来越复杂，越来越难维护 “订单转有效”是一个凡客内部著名的存储过程，历经4名程序员，最终达到3000+行SQL，并成功达到无人能懂，无人敢改的地步所有功能交织在一起，牵一发而动全身代码改动影响面大，回归测试范围大长事务、大事务
15. 架构演进——分层架构面对越来越复杂的业务系统，首要的问题是耦合过重最基本的是分层架构
16. 分层架构——我们得到了什么？人们常说，分层架构主要的好处是可以替换某一层的具体实现，比如我可以把UI层从Struts换成Spring VMC，可以把Data Access层从Hibernate换成iBatis，但多少项目换过？更清晰的代码噪音的减小更有意义的命名复用可维护性存储过程中的业务逻辑全部收回逻辑层
17. 架构演进——划分模块分层架构使得各层之间的依赖关系变得明晰重构、重写部分代码拆分依赖中枢下单促销划分业务模块使用单元测试保证重构是安全的 Refactoring To Patterns
18. 架构演进——AOPSSO，权限等代码事务代码日志代码严重干扰了业务代码的清晰度增加了出错几率
19. 架构特征分层清晰，层次之间依赖关系清晰面向接口的设计采用Spring等DI框架各小组负责自己的业务模块 AOP等架构组件使基础服务自动化数据库集成主系统和各个边缘系统通过共享数据库进行数据交换数据库表混用现象突出用户、订单表中的字段可能多达100多个，被十几个系统分别使用数据库锁现象严重各个系统争用数据库锁某些数据库产品因此容易发生死锁现象
20. 部署架构负载均衡优于HA（热备）可以随时扩展新的运算能力
21. 大且快（量级为重）挑战架构演进 CQRS 缓存切分横纵切分前后端切分异步与最终一致 Reporting Database
22. 架构演进——CQRS电商的特点是，80%的请求是只读的 CQRS = Command Query Responsibility Separation 不仅仅是你认为的读写分离从UI，到Action，到Service，一直到数据库，贯穿始终的读写分离 Cache-Control 命名规范：GetXXX，QueryXXX 读写分离的事务控制（电商容许很大范围的数据不一致现象）只读数据库
23. 架构演进——CQRS
24. 架构演进——各级缓存浏览器缓存 CDN 前端HTTP缓存（Squid，Vanish） HTML代码片缓存（Memcache） Service级缓存（缓存AOP） Data Access级缓存 Hibernate Cache 优化缓存命中率隔离动态的部分客户端缓存网络设备缓存应用服务器缓存分布式缓存数据库缓存
25. CQRS+ 缓存——解决80%的性能问题主库的50%以上的压力下降，可以专心处理事务只读数据库可以任意（复制有代价）横向扩展可以采用多级复制减少代价贯穿所有层级的CQRS设计使得缓存利用率提高支持原子操作的分布式缓存可以在很多场景替代数据库锁秒杀抢购
26. 架构演进——纵向切分
27. 纵向切分切分原则：把高负载切出去切分策略依赖关系事务边界 ……带来的挑战是显而易见的关联查询事务更加复杂的连接管理当然，你也可以用更加昂贵的硬件来支撑，比如使用小型机
28. 架构演进——横向切分
29. 横向切分切分原则：尽量均衡分布切分策略按主键按日期 …… 归档不常用的数据年代久远的一次性的 ……数据访问代码会增加复杂性统计分析、报表会增加复杂性表关联的复杂性会变的尤其难以处理当然，你可以选择使用昂贵的商业软件，比如Oracle数据库和其他产品的特性来达到同样的效果
30. 库存到底怎么办？仓库、物流，上百种业务需要实时操作库存，货架亿次PV，百万订单的库存查询和更新要求绝对不能出错不能从只读slave里面取数据，因为复制有延迟主库已经不堪重负，并因为库存各种死锁
31. 架构演进——前后端切分电商领域，我们通常把订单达成以前（包括下单），叫做大前端订单达成以后，包括仓储物流等，叫做大后端由于前后端业务类型迥异，同样的架构已经无法适应各自的发展大前端抛开羁绊轻装上阵，专注页面访问的用户体验专注处理事务性迈向“服务集成”
32. 架构演进——异步与最终一致长事务会严重降低数据库的性能，占用不该占用的资源拆分长事务，形成任务单元异步执行比如，用户下单增加积分，“下单”逻辑的任务单元可以和“增加积分”的任务单元异步执行使用程序逻辑来控制业务规则达到最终的一致执行过程中可能会出现短暂的不一致的现象执行过程出错以后需要进行“补偿”操作例如，下单扣减库存，如果在下单逻辑最后出现异常，实际上没有成单传统上，我们把扣减库存和下单放在一个事务当中最终一致的方案中，他们拥有各自的事务，如果下单逻辑执行失败，需要把扣掉的库存重新加上（补偿）
33. 架构演进——Reporting Database各个部门都需要很多报表报表的典型特征是关联查询不能读脏数据长时间执行，长时间加锁你需要Reporting Database
34. 大且敏（终极追求）服务集成而不是数据库集成 Façade to façade 异构系统
35. 服务集成而不是数据库集成锁共享表共享同一个表里面包含多个系统的字段列共享 1表示A系统产生的数据，2表示B系统产生的数据，3-5是C系统定义的概念…… 直接关联了别人的表 ……服务可以版本化可以对不同的系统提供不同的服务容易部署
36. Façade to façade服务集成的粒度 Domain service、数据库表暴露太多细节内部变化会向外传播可能根本就没有domain service 系统间交互需要采用Façade模式
37. 异构系统有创新业务；也有经典业务互联网公司每年都有一次大规模的组织架构调整商业模式经常被颠覆有跑得快的团队；也有跑得慢的团队有不允许失误的业务；也有允许小差错的业务小且快（资金为重）大而全（功能为重）大且快（量级为重）大且敏（终极追求）容许以上三种同时存在
38. 异构系统大前端80%采用NoSQL完成 Mongo DB Cassandra Redis 很多大公司前端采用PHP后端采用Java 运维成本？大部分：0配置，0运维 DevOps
39. 奇巧淫技之Graceful Downgrade天猫、淘宝双十一的访问量我就不多说了如何应对？临时添置服务器？另辟蹊径：关闭非关键功能所谓Graceful，就是说，当运算能力不能满足当前请求的时候，不要抛出Service Unavailable这样的错误，一棒子全打死所谓Downgrade，就是说，降级处理，把非关键的功能先关闭掉，节省服务器资源，比如暂时不提供购物推荐啊什么的，先保证商品浏览和下单。
40. 奇巧淫技之Edge Server-Side Include Extension一个页面由好多区块组成每个区块由单独的服务器组渲染完成由前端边缘服务器完成最终页面的组装边缘服务器可以设置QoS之类的策略
41. 前端性能的重要性商城首页请求数大小首屏时间加载时间得分与评级善融个人3952.9M4.19s4.23s39：F京东商城51741K2.02s2.04s76：C苏宁易购41520.4K613ms1.89s88：B凡客诚品22318.8K945ms1.29s87：BEvery 100ms delay costs 1% of sales - Amazon.com
42. 技术趋势Big Data 移动互联网和Real-time Web
43. Big DataHadoop的诞生改变了大数据格局，以前只有昂贵的商业软件才有的运算能力，现在可以免费获得云的普及让大数据成为可能 Hadoop是MapReduce算法的一个实现
44. 移动互联网和Real-time Web移动互联网的特点永远在线（保持连接，长连接）主动找到客户（推送） Real-time Web 长连接实时推送数据到浏览器双向通讯（HTTP是单向的） Event Based ArchitectureApp ServerNodeJS ServerHTTPWebSocketclientclientclientclientredis!
45. Thanks And Q&A

大型电商架构及演化历程

163lzm

贡献于2016-10-10

大型电商架构及演化历程

PPT 内容

PPT 图集

相关PPT