降低成本、提升速度-开放式超高性能数据库存储平台实践张乐奕

pw8c

贡献于2015-06-22

字数:0 关键词:

云和恩墨 成就所托 YUNHE ENMO (BEIJING) TECHNOLOGY CO.,LTD 云和恩墨 成就所托 降低成本、提升速度 开放式超高性能数据库存储平台实践 Kamus@Enmotech 云和恩墨 成就所托 • Technical Director @ Enmo Tech • ACOUG Co-founder, President • http://www.enmotech.com • http://www.acoug.org • http://www.dbform.com About Me 新浪微博:@小事儿爹 云和恩墨 成就所托 中国最热衷技术分享的团队 云和恩墨致力于以技术服务客户,以技术为用户创造 价值,在技术分享和传播领域不断推动行业技术进步, 迄今已经编译著作出版了12本技术书籍; 云和恩墨一贯支持和创立了ACOUG(中国Oracle用户 组),已经成功组织了数十次大型技术活动,影响和帮 助了上万人次的技术分享。 云和恩墨 成就所托 中国最热衷技术分享的团队 2015年4月17日 8:50-9:40 主会场2
《风云再起—后IOE时代的Oracle架构变迁与创新》 2015年4月18日 15:10-15:50 专场18:存储与文件系统 《降低成本、提升速度-开放式超高性能数据库存储平台实践》 2015年4月16日 16:20-17:10 专场4:数据库迁移与升级 《奇思妙想 - Oracle数据库跨平台迁移升级最佳实践》 云和恩墨 成就所托 2015 DTCC首发 限量精美技术海报免费领取! 中国最热衷技术分享的团队 云和恩墨 成就所托 中国最热衷技术分享的团队 在ACOUG主办的年度大型Oracle技术分享活动-Oracle 技术嘉年华中, 云和恩墨总会贡献最多的演讲嘉宾。 云和恩墨 成就所托 去IOE了?Oracle还有前途吗? • Oracle Database标准版是企业版价格的1/3 • Oracle Database标准版功能远超MySQL • 仸何起因是钱的问题的问题都不是问题 – Oracle不笨,Larry不因循守旧 – 2015财年Q3,Oracle的云业务增长30%,达3.72亿美金 – Oracle每年研发投入高达50亿美金 – Oracle从5年前开始计划并投入研发In-Memory Option – Research发布Openstack收入分析预测,2014年8.83亿美金 ,2018年33亿美金 – Hadoop发行商Cloudera 2014年营收1亿美金,Hortonworks 2014年营收8700万美金 • 关系型数据库到底为什么存在?ACID • 仸何领域前 20%的技术人员都能生存得不错。 云和恩墨 成就所托 什么是数据库系统的优化 • 物尽其用 • 平衡 Present 应用优化 硬件优化 软硬一体 IN OUT 云和恩墨 成就所托 IT架构趋势 - 传统SAN面临的挑战 • 两层的计算-存储架构: 计 算与存储完全独立分层, 通过FC戒 iSCSI互联 • 中心化的存储系统成为I/O 存取的瓶颈,扩展成本高 昂 • 复杂的系统带来部署及操 作、运维和管理的复杂性 传统的SAN架构: 缺乏对性能及大数据据处理的灵活性 昂贵的部署及运维成本 云和恩墨 成就所托 • 开放架构下网络与存储的巨大进步 IT架构趋势 - IO和网络性能 存储设备 SAS磁盘 SSD PCIe Flash IOPS 100~150 50,000+ 200,000+ Throughput 150MB/s 500MB/s 4.0GB/s Latency 10ms 100us 30us 互联设备 Ethernet SAN Infiniband Bandwidth 1~56Gb/s 2~16Gb/s 40~56Gb/s Latency 10us 2us 200ns 云和恩墨 成就所托 • 新型的闪存设备可以使旧有系统焕发生机 – 新型设备在加速IO处理速度,整合系统时具备强大优势; – 以下案例通过闪存卡整合缩减了客户的软件成本; – 整合系统获得了极大的性能改善,满足用户业务提升需求; 节点1 节点2 Oracle 11g RAC SAN 存 储 数据库 服务器 Oracle 11g 优化前 优化后 台账 系统 生产系统 台账 系统 在原架构中,其中一个节点用于从生产系统 上进行抽数,入库到SAN存储中,另外一个节点 用于做台账系统的查询,但存储存在IO瓶颈。 在新架构中,使用LSI的高速存储卡作为本地 存储。用于存放数据文件等相关的数据库文件, 以及OGG的队列文件。 生产系统 OGG 复制 进行入库 架构规划 存储优化 OGG 复制 进行入库 PCIe Flash:去大型存储简化IT架构 云和恩墨 成就所托 • 整合后的主要指标性能提升比率 > 100% 相同时间段 1个小时内的AWR数据 指标 优化前 优化后 优化 提升率 日志量 7,627,295 17,957,028 235.40% 逻辑读 71,058 236,944 333.50% 修改块 30,242 97,636 322.80% SQL执行 4,234 5,235 123.60% 单块读 指标 优化前 优化后 优化 提升率 等待次数 5,948,198 15,212,847 255.76% 等待时间 340,638 31,918 1000.00% 平均等待 57 2 2850.00% 响应时间 86.87 27.29 318.50% IO优化 PCIe Flash:去大型存储简化IT架构 云和恩墨 成就所托 IT架构趋势 – 软件定义存储 服务器 SAN 应 用 服务器 服务器 应 用 软件定义的分布式存储架构 (SDS) 服务器 服务器 服务器 传统SAN架构 • 两层的计算-存储架构 • 中心化的存储系统 • IO存取边界,扩展成本高昂 • 部署与运维复杂 • IO系统孤立,无法了解应用的变化 超级数据中心/云计算 • 软件定义的分布式基础架构: 弹性, 可灵活扩展 • 部署及维护:开放的x86服务器 云和恩墨 成就所托 zData Light 架构 56Gb Infiniband RAC节点 1 RAC 节点 2 高可用性 • 所有部件都无单点故障, 包括服务器、网络、存 储 • 存储节点中始终至少有2 份镜像数据 高扩展性 •RDMA提供强大IO能力 • 增加存储节点时,性能 线性增加 56Gb IB 交换机 计算节点 存储节点 闪存卡 X86 PC Server 1 闪存卡 X86 PC Server 2 闪存卡 X86 PC Server 3 云和恩墨 成就所托 zData Light架构 - 开放性 云和恩墨 成就所托 zData Light架构 – 极致性能 存储节点支持基于Infiniband的RDMA协议 数据库节点的互联网络支持基于Infiniband的RDS协议 IOPS >50万 Latency <0.6ms MBPS >10GB/s 云和恩墨 成就所托 Infiniband/RDMA/SRP/IPoIB Infiniband SRP IPoIB 云和恩墨 成就所托 为什么选择SRP – 支持Infiniband有哪些协议 https://fs.hlrs.de/projects/craydoc/docs/books/S-2393-31/html-S-2393-31/chapter-qxr64y45-n14202-openfabricsinterconnectdriversforsystems.html 云和恩墨 成就所托 为什么选择SRP - SRP vs. iSer SRP iSer Simple = Stable 简单 = 稳定 云和恩墨 成就所托 zData Light架构 – RDMA 减少中断 减少CPU占用 减少延迟 云和恩墨 成就所托 zData Light架构 – 存储节点 Enmo zData Light Storage + zData Monitoring SSD盘 PCIe Flash PCIe Flash Cache SAS/SATA Disk SSD盘用于主存提供性能和成本的 平衡 PCIe Flash用于主存提供极致性能 zData Flash Cache将闪存用于磁盘 随机访问缓存 云和恩墨 成就所托 zData Light架构 – 计算节点 Oracle ASM提供数据冗余和分布式 Linux Multipath提供链路冗余的高可用性 多个存储节点的盘全部映射到计算节点上 标准SCSI协议,使用RDMA传输,保持兼容性 Oracle ASM Oracle RAC Database Linux Multipath Storage Node 1 Disk Storage Node 2 Disk Storage Node 3 Disk SCSI+RDMA(SRP,SCSI RDMA Protocol) 云和恩墨 成就所托 典型案例—某省电信数据库仓库 • 原环境 项目 描述 主机 Power 780,24 CPU,320G内存 存储 DS8300系列 数据库 单实例 Oracle 11.2.0.3 最大IO吞吐量 1GB/s左右 云和恩墨 成就所托 典型案例—某省电信数据库仓库 • zData 项目 描述 数据库服务器 2台IBM x3850,每台4路60核CPU,512G内存 存储节点 12存储节点,DELL R720,每节点N*7200转 3TB SATA硬盘+1.2TB闪存卡。 存储容量 硬盘裸容量:242TB;闪存裸容量:14TB 数据库 Oracle 12.1.0.2 RAC 最大IO吞吐量 单节点10GB/s,两节点同时15GB/s IO 处理 10倍 业务处理 4倍 成本 1/3 云和恩墨 成就所托 我在怎样的团队工作? • 团队中的每个人都有我力所不及的长处 • 每天我总能从其他人那里学到新的东西 • 总有激烈的碰撞 • 但总在最终能够达成共识 • 最牛逼的团队欢迎你 hr@enmotech.com 云和恩墨 成就所托 云和恩墨 成就所托

下载文档,方便阅读与编辑

文档的实际排版效果,会与网站的显示效果略有不同!!

需要 6 金币 [ 分享文档获得金币 ] 0 人已下载

下载文档

相关文档