2021 DTCC 专场17-数据架构设计与实践(下)(PPT)
爱奇艺高性能KeyValue数据库研发与应用
演讲简介:
本报告将对主要开源KeyValue数据库在性能、成本及运维等方面进行比较分析,并依此介绍爱奇艺数据库团队研发的高性价比KeyValue数据库HiKV及应用场景。HiKV参考WiscKey存储模型,并结合ScyllaDB的架构优势,实现了与Couchbase接近的平均延时,且成本只有Couchbase的1/6,极大降低了高性能KeyValue数据的存储成本。通过本报告,将了解HiKV在存储引擎设计、内存优化、数据一致性保障、负载均衡及限流保护等关键技术方案,为KeyValue数据库的设计及应用提供可借鉴的经验。
郭磊涛 爱奇艺 数据库服务负责人
嘉宾介绍:
郭磊涛,爱奇艺数据库服务负责人。2007年博士毕业于中国科技大学计算机系,同年进入中国移动研究院负责大数据平台的建设。2014年加入爱奇艺,先后参与并负责大数据、数据库、微服务架构及视频播放和用户服务的研发工作。
分布式架构下数据共享与数据交换
演讲简介:
随着保险公司业务的拓展壮大。在分布式架构的背景下,保险公司的信息化建设涉及的业务系统繁多复杂,系统的部署方式多样,且多为分布式部署。系统建设所使用的开发平台甚至开发语言各异。业务系统在业务开展和生产中会产生大量数据,这些数据得不到统一管理。通过数据共享与数据交换平台来解决各信息系统间数据的交互与共享、数据安全等问题。通过离线数据归集工具ETL和实时数据采集等技术手段,按照平台标准处理后的多方数据集中至数据中心平台,通过数据治理等手段提升数据的质量。再以restfull api统一标准对外提供数据服务,使数据按一定业务规则成为可复用的数据资源服务。依托数据交换和共享平台,打通信息孤岛,发挥数据的价值。
分享提纲:
a.介绍分布式架构下,信息系统建设和数据建设的现状
b.介绍离线和实时场景下的数据采集中使用的关键技术
c.分享热点数据和历史数据的存储策略
d.基于时间窗口,业务视图创建和restfull接口定义的佳实践
e.数据交换和共享保证数据安全的技术手段和管理办法
f.数据变化感知,DDL数据解析技术分享
g.DDL消息缓冲,队列分区策略
h.大数据量情况下数据全量同步关键技术解决
i.数据交换任务多节点部署情况下,交换任务的分布式协调问题的处理方法
j.共享和交换过程中的实时监控策略
k.共享和交换失败时的紧急预案和预警手段
分享要点:
首先,通过介绍保司信息系统建设和数据建设的架构现状,引出分布式架构下数据共享和数据交换建设的环境背景。
其次,数据做厚背景下,介绍数据采集的手段,数据集中后热点数据和历史数据的存储策略。混杂态数据的数据治理方案。复杂业务数据查询的场景下,数据视图创建和restfull接口定义的佳实践。
再次,分享数据交换时使用的关键技术主要包括数据变化感知,DDL数据解析,消息缓冲,队列分区策略和大数据情况下全量同步的技术手段。
后,介绍数据共享和数据交换平台中,包括安全技术手段、安全策略体系、安全管理制度在内的安全保障体系以及共享和交换失败时的紧急处理方案和预警手段。
胡赵勇 海保人寿 架构师
嘉宾介绍:
胡赵勇,10+年系统开发和设计经验,09年毕业与哈尔滨工业大学,一直从事系统开发和设计的相关工作,现为海保人寿保险公司的系统架构师职位,主要负责公司内部信息系统的开发建设,新技术的研究和应用,数据共享和交换等数据平台研究开发和落地使用;专注于分布式系统架构下信息系统的开发和应用,乐于挑战和解决疑难问题。
纲举目张——金融业务PostgreSQL实践与体系规范
演讲简介:
PostgreSQL号称是功能为齐全的开源关系型数据库,其稳定的功能、齐全的特性、严谨的设计,使其在很多业务场景中都可以有很好的表现。尤其在一些金融业务场景,Postgresql数据库,也可以有良好的应用和表现。但同时,由于 PostgreSQL数据库功能的丰富,对于一个目标,可以有多种实现方式,不同的实现方式,在实现成本、性能等方面,可能有很大的不同。那么结合PostgreSQL数据库的体系结构,已经实际业务的实现,从中总结、提炼出PostgreSQL数据库的使用规范,就可以使我们对数据库的使用有一个很好的参照,面对更多的业务场景,我们可以纲举目张地把握数据库实现的整体和细节了。这样对我们了解PostgreSQL数据库,使用这个数据库,都会有很大的帮助,带来实际的指导意义。
分享提纲:
a. 举例说明PostgreSQL的使用规范的意义,解析体系结构与使用规范的对应应用;
b. 从架构规范、设计规范、库表规范、索引规范等几个方面阐述金融业务场景下PostgreSQL的一些使用规范;
c. 针对一些特殊场景,说明使用规范的注意事项、发展演进;
赵飞祥 Airwallex(空中云汇) DBA
嘉宾介绍:
现为 Airwallex DBA,网名 yumushui ,多年一线传统行业和互联网数据库架构设计与运维经验。Oracle 11g OCM,对MySQL、Oracle、PostgreSQL、Greenplum、MongoDB等多种数据库有丰富的架构、维护经验,乐于总结与分享,ITPUB博客专家,DTCC等数据库行业大会演讲嘉宾。
相关文章