腾讯云TDSQL全自研新敏态引擎,助推数据库国产化

2021-12-17 00:00:00 数据 分布式 业务 腾讯 引擎


疫情更是让银行业务从常态、稳态的运行环境,切换到了更多敏态的环境中。银行要全方位保障支付的流畅度和安全性,就要利用云计算、大数据、人工智能等技术,来实现银行产品和服务的线上化、移动化。


当今,多家银行机构已经将金融科技上升到了战略层面,通过组织架构调整、建设数字化技术平台等手段,来实现更加明确、清晰的数字化转型目标。


权威数据显示,全球具价值的前 100 家银行中,70% 以上已通过建设开放银行平台等模式投入场景生态建设浪潮。加快线上的,尤其是移动端的 “非接触式”银行业务,是各银行的首要任务。


为了适配“非接触式”银行业务,解决对于敏态业务发展过程中业务形态、业务量的不可预知,在“2021 腾讯数字生态大会上”上,腾讯云发布了 TDSQL 新敏态引擎。


1

腾讯云TDSQL全自研新敏态引擎是什么?


腾讯云 TDSQL 全自研新敏态引擎支持无限扩展、模式在线变更,可以完美解决对于敏态业务发展过程中业务形态、业务量的不可预知性,适配金融敏态业务。

2

为什么需要做敏态存储引擎?


银行的敏态业务对底层基础技术提出了具备敏态能力的要求。场景化、线上化意味着业务系统中的数据形态、访问模式、计算逻辑等也将随之变得更加敏捷、多样化,对底层技术系统在灵活性与扩展性方面提出了全新的要求。


敏态模式下业务形态不断变化,后台支撑应用的数据库表结构也需要持续变更,这对传统数据库而言是非常庞大、繁重的工作。


3

腾讯云TDSQL全自研新敏态引擎如何支撑银行敏态业务?


1.支持数据库表结构持续变化,轻松支撑千万级 QPS 流量


腾讯云 TDSQL 新敏态引擎实现了大量的 Instant DDL,对于 add column、修改 varchar 长度等常用 DDL 都通过只修改元数据来瞬间完成,不影响用户请求。


对于 add index,change column,变更分区表等其他需要生成数据的 DDL,也不会影响在线业务的读写请求,大程度上保证 schema 的变更对业务无感知。


在腾讯内部业务实践中,TDSQL 新敏态引擎支撑业务在保持高性能且连续服务的基础上,一个月内完成了高达 1000 次表结构在线变更。


2.计算存储分离,并可独立扩展,满足分布式事务的高并发、高性能、高扩展


TDSQL 新敏态引擎计算节点和存储节点完全解耦,这使得用户可以根据业务进行不同层次的扩展:如果业务存储量大,但是请求量并不大,就可以只扩容存储节点;如果业务请求量很大且偏分析性,则可以只扩容计算节点。


TDSQL 新敏态引擎通过将分布式事务的协调者下沉到存储层,实现了计算层节点完全无状态,可以随时随地任意新增或减少节点。


TDSQL 新敏态引擎在存储节点对数据进行 range 分区时,每个分区的数据保持在一个阈值以下,当检测到出现数据容量瓶颈或者热点现象,就自动将分区数据搬迁到空闲节点上,无需人工介入就实现了灵活弹性扩容。


同时,TDSQL 新敏态引擎在分布式事务使用了异步提交技术,减少了分布式事务的时耗,同时还提供数据分布控制的能力,在对性能要求较高的场景下,可以实现将分布式事务优化成一阶段事务,杜绝分布式事务两阶段提交带来的消耗。


TDSQL 新敏态引擎的吞吐量可以随着计算节点和存储节点而线性扩展,单实例可以达到千万级 QPS。


3.的数据强一致性


数据一致性是金融级数据库的基石。在多副本一致性方面,TDSQL 新敏态引擎存储节点采用 RAFT 协议来保证副本一致性。


当出现网络分区时,多数派的分区可以继续提供服务,而分区的另一边的节点在网络分区消失时,会自动补齐与多数派节点之间的数据差异,以确保金融业务的副本之间的强一致性。


在事务一致性方面,TDSQL 新敏态引擎采用自研的分布式事务并发控制算法实现事务的原子性和隔离性,为业务的数据安全保驾护航。


4.数据形态自动感知,数据库全域智能化自适应调度


腾讯云 TDSQL 数据库的计算引擎提供了原创的 SQL 语法接口,提供给用户自定义数据的形态规则,例如表副本数,地理位置分布偏好,分区策略等等。


TDSQL 新敏态引擎的管控模块根据用户自定义的规则,结合数据库层面的数据对象语义,将具有访问亲和性的数据关联在一起,大幅降低了分布式环境下 RPC 网络请求的数量,将大量两阶段事务优化为一阶段本地事务,显著提升了常见高时耗场景下的响应性能,如回表、join 查询、批量二级索引更新等等。


此外,管控模块还会根据不同数据对象的访问热度、关联模型等因素,自适应地对数据对象进行分裂、合并、迁移、切主等操作,从而实现分布式存储集群中的负载均衡和自适应调度。


4

腾讯云TDSQL全自研新敏态引擎给客户带来的价值是什么?


TDSQL 新敏态引擎支持业务无感知,计算资源和存储资源的独立弹性扩缩容,集群运维操作一键完成,全过程无须人工干预,可以灵活地根据当前业务场景的流量压力调整资源规模。


同时,TDSQL 新敏态引擎“全域智能化自适应调度”技术,在存储层通过数据形态相关性自动感知,生成数据亲和性策略,可以使得数据能够根据业务负载情况在分布式系统架构中自动迁移,打散热点,降低分布式系统中分布式事务的数量,实现极高的扩展性和性能提升。这给用户带来的大价值就是,可以让业务敏捷应对各类型需求变化的场景。


5

历经打磨,TDSQL产品家族尽显企业服务优势


TDSQL 产品家族是腾讯企业级分布式关系型数据库品牌,除了 TDSQL 新敏态引擎,TDSQL 系列还有金融级分布式数据库 TDSQL、云原生数据库 TDSQL-C、分析型数据库 TDSQL-A 等多引擎能力。


此外,TDSQL 还提供完善的服务工具,包括多源同步迁移工具 DBbridge、智能运维平台 DBbrain 等。


TDSQL 产品系列经过了腾讯集团以及腾讯云上金融、社交、电商、物联网、政务、公益、工业制造等各行各业海量客户场景的实际打磨验证,具有在实际场景中领先的金融级全局一致性、99.999% 自动容灾切换的高可用性、高可靠性,以及弹性扩展、高性能能力。


在前不久腾讯发布的 Q3 财报中显示:“腾讯云数据库 TDSQL 已被 3000 多家来自金融、公共服务和电信垂直行业的客户采用,中国十大银行中的六家都应用了该产品。TDSQL 在不同金融机构核心系统中的渗透率明显提升,显示了腾讯在数据安全性、可靠性和一致性方面的能力。”


除了银行金融场景,腾讯云数据库 TDSQL 在政务、电信运营商等行业场景中也实现了突破。


未来,腾讯云将继续助力 IT 基础设施从传统架构向分布式架构演进,加速全行业的数字化转型。

相关文章