每秒几万次MySQL交互,搜狗纯异步MySQL客户端开源了!
今年看源码,之前推荐过一个框架《单机40万QPS,搜狗WF框架,今年值得学习的开源代码》,随着源码阅读的越来越深入,发现了WF框架一个非常独特的地方:高性能纯异步MySQL客户端,非常有意思,今天和大家介绍一下自己的学习心得。
WF,是搜狗开源的C++服务器引擎框架。WF的设计目标是:轻量级,高性能。搜狗几乎所有的C++后端服务,都基于这个框架,每天处理超过百亿的请求。它的性能超高,单机每秒50W的QPS,特别是高并发压测的情况下,比nginx和brpc表现都要好。WF高性能纯异步MySQL客户端,既继承了WF的极简设计目标,无需依赖任何库,又继承了高性能设计目标,在合理的配置下,每秒能处理几万次MySQL请求。除此之外,它能支持事务,支持存储过程,支持多语句多结果集,并在内核防止SQL注入,互联网业务绝大部分需求都能轻松应对。同时,作为WF原生自有协议的一部分,它与任务流,服务治理能特性完美融合,与http,redis,计算任务统一使用,并能够通过upstream轻松实现读写分离。为什么搜狗WF异步MySQL客户端,能做到每秒几万次数据库交互?
如上图所示,传统的MySQL客户端,往往是同步阻塞式的,在向MySQL发送请求到MySQL回复响应的过程中,整个线程处于阻塞等待状态。此时,如果希望提高并发处理能力,往往要设置大量的工作线程,而工作线程的切换,以及临界资源的锁争夺,性能会有较大的影响。
而作为异步MySQL客户端,向MySQL发送请求之后,线程就可以执行本地其他异步调用,或者发送下一个MySQL请求,无任何阻塞,用很少的线程,就能拥有很高的并发处理能力。
如上图所示,简单的几行,就能够提交一个异步的MySQL任务。url参数,mysql://uname:pwd@host:port/dbnameset_query,可以设置希望执行的SQL语句;增删改查、建库删库、建表删表、预处理、使用存储过程和使用事务的多种需求,都可以轻松满足。画外音:目前不支持切换数据库,但可以通过db.table的方式进行跨库的操作。在异步回调中,通过task->get_resp()能够拿到MySQLResponse:(1)一个MySQLResponse里包含若干ResultSet;对使用者非常友好,能够很轻松的进行结果集处理,规避掉各种细节。如果无需独占连接,传入url创建任务,调用方甚至无需关注“连接”的存在;对于需要独占连接的事务需求,可以先创建连接,再在连接上创建任务。后再强调一点,WF在github上的文档和demo非常齐全,对于新手极其友好。而且碰到代码中不明白的地方,可以直接联系开发小组,作者会直接和大家交流,避免二手消息。
画外音:找一段demo代码单步执行下来,协议设计与实现,底层网络通讯,IO线程,工作线程,任务队列,线程同步互斥机制,超时处理机制,异常处理机制等,能迅速掌握一套RPC内核原理与细节,基本上国内大部分公司的offer能手到擒来。WF,是今年我看过清爽的开源代码,非常适合了解通信内核,RPC内核,调度框架内核,强烈推荐给大家。WF的高性能异步MySQL-client,也非常推荐大家使用,MySQL数据库老大难的性能瓶颈,说不定就解决了。地址:https://github.com/sogou/workflow《单机40万QPS,搜狗WF框架,今年值得学习的开源代码》