搜狗开源srpc:自研高性能通用RPC框架
今年7月底,搜狗公司开源了内部的工业级C++服务器引擎Workflow,一路收获业内许多认可和关注。9月15日,作为Workflow最重要的生态项目——srpc,一个基于其打造的轻量级RPC框架,也在GitHub上开源了。项目地址:
https://github.com/sogou/srpc
一个性能更好的thrift/brpc
srpc与thrift/brpc是协议与IDL均互通的。srpc除了自带的sogou-std协议以外,还实现了baidu-std协议和thrift framed协议,因此srpc可以与thrift或brpc(连接池模式)互通。另外,接口描述文件支持protobuf和thrift,这意味着用户不仅可以一键迁移基于protobuf或thrift作为IDL的项目,还可以用srpc作为一个性能更优的thrift框架或者brpc框架。
与thrift相比,srpc所实现的thrift framed协议在吞吐和长尾方面性能都远超thrift原生框架。且srpc对于thrift接口描述文件实现了解析和代码生成,因此用户在srpc上使用thrift IDL时无需依赖thrift库。
而在baidu-std协议的实现上,吞吐和长尾在大部分场景下依然是srpc更优。且由于workflow支持Windows(同机性能比linux快20%),所以这等同于用户得以在Windows下使用brpc。还有一点值得一提的是,同样是支持protobuf的RPC框架,由于srpc实现了部分IDL解析和代码生成,接口形式无需受protobuf原始限制,因而所提供的接口比brpc更为简洁,以server的rpc接口为例:
一个通用、易扩展的RPC框架
除了支持binary传输,还支持HTTP+json和HTTP+binary的传输方式,业务可以借用HTTP实现跨语言,而传输本身对业务透明。这是除了上述介绍的协议层和接口描述文件层以外,srpc的另外一个重要层次。其中传输方式和协议层还可以互相结合,如果接收方为任何一种协议+HTTP作传输的server,则用户都可以对其轻松地发送一个如下请求:
srpc内部实现层次精巧,非常注重纵向层次拆分和横向解耦。其中压缩层、序列化层、协议层是互相解耦的,利用函数重载、派生子类实现父类接口和模版特化等多种多态方式,来实现内部使用同一套代码的高度复用。后续架构升级或者用户进行二次开发,无论是中间再加一层、还是某层内横向添加一种内容,都不需要改动现有的代码,十分方便。
一个打通了Workflow、功能更强大的任务流RPC
任务流是Workflow 在设计之初就引入的概念,其可将资源高度封装,用户可不用关心内部细节、不接触到连接池、线程池,仅需要了解业务关系就能实现复杂的业务逻辑。srpc除了提供同步、半同步接口外,其异步接口可以利用Context拿到Series来打通Workflow 任务流,这就意味着srpc可以把RPC调用当作任务流来组建。
srpc还可以使用Workflow 自带的其他功能,一方面是服务治理。Workflow 的upstream是本进程内把一批机器绑定到一个域名下,自带多种方式的负载均衡和熔断恢复等机制,srpc的client对应的是一个ip,或者一个带本地服务治理的集群,直接可以使用负载均衡和熔断恢复等机制。
另一方面,srpc 还可以调用 Workflow 其他资源。RPC只是网络资源,而Workflow 包含了如计算调度和异步文件IO等资源,还有目前已经实现的多种常用网络协议(包括HTTP、Redis、MySQL、Kafka),这些都可以为srpc所用。
srpc目前在搜狗搜索和搜狐集团团队中多个线上业务已经稳定使用一段时间,由于接口简介易上手,且直接打通workflow的任务流、计算调度、服务治理等功能, 因此对开发效率有非常大的提升。但srpc相对来说也是一个很年轻且代码量不多(约一万行)的项目,搜狗后续还会持续推进其生态建设,有信心为不同的RPC开发场景提供更加全面的解决方案。