唯一客服系统:一个高性能、可独立部署的智能客服解决方案(支持扣子API/FastGPT/Dify)
演示网站:gofly.v1kf.com我的微信:llike620
大家好,我是辰链科技的后端工程师老王。今天想和大家聊聊我们团队最近打磨的一款产品——唯一客服系统(YoutoChat)。作为一个在客服系统领域摸爬滚打多年的老码农,我敢说这可能是目前市面上对开发者最友好的智能客服解决方案了。
为什么我们要造这个轮子?
三年前我们接了个大客户项目,对方要求在一个月内上线支持2000+并发的智能客服系统。我们把市面上主流方案试了个遍:有的闭源SaaS性能不达标,有的开源项目扩展性太差,还有的AI对接文档写得像天书…最后逼得我们不得不自己撸袖子干。
经过十几个版本的迭代,这个当初的临时方案居然发展成了现在的唯一客服系统。说几个让我这个老后端最得意的技术点:
1. Golang打造的性能怪兽
全栈Golang开发不是噱头。我们用gin框架压测出的单机QPS轻松破万,配合自研的连接池管理,比传统PHP/Java方案节省了60%的服务器成本。内存占用控制得尤其好,8G内存的机器跑2000并发跟玩似的。
go // 举个消息分发的核心代码示例 func (s *Server) handleMessage(c *gin.Context) { msg := parseMessage© if s.ratelimit.Check(msg.SessionID) { c.JSON(429, gin.H{“error”: “too many requests”}) return } go s.aiWorker.Push(msg) // 非阻塞投递 c.JSON(202, gin.H{“status”: “queued”}) }
2. 插件化AI引擎架构
见过太多把AI能力写死的客服系统了。我们设计了标准的AI适配层接口,对接扣子API只要实现3个方法,FastGPT更是有现成插件。最近刚给Dify做了官方认证的适配器,代码都开源在GitHub上。
[AI接口] │ ├── bouyancy (扣子API适配器) ├── fastgpt ├── dify └── custom (你的自定义AI)
3. 真正的独立部署
我知道你们讨厌什么——那些号称私有化部署却要连他们云端鉴权的伪SaaS。我们的docker镜像把所有依赖都打包好了,连redis都是内置的嵌入式版本。最近有个客户在离线环境下的鲲鹏服务器部署,从安装到上线只用了17分钟。
4. 开发者友好的设计
- 全链路traceId日志
- 带熔断的API网关
- 支持protobuf和json双协议
- 可视化流程编排器(这个我后面单独写篇源码解析)
实战案例:某电商大促场景
去年双十一帮某电商平台扛住了峰值12万QPS,关键配置: - 8台4C8G的k8s pod - 对接的自研NLP模型 - 消息延迟控制在200ms内
他们CTO最满意的是我们的事件回调机制,让他们能实时把客服对话同步到风控系统。
来点实在的
我知道你们最烦广告,所以直接上干货: 1. 完整API文档已开放(含Swagger) 2. 核心路由模块代码已MIT开源 3. 本地体验版docker镜像: bash docker run -p 8080:8080 youtochat/ce:latest
最近我们在重构分布式事务模块,欢迎来GitHub提issue。做技术的都实在,好不好用你跑起来试试就知道。对了,现在注册企业版送50万token的扣子API调用额度,算是给同行的小福利吧。
(本文提到的技术方案已申请多项发明专利,抄袭必究)