想象上百万名访客各自给仓库里的无数货架打电话:电话线本身就可能先把系统拖垮。Meta 的 ZippyDB 是一种分布式键值存储——把配置、计数器等“键—值”数据拆到多台服务器上。客户端直接访问大量分片时,会织出密集的连接网,带来内存不足等风险。
据 InfoQ 报道,Meta 在两者之间加入 ZGateway:一个无状态代理,也就是不依赖本机保存会话、专门集中转发请求的中间层。客户端先连附近的区域网关,再由受控的网关集群连接数据库。它目前承担 ZippyDB 约 40% 的流量,每秒处理超过 10 亿次操作;按 Meta 的模型估算,每台主机的连接数下降约 97% 至 98%,持久连接总数降至原来的约 1/19。
多绕一站会增加网络跳数,但也让数据库少操心连接管理。ZGateway 还能统一做鉴权、限流、缓存和请求合并。这个案例的价值正在于此:面对大规模 AI 服务可能带来的海量访问,先把连接和流量治理收拢到共享中间层,往往比让每个客户端直连数据库更可控。不过,上述连接降幅来自模型估算,并非完整生产实测结果。