22M请求背后的ChatGPT存储层
你发出一条消息时，ChatGPT不只要生成回答，还要快速读取和保存会话及产品状态。负责这件事的不是模型，而是在线存储层——为运行中的产品快速读写用户和业务数据的基础设施。它一旦变慢或故障，回答生成得再快，产品也可能不稳定。
OpenAI称，其内部平台Habitat已经从一个Python library演进为全球分布式存储平台，服务覆盖10亿ChatGPT用户，每秒处理2200万次请求。需要注意，这些规模数字均来自OpenAI单一信源，尚无第三方材料交叉印证。
从工具库到统一入口
据OpenAI介绍，Habitat是在线用户数据的记录系统，也是Online Data团队提供的统一产品入口。它覆盖存储、缓存、路由、数据放置以及隐私访问控制。
这里的“全球分布式”，可以理解为把数据和请求分散到多台服务器及不同地区，同时处理一致性、故障切换和访问延迟。它解决的核心问题很朴素：用户遍布各地，数据不能只放在一台机器、一个地点。
OpenAI的招聘资料还显示，Habitat正在发展为面向多种内部需求的全栈数据库平台，负责跨地区、高QPS、延迟敏感的工作负载。QPS即系统每秒处理的请求数，用来描述吞吐量，但不能单独说明每次请求有多复杂、响应有多快。
真正值得看的不是大数字
Habitat的意义，在于展示AI产品规模扩大后，挑战不只来自模型。存储、缓存、路由和权限控制这些不直接生成答案的系统，同样决定服务能否稳定运行。一个Python库如何逐步承担全球产品的数据职责，也让它成为少见的超大规模AI基础设施案例。
局限与未知
- “10亿用户”更可能指平台覆盖总量，不能改写为同时在线或活跃用户。
- “22M requests per second”未说明峰值、持续吞吐或统计周期，也不等于每秒2200万次ChatGPT对话。
- 原文摘要未披露地域数量、一致性模型、故障切换方式及延迟数据，暂时无法进一步判断其架构取舍。