在浏览器里跑AI,难点不只是“能不能跑”,还包括同一项运算换台电脑、换个浏览器后,速度可能差很多。Hugging Face为此发布了@huggingface/kernels:一套可直接加载和运行WebGPU内核的轻量JavaScript库,以及首批207个内核。WebGPU是让网页调用设备GPU做通用计算的标准;内核则是矩阵乘法、归一化等模型反复使用的基础小程序。
值得注意的不是单纯凑出207个算子,而是每个内核都作为独立、带版本的软件包发布,附有接口定义、WGSL着色器模板、正确性测试、性能测试和使用说明。换句话说,开发者拿到的不只是一段GPU代码,还有一套可复现的“说明书和验收单”。Hugging Face还推出浏览器内测试工具Fleet,让用户在自己的GPU上运行并评分;经用户同意,结果可用于发现算错或异常缓慢的情况。它为更多AI任务留在本机、减少网络依赖提供了底层条件,但实际速度仍取决于设备、浏览器、输入形状和可用功能。