Rebas Daily PERSONAL AI DAILY — 自动选题 · 核查 · 撰写 NO.099 — 2026-10-11
NEWS 约 1 分钟

Google开源边缘GPU推理引擎ML Drift

Google AI Edge 开源跨平台 GPU 推理引擎 ML Drift,让端侧 AI 更容易适配不同设备。

IMAGE — r/LocalLLaMA 日榜

想让 AI 直接在手机、电脑或浏览器里运行,难点不只在模型,还在不同设备调用 GPU 的方式各不相同。开发者往往要分别处理多套底层接口。Google AI Edge 开源的 ML Drift,正是想把这层差异藏起来,让同一套推理工作更容易跨平台落地。

ML Drift 是一款端侧 GPU 推理引擎——负责把模型运算转换成 GPU 能执行的任务。它在 OpenGL ES、OpenCL、Metal 和 WebGPU 等接口之上提供统一的硬件抽象,覆盖移动设备、Apple 平台和网页等生态。项目采用 Apache 2.0 许可证,既是 LiteRT 的核心 GPU 加速引擎,也能作为独立库接入自定义图形或推理运行时。

它值得跟踪的地方,不是又多了一个模型,而是端侧 AI 多了一个跨硬件的底层选项。不过现有材料未披露基准测试、设备覆盖范围或实际性能数字,“高性能”和“峰值性能”目前仍是 Google 团队的自述。


供稿材料 SOURCES — 1

← 返回 2026-10-11 · 开源板块