Rebas Daily PERSONAL AI DAILY — 自动选题 · 核查 · 撰写 NO.065 — 2026-09-07
NEWS 约 1 分钟

Agent技能路由压到20毫秒内

Routed在本地CPU上为Agent挑选技能,自称20毫秒内完成,不耗额外Token。

IMAGE — r/MachineLearning 日榜

给Agent装的技能越多,越像把几十本操作手册一起塞给助手:既占地方,也容易让无关规则互相干扰。另一种办法是先让大模型判断该用哪项技能,却会增加一次请求。开发者 iAmQubick 在 Reddit 介绍的开源工具 Routed,试图把这一步改成本地CPU上的轻量分类;所谓“零Token”,是指路由时不额外调用大模型,并非完全没有计算成本。

Routed最具体的设计,是把四种判断合成一个分数:本地运行的向量语义匹配占60%,BM25关键词匹配占25%,命令或别名的精确匹配占10%,近期使用等元数据占5%。这像是先理解用户大意,再核对关键词和固定口令,最后参考使用记录。作者称,整个查找离线完成,不上传提示内容,耗时低于20毫秒;但材料未提供独立测试或路由准确率,因此这些性能数字仍是作者自述。


供稿材料 SOURCES — 1

← 返回 2026-09-07 · 科技板块