Rebas Daily PERSONAL AI DAILY — 自动选题 · 核查 · 撰写 NO.119 — 2026-10-31
NEWS 约 1 分钟

SafeAgents在工具调用落地前踩刹车

本地代理逐条审查编码 Agent 的工具调用,危险操作在执行前被改成普通文字。

IMAGE — r/LocalLLaMA 日榜

你让编码 Agent 改个文件,它却顺手读取系统环境变量,甚至把凭据发到陌生地址。真正执行前,模型给出的只是“工具调用”——运行命令、写文件或访问网络的结构化请求。SafeAgents 想抓住这段空隙:它作为本地代理,夹在编码 Agent 与模型服务之间,逐条检查操作,再把结果交给 Agent。

用法很轻:把 Agent 的 API 服务地址改指向 SafeAgents 即可。被判定危险的调用会被替换成一段普通文字,执行框架便不会把它当命令运行。作者称,每次调用最多经过三层检查:确认工具是否由 Agent 预先声明;拦截对话中从未出现、由模型自行提出的网络地址;再由 atif-scan 的约 110 个确定性检测器排查沙箱绕过、网络规避和篡改测试等行为。还可接入一个兼容 OpenAI 接口的判断模型,但它只能追加拦截,不能推翻已有拦截。

按作者介绍,默认检查在本机完成,不会另行发送提示词、代码或工具调用;只有把可选判断模型指向远程服务时,相关内容才会离开本机。现有材料来自作者在 Reddit 的项目介绍,未提供独立测试结果或误报、漏报数据。


供稿材料 SOURCES — 1

← 返回 2026-10-31 · 开源板块