速览 BRIEFS — 9
NEWS
llama.cpp接入MiniCPM-V 4.7
MiniCPM-V 4.7尚未亮相,llama.cpp已提前合并运行支持。
NEWS
单张3090跑出140 tok/s
为单张 RTX 3090 定制 CUDA 巨型内核,Qwen3.8-27B 代码生成自测达 140 tok/s。
NEWS
vLLM加入SystemOne接口
vLLM新增SystemOne决策接口,让应用直接获得限定答案的概率分布。
REPO
一份文件约束Claude Code
把编码模型的常见毛病写进一份项目指令,让 Claude Code 少猜、少改、先验证。
REPO
Decepticon让红队Agent自主出手
Decepticon把侦察、利用漏洞到横向移动串成自主红队执行链,并用行动规则约束出手。
NEWS
把密集模型直接改成MoE
用消费级显卡把现有稠密模型改成 MoE,以约四成 MLP 计算换取有限但明显的性能损失。
NEWS
毛绒玩具装进全本地语音Agent
一只毛绒玩具把听、想、说和记忆全留在局域网,展示隐私优先的实体 AI 如何落地。
NEWS
四张R9700搭出创业公司AI机
1.8万美元、四张AMD显卡,为小团队自建AI推理服务器提供了一份成本样本。
NEWS
5090停产传闻搅动本地AI硬件
RTX 5090停产传闻发酵,若旗舰芯片转向专业卡,本地AI硬件成本可能上升。