本地工作站终于有人管显存抢占了

一台工作站同时开几个本地 AI 工具，常见场面是：每个都想占满 GPU 显存，用户只好反复关服务、卸模型。FeydRowan 为此做了 vramble——一个显存调度器，统一决定哪个模型先用显存、哪个排队，以及何时卸载模型。

vramble 在请求与模型服务之间加了一层分发机制：任务到来时自动加载所需模型，空闲时再把它移出显存；资源不够，就用优先级队列安排先后。它把本刊此前关注的“单个 MoE 模型内部如何分配 GPU”，扩大到了多个完整模型和服务之间的资源争抢。项目以 MIT 许可证发布在 GitHub。不过作者也明确表示，这是刚完成的新项目，目前只确认适用于自己的机器，尚不能保证开箱即用；材料也未披露换入等待时间或系统化测试结果。