教一个通用 AI 读懂 DNA,像让只读过普通书的人突然接手基因实验记录:光认识字不够,还得补领域教材、示范题和可判分的练习。FineDNA 公开的正是这套完整训练材料。据 Hugging Face 介绍,它用于把 Qwen3-14B 继续训练成 DNA 专用模型 Carbon-X,代码和训练配方也已开放。
其中最重的一环是 3020 亿 token 的中期训练——即让预训练模型继续大量阅读领域材料。Token 是模型处理信息的基本单位,并不等同于碱基数量。这批数据由 55% 原始 DNA、20% 英文、15% 生物文本和 10% 指令数据组成。之后还有 SFT(用示范答案教模型按问题作答)的 20 个数据子集,以及 RL(根据奖励继续调整模型):首轮使用 98433 条可由程序核验的提示,第二轮筛出 58249 条。它的价值不只在规模,更在于从“读懂序列”到“回答问题、接受校验”的数据链一次开放,其他语言模型也能沿用。