检查 Token:大模型推理中的实时自验证与精确截断
据这篇预印本作者报告:研究人员提出“检查 Token”(Check Token),这是一种受 ECC 内存校验位启发的功能性标记,可在大语言模型生成过程中实现实时自验证与精确截断。

原文配图暂不可用
据这篇预印本作者报告:受纠错码(ECC)内存的启发,研究人员引入了“检查 Token”(<CHECK>),为大语言模型推理流提供内置的自验证机制。类似于不携带数据但以约 12.5% 开销保护数据完整性的校验位,检查 token 不携带推理内容并在触发后被丢弃,开销约为 13%。当模型输出该标记时,会触发自我检查、错误定位、截断和重写。作者实现了推测性分叉(speculative forking)以消除误报延迟,并采用分段奖励使触发时机端到端可学习。在 Qwen3-32B 和 Qwen3-Next 模型上的实验表明,该方法在 1.13 倍开销下使 HMMT25 基准测试准确率提升了 10.8 个百分点,其 Token 效率达到了 Best-of-8 采样的 88 倍。作为预印本,其代码可用性及在更广泛模型上的泛化能力仍有待独立验证。
查看筛选依据
预印本阶段未明确
重要性 83/100
信号85结构84影响79可信度75热度70
关于这篇简报
- 内容类型
- 研究摘要
- 信源类型
- 第一方/官方来源
- 原文发布时间
- 处理方式
- AI 辅助发现、翻译、摘要、分类与评分;编辑标准和纠错由编辑部维护。
- 核验边界
- 保留原始链接与发布信息;除非特别说明,本简报不构成独立事实核查。
- 发布方
- Polyemergence Editorial Desk · PolyEmergence Pte Ltd.
- 利益冲突
- 无已声明的财务或商业利益冲突。