LLMON：专为大模型打造的原生标记语言，现已登陆 Granite 4.1 3B 与 8B

背景与动机

大语言模型非常依赖上下文来生成后续内容，但像 JSON 这样的传统格式原本是为解析器设计的，而不是为因果语言模型准备的。由于大模型很难准确追踪长文本中的嵌套结构和括号，它们常常表现得很脆弱，甚至容易遭到提示词注入等攻击。为此，开发团队推出了 LLMON（LLM Object Notation），这是一种采用类似 XML 结构的标记语言，通过特殊的保留符号来明确划分指令、数据和各项要求。

实现细节与实际效果

基于 Granite 4.1 基础模型改进的两个实验性预览版——granite-4.1-3b-LLMON-preview 和 granite-4.1-8b-LLMON-preview 现已发布，并附带了相关的 GitHub 工具包。与将所有内容压缩成一个字符串的传统聊天模板不同，LLMON 会用有意义的标签包裹不同的语义组件，并通过执行块把特定的指令同对应的数据精确绑定。在 OPI 基准测试中，这些模型基本消除了间接提示词注入带来的安全隐患，在抗攻击能力上大幅超越了普通开源和闭源模型，同时保持了原有的通用性能。