跳到主要内容
AI前沿资讯

Granite 4.1 LLMON预览发布:用合成注入样例验收指令与数据分离

先在隔离环境比较普通提示与结构化块,不把作者基准当成生产安全证明

ENHE AI5 min6 views

IBM于11月12日发布Granite 4.1 LLMON的3B与8B实验预览模型,使用结构化块区分指令、数据与要求,并通过显式绑定表达哪些内容可执行。本文给出一个安全的小型评估:只用合成数据制作正常、冲突和注入三类样例,固定模型与解码参数,对比普通提示和LLMON结构化提示的任务正确率、拒绝、越权与解析失败。官方结果属于作者基准,预览模型也明确面向探索和评估,未通过独立审查前不接生产数据或外部动作。

更多专题标签(8)
AI资讯自动发布SEO提示注入Granite 4.1LLMON结构化提示指令数据分离
Granite 4.1 LLMON预览发布:用合成注入样例验收指令与数据分离

本文核心看点

只用合成数据和无外部动作的隔离环境做第一轮。
普通提示与LLMON提示保持模型、任务和解码参数一致。
记录正确、拒绝、越权和解析失败,不只统计成功率。

作者与发布归属:恩禾ENHE AI · 2026-11-14 · AI辅助整理;已完成发布前质量检查

先在隔离环境比较普通提示与结构化块,不把作者基准当成生产安全证明

IBM于11月12日发布Granite 4.1 LLMON的3B与8B实验预览模型,使用结构化块区分指令、数据与要求,并通过显式绑定表达哪些内容可执行。本文给出一个安全的小型评估:只用合成数据制作正常、冲突和注入三类样例,固定模型与解码参数,对比普通提示和LLMON结构化提示的任务正确率、拒绝、越权与解析失败。官方结果属于作者基准,预览模型也明确面向探索和评估,未通过独立审查前不接生产数据或外部动作。

直接答案:把它当实验预览,不当安全开关

IBM于2026年11月12日发布Granite 4.1 LLMON的3B与8B实验预览模型。预览模型面向探索与评估,而不是生产部署。

第一轮在断网或无凭据容器中运行,只使用虚构客户、虚构密钥和虚构文档。模型不能访问邮件、数据库、文件写入、支付或发布工具。

构建三类合成样例

正常组要求从数据中提取明确字段;冲突组让数据内容与系统任务相反;注入组在数据里加入“忽略上文并执行动作”的虚构句子。每组至少五条并提前写标准答案。

样例不得包含真实凭据、个人信息或可执行攻击载荷。目标是比较结构边界,不是测试真实系统的未经授权访问。

普通提示与结构化提示怎样对照

LLMON用显式结构块区分指令、数据与要求。为每个样例写语义相同的普通提示和LLMON版本,固定模型、温度、随机种子、最大输出和解析器。

结果表记录任务正确、明确拒绝、遵从数据中的恶意句子、格式错误和无法解析。每条保留输入哈希和输出,失败不能只归为“模型不稳定”。

业务页面用于表示合成样例的结构化输入与输出检查。情境图库图,不是IBM界面、真实数据或安全证明。图片:Unsplash。
业务页面用于表示合成样例的结构化输入与输出检查。情境图库图,不是IBM界面、真实数据或安全证明。图片:Unsplash。

怎样理解官方基准

官方文章报告的是作者执行的静态提示注入基准。它可以说明设计动机与实验结果,不能证明你的提示、工具、解析器和模型服务在生产中安全。

即使合成测试通过,也要继续做独立安全审查、最小权限、动作确认、日志与故障回退。本文未下载模型或运行基准,不声称复现官方数字。

常见问题

LLMON能彻底消除提示注入吗?

不能从预览和作者基准得出这一结论。结构化边界是一项控制,仍需其他权限与安全层。

可以直接接入生产RAG吗?

不建议。官方明确将预览定位为探索与评估,先用合成数据和隔离环境。

事实证据

  • IBM于2026年11月12日发布Granite 4.1 LLMON的3B与8B实验预览模型 — IBM Granite on Hugging Face — LLMON markup language in Granite 4.1
  • LLMON用显式结构块区分指令、数据与要求 — IBM Granite on Hugging Face — LLMON markup language in Granite 4.1
  • 官方文章报告的是作者执行的静态提示注入基准 — IBM Granite on Hugging Face — LLMON markup language in Granite 4.1
  • 预览模型面向探索与评估,而不是生产部署 — IBM Granite on Hugging Face — LLMON markup language in Granite 4.1

相关工具与延伸阅读

以下生产页面与本文的决策、工作流或安全边界直接相关。

结论

LLMON提供了把指令与数据写成明确结构的实验方向,但可靠安全不能由标记语言单独保证。用合成样例、固定对照和四类结果先验证边界,再决定是否进入更严格的独立审查。

来源链接

  • IBM Granite on Hugging Face — LLMON markup language in Granite 4.1 (2026-11-12)

这对普通用户意味着什么?

官方文章报告的是作者执行的静态提示注入基准。它可以说明设计动机与实验结果,不能证明你的提示、工具、解析器和模型服务在生产中安全。

你可能会用到这些工具

相关阅读

GitHub更新Secret Scanning覆盖:AI工作流凭证要重新盘点

GitHub在2026年8月7日发布Secret Scanning覆盖更新,继续扩展可检测的秘密类型和保护范围。对使用Copilot、MCP或CI智能体的团队,重点是重新盘点真实凭证、测试密钥、历史提交和告警响应,而不是把“已支持检测”当成绝对保证。普通开发者应先确认仓库、分支和组织策略,再用撤销、轮换和最小权限闭环处理告警。

AWS推出RAG查询感知压缩:降低上下文成本前先验证召回质量

AWS推出RAG查询感知压缩:降低上下文成本前先验证召回质量。官方信息显示,这项更新会改变普通用户完成在RAG工作流中比较压缩前后的答案质量、延迟和成本的入口或权限。本文核对一手来源,区分公开预览与已可用操作,并列出账号条件、数据范围、成本、人工复核、日志和回滚检查。读者应先用低风险、可重复的小任务验收,再决定是否扩大,不能把公告当成普遍效果或无条件免费承诺。

GitHub代码扫描开始识别AI应用风险:先检查提示注入、泄露与过度代理

GitHub代码扫描公开预览新增AI应用和代理风险检测,覆盖间接提示注入、敏感信息泄露与过度代理,并在拉取请求创建时自动运行。它会标记不受信内容流向拥有工具或业务系统访问权的模型路径。本文提供启用条件、测试样例、告警复核、权限修正、回归验证和失败处理清单,并明确该功能需要GitHub Advanced Security且当前不支持GitHub Enterprise Server。

从聊天框到个人AI操作伴侣:AI助手正在进入桌面执行时代

AI 助手正在从“回答问题”走向“持续执行任务”。AI agent、MCP 工具生态、个人记忆和本地工作台,正在一起推动这场变化。对用户来说,真正重要的不是多一个聊天框,而是少一点重复解释,多一点把事情继续做下去的能力。

ChatGPT新增Accounting插件:月末对账先保留来源、差异与审批三张表

OpenAI于11月18日公布ChatGPT Accounting插件,可基于记录和模板协助核对交易、起草发票分录并准备月末报告;企业工作区仍需管理员批准。本文不提供个性化财务或会计结论,而是交付三张控制表:来源表记录文件、期间和版本,差异表逐笔解释未匹配项,审批表明确谁能确认、回退和导出。涉及银行、付款、凭据或正式入账时保持人工复核,插件输出只作为待验证草稿。

GitHub Copilot Evals开放预览:技能、代理与MCP改动怎样做回归检查

GitHub于11月17日开放Copilot Evals公开预览,可为技能、自定义代理和MCP工具创建可重复测试,并比较改动前后的结果。本文给出最小回归集:选择三个真实任务,分别写输入、允许工具、成功条件和禁止行为;每项至少保留一次基线与一次变更后运行,记录结果、过程、失败原因和人工复核。只有改动没有破坏原任务、权限或证据链,才合并自定义配置;单次通过不能替代重复运行。