美国的自愿人工智能模型测试计划是治理的一个里程碑,但据报道排除开放权重系统的决定造成了结构性盲点。能力越来越多地通过开放或半开放发布推动,这些模型可以通过工具和代理进行微调、量化和组合。没有标准化的测试通道,这些模型将以零散或临时的评估方式传播到产品和研究中,给必须回答模型是否符合跨上下文和版本的安全及政策要求的购买者、首席信息安全官和合规负责人带来不确定性。
自愿项目通常成为采购规范、风险披露和保险问卷的基础。当开放权重模型不在该基础之内时,部署者必须承担举证责任。这意味着需要构建涵盖滥用风险、生物/化学/伤害促进、欺骗性使用、模型规范合规性、儿童安全过滤器以及跨权重变体和微调的安全态势的证据。这也使模型来源复杂化:一旦权重被下载,监管链和补丁管理成为企业责任,而不仅仅是供应商的保证,需要新的运营控制以保持审计准备状态。
实际效果将是一个双速治理市场。封闭提供商可以指向官方测试参与,而开放权重提供商和集成商必须提供自己的证明、红队工件和基准可复现性。企业将通过强化接收流程作出响应:要求模型供应商提供软件物料清单(SBOM)、签名权重清单、受控微调流程和与特定检查点相关的事件响应手册。法律团队将推动针对微调后禁止能力的保证,而安全团队将坚持在模型可修改的情况下实施隔离和出口策略。采购将越来越多地基于保证成熟度而非仅仅是准确性或延迟进行区分。
从战略上看,这一空白可能加速开放权重保证的创新:标准化模型证明、社区运行的评估套件以及安全信号的互操作性。但它也可能导致合规碎片化,因为美国买家、欧盟/英国监管机构和行业机构采用不同的期望。精明的构建者应通过采购预见趋同:大型买家可以要求与公共测试相匹配的统一证据包。赢家将把开放权重的灵活性与可验证的控制结合起来——版本化检查点、签名适配器、透明的安全缓解措施以及与受监管行业相关的真实滥用场景对齐的持续评估。


