美國自願 AI 模型測試計劃是治理上的一大里程碑,但據報排除開放權重系統的決定造成結構性盲點。能力越來越多地通過開放或半開放發布推送,這些模型可被微調、量化並與工具和代理組合。缺乏標準化測試通道,這些模型將以零散或臨時評估方式進入產品和研究,為買家、CISO 和合規負責人帶來不確定性,他們必須回答模型是否在不同情境和版本中符合安全和政策要求。
自願計劃通常成為採購規範、風險披露和保險問卷的基礎。當開放權重模型不在此基礎內時,部署者承擔舉證責任。這意味著必須構建涵蓋誤用風險、生物/化學/傷害促進、欺騙性使用、模型規格合規、兒童安全過濾器及安全態勢的證據,涵蓋權重變體和微調。這也使模型來源變得複雜:一旦權重被下載,監管鏈和補丁管理成為企業責任,而不僅是供應商保證,並需要新的運營控制以保持審計準備。
實際效果將是雙速治理市場。封閉供應商可指向官方測試參與,而開放權重供應商和整合者必須自行提供證明、紅隊工件和基準可重現性。企業將通過強化接收流程回應:要求模型供應商軟體物料清單(SBOM)、簽署的權重清單、受控微調流程和與特定檢查點相關的事件響應手冊。法律團隊將推動微調後禁止能力的保證,而安全團隊將堅持在模型可修改時實施隔離和出口政策。採購將越來越多地在保證成熟度上區分,而非僅是準確度或延遲。
從戰略上看,這一缺口可能加速開放權重保證的創新:標準化模型證明、社群運營的評估套件以及安全信號的互操作性。但也可能導致合規碎片化,因為美國買家、歐盟/英國監管機構和行業機構採取不同期望。精明的建構者應預期通過採購實現趨同:大型買家可要求與公開測試相符的統一證據包。贏家將結合開放權重的靈活性與可驗證控制——版本化檢查點、簽署的適配器、透明的安全緩解措施及與受管制行業相關的真實誤用場景持續評估。


