미국의 자발적 AI 모델 테스트 계획은 거버넌스에 중요한 이정표이지만, 오픈 웨이트 시스템을 제외하기로 한 결정은 구조적인 사각지대를 만듭니다. 역량은 점점 더 미세 조정, 양자화, 도구 및 에이전트와의 조합이 가능한 오픈 또는 반오픈 릴리스를 통해 확산되고 있습니다. 표준화된 테스트 경로가 없으면 이러한 모델은 단편적이거나 임시적인 평가와 함께 제품과 연구에 퍼져 나가게 되어, 구매자, 최고정보보호책임자(CISO), 준수 담당자가 모델이 다양한 맥락과 버전에서 안전 및 정책 요구사항을 충족하는지 여부를 판단하는 데 불확실성을 초래합니다.
자발적 프로그램은 종종 조달 규범, 위험 공개, 보험사 설문지의 기준점 역할을 합니다. 오픈 웨이트 모델이 그 기준점 밖에 있으면, 배포자는 증명의 부담을 떠안게 됩니다. 이는 오용 위험, 생물/화학/해악 촉진, 기만적 사용, 모델 사양 준수, 아동 안전 필터, 보안 태세를 가중치 변형 및 미세 조정 전반에 걸쳐 다루는 증거를 구축해야 함을 의미합니다. 또한 모델 출처 관리가 복잡해집니다. 가중치를 다운로드하면 소유권 연쇄와 패치 관리는 단순한 공급업체 보증이 아니라 기업의 책임이 되며, 감사 준비 상태를 유지하기 위한 새로운 운영 통제가 필요합니다.
실질적인 효과는 두 속도의 거버넌스 시장이 될 것입니다. 폐쇄형 공급자는 공식 테스트 참여를 지적할 수 있는 반면, 오픈 웨이트 공급자와 통합자는 자체 증명서, 레드팀 산출물, 벤치마크 재현성을 제공해야 합니다. 기업은 모델 SBOM, 서명된 가중치 명세서, 통제된 미세 조정 파이프라인, 특정 점검 지점에 연계된 사고 대응 매뉴얼을 의무화하여 수용 절차를 강화할 것입니다. 법무팀은 미세 조정 후 금지된 기능에 대한 보증을 요구하고, 보안팀은 모델 수정이 가능한 경우 격리 및 출구 정책을 강력히 요구할 것입니다. 조달은 정확도나 지연 시간뿐 아니라 보증 성숙도를 기준으로 점점 더 차별화될 것입니다.
전략적으로 이 격차는 오픈 웨이트 보증 분야의 혁신을 가속화할 수 있습니다: 표준화된 모델 증명서, 커뮤니티 주도 평가 스위트, 안전 신호 상호운용성 등이 그것입니다. 그러나 미국 구매자, EU/영국 규제기관, 부문별 기관이 상이한 기대치를 채택하면서 준수가 분열될 수도 있습니다. 현명한 빌더는 조달을 통해 수렴을 예상해야 합니다: 대형 구매자는 공개 테스트를 반영한 조화된 증거 패키지를 요구할 수 있습니다. 승자는 버전 관리된 점검 지점, 서명된 어댑터, 투명한 안전 완화책, 규제 산업과 관련된 실제 오용 시나리오에 맞춘 지속적 평가를 포함한 검증 가능한 통제를 갖춘 오픈 웨이트 유연성을 패키징할 것입니다.