Thông báo của Anthropic đặt lại một câu hỏi quan trọng trong lĩnh vực an ninh mạng: làm thế nào khai thác các mô hình tạo sinh tiên tiến nhất cho mục đích phòng thủ mà không vô tình tiếp tay cho hành vi lạm dụng. Sứ mệnh An ninh mạng mang đến hai dịch vụ cụ thể. OSS Scanner gửi định kỳ các báo cáo lỗ hổng do mô hình tạo ra trực tiếp đến những dự án mã nguồn mở đã đăng ký; báo cáo bao gồm bằng chứng khai thác thử nghiệm và bản vá được đề xuất. Để ưu tiên tốc độ, các báo cáo này được gửi đi mà không qua khâu chuyên gia đánh giá. Trong khi đó, Chương trình Bảo vệ Hạ tầng Trọng yếu (CIDP) kết hợp mô hình, nghiên cứu mối đe dọa và kỹ thuật triển khai tại chỗ thông qua mạng lưới các nhà cung cấp OT và đơn vị an ninh uy tín, nhằm tăng cường bảo vệ lưới điện, hệ thống cấp nước và mạng lưới giao thông.
Với các nhà duy trì dự án mã nguồn mở, lợi ích trước mắt rất rõ ràng: phát hiện theo nhịp độ của máy, đi kèm đề xuất khắc phục, có thể rút ngắn đáng kể thời gian từ lúc phát hiện đến khi xử lý. Anthropic kỳ vọng tỷ lệ phát hiện đúng vượt 90% và sẽ tiếp tục cải thiện chất lượng bản vá. Tuy nhiên, các báo cáo do mô hình tạo ra nhưng chưa được kiểm duyệt sẽ làm thay đổi quy trình làm việc của nhà duy trì: các nhóm cần phân loại và đánh giá nhiều hơn, xác minh khả năng khai thác nhanh hơn, đồng thời tích hợp quy trình vá tự động hoặc bán tự động. Những dự án không đủ khả năng xử lý lượng cảnh báo tăng cao được khuyến nghị tiếp tục sử dụng quy trình tiết lộ lỗ hổng đã qua chuyên gia xác minh — Anthropic vẫn sẽ phối hợp tiết lộ thông tin thông qua chương trình hiện có.
Môi trường công nghệ vận hành (OT) đặt ra những ràng buộc và rủi ro khác biệt. Các đối tác của CIDP — gồm đơn vị tích hợp hệ thống, công ty an ninh và nhà sản xuất thiết bị — là những trung gian đáng tin cậy mà đơn vị vận hành dựa vào để áp dụng bản vá an toàn. Cách tiếp cận của Anthropic khá thực tế: bắt đầu với một nhóm nhỏ, tìm hiểu cách tích hợp mô hình vào quy trình phân loại sự cố và kiểm soát thay đổi OT hiện có, sau đó mở rộng có chọn lọc. Chương trình tính đến những đặc thù của OT: thiết bị có vòng đời dài, thời gian bảo trì hạn chế và hậu quả nghiêm trọng nếu bản vá sai hoặc được triển khai không đúng lúc.
Hàm ý rộng hơn là hoạt động phòng thủ cũng có thể vận hành với tốc độ của máy, nhưng chỉ khi có thêm các lớp xác minh mới. Phát hiện do mô hình tạo ra giúp đẩy nhanh việc tìm lỗi, đồng thời có thể tạo ra nút thắt ở khâu xác minh và các cảnh báo sai, khiến nhà duy trì vốn đã thiếu thời gian phải lãng phí công sức hoặc — nghiêm trọng hơn — dẫn đến việc triển khai bản vá quá sớm trên các hệ thống OT mong manh. Các tổ chức muốn tận dụng những công cụ này cần cập nhật quy trình ứng phó, bao gồm phân loại sự cố, kiểm thử tự động, triển khai theo mức độ ưu tiên và các quy trình pháp lý, phối hợp để chia sẻ có trách nhiệm dữ liệu lỗ hổng chưa được kiểm chứng.


