Báo cáo mối đe dọa mới nhất của Anthropic chi tiết cách kẻ tấn công tích hợp Claude vào các chiến dịch đa giai đoạn—bao gồm hoạt động mạng, giám sát, lừa đảo và chưng cất mô hình bất hợp pháp—biến AI từ trợ lý trò chuyện thành người điều phối. Chúng tôi phân tích những thay đổi, cách đo lường sự gia tăng, ai là đối tượng rủi ro và cách các nhà lãnh đạo nên ứng phó ngay bây giờ.
Thông tin tình báo mối đe dọa mới nhất của Anthropic cho thấy sự thay đổi cơ cấu trong việc lạm dụng AI: Claude không còn bị kích hoạt bằng các lệnh độc hại đơn lẻ mà được tích hợp vào các hoạt động đa giai đoạn có tổ chức. Trong hai quý vừa qua, các tác nhân đã kết hợp lập kế hoạch nhiệm vụ, thiết lập hạ tầng, thực hiện phishing và phân loại dữ liệu hàng loạt với các tác nhân điều khiển bởi mô hình. Tác động thực tế là các chiến dịch tinh vi có thể được vận hành bởi ít người hơn với công cụ tùy chỉnh ít hơn, rút ngắn chu kỳ học hỏi của kẻ tấn công và tăng áp lực cơ bản lên những người phòng thủ dựa vào phát hiện tĩnh và kịch bản thủ công.
Anthropic đánh giá sự gia tăng dựa trên tốc độ, quy mô và độ sâu. Tốc độ phản ánh mức độ nhanh chóng mà các nhà điều hành thích nghi sau khi bị phát hiện; quy mô thể hiện phạm vi mục tiêu rộng hơn và sự thay đổi hạ tầng; độ sâu đo lường hiệu quả xử lý và khai thác dữ liệu bị đánh cắp. Trong các nghiên cứu điển hình, tự động hóa đã khép kín vòng lặp giữa phát hiện và điều chỉnh lại, trong khi các tác nhân xử lý trinh sát, xây dựng khung hoạt động và phân loại. Điều này không đòi hỏi các lỗ hổng zero-day mới để trở nên nguy hiểm—lợi thế tích lũy đến từ sự phối hợp, kiên trì và lặp đi lặp lại không ngừng các kỹ thuật phổ thông được AI làm cho hiệu quả.
Đối với doanh nghiệp và các tổ chức công, bài học rõ ràng là: các biện pháp an toàn AI phải hợp nhất với kỹ thuật an ninh cốt lõi. Chính sách chỉ lọc các lệnh không đủ nếu kẻ tấn công tích hợp mô hình vào chuỗi công cụ ngoài tầm kiểm soát của bạn. Các nhóm nên giả định việc sử dụng AI mang tính đối kháng trong email, nhận dạng, đám mây và quy trình truy cập dữ liệu; trang bị công cụ giám sát phù hợp; và gây áp lực với nhà cung cấp để chia sẻ tín hiệu và cung cấp các điểm cuối giới hạn tần suất, nhận biết chính sách. Bộ phận mua sắm và đội đỏ nên kiểm tra khả năng chống lạm dụng mô hình, trong khi SOC áp dụng các phát hiện dựa trên mẫu tự động hóa do AI điều khiển thay vì chỉ dựa vào chữ ký của công cụ hoặc payload riêng lẻ.
Cách Anthropic Định Hình Sự Gia Tăng: Tốc Độ, Quy Mô, Độ Sâu
Đo lường rủi ro qua nhịp độ hoạt động, phạm vi mục tiêu và độ sâu khai thác hậu xâm nhập.
Tốc độ: cấu hình lại do AI điều khiển rút ngắn vòng phản hồi của kẻ tấn công sau khi bị phát hiện. Quy mô: quản lý tự động tên miền và hạ tầng mở rộng phạm vi mục tiêu đồng thời giảm chi phí mỗi lần thử. Độ sâu: khả năng ngôn ngữ và mã hóa tăng tốc phân loại, tóm tắt và khai thác giá trị từ bộ dữ liệu lớn, cho phép các hành động tiếp theo có mục tiêu hơn. Các nhóm nên áp dụng các chiều này làm KPI trong các bài tập bàn tròn và kỹ thuật phát hiện: theo dõi thời gian trung bình để kẻ thù điều chỉnh, mô hình hóa cách hạ tầng thay đổi né tránh kiểm soát tĩnh, và kiểm tra tốc độ môi trường của bạn phát hiện hành vi phân loại tự động trên hộp thư, kho đám mây và nền tảng cộng tác.
Ai Đang Bị Phơi Bày: Các Ngành, Hệ Thống và Quy Trình
Nhận dạng, email và cộng tác đám mây vẫn là các mục tiêu dễ tổn thương nhất với tác động lớn.
Chính phủ, chuỗi cung ứng liên quan đến quốc phòng, nhà cung cấp quan trọng và các tổ chức nghiên cứu là mục tiêu ưu tiên, nhưng bất kỳ doanh nghiệp nào có nhận dạng liên kết, email đám mây và dữ liệu phân tán đều bị phơi bày. Các chiến dịch tăng cường AI thường lạm dụng các luồng đăng nhập hợp pháp, gieo mồi thuyết phục và đăng ký thiết bị hoặc ứng dụng để duy trì sự tồn tại. Việc lạm dụng giám sát tập trung vào ranh giới ủy quyền yếu và dịch vụ truyền phát hoặc thu thập dữ liệu cấu hình sai. Gian lận tận dụng kỹ thuật xã hội tinh vi và tạo nội dung hàng loạt. Chưng cất bất hợp pháp khai thác quyền truy cập rộng rãi vào đầu ra mô hình và tài liệu đào tạo. Điểm chung là tự động hóa được xếp lớp trên các quy trình hợp pháp để giảm thiểu tín hiệu bất thường.
Các Biện Pháp Phòng Thủ: Hợp Nhất Quản Trị Mô Hình với Kỹ Thuật An Ninh
Ưu tiên điều hướng nhận biết chính sách, truy cập chi tiết, giám sát AI bản địa và kiểm soát lạm dụng.
Triển khai các cổng mô hình nhận biết chính sách phân đoạn các chức năng rủi ro cao (mã, nhận dạng, hạ tầng) và thực thi giới hạn tần suất cùng điểm số bất thường theo từng khách hàng. Yêu cầu xác thực mạnh cho việc sử dụng API, kiểm tra trạng thái thiết bị và cô lập theo ứng dụng. Cung cấp dữ liệu giám sát lệnh và công cụ vào SIEM với quy tắc nhận diện hành vi giống tác nhân (đăng ký tên miền đột biến, luồng email kịch bản, chuyển đổi hạ tầng nhanh). Áp dụng bộ định tuyến mô hình hạ cấp hoặc chặn các nhiệm vụ rủi ro và chuyển sang chế độ an toàn hơn hoặc xem xét bởi con người. Yêu cầu nhà cung cấp hợp đồng chia sẻ chỉ số lạm dụng, giới hạn tần suất chuỗi công cụ nhạy cảm và công bố lịch trình giảm thiểu khi phát hiện né tránh.
Quản Trị và Tác Động Thị Trường
Mua sắm, kiểm toán và chuẩn mực chia sẻ tín hiệu sẽ phân biệt nền tảng bền vững với công cụ điểm.
Người mua nên xem lạm dụng mô hình như một lĩnh vực rủi ro bên thứ ba. Cập nhật RFP để đánh giá phát hiện lạm dụng, kiểm soát tần suất, phương pháp đội đỏ và chia sẻ tín hiệu liên ngành. Yêu cầu bằng chứng về phản ứng sự cố có kinh nghiệm đối với lạm dụng mô hình, không chỉ SLA về quyền riêng tư hoặc thời gian hoạt động. Nội bộ, đồng bộ hóa các nhóm an ninh, ML và tuân thủ trên một mặt bằng kiểm soát thống nhất bao gồm lưu trữ dữ liệu, lựa chọn mô hình và truy cập công cụ. Dự kiến các cơ quan quản lý sẽ thúc đẩy báo cáo về lạm dụng mô hình và cơ chế phòng thủ chung—các công ty vận hành sớm sẽ giảm thiểu phơi bày, rút ngắn thời gian vi phạm và tăng sức mạnh đàm phán với nhà cung cấp.
