Việc Meta được báo cáo sử dụng các nhà thầu giả làm thanh thiếu niên để thử nghiệm các chatbot đối thủ đã phơi bày một vấn đề an toàn AI mới: việc đánh giá cần có đạo đức, sự đồng thuận, minh bạch và các biện pháp bảo vệ.
Meta đang đối mặt với sự giám sát sau các báo cáo cho biết các nhà thầu đã được trả tiền để giả làm thanh thiếu niên trong khi thử nghiệm các chatbot AI đối thủ với các lời nhắc nhạy cảm và gây sốc. Dự án này được mô tả là đánh giá an toàn, nhưng phương pháp này đặt ra những câu hỏi khó về sự đồng thuận, quy tắc nền tảng, phúc lợi của nhà thầu và đạo đức trong việc đánh giá AI cạnh tranh.
Các công ty AI thường xuyên thực hiện các bài kiểm tra đỏ trên chính các mô hình của họ và đôi khi so sánh hiệu suất với các đối thủ cạnh tranh. Công việc đó có thể hữu ích vì các lỗi an toàn chatbot không chỉ là lý thuyết. Các mô hình được sử dụng bởi người trẻ, sinh viên, nhà sáng tạo và người tiêu dùng phải xử lý các chủ đề về sức khỏe tâm thần, tình dục, tự làm hại, thao túng và các chủ đề rủi ro cao khác một cách cẩn trọng.
Vấn đề là thị trường AI thiếu một tiêu chuẩn chung rõ ràng về cách thức thử nghiệm an toàn cạnh tranh nên được thực hiện. Nếu các công ty bí mật kiểm tra áp lực sản phẩm của nhau bằng các tài khoản giả mạo là trẻ vị thành niên và các lời nhắc rất nhạy cảm, kết quả có thể tạo ra những hiểu biết về an toàn, nhưng cũng có thể làm tổn hại đến niềm tin vào chính quá trình thử nghiệm.
Tại sao đây không chỉ là một tranh cãi về Meta
Vấn đề trung tâm không chỉ là Meta có thử nghiệm các chatbot đối thủ hay không. Vấn đề sâu xa hơn là việc đánh giá an toàn AI đang trở thành cơ sở hạ tầng cạnh tranh. Các công ty muốn biết mô hình của họ so sánh thế nào về khả năng từ chối nội dung có hại, xử lý khủng hoảng, an toàn cho thanh thiếu niên, khả năng chống bẻ khóa và các cuộc trò chuyện phức tạp về cảm xúc.
Loại thử nghiệm đó có thể giúp cải thiện hệ thống AI, nhưng nó cần có quy tắc. Nếu không có sự minh bạch và ranh giới đạo đức, việc đánh giá an toàn có thể trông giống như giám sát bí mật, thu thập dữ liệu đối kháng hoặc nghiên cứu danh tiếng được ngụy trang dưới hình thức công việc bảo vệ trẻ em.
Nhân cách thanh thiếu niên tạo ra một loại thử nghiệm rủi ro cao hơn
Thử nghiệm hệ thống AI với các kịch bản an toàn cho thanh thiếu niên là quan trọng vì thanh thiếu niên có thể tương tác với chatbot trong những khoảnh khắc dễ tổn thương về mặt cảm xúc. Các mô hình cần phản hồi an toàn, tránh leo thang, hướng người dùng đến sự hỗ trợ phù hợp và tránh đưa ra các chỉ dẫn có hại.
Nhưng việc sử dụng các nhà thầu để giả mạo trẻ vị thành niên làm thay đổi hồ sơ rủi ro. Nó có thể liên quan đến nội dung nhạy cảm, áp lực tâm lý đối với người lao động, sự đồng thuận không rõ ràng từ các nền tảng được thử nghiệm và sự không chắc chắn về cách sử dụng các kết quả thu thập được. Điều đó làm cho việc quản trị trở nên quan trọng không kém kết quả đánh giá.
Thử nghiệm an toàn cần có sự đồng thuận và khả năng kiểm toán
Việc kiểm tra đỏ có trách nhiệm nên xác định ai là người được thử nghiệm, nội dung nào được phép, cách bảo vệ phúc lợi người thử nghiệm, cách lưu trữ kết quả, dữ liệu nào có thể tái sử dụng và liệu nền tảng được thử nghiệm có cho phép hoạt động đó hay không. Những chi tiết này quan trọng vì nghiên cứu an toàn AI có thể dễ dàng chạm đến dữ liệu cá nhân, nội dung có hại và chính sách lạm dụng nền tảng.
Đối với người mua doanh nghiệp, khả năng kiểm toán là rất quan trọng. Một nhà cung cấp tự nhận có an toàn cao nên có thể giải thích quy trình đánh giá của mình, không chỉ đưa ra điểm số. Người mua nên hỏi liệu thử nghiệm là nội bộ, bên thứ ba, tổng hợp, do con người dẫn dắt, đối kháng, liên tục và được đánh giá độc lập hay không.
Việc đánh giá có thể trở thành tình báo cạnh tranh
Khi một công ty AI thử nghiệm chatbot của công ty khác trên quy mô lớn, ranh giới giữa nghiên cứu an toàn và tình báo cạnh tranh có thể trở nên mờ nhạt. Một bài đánh giá có thể tiết lộ điểm yếu của các biện pháp bảo vệ, phong cách phản hồi, ngưỡng từ chối, khoảng trống chính sách và hành vi sản phẩm dưới áp lực.
Điều này không có nghĩa là việc đánh giá cạnh tranh nên biến mất. Nó có nghĩa là ngành công nghiệp cần các chuẩn mực rõ ràng hơn, đặc biệt khi các thử nghiệm liên quan đến trẻ vị thành niên, kịch bản khủng hoảng, nội dung rõ ràng, điều khoản dịch vụ nền tảng hoặc việc thăm dò tự động hoặc do nhà thầu thực hiện trên quy mô lớn.
Người dùng công cụ AI nên chú ý điều gì
Người dùng NexusAI nên chú ý cách các công ty AI nói về an toàn. Các sản phẩm mạnh mẽ nên cung cấp nhiều hơn những tuyên bố mơ hồ về việc an toàn. Họ nên thể hiện các biện pháp bảo vệ thanh thiếu niên, chính sách xử lý khủng hoảng, các lớp kiểm duyệt, kênh báo cáo, thiết kế nhận biết độ tuổi, quy tắc xử lý dữ liệu và các tín hiệu đánh giá độc lập.
Các công cụ AI hữu ích nhất không chỉ mạnh mẽ; chúng còn đáng tin cậy trong các điều kiện khó khăn. Đối với chatbot tiêu dùng, công cụ giáo dục, bạn đồng hành xã hội và trợ lý doanh nghiệp, việc đánh giá an toàn nên trở thành một phần hiển nhiên trong việc lựa chọn sản phẩm.
