Meta đã ra mắt—và sau đó nhanh chóng rút lại—một tính năng trên Instagram cho phép người dùng tạo hình ảnh mới bằng cách tham chiếu các tài khoản công khai. Lời hứa là sự tiện lợi và khả năng sáng tạo lại; thực tế là một cài đặt mặc định bật khiến các nhà sáng tạo và nhân vật công chúng lo ngại rằng hình ảnh của họ có thể bị tái sử dụng mà không có sự đồng ý rõ ràng. Phản ứng dữ dội từ cộng đồng người dùng và các bên liên quan trong ngành giải trí đã buộc phải đảo ngược ngay lập tức. Đối với các nhóm sản phẩm, sự kiện này là một nghiên cứu điển hình về giới hạn của quan niệm “công khai đồng nghĩa với được phép sáng tạo lại” khi AI làm cho việc sao chép, tạo phong cách và bắt chước nhân vật trở nên dễ dàng ở quy mô lớn.

Thất bại cốt lõi không phải là chất lượng mô hình; mà là kiến trúc sự đồng ý. Các hệ thống tạo sinh sử dụng hình ảnh người dùng—đặc biệt là khuôn mặt—nằm ở giao điểm của quyền riêng tư, quyền công khai và kiểm soát của nhà sáng tạo. Ngay cả khi điều khoản dịch vụ cho phép tái sử dụng rộng rãi, các cơ quan quản lý và tòa án ngày càng đánh giá tính hợp lý của thông báo, mức độ kiểm soát chi tiết, và khả năng gây nhầm lẫn hoặc tổn hại danh tiếng. Một tính năng mặc định bật mời gọi tham chiếu các tài khoản có thể nhận dạng được làm tăng rủi ro cao hơn so với chỉ đào tạo bộ dữ liệu, vì ý định người dùng và kết quả đầu ra rõ ràng liên quan đến một cá nhân cụ thể.

Về mặt vận hành, điều này thay đổi cách các nền tảng xã hội và nhà phát triển AI phải triển khai. Sự đồng ý phải chuyển từ những điều khoản nhỏ sang bề mặt sản phẩm: đồng ý rõ ràng, danh sách trắng từng tài khoản, nhắc nhở mỗi lần sử dụng, và công tắc tắt rõ ràng. Ghi nhật ký, giới hạn tần suất và dấu hiệu nguồn gốc không phải là tùy chọn—chúng là các biện pháp phòng thủ để chứng minh việc sử dụng có trách nhiệm khi có khiếu nại. Các nhà sáng tạo và thương hiệu sẽ ngày càng yêu cầu các con đường xác minh, nhãn sử dụng được ủy quyền, và API gỡ bỏ nhanh chóng. Dự kiến các nhà quảng cáo và đối tác doanh nghiệp sẽ điều kiện hóa chi tiêu dựa trên các biện pháp bảo vệ có thể chứng minh, thúc đẩy lộ trình nền tảng hướng tới đầu tư công nghệ chính sách cùng với cải tiến mô hình.

Về chiến lược, việc rút lại thu hẹp phạm vi thử nghiệm AI xã hội liên quan đến danh tính. Các đối thủ sẽ tiếp tục, nhưng với mặc định ưu tiên sự đồng ý và các quy tắc quản trị phong phú hơn. Trong ngắn hạn, việc áp dụng sẽ tập trung vào các tính năng biến đổi nội dung của chính người dùng hoặc phương tiện được cấp phép rõ ràng. Trong trung hạn, các tiêu chuẩn nguồn gốc và đăng ký quyền sẽ mở khóa sự hợp tác an toàn hơn giữa nhà sáng tạo và nền tảng. Tín hiệu thị trường rất rõ ràng: sự tin tưởng của người dùng và khả năng chống chịu chính sách đang trở nên quan trọng như tính chân thực ảnh và công cụ chỉnh sửa trong việc quyết định tính bền vững của các tính năng hình ảnh AI.