Giám đốc điều hành Google DeepMind Demis Hassabis cho biết AI đại lý ngày nay là bước thử nghiệm cho AGI, biến AI tự cải thiện thành cột mốc ngành tiếp theo cần theo dõi.
Ngành công nghiệp AI đang chuyển từ việc phát hành mô hình sang một câu hỏi sâu sắc hơn: liệu các hệ thống AI có thể giúp cải thiện các hệ thống kế tiếp hay không? Giám đốc điều hành Google DeepMind Demis Hassabis đã mô tả kỷ nguyên đại lý ngày nay như một bước thử nghiệm cho AGI, với việc tự cải thiện đệ quy trở thành một trong những cột mốc tiếp theo cần theo dõi.
Điều đó không có nghĩa là AI tự cải thiện hoàn toàn tự động đã xuất hiện. Hassabis đã cẩn trọng phân biệt giữa tự cải thiện đệ quy cứng và hình thức mềm hơn đã xuất hiện ngày nay: các đại lý lập trình, trợ lý nghiên cứu và hệ thống sử dụng công cụ giúp các nhóm AI của con người làm việc nhanh hơn.
Đối với người dùng công cụ AI, nhà sáng lập và nhà phát triển, sự phân biệt này rất quan trọng. Các công cụ đại lý quan trọng nhất có thể không phải là những công cụ chỉ đơn giản trả lời câu hỏi. Chúng có thể là các hệ thống giúp các nhóm viết mã, chạy thử nghiệm, phân tích kết quả, phối hợp quy trình làm việc và rút ngắn thời gian từ ý tưởng đến triển khai.
Tại sao AI tự cải thiện lại là cột mốc tiếp theo của ngành
Cụm từ AI tự cải thiện có thể nghe trừu tượng, nhưng ý tưởng cốt lõi rất đơn giản. Nếu các hệ thống AI thực sự tăng tốc công việc của các nhà nghiên cứu AI, kỹ sư phần mềm và nhóm hạ tầng, thì tiến bộ mô hình có thể tăng nhanh hơn. Hệ thống không cần phải tự viết lại toàn bộ để thay đổi tốc độ của ngành.
Đây là lý do tại sao AI đại lý lại quan trọng về mặt chiến lược. Các đại lý có thể lập kế hoạch nhiệm vụ, viết mã, kiểm tra kho lưu trữ, chạy công cụ, tìm kiếm tài liệu, tóm tắt kết quả thử nghiệm và giúp phối hợp công việc kỹ thuật. Mỗi khả năng đó đều góp phần vào cách các hệ thống AI tương lai được xây dựng.
Các đại lý là bài kiểm tra căng thẳng trước AGI
Cách Hassabis nhìn nhận các đại lý như một bước thử nghiệm quan trọng vì các đại lý phơi bày các vấn đề vận hành mà chatbot thường che giấu. Khi một mô hình sử dụng công cụ, duyệt web, viết file, chỉnh sửa mã, phối hợp nhiệm vụ và thực hiện các hành động đa bước, độ tin cậy, an toàn và quản trị của nó trở nên quan trọng hơn nhiều.
Điều này biến kỷ nguyên đại lý thành bài kiểm tra căng thẳng cho các công ty, chính phủ và người dùng. Trước khi AGI xuất hiện, các tổ chức cần học cách đánh giá đại lý, phân quyền, xem xét kết quả, giám sát chi phí, xử lý lỗi và quyết định nhiệm vụ nào nên vẫn do con người kiểm soát.
Ý nghĩa của điều này đối với việc lựa chọn công cụ AI
Người dùng NexusAI nên đánh giá các công cụ đại lý dựa trên đóng góp của chúng vào vòng phản hồi. Một đại lý AI hữu ích không chỉ tạo ra văn bản; nó nên giúp một nhóm chuyển từ nghiên cứu sang triển khai, từ lỗi sang sửa lỗi, từ ý tưởng sang thử nghiệm và từ thí nghiệm sang quyết định.
Các tiêu chí lựa chọn quan trọng bao gồm tích hợp công cụ, khả năng lập trình, bộ nhớ, xử lý ngữ cảnh, kiểm soát quyền, khả năng kiểm toán, minh bạch chi phí, độ tin cậy không phụ thuộc vào chuẩn đánh giá và liệu đại lý có cải thiện nhịp độ vận hành thực tế của nhóm hay không.
Rủi ro đang tiến nhanh hơn quản trị
Tự cải thiện tạo ra lợi ích rõ ràng: nghiên cứu nhanh hơn, công cụ mạnh hơn, khám phá khoa học tốt hơn và hệ thống phần mềm có năng lực hơn. Nhưng nó cũng tạo áp lực quản trị. Nếu tốc độ phát triển AI tăng, việc kiểm tra an toàn, chuẩn bị kinh tế và ra quyết định thể chế cũng cần phải tăng tốc.
Rủi ro thực tế không chỉ là kịch bản kỳ dị xa xôi. Mà là các doanh nghiệp và chính phủ có thể vẫn mắc kẹt trong giả định thời chatbot trong khi ngành công nghiệp âm thầm chuyển sang các đại lý sử dụng công cụ có thể ảnh hưởng đến quy trình làm việc thực, phần mềm thực và quyết định tổ chức thực.
