Mô hình không đọc từ chính xác như con người. Nó chia văn bản thành các phần nhỏ hơn gọi là token, sau đó dự đoán và suy luận trên các phần đó. Token có thể là từ nguyên, phần của từ, dấu câu hoặc mảnh ngắn tùy thuộc vào bộ phân tách token.

Lớp này quan trọng vì token ảnh hưởng đến chi phí, độ dài ngữ cảnh, tốc độ và chất lượng đầu ra. Một tài liệu dài, lời nhắc lộn xộn hoặc ngữ cảnh lặp lại không cần thiết có thể tiêu thụ token nhanh chóng. Nói đơn giản, token là viên gạch mà mọi đầu ra AI được xây dựng từ đó.

Lời nhắc cho AI biết người dùng muốn gì. Nó xác định nhiệm vụ, hướng đi, giọng điệu, giới hạn, định dạng đầu ra và tiêu chí thành công. Một lời nhắc yếu có thể khiến mô hình mạnh tạo ra kết quả chung chung, trong khi lời nhắc rõ ràng có thể biến cùng một mô hình thành trợ lý hữu ích hơn nhiều.

Lời nhắc giống như một bản thiết kế. Nó không tự xây nhà, nhưng hướng dẫn việc xây dựng. Trong quy trình làm việc doanh nghiệp, chất lượng lời nhắc quan trọng vì nó kiểm soát liệu AI tạo ra câu trả lời mơ hồ, kế hoạch thực tế, đối tượng JSON có cấu trúc, tóm tắt kiểu pháp lý hay sản phẩm sẵn sàng sản xuất.

Ngữ cảnh cung cấp cho AI thông tin cần thiết để trả lời một cách đáng tin cậy. Điều này có thể bao gồm cuộc trò chuyện trước đó, tệp tải lên, quy tắc kinh doanh, dữ liệu khách hàng, lịch sử dự án, ví dụ, bản ghi cơ sở dữ liệu, kết quả công cụ hoặc hướng dẫn thương hiệu.

Không có ngữ cảnh, ngay cả mô hình mạnh cũng có thể tạo ra câu trả lời chung chung hoặc sai. Ngữ cảnh là nền tảng. Nó cho AI biết thế giới mà nó đang hoạt động, những sự thật quan trọng, những gì đã xảy ra và những giới hạn phải tôn trọng.

Tác nhân không chỉ là phản hồi chatbot. Nó có thể hiểu mục tiêu, chia nhỏ thành các bước, chọn công cụ, kiểm tra kết quả, sửa lỗi và tiếp tục làm việc cho đến khi hoàn thành nhiệm vụ. Đây là lớp mà AI chuyển từ trả lời câu hỏi sang thực hiện công việc.

Tác nhân giống như một công nhân có thể hành động. Trong sản phẩm thực tế, đây có thể là tác nhân lập trình sửa lỗi, tác nhân nghiên cứu thu thập bằng chứng, tác nhân hỗ trợ giải quyết vé, hoặc tác nhân tài chính kiểm tra hồ sơ hóa đơn. Chất lượng tác nhân phụ thuộc vào khả năng lập kế hoạch, truy cập công cụ, vòng phản hồi và rào chắn an toàn.

Bộ điều phối tổ chức toàn bộ quy trình làm việc AI. Nó kiểm soát cách lời nhắc, tác nhân, công cụ, bộ nhớ, tệp, xác thực, thử lại, đánh giá con người và định dạng đầu ra hoạt động cùng nhau. Không có bộ điều phối, các hệ thống AI đa bước có thể trở nên lộn xộn và không thể đoán trước.

Bộ điều phối giống như một quản lý dự án. Nó quyết định điều gì xảy ra trước, điều gì xảy ra tiếp theo, điều gì phải kiểm tra, khi nào gọi tác nhân khác, khi nào dừng lại và khi nào yêu cầu con người phê duyệt. Lớp này rất cần thiết cho các ứng dụng AI sản xuất vì nó biến trí thông minh mô hình thành các quy trình làm việc có thể lặp lại.

MCP kết nối các hệ thống AI với công cụ và tài nguyên bên ngoài như cơ sở dữ liệu, tệp, trình duyệt, API, email, lịch, kho mã và phần mềm doanh nghiệp. Nó giúp tác nhân vượt ra ngoài cửa sổ chat và tương tác với các hệ thống thực.

Lớp này quan trọng vì AI hữu ích cần truy cập ngữ cảnh trực tiếp và công cụ vận hành. Một tác nhân AI không thể truy cập dữ liệu hoặc thực hiện hành động có kiểm soát vẫn bị giới hạn. MCP giống như giao diện hoặc bộ kết nối bên ngoài cho phép hệ thống AI đọc, truy xuất, vận hành và cập nhật tài nguyên thông qua truy cập công cụ được quản lý.

Kỹ năng là các khả năng, quy trình làm việc hoặc mô-đun kinh nghiệm có thể tái sử dụng mà hệ thống AI có thể gọi qua các nhiệm vụ khác nhau. Một kỹ năng có thể chứa hướng dẫn, mã, mẫu, ví dụ, quy tắc xác thực, kiến thức chuyên ngành hoặc quy trình có thể lặp lại.

Kỹ năng giống như kinh nghiệm hoặc sách hướng dẫn. Chúng làm cho hệ thống mạnh hơn theo thời gian vì AI không cần xây dựng lại cùng một quy trình làm việc từ đầu. Trong các hệ thống AI sản xuất, kỹ năng có thể biến lời nhắc một lần thành khả năng mở rộng.