Curation Studio chuẩn hóa quy trình tinh lọc gồm bốn giai đoạn. Giai đoạn Clean loại bỏ nội dung lỗi, khử nhiễm dựa trên các tập đánh giá và chuẩn hóa những sai lệch phát sinh khi tiếp nhận dữ liệu. Calibrate chấm điểm mức độ liên quan của từng tài liệu với tác vụ và loại bỏ nội dung trùng lặp để ưu tiên các ví dụ giàu tín hiệu. Create sử dụng cách diễn đạt lại bằng dữ liệu tổng hợp có căn cứ nhằm nhân rộng các ví dụ chất lượng cao nhưng khan hiếm, hạn chế hiện tượng bịa đặt. Compose phối trộn các tập con này thành những lượt huấn luyện phù hợp với quy mô mô hình và từng giai đoạn. Mỗi giai đoạn đều có thể cấu hình, đồng thời cung cấp các thiết lập sẵn để nhóm có thể từng bước chuyển từ công thức cơ sở sang thử nghiệm tùy chỉnh.

Datology xem chất lượng dữ liệu là một đòn bẩy tính toán: kho dữ liệu giàu tín hiệu hơn giúp mô hình học được nhiều hơn từ mỗi token, nhờ đó cần ít FLOPs tiền huấn luyện hơn để đạt mục tiêu hiệu năng. Các kết quả so sánh trực tiếp mà họ công bố cho thấy bộ dữ liệu được tuyển chọn có thể giúp mô hình nhỏ hơn hoặc thời gian tiền huấn luyện ngắn hơn đạt kết quả ngang với các mô hình nền lớn hơn. Với các nhóm, điều này làm thay đổi cách tính chi phí: thay vì giả định số token và chip tăng tuyến tính, hãy tính đến lợi ích từ khoản đầu tư vào tuyển chọn dữ liệu, bao gồm thời gian kỹ thuật, các đợt tạo dữ liệu tổng hợp và chu kỳ thử nghiệm.

Một điểm bán hàng quan trọng là triển khai trong VPC của khách hàng: toàn bộ dữ liệu thô, thông tin nguồn gốc và kết quả đều nằm trong tài khoản đám mây của khách hàng. Các tác vụ tạo dữ liệu tổng hợp nặng có thể chạy trên nhà cung cấp GPU do khách hàng lựa chọn hoặc các cụm Kubernetes được kết nối. Kiến trúc này phù hợp với yêu cầu bảo mật và tuân thủ của doanh nghiệp, đồng thời tránh những trở ngại thường gặp trong quy trình mua sắm khi các nhóm phải giữ tài sản trí tuệ tại chỗ hoặc trong môi trường đám mây chịu quy định. Tuy vậy, để tích hợp Curation Studio cần có năng lực kỹ thuật dữ liệu vững chắc và kế hoạch lưu trữ phù hợp với lượng dữ liệu trung gian ở quy mô petabyte mà Datology mô tả.

Cần kiểm chứng kỹ các tuyên bố thử nghiệm rằng mô hình có thể đạt kết quả ngang mô hình nền với lượng tài nguyên tính toán ít hơn 6 lần. Khả năng tái lập phụ thuộc vào việc lựa chọn bộ dữ liệu, mức độ nghiêm ngặt của quy trình khử nhiễm và các tác vụ đánh giá. Các nhóm nên thực hiện thử nghiệm A/B đã chuẩn hóa theo tài nguyên tính toán: chọn tác vụ mục tiêu, tạo kho dữ liệu cơ sở bằng các công thức công khai, sau đó thử nghiệm tuyển chọn dữ liệu trong khi giữ nguyên kiến trúc mô hình và siêu tham số huấn luyện. Hãy chú ý nguy cơ tối ưu quá mức cho benchmark và rò rỉ thông tin trong quá trình tạo dữ liệu tổng hợp. Nhật ký kiểm toán rõ ràng và các bài kiểm tra trên tập dữ liệu giữ lại là điều thiết yếu để tin cậy bất kỳ tuyên bố nào về khả năng khuếch đại hiệu quả tính toán.

Hãy bắt đầu bằng một thử nghiệm thí điểm nhỏ, có mục tiêu rõ ràng: chọn benchmark cho một lĩnh vực hẹp, đăng ký các bộ dữ liệu nguồn và mục tiêu, rồi dùng thiết lập sẵn của Curation Studio để tạo tập huấn luyện đã tuyển chọn cho một mô hình cỡ trung. Đo chi phí trên mỗi mức cải thiện hiệu quả tác vụ (mức thay đổi chỉ số xác thực chia cho tài nguyên tính toán tiền huấn luyện), sau đó điều chỉnh mức hiệu chỉnh và tỷ lệ dữ liệu tổng hợp. Khi mua sắm, hãy yêu cầu khả năng xuất thông tin nguồn gốc dữ liệu và các công thức có thể tái lập. Với nhóm kỹ thuật, cần dự trù nhu cầu lưu trữ và điều phối: để tuyển chọn dữ liệu thành công ở quy mô này, phải đầu tư vào lưu đệm trung gian và tinh chỉnh toán tử tùy chỉnh.