Bản phát hành LFM3 của Liquid AI đánh dấu một bước chuyển thực tế: thay vì chạy đua phát triển các mô hình đa năng ngày càng lớn, nhóm đã xây dựng một bộ gồm sáu mô hình chuyên biệt, tất cả đều phát triển từ cùng một kiến trúc nền 1,7 tỷ tham số. Kết quả là khả năng xử lý đa phương thức được tối ưu chặt chẽ — gồm các mô hình văn bản, hình ảnh, âm thanh, đa phương thức toàn diện và ra quyết định — với ưu tiên dành cho thông lượng trên thiết bị, xử lý ngữ cảnh dài và tinh chỉnh cục bộ. Điều này có ý nghĩa thiết thực với các nhóm triển khai, bởi toàn bộ hệ thống được thiết kế cho những giới hạn thực tế: ngân sách RAM/bộ nhớ flash nhỏ, huấn luyện trên một GPU và các tác vụ tương tác nhạy với độ trễ.
Về mặt kỹ thuật, LFM3 sử dụng kiến trúc lai ba thành phần, kết hợp tích chập ngắn có cổng, cơ chế chú ý cửa sổ trượt và chú ý toàn cục có chọn lọc. Thiết kế này tăng năng lực trên mỗi tham số, đồng thời giữ chi phí xử lý ngữ cảnh dài ở mức hợp lý. Phiên bản văn bản chủ lực LFM3-1.7B hỗ trợ cửa sổ ngữ cảnh 256K token và có thể được lượng tử hóa xuống khoảng 1 GB ở định dạng 4-bit. Sự kết hợp giữa ngữ cảnh cực dài và dung lượng nhỏ sau lượng tử hóa cho phép triển khai tác tử chạy nền liên tục, suy luận trên tài liệu lớn và công cụ trong môi trường riêng tư — nơi không thể hoặc quá tốn kém để gửi dữ liệu đến các API đám mây.
Ngoài kiến trúc cốt lõi, Liquid AI còn ra mắt các bộ mã hóa hình ảnh và âm thanh mới, giúp giảm tải tính toán mà vẫn cải thiện khả năng xử lý video và lời nói. Mô hình hình ảnh sử dụng các lát thời gian gồm những khung hình ghép cặp để giảm một nửa độ dài chuỗi khi xử lý video; mô hình âm thanh hỗ trợ lời nói trực tuyến, nhận dạng và tổng hợp tiếng nói đa ngôn ngữ (ASR/TTS), cùng các quy trình gọi công cụ. Nhờ đó, có thể xây dựng các tác tử lai biết nghe, quan sát và hành động với thời gian chờ đến token đầu tiên thấp — yếu tố thiết yếu với trợ lý hội thoại trên ô tô, robot nhúng và tác tử doanh nghiệp riêng tư xử lý dữ liệu đa phương thức.
Với các nhóm đang đánh giá LFM3, câu hỏi thực tế là có thể thay thế API đám mây ở đâu và bằng cách nào. LFM3 phù hợp với những tình huống mà quyền riêng tư, thông lượng và độ trễ ổn định quan trọng hơn độ chính xác tối đa: trợ lý doanh nghiệp xử lý dữ liệu nhạy cảm, tự động hóa tại chỗ trong các ngành chịu quy định, hệ thống cảm nhận nhúng trên PC AI và thiết bị biên có kết nối hạn chế. Bài đánh giá này trình bày các mô hình triển khai, cách tinh chỉnh trên một GPU, những đánh đổi hiệu năng so với mô hình đám mây và các rủi ro vận hành cần kiểm soát khi chuyển đổi.


