Hy4 flash của Tencent được thiết kế như một đối thủ cạnh tranh về giá thành và hiệu năng, chứ không nhằm dẫn đầu tuyệt đối về năng lực. Mô hình có tổng cộng 224 tỷ tham số nhưng chỉ kích hoạt 12 tỷ tham số trong quá trình suy luận. Thiết kế này hướng đến việc giảm chi phí vận hành mà vẫn giữ được năng lực biểu diễn lớn khi huấn luyện ngoại tuyến. Tencent nhấn mạnh khả năng tiếp nhận đầu vào đa phương thức và cửa sổ ngữ cảnh 1.000.000 token, đồng thời tuyên bố tốc độ giải mã vượt 150 token mỗi giây nhờ một loạt tối ưu hóa suy luận. Với các nhóm đang lựa chọn mô hình, Hy4 flash hứa hẹn một giải pháp cân bằng thực tế: khả năng xử lý ngữ cảnh dài và hiểu hình ảnh đáng kể với chi phí cho mỗi tác vụ thấp hơn nhiều so với một số mô hình tiên tiến khác.
Về kiến trúc, Hy4 flash sử dụng những đặc điểm được giới thiệu xuyên suốt dòng Hy: tham số hóa Engram để lưu trữ tri thức dài hạn một cách gọn nhẹ, năng lực có điều kiện LatentMoE để tập trung tính toán vào những nơi cần thiết và cơ chế attention lai để mở rộng ngữ cảnh hiệu quả. Tencent cũng cho biết dấu chân bộ nhớ đệm KV giảm mạnh — một đánh đổi kỹ thuật có chủ đích nhằm giảm chi phí bộ nhớ và I/O bộ nhớ đệm trong quá trình suy luận. Theo công ty, học tăng cường sau huấn luyện giúp giảm một nửa độ dài trung bình của đầu ra trên các tác vụ điển hình, qua đó trực tiếp giảm chi phí token đầu ra và rút ngắn thời gian xử lý trong nhiều quy trình làm việc.
Cửa sổ ngữ cảnh được tuyên bố là 1 triệu token cùng tốc độ giải mã trên 150 token/giây là những đặc điểm có ý nghĩa thiết thực nhất khi triển khai trong doanh nghiệp. Tencent cho biết kết quả này đến từ sự kết hợp của nhiều kỹ thuật: tối ưu hóa megakernel, lượng tử hóa 4 bit, chiến lược thực thi DFly và bộ nhớ đệm KV gọn nhẹ. Trên thực tế, ngữ cảnh dài kết hợp với giải mã nhanh cho phép xử lý toàn bộ tài liệu, bộ slide hoặc chuỗi trao đổi gồm nhiều tệp chỉ trong một lượt — những việc vốn đòi hỏi phải chia nhỏ nội dung, ghép nối trạng thái hoặc điều phối tác tử tốn kém. Nếu khả năng xử lý ngữ cảnh của mô hình đủ vững chắc trong điều kiện thực tế, những lợi ích này có thể giảm độ phức tạp kỹ thuật và độ trễ trong quy trình làm việc với khách hàng.
Về chi phí, Tencent công bố mức giá API ước tính khoảng 0,070 USD cho mỗi triệu token đầu vào và 0,281 USD cho mỗi triệu token đầu ra, cùng mức giá đầu vào đã lưu trong bộ nhớ đệm rất thấp. Công ty cho biết Hy4 flash có chi phí mỗi tác vụ thấp hơn đáng kể trên bộ đánh giá WorkIndex nội bộ so với các phiên bản Hy4 lớn hơn và những mô hình tiên tiến khác. Cách nhìn này hữu ích với các tổ chức ưu tiên thông lượng, hóa đơn dễ dự đoán và quy trình xử lý tài liệu: Hy4 flash có thể giúp giảm đáng kể chi phí vận hành. Tuy nhiên, người mua nên xem các kết quả đánh giá nội bộ và thử nghiệm người dùng mù của Tencent là thông tin tham khảo, chưa phải kết quả được xác minh độc lập; cần kiểm chứng chi phí và chất lượng so sánh trên các tác vụ đại diện do bên thứ ba thực hiện.


