Microsoft Phi

Microsoft xây dựng đám mây, hệ điều hành và nền tảng phát triển được hàng triệu kỹ sư sử dụng. Danh mục Azure AI của họ bao gồm mô hình nền tảng, công cụ và dịch vụ suy luận được quản lý, với đầu tư sâu về hiệu suất, an toàn và quản trị doanh nghiệp. Phi phản ánh nỗ lực của Microsoft hướng tới AI thực tế, hiệu quả, chạy ngay tại nơi sản phẩm tồn tại.

Microsoft Phi là dòng mô hình ngôn ngữ nhỏ sẵn sàng cho sản xuất, được thiết kế để cung cấp chất lượng cao trên mỗi tham số trong điều kiện giới hạn nghiêm ngặt về độ trễ và tài nguyên. Có sẵn dưới dạng các điểm cuối được quản lý trên Azure và gói ONNX di động, Phi cho phép trợ lý phản hồi nhanh, tóm tắt, phân loại và suy luận nhẹ trên máy khách, thiết bị biên và máy chủ. Các nhà phát triển có thể gọi Phi qua REST tiêu chuẩn hoặc SDK, và khi cần bảo mật hoặc khả năng hoạt động ngoại tuyến, có thể lượng tử hóa và chạy mô hình cục bộ với ONNX Runtime và Olive. Bộ sưu tập bao gồm các biến thể được tinh chỉnh theo hướng dẫn và, ở một số mô hình chọn lọc, có khả năng đa phương tiện, giúp các nhóm phù hợp kích thước và chức năng với thiết bị và ngân sách. Phi tích hợp mượt mà với các ngăn xếp RAG phổ biến trên Azure, nâng cao độ chính xác câu trả lời trong khi giữ chi phí suy luận thấp. Kết quả là một con đường thực tế để triển khai AI hữu ích nơi cần thiết — bên trong ứng dụng, tại thiết bị biên và trên các vùng đám mây toàn cầu — mà không cần cam kết với các mô hình nặng nề.