Transformers
Transformers là khung định nghĩa mô hình mã nguồn mở của Hugging Face để chạy và đào tạo các mô hình văn bản, thị giác, âm thanh, video và đa phương thức tiên tiến thông qua API Python nhất quán và tích hợp sâu với hệ sinh thái Hub.
Tổng quan
Các nhóm thường bắt đầu bằng cách cài đặt thư viện, chọn một checkpoint từ Hugging Face Hub, và gọi một pipeline hoặc lớp mô hình cho tác vụ. Transformers xử lý tiền xử lý phổ biến và định dạng đầu ra trong khi vẫn cho phép truy cập các thành phần mô hình cấp thấp để tùy chỉnh.
Khả năng cốt lõi và mô hình kỹ thuật
Transformers phù hợp nhất cho các kỹ sư học máy, nhà nghiên cứu ứng dụng, nhóm sản phẩm AI và các nhà sáng lập kỹ thuật xây dựng với các mô hình đã được đào tạo trước hoặc tinh chỉnh. Nó phù hợp với các tổ chức cần tạo mẫu nhanh trên nhiều phương thức, truy cập có thể tái tạo đến các kiến trúc hiện tại, và đủ kiểm soát để kiểm tra, điều chỉnh hoặc mở rộng hành vi mô hình mà không phải bắt đầu từ các thành phần mạng nơ-ron thô.
- Chạy các mô hình đã được đào tạo trước thông qua các pipeline cấp cao chuẩn hóa tiền xử lý, các lệnh gọi suy luận và đầu ra trả về trên nhiều loại tác vụ AI.
- Sử dụng các định nghĩa mô hình chia sẻ giúp các thư viện đào tạo, động cơ suy luận và công cụ liên quan đồng thuận về hành vi kiến trúc.
- Truy cập các checkpoint được lưu trữ trên Hub cho các khối lượng công việc ngôn ngữ, thị giác, giọng nói, âm thanh, video và đa phương thức mà không cần tạo lại mã mô hình thủ công.
- Tinh chỉnh các mô hình PyTorch được hỗ trợ bằng các tiện ích thư viện, ví dụ và mẫu tác vụ cụ thể giúp rút ngắn thời gian thiết lập thử nghiệm.
- Kiểm tra và tùy chỉnh các thành phần bên trong mô hình khi quy trình nghiên cứu yêu cầu thay đổi kiến trúc, loại bỏ hoặc thích ứng theo tác vụ.
Nơi Transformers hữu ích nhất
Đánh giá biên tập
Bắt đầu rất đơn giản cho người dùng Python. Dự án hỗ trợ các môi trường Python hiện đại và quy trình làm việc dựa trên PyTorch, với cài đặt có sẵn qua các trình quản lý gói phổ biến hoặc trực tiếp từ mã nguồn cho những người đóng góp và người dùng cần các thay đổi mới nhất. Lộ trình onboarding điển hình là tạo môi trường ảo, cài đặt thư viện với hỗ trợ PyTorch, chọn một mô hình Hub và gọi pipeline cho tác vụ mục tiêu. Người dùng nâng cao hơn có thể đi sâu hơn vào các lớp mô hình, bộ xử lý, bộ mã hóa token, kịch bản ví dụ và tiện ích đào tạo. Các nhóm vẫn nên xác thực các ví dụ với dữ liệu, phần cứng và giới hạn triển khai của riêng họ, vì các kịch bản mẫu trong kho lưu trữ chỉ là điểm khởi đầu chứ không phải hệ thống sản xuất đảm bảo sẵn sàng sử dụng.
Transformers vẫn là một trong những nền tảng mã nguồn mở quan trọng nhất cho các nhóm cần các mô hình AI hiện tại, các triển khai dễ đọc và sự tương thích hệ sinh thái trong một gói.
Lộ trình thiết lập và áp dụng
Transformers mạnh nhất khi một nhóm cần cả độ rộng và độ tin cậy: nhiều họ mô hình, nhiều phương thức và một hệ sinh thái mã nguồn mở trưởng thành xung quanh chúng. Sự đánh đổi chính là phạm vi; người dùng tìm kiếm một thư viện thành phần mạng nơ-ron nhỏ hoặc sản phẩm triển khai được quản lý hoàn toàn có thể cần các công cụ bổ sung. Đối với thử nghiệm mô hình và tương thích kiến trúc, đây là lựa chọn mặc định.
Mở công cụ và xem lại trải nghiệm sản phẩm cốt lõi.
Tạo tài khoản hoặc truy cập không gian làm việc hiện có của bạn.
Dùng tác vụ của chính bạn để đánh giá tốc độ, chất lượng và độ phù hợp.
Xem các công cụ AI tương tự trước khi đưa ra quyết định cuối cùng.
Transformers
Hugging Face xây dựng hạ tầng học máy mã nguồn mở, lưu trữ mô hình, bộ dữ liệu và công cụ cộng tác cho cộng đồng AI. Công việc của họ tập trung vào việc làm cho các mô hình hiện đại dễ dàng chia sẻ, đánh giá, tinh chỉnh và triển khai trong môi trường nghiên cứu và kỹ thuật ứng dụng.
Transformers là thư viện mã nguồn mở cốt lõi đứng sau phần lớn hệ sinh thái mô hình của Hugging Face. Nó cung cấp các định nghĩa mô hình tái sử dụng, bộ mã hóa token, bộ xử lý, pipeline và tiện ích đào tạo cho các khối lượng công việc học máy hiện đại trên xử lý ngôn ngữ tự nhiên, thị giác máy tính, nhận dạng giọng nói, âm thanh, video và các tác vụ đa phương thức. Thay vì hoạt động như một bộ công cụ thành phần mạng nơ-ron chung, nó chuẩn hóa cách các kiến trúc mô hình được triển khai để các nhà nghiên cứu, kỹ sư và hạ tầng hạ nguồn có thể chia sẻ các định nghĩa tương thích. Thư viện hoạt động với Python và PyTorch, hỗ trợ suy luận cấp cao thông qua các pipeline, và kết nối trực tiếp với Hugging Face Hub, nơi có hơn một triệu checkpoint tương thích có sẵn. Nó được sử dụng rộng rãi cho thử nghiệm, tinh chỉnh, đánh giá và bàn giao sản xuất, đặc biệt khi các nhóm cần truy cập các mô hình nền tảng hiện tại mà không phải xây dựng lại mã kiến trúc từ đầu.
github.com/huggingface/transformers
Bình luận (0)
Chưa có bình luận nào