Transformers
Transformersは、Hugging Faceのオープンソースのモデル定義フレームワークであり、一貫したPython APIと深いHubエコシステム統合を通じて、最先端のテキスト、ビジョン、オーディオ、ビデオ、およびマルチモーダルモデルの実行とトレーニングを可能にします。
概要
チームは通常、ライブラリをインストールし、Hugging Face Hubからチェックポイントを選択し、タスクに応じてパイプラインまたはモデルクラスを呼び出すことから始めます。Transformersは一般的な前処理と出力フォーマットを処理しつつ、カスタマイズのために低レベルのモデル内部も公開しています。
コア機能と技術的モデル
Transformersは、事前学習済みまたはファインチューニング済みモデルを用いて構築する機械学習エンジニア、応用研究者、AIプロダクトチーム、技術的創業者に最適です。モダリティを超えた迅速なプロトタイピング、現在のアーキテクチャへの再現可能なアクセス、そして生のニューラルネットワークプリミティブから始めることなくモデルの挙動を検査、適応、拡張するための十分な制御を必要とする組織に適しています。
- 複数のAIタスクタイプにわたる前処理、推論呼び出し、返される出力を標準化する高レベルパイプラインを通じて事前学習済みモデルを実行します。
- トレーニングライブラリ、推論エンジン、および隣接ツールがアーキテクチャの挙動で合意できるように共有モデル定義を使用します。
- モデルコードを手動で再作成することなく、言語、ビジョン、音声、オーディオ、ビデオ、マルチモーダルのワークロード向けのHubホストチェックポイントにアクセスします。
- ライブラリのユーティリティ、例、およびタスク固有のパターンを使用して、サポートされているPyTorchモデルをファインチューニングし、実験セットアップ時間を短縮します。
- 研究ワークフローでアーキテクチャの変更、アブレーション、タスク固有の適応が必要な場合にモデル内部を検査およびカスタマイズします。
Transformersが最も役立つ場面
編集者の評価
Pythonユーザーにとっては、開始が簡単です。プロジェクトは最新のPython環境とPyTorchベースのワークフローをサポートし、一般的なパッケージマネージャーや、最新の変更が必要な貢献者やユーザー向けにソースからのインストールが可能です。典型的なオンボーディングの流れは、仮想環境を作成し、PyTorchサポート付きでライブラリをインストールし、Hubモデルを選択し、対象タスクのパイプラインを呼び出すことです。より高度なユーザーはパイプラインを超えてモデルクラス、プロセッサー、トークナイザー、サンプルスクリプト、トレーニングユーティリティに進むことができます。チームは、リポジトリのサンプルスクリプトが出発点であり、保証された即時本番システムではないため、自身のデータ、ハードウェア、展開制約に対して例を検証する必要があります。
Transformersは、最新のAIモデル、読みやすい実装、エコシステムの互換性を一つのパッケージで必要とするチームにとって、最も重要なオープンソース基盤の一つであり続けています。
セットアップと導入の道筋
Transformersは、多くのモデルファミリー、多くのモダリティ、そしてそれらを取り巻く成熟したオープンソースエコシステムが必要なチームにとって最も強力です。主なトレードオフは範囲であり、小規模なニューラルネットワークビルディングブロックライブラリや完全管理型の展開製品を求めるユーザーは補完的なツールが必要かもしれません。モデル実験とアーキテクチャ互換性においては、デフォルトの選択肢です。
ツールを開き、基本的な製品体験を確認します。
アカウントを作成するか、既存のワークスペースにアクセスします。
自分のタスクで速度、品質、適合性を判断します。
最終判断の前に類似AIツールを確認します。
Transformers
Hugging Faceは、AIコミュニティのためにオープンソースの機械学習インフラストラクチャ、モデルホスティング、データセット、コラボレーションツールを構築しています。その活動は、最新モデルを研究および応用エンジニアリング環境で共有、評価、ファインチューニング、展開しやすくすることに焦点を当てています。
Transformersは、Hugging Faceのモデルエコシステムの中心となるオープンソースライブラリです。自然言語処理、コンピュータビジョン、音声、オーディオ、ビデオ、マルチモーダルタスクにわたる最新の機械学習ワークロードのために、再利用可能なモデル定義、トークナイザー、プロセッサー、パイプライン、およびトレーニングユーティリティを提供します。汎用のニューラルネットワークコンポーネントツールボックスとしてではなく、モデルアーキテクチャの実装方法を標準化することで、研究者、エンジニア、および下流のインフラストラクチャが互換性のある定義を共有できるようにします。このライブラリはPythonとPyTorchで動作し、パイプラインを通じた高レベルの推論をサポートし、100万以上の互換性のあるチェックポイントが利用可能なHugging Face Hubに直接接続します。特に、チームが基盤モデルにアクセスし、アーキテクチャコードを一から再構築することなく実験、ファインチューニング、評価、プロダクションへの引き渡しに広く使用されています。
github.com/huggingface/transformers
コメント (0)
コメントはまだありません