Fireworks

Fireworks AI développe une infrastructure fondamentale de formation et d’inférence pour une intelligence spécialisée, dirigée par des ingénieurs expérimentés dans les systèmes ML à grande échelle et des contributeurs liés à PyTorch. L’entreprise se concentre sur la transformation des modèles ouverts en solutions de production économiques et performantes pour agents, codage, chat et RAG d’entreprise.

Fireworks est une plateforme complète pour la formation et le déploiement de modèles LLM et multimodaux performants. Elle offre une API compatible OpenAI et Anthropic avec routage multi-fournisseurs, ainsi qu’une API de formation couvrant les tâches guidées, les exécutions configurées et les pipelines entièrement personnalisés en apprentissage par renforcement ou supervisé. Les checkpoints sont promus en production en quelques secondes sur la même infrastructure, réduisant ainsi les frictions entre expérimentation et déploiement. Les niveaux serverless, à la demande et réservés permettent aux équipes d’équilibrer latence, débit et coûts, tandis que la bibliothèque de modèles expose des modèles ouverts populaires optimisés pour la qualité et l’efficacité. Le moteur de production est optimisé à tous les niveaux pour garantir une latence constante et un débit élevé de tokens, supportant les charges de travail d’agents, de codage, de RAG et d’évaluation. Fireworks prend également en charge le fine-tuning basé sur des adaptateurs, incluant des workflows multi-LoRA et des variantes à contexte étendu, ainsi que des files d’attente prioritaires et rapides avec facturation au token. Le résultat est une performance prévisible et une réduction significative des coûts globaux de codage et de déploiement.