Fireworks

Fireworks AI 构建专用智能的基础训练与推理基础设施，由拥有大规模机器学习系统深厚经验的工程师领导，并有 PyTorch 贡献者参与。公司专注于将开源模型转化为适用于代理、编码、聊天和企业 RAG 的生产级、高效成本解决方案。

Fireworks 是一个端到端的平台，用于训练和部署高性能的大型语言模型（LLM）和多模态模型。它提供即插即用的兼容 OpenAI 和 Anthropic 的 API，支持多供应商路由，以及涵盖指导式任务、配置驱动运行和完全自定义强化学习或监督管道的训练 API。训练检查点可在同一基础设施上秒级推广到生产环境，最大限度减少实验与服务之间的摩擦。无服务器、按需和预留容量层级让团队在延迟、吞吐量和成本之间灵活平衡，模型库提供经过调优以保证质量和效率的流行开源模型。生产引擎在整个堆栈中优化，实现稳定延迟和高令牌吞吐量，支持代理、编码、检索增强生成（RAG）和评估工作负载。Fireworks 还支持基于适配器的微调，包括多 LoRA 工作流和长上下文变体，以及优先和快速服务队列，按令牌计费。最终实现了可预测的性能和显著降低的端到端编码与服务成本。