Fireworks

Fireworks AI 建立專業智能的基礎訓練與推理基礎設施，由具備大規模機器學習系統深厚經驗的工程師領導，並有 PyTorch 相關貢獻者參與。公司專注於將開放模型轉化為生產級、成本效益高的解決方案，涵蓋代理、程式碼、聊天及企業 RAG。

Fireworks 是一個端到端平台，用於訓練和服務高效能的大型語言模型（LLM）和多模態模型。它提供即插即用的 OpenAI 與 Anthropic 相容 API，支援多供應商路由，並擁有涵蓋指導式任務、配置導向執行及完全自訂強化學習或監督式流程的訓練 API。檢查點能在相同基礎架構上秒級推向生產，最大限度減少實驗與服務間的摩擦。無伺服器、隨需應變及預留容量方案，讓團隊能在延遲、吞吐量與成本間取得平衡；模型庫則提供經過調校以提升品質與效率的熱門開放模型。生產引擎在整個堆疊中優化，確保穩定延遲與高令牌吞吐量，支援代理、程式碼生成、檢索增強生成（RAG）及評估工作負載。Fireworks 亦支援基於適配器的微調，包括多 LoRA 工作流程與長上下文變體，並配備優先及快速服務隊列，按令牌計費。結果是可預測的效能與顯著降低的端到端程式碼與服務成本。