A Liquid AI está lançando checkpoints preliminares do DSpark para LFM2.5-1.2B-Instruct, 2.6B e 8B-A1B que adicionam decodificação especulativa ao caminho de decodificação. A promessa é clara: até 3,18× de throughput em uma única H100 e até 2,87× no dispositivo, mantendo as saídas gananciosas idênticas ao padrão. Essa paridade é importante—o DSpark verifica cada token proposto—permitindo que equipes adotem a aceleração sem comprometer as métricas de avaliação estabelecidas. Com suporte imediato no SGLang e llama.cpp, o lançamento não é apenas uma demonstração de laboratório; é executável imediatamente em pilhas comuns de inferência. O impacto é mais visível onde modelos pequenos precisam responder instantaneamente: chat local, assistentes de codificação e chamadas de função agentivas, onde o DSpark também reduz significativamente a latência.

Por que isso funciona agora? A decodificação de LLMs frequentemente é limitada por memória: puxar repetidamente grandes pesos da DRAM domina a latência. O DSpark resolve isso usando um rascunhador compacto que propõe múltiplos tokens, e então o modelo alvo os verifica em uma única passagem—amortecendo o tráfego de pesos. Sua receita combina uma espinha dorsal paralela estilo DFlash com uma cabeça Markov leve para adicionar dependência entre tokens, e um verificador com agendamento de confiança que elimina sufixos de baixa confiança. Os rascunhadores da Liquid AI têm cerca de 300M de parâmetros e são treinados para aceitação em vez de perda pura, aumentando o número de tokens verificados por passagem. O resultado: menos viagens de ida e volta pela memória por token emitido, o que se traduz em maior throughput sem alterar as saídas gananciosas.

O desempenho não é uniforme em todos os contextos. Para modelos densos pequenos (1,2B–2,6B), o DSpark entrega ganhos consistentes de 2–3× em GPUs e fortes acelerações no dispositivo que ultrapassam o limiar de “sensação instantânea” para uso interativo. O modelo MoE 8B-A1B mostra ganhos robustos na GPU, mas melhorias mais modestas no dispositivo devido à eficiência atual do Metal MoE e ao custo de verificar múltiplos tokens em mais especialistas. Ainda assim, a capacidade do DSpark de aumentar tokens por segundo em laptops torna assistentes e agentes locais significativamente mais úteis, e em fluxos agentivos a Liquid AI reporta redução média da latência de chamadas de função em mais da metade—uma vitória expressiva para cenários com muitas ferramentas onde o tempo de resposta é o gargalo.

Operacionalmente, o DSpark é uma atualização de baixa fricção: basta anexar o rascunho ao modelo alvo no SGLang ou usar uma build do llama.cpp com DSpark habilitado, e então monitorar a taxa de aceitação e draft_n/draft_n_accepted para validar o benefício. Comece com o rascunhador que corresponde ao seu alvo LFM2.5 e um tamanho de bloco moderado; ajuste para o texto do seu domínio para estabilizar a aceitação. Como a decodificação especulativa é exata sob ganância, seus testes e benchmarks permanecem comparáveis. Para produção, valide o desempenho agentivo de ponta a ponta—especialmente latência de ferramentas e cadência de chamadas de função—pois o ROI prático do DSpark parece maior onde chamadas multi-etapas dominam o tempo de resposta.