Liquid AI는 LFM2.5-1.2B-Instruct, 2.6B, 8B-A1B용 DSpark 초안 체크포인트를 출시하며 디코드 경로에 추측적 디코딩을 추가했습니다. 핵심 주장은 명확합니다: 단일 H100에서 최대 3.18배, 디바이스에서 최대 2.87배 처리량을 달성하면서도 탐욕적 출력은 기준과 동일하게 유지합니다. 이 동일성은 중요합니다—DSpark는 제안된 모든 토큰을 검증하기 때문입니다—따라서 팀은 평가 기준을 훼손하지 않고도 속도 향상을 도입할 수 있습니다. SGLang과 llama.cpp의 첫날 지원으로 이 기술은 단순한 연구 데모가 아니라 일반 추론 스택에서 즉시 실행 가능한 업그레이드입니다. 특히 작은 모델이 즉각적인 반응을 요구하는 로컬 채팅, 코딩 어시스턴트, 에이전트 기능 호출에서 DSpark는 지연 시간을 크게 줄여 그 효과가 두드러집니다.

왜 지금 이 기술이 가능한가요? LLM 디코딩은 종종 메모리 병목 현상에 직면합니다: DRAM에서 큰 가중치를 반복적으로 불러오는 작업이 지연의 대부분을 차지합니다. DSpark는 여러 토큰을 제안하는 컴팩트한 드래프터를 사용하고, 대상 모델이 한 번에 이를 검증하는 방식을 통해 가중치 트래픽을 분산시킵니다. 이 방식은 DFlash 스타일의 병렬 백본과 토큰 간 의존성을 추가하는 경량 마르코프 헤드, 그리고 낮은 신뢰도의 접미사를 제거하는 신뢰도 기반 검증기를 결합합니다. Liquid AI의 드래프터는 약 3억 매개변수로 구성되어 있으며, 순수 손실이 아닌 수용률을 목표로 훈련되어 한 번에 더 많은 검증된 토큰을 생성합니다. 결과적으로, 출력 토큰당 메모리 왕복 횟수가 줄어들어 탐욕적 출력을 변경하지 않고도 처리량이 향상됩니다.

성능은 상황에 따라 다릅니다. 작은 밀집 모델(1.2B–2.6B)에서는 DSpark가 GPU에서 일관되게 2~3배의 성능 향상을 제공하며, 최신 노트북에서도 2배 이상의 속도 향상을 보여 대화형 사용에 즉각적인 반응성을 제공합니다. 8B-A1B MoE 모델은 GPU에서 견고한 성능 향상을 보이지만, 현재 Metal MoE 효율성과 다수 전문가에 걸친 여러 토큰 검증 비용 때문에 디바이스 내 성능 향상은 다소 제한적입니다. 그럼에도 DSpark가 노트북에서 초당 토큰 수를 높이는 능력은 로컬 어시스턴트와 에이전트를 훨씬 더 유용하게 만들며, 에이전트 흐름에서는 함수 호출 지연 시간이 평균 절반 이상 감소하는 등 도구 중심 시나리오에서 큰 이점을 제공합니다.

운영 측면에서 DSpark는 낮은 마찰의 업그레이드입니다: SGLang에서 대상 모델에 드래프트를 연결하거나 DSpark 지원 llama.cpp 빌드를 사용한 후 수용률과 draft_n/draft_n_accepted를 모니터링하여 이점을 검증하세요. LFM2.5 대상에 맞는 드래프터와 적당한 블록 크기로 시작해 도메인 텍스트에 맞게 조정하여 수용률을 안정화하세요. 추측적 디코딩은 탐욕적 디코딩 하에서 정확하므로 평가 도구와 벤치마크는 동일한 조건을 유지합니다. 프로덕션에서는 특히 도구 지연 시간과 함수 호출 주기를 포함한 에이전트 성능을 종합적으로 검증하세요—DSpark의 실질적 ROI는 다단계 도구 호출이 응답 시간 병목인 곳에서 가장 크게 나타납니다.