O Fern 0.1 é o primeiro modelo de base da Mirendil, treinado e disponibilizado com uma arquitetura que comporta até 10 milhões de tokens de contexto. No papel, isso representa uma mudança radical: dezenas de megabytes de código ou dias de histórico de interação de um agente podem permanecer no contexto de trabalho, em vez de serem enviados para um armazenamento externo. Para equipes que desenvolvem agentes autônomos de longa duração, a vantagem imediata é clara: menos chamadas a sistemas externos de recuperação, a possibilidade de raciocinar sobre um repositório inteiro ou um fragmento de treinamento de uma só vez e uma experiência de desenvolvimento mais simples, com rastros e registros diretamente acessíveis ao modelo.
Mas uma janela maior é um facilitador, não uma garantia de melhores resultados. O uso eficaz de 10 milhões de tokens exige uma arquitetura de modelo, estratégias de atenção e heurísticas de recuperação capazes de destacar o contexto certo — além de modelos de disponibilização e custos que tornem viável usar um contexto tão amplo. As primeiras métricas da Mirendil destacam melhorias na previsão do próximo token e resultados em benchmarks básicos de contexto longo, um começo promissor. Ainda assim, as questões decisivas para equipes de produção são: até que ponto os modelos recuperam informações e raciocinam sobre contextos distantes, como latência e custo aumentam e se ampliar o contexto reduz de fato as taxas de erro em tarefas reais, como depuração de vários arquivos ou auditoria de dados de treinamento.
No ambiente empresarial, as concessões são concretas: vale pagar por uma única instância de modelo com contexto extremo, capaz de manter um repositório inteiro e seus rastros na memória, ou é melhor projetar uma solução híbrida que combine um modelo central menor com RAG, camadas de memória indexada e um fluxo de verificação? O Fern muda essa equação ao ampliar o que é possível sem recuperação intermediária. Ainda assim, antes de adotar uma estratégia de contexto extremo, as equipes precisam avaliar a robustez, a observabilidade e as falhas de raciocínio em casos-limite.