Por anos, eficiência significava melhores prompts ou modelos maiores e mais capazes. SoL-Pi inverte esse foco para a estrutura ao redor do modelo — o arcabouço que planeja tarefas, coleta observações, chama ferramentas, avalia resultados e reenvia prompts. A ideia central é automação: ciclos recursivos de pesquisa automática geram diferenças na estrutura (ex.: filtros de observação, profundidade de planejamento, políticas de log), depois realizam testes controlados para manter as melhorias. O resultado é uma série contínua de pequenas melhorias que se acumulam em economias significativas. Em agentes de codificação, isso se traduz em menos turnos e menos contexto desperdiçado, com aceleração no tempo real e redução de custos — sem necessidade de re-treinamento ou troca do modelo.

Por que isso funciona? A maioria das pilhas de agentes consome tokens de formas evitáveis: prompts de sistema repetidos, esquemas de ferramentas verbosos, diferenças de arquivos reproduzidas e logs de depuração que vazam para as observações. SoL-Pi caça esses padrões com sondagens estruturadas e testes de ablação, propondo alternativas — prompts delta em vez de reproduções completas de contexto, amostragem e redação de logs, verificações de saída antecipada para casos triviais, profundidade adaptativa para planejamento e busca, e compressão da entrada/saída das ferramentas. Essas otimizações reduzem tanto o volume de tokens quanto o número de etapas, diminuindo a latência enquanto mantêm estáveis as taxas de sucesso. Na prática, a estrutura torna-se a camada de otimização que você pode iterar a cada hora, não a cada trimestre.

Para equipes de engenharia e produto, a implicação é operacional: trate o orçamento de tokens, o orçamento de etapas e as políticas da estrutura como SLOs de primeira classe. Adicione contadores para tokens por etapa, distribuições de tamanho de observação e chamadas de ferramentas; crie tarefas canário e avaliações sombra; e controle lançamentos com limites para pass@k, risco de regressão e intervenção humana. O benefício para o CFO é direto — custos unitários menores por ticket, PR ou mudança mesclada —, mas a confiabilidade também melhora, pois menos etapas significam menos possibilidades de desvios. A arte está em encontrar otimizações que generalizem entre repositórios e tipos de tarefas sem se ajustar demais a benchmarks ou peculiaridades de um único modelo.

SoL-Pi também redefine a estratégia de fornecedores. Otimização fora do modelo funciona bem entre provedores e versões, estendendo a vida útil do seu modelo atual e ganhando tempo para avaliar atualizações com ROI mais claro. Combina perfeitamente com restrições empresariais — limpeza de PII, redação de políticas e rastros reproduzíveis — porque muitos ganhos vêm de decidir o que não enviar. Espere que esse padrão se espalhe: compiladores de estrutura, minimizadores de esquema e planejadores de observação que ficam entre agentes e ferramentas, fechando ciclos de feedback e fazendo cada token valer.