Em linhas gerais, o Terra oferece o menor custo por token e a maior capacidade de processamento para tarefas com texto simples, graças à quantização e ao processamento em lotes otimizados. O Sol tem um custo mais alto para oferecer raciocínio com contexto ampliado e geração de código, e apresenta latência por chamada moderadamente maior em condições comparáveis de SLO. O Astra tem preços voltados para cargas multimodais: espere gastar mais por chamada quando houver imagens ou ações realizadas pelo navegador. Para planejar as compras, calcule o custo por 100 mil solicitações, incluindo a média de tokens por solicitação, as novas tentativas esperadas e a sobrecarga de inicialização a frio dos agentes.

Na prática, se 70% das chamadas diárias forem para conteúdo curto ou extração de metadados, transferi-las para o Terra pode reduzir os gastos mensais com APIs em 30–60%, dependendo do volume. No entanto, roteá-las apenas pelo custo é arriscado: inclua critérios de qualidade e amostragens que enviem uma porcentagem das respostas do Terra ao Sol para validação contínua e detecção de desvios na fidelidade semântica.

Crie um serviço de roteamento leve que aplique regras determinísticas e um classificador simples. As regras podem considerar a modalidade (imagem ou texto), o tamanho em tokens, a compatibilidade com esquemas (a solicitação corresponde a um modelo existente?) e a taxa histórica de erros. Exemplos: encaminhe ao Terra a geração de e-mails padronizados com menos de 160 tokens; use o Sol para resumir vários documentos ou sintetizar código; direcione tarefas com imagem e instruções ao Astra. Mantenha uma pontuação de confiança do classificador e encaminhe solicitações com baixa confiança a modelos mais avançados, como o Sol ou o Astra.

Nota operacional: inclua sempre uma etapa de reavaliação que permita usar o Sol ou o Astra para recalcular a pontuação ou reescrever resultados do Terra quando as métricas posteriores piorarem. Essa escalada gradual mantém baixa a latência percebida pela maioria dos usuários e garante que os casos complexos recebam modelos mais avançados.

1) Geração de conteúdo: interface -> serviço de roteamento -> Terra para criar o rascunho -> amostragem de qualidade (1–5% para o Sol) -> pós-processamento -> CDN. 2) Tradução: o serviço de roteamento seleciona o Terra para pares de idiomas de alto volume com modelos determinísticos; traduções com baixa confiança ou expressões idiomáticas são encaminhadas ao Sol para revisão. 3) Processamento de documentos: pré-processamento de OCR + detecção de layout; extração simples de metadados no Terra; vinculação complexa de entidades e raciocínio entre documentos no Sol. 4) Agentes de navegador: use o Astra para interações visuais com o DOM e interpretação de capturas de tela; o Terra pode lidar com instruções padronizadas para agentes. 5) Fluxos de programação: use o Terra para gerar código padrão e refatorar, mas encaminhe falhas de compilação ou teste ao Sol para análise e depuração mais aprofundadas.

Todas as arquiteturas incluem alternativas de fallback, amostragem e etapas com participação humana. Para tarefas com agentes e navegação, limite o acesso ao Astra por meio de controles de permissão e registre as entradas visuais em logs de auditoria para atender aos requisitos de privacidade.

É preciso monitorar os resultados para preservar a economia gerada. Acompanhe os KPIs de cada modelo: latência P50/P95, custo por tarefa concluída, taxa de falhas de tolerância (específica do domínio), encaminhamentos para revisão humana e precisão semântica, medida por verificações automatizadas ou amostragens. Configure alertas para aumentos na taxa de erros do Terra ou quedas na confiança. Use implantações A/B ou canário para validar mudanças de roteamento antes de adotá-las em larga escala. Além disso, mantenha um histórico de auditoria rastreável das decisões de seleção de modelos para fins de conformidade e depuração.

Proteções: defina limites rígidos de orçamento para cada modelo e controle o uso de tokens no gateway; exija aprovação humana para qualquer roteamento automático que transfira dados pessoais identificáveis ou regulados para modelos de maior capacidade. Por fim, retreine ou reconfigure periodicamente o classificador de roteamento para acompanhar as mudanças nas consultas dos usuários e no desempenho dos modelos.

Comece com um projeto-piloto de 6–8 semanas: (1) faça um inventário das 10 principais APIs por volume e custo; (2) identifique 2–3 fluxos padronizados de alto volume; (3) implemente o middleware de roteamento e um classificador simples; (4) faça amostragens e valide os resultados com o Sol/Astra; (5) colete KPIs e encaminhe os casos para escalada quando os limites forem ultrapassados. Após o piloto, amplie a implantação gradualmente e integre os controles de orçamento aos alertas de faturamento da nuvem.

Papéis da equipe: responsável de produto para os critérios de aceitação, SRE para capacidade de processamento e SLAs, cientista de dados para o classificador e as estratégias de amostragem, e responsável por conformidade para auditorias e fluxos de dados. Use sinalizadores de recursos para ativar ou desativar regras de roteamento e mantenha a opção de voltar rapidamente a uma arquitetura com um único modelo caso os erros aumentem.