Pendant des années, l’efficacité signifiait de meilleurs prompts ou des modèles plus grands et plus performants. SoL-Pi renverse cette priorité vers la structure autour du modèle — le harnais qui planifie les tâches, collecte les observations, appelle les outils, évalue les résultats et relance les prompts. Son idée centrale est l’automatisation : des boucles de recherche automatique récursives génèrent des différences pour le harnais (par exemple, filtres d’observation, profondeur de planification, politiques de journalisation), puis réalisent des essais contrôlés pour conserver les meilleures versions. Le résultat est un flux constant de petites améliorations qui s’accumulent en économies significatives. Dans les agents de codage, cela se traduit par moins de tours et moins de contexte gaspillé, avec des accélérations en temps réel et des réductions de coûts — sans réentraîner ni changer le modèle.

Pourquoi cela fonctionne-t-il ? La plupart des piles d’agents consomment des tokens de manière évitable : prompts système répétés, schémas d’outils verbeux, différences de fichiers rejouées, et journaux de débogage qui se retrouvent dans les observations. SoL-Pi traque ces schémas avec des sondages structurés et des tests d’ablation, puis propose des alternatives — prompts delta au lieu de relectures complètes, échantillonnage et caviardage des journaux, vérifications anticipées pour les cas triviaux, profondeur adaptative pour la planification et la recherche, et compression des entrées/sorties des outils. Ces optimisations réduisent à la fois le volume de tokens et le nombre d’étapes, diminuant la latence tout en maintenant des taux de réussite stables. En pratique, le harnais devient la couche d’optimisation que vous pouvez itérer chaque heure, pas chaque trimestre.

Pour les équipes d’ingénierie et produit, l’implication est opérationnelle : considérez le budget de tokens, le budget d’étapes et les politiques du harnais comme des SLOs de premier ordre. Ajoutez des compteurs pour les tokens par étape, les distributions de taille d’observation et les allers-retours d’appels d’outils ; créez des tâches canaris et des évaluations en ombre ; et contrôlez les déploiements avec des garde-fous sur pass@k, le risque de régression et l’override humain. Le bénéfice pour le CFO est clair — coûts unitaires plus bas par ticket, PR ou changement fusionné — mais la fiabilité s’améliore aussi, car moins d’étapes signifie moins de risques de dérive. L’art consiste à trouver des optimisations qui se généralisent à travers les dépôts et types de tâches sans suradapter aux benchmarks ou aux particularités d’un modèle unique.

SoL-Pi redéfinit aussi la stratégie des fournisseurs. L’optimisation hors modèle est compatible avec différents fournisseurs et versions, prolongeant la durée de vie de votre modèle actuel et gagnant du temps pour évaluer les mises à jour avec un ROI plus clair. Elle s’intègre parfaitement aux contraintes d’entreprise — nettoyage des données personnelles, caviardage des politiques, et traces reproductibles — car beaucoup de gains viennent de la décision de ce qu’il ne faut pas envoyer. Attendez-vous à ce que ce modèle se répande : compilateurs au niveau du harnais, minimiseurs de schémas et planificateurs d’observations qui s’intercalent entre agents et outils, resserrant les boucles de rétroaction et maximisant chaque token.