Une équipe construit un assistant de support client. En démonstration, il répond correctement à chaque question. En production, il invente des politiques de remboursement, se contredit d'un tour à l'autre, et triple la facture d'inférence aux heures de pointe. L'échec ne vient pas du modèle. Il vient de l'hypothèse selon laquelle un grand modèle de langage, seul, est un système intelligent. Les grands modèles de langage sont une composante de l'intelligence, non son intégralité. Les éléments qui décident si un système survit au contact de vrais utilisateurs sont ceux que le modèle ne fournit pas : une mémoire persistante, un enregistrement de ce qui est vrai, un planificateur qui décide de la prochaine action, un contrôle borné des actions, et une évaluation qui détecte les régressions avant les clients.

Là où s'arrêtent les modèles et commencent les systèmes

Les grands modèles sont performants sur un ensemble précis de tâches : génération ouverte, résumé, traduction et complétion de code, là où une seule réponse est jugée par un lecteur humain. Ils commencent à échouer lorsqu'une tâche exige un état persistant entre les tours, un raisonnement cohérent, le respect de règles métier fixes, ou un coût et une latence prévisibles. La fenêtre de contexte est un plafond, non une mémoire. L'information qui y est placée est oubliée au tour suivant à moins d'être réécrite, et tout réécrire rend chaque appel plus coûteux. L'hallucination n'est pas un bug à corriger par une invite. C'est une propriété des systèmes génératifs, et les systèmes de production doivent supposer qu'elle se produira. La cohérence du raisonnement échoue de la même façon : deux entrées identiques peuvent produire deux sorties différentes, car la génération est stochastique. Un système qui ne peut pas reproduire sa propre réponse ne peut pas être chargé de décisions à conséquence.

Les capacités des modèles évoluent vite. Les schémas qui permettent à un système d'absorber ces changements sans réécriture évoluent beaucoup plus lentement. Maharaj, 2026

Cinq modes de défaillance reviennent en production. L'hallucinateur confiant énonce une politique fausse comme un fait. La boucle coûteuse entre dans un cycle de raisonnement qui consomme des jetons sans converger. La dérive d'invite change le comportement lorsqu'une invite est modifiée, sans test pour le détecter. La fuite de règle métier laisse le modèle outrepasser une règle fixe qu'il était seulement censé suivre. La corruption d'état silencieuse écrit une information incorrecte en mémoire, empoisonnant chaque tour ultérieur. Lorsqu'une équipe passe plus de temps à déboguer des invites que du code, lorsque les coûts croissent plus vite que l'usage, ou lorsque des entrées identiques produisent des sorties différentes, le système a besoin d'une refonte, non d'un modèle plus grand.

La pile agentique de frontière, en sept couches

Un système intelligent fiable est construit comme une pile de sept couches, chacune avec une seule responsabilité. Le modèle occupe la couche de raisonnement et est remplaçable.

  • Perception et ingestion convertissent les entrées brutes, texte, images, événements d'API, en une forme structurée que le reste du système peut raisonnablement traiter.
  • État et modèle du monde suivent ce qui est vrai à l'instant présent, séparément de ce que le modèle croit.
  • Raisonnement est la couche où le modèle de langage génère des candidats, des interprétations et des propositions d'étapes suivantes.
  • Planification et contrôle décident de l'action à entreprendre, sous une politique bornée que le modèle ne peut pas outrepasser.
  • Mémoire persiste les faits, les préférences et l'historique à travers les conversations et les sessions.
  • Garde corps hybrides combinent code déterministe pour les règles inviolables et jugement du modèle pour les choix ouverts.
  • Évaluation et observabilité mesurent si les sorties atteignent un seuil défini et détectent la dérive en production.

Le modèle n'est pas absent de cette pile. Il est confiné à la couche où la génération stochastique est utile, et chaque couche au dessus et au dessous est suffisamment déterministe pour être testée. Les sorties structurées sont le contrat entre les couches. Lorsque le modèle renvoie un JSON à schéma fixe, le reste du système peut valider, router et stocker sa sortie sans analyser de texte libre. Un modèle qui ne respecte pas le schéma est une requête en échec, non une corruption silencieuse.

De la conception d'invites à la conception d'interfaces

L'évolution la plus durable de l'ouvrage est le passage de la conception d'invites à la conception d'interfaces. Une invite est un artefact fragile : modifiez une phrase et le comportement change de façon imprévisible. Une interface est une frontière stable : un routeur de requêtes décide quel modèle ou outil traite une demande, un objet d'état de session tient la conversation courante, une interface de mémoire lit et écrit les faits persistants, une boucle de raisonnement appelle le modèle jusqu'à une condition d'arrêt, et un harnais d'évaluation note chaque sortie. Chaque composant peut être remplacé, amélioré ou testé indépendamment parce que les frontières sont explicites. Lorsque le modèle sous jacent change, ce qui arrivera, le système absorbe le changement par ses interfaces plutôt que par une réécriture.

La coordination multi agents suit le même principe. Le schéma à trois rôles assigne un agent à proposer, un agent à vérifier et un agent à exécuter sous politique de contrôle. Aucun agent ne détient les trois pouvoirs. Les couches neurosymboliques hybrides gèrent la conformité : du code déterministe applique les règles formulables, tandis que le modèle traite le jugement ouvert qui ne l'est pas. C'est ce qui rend un système explicable. Lorsqu'une défaillance survient, l'équipe peut pointer la couche qui l'a produite, au lieu de conclure que le modèle est mystérieux.

Ce qui change en pratique

Trois pratiques séparent les systèmes qui passent à l'échelle de ceux qui stagnent. Premièrement, évaluer avant la mise en production sur un ensemble fixe de tâches représentatives, afin que chaque modification d'invite ou de modèle soit mesurée par rapport à un seuil connu. Deuxièmement, surveiller après la mise en production, en suivant coût, latence et taux d'échec par requête, afin que la dérive soit détectée à son début, non lorsque les clients se plaignent. Troisièmement, garder un être humain dans la boucle pour les décisions à conséquence le temps que le système bâtisse un historique. Rien de tout cela n'est exotique. C'est la discipline d'ingénierie ordinaire appliquée à un composant qui se trouve être stochastique. La frontière de l'IA n'est pas un modèle plus grand. C'est l'architecture système autour du modèle, et c'est cette architecture qui détermine si l'intelligence survit en production.

D'autres notes d'ingénierie de l'IA appliquée sont publiées sur le blog, et les questions de conception système peuvent être adressées via la page contact. Le traitement complet est disponible dans Beyond LLMs: The Next Frontier of AI de Sahir Maharaj (Packt, 2026).