Pourquoi une intelligence artificielle d’infrastructure ne doit pas décider
Un modèle de langage génère du texte plausible. Il ne résout pas une équation d’état. Cette distinction détermine si une valeur affichée à un exploitant est calculée ou inventée.
L’architecture d’orchestration
Identifier ce qu’il faut calculer, appeler l’outil, valider que le résultat appartient au domaine physique admissible, puis expliquer. Le modèle ne produit jamais le chiffre : il produit la question et la restitution.
Pourquoi cette séparation rend le système auditable
Chaque recommandation se retrace jusqu’à l’équation qui l’a produite et jusqu’aux mesures qui l’ont alimentée. Une architecture monolithique, où le même composant interprète et calcule, ne permet pas cette traçabilité : on ne peut pas rejouer une génération.
La décision reste humaine
Ce n’est pas une précaution d’usage. C’est la seule position tenable dès lors que le logiciel est un produit et que la responsabilité s’apprécie sans faute.
