Concevoir un agent IA fiable avant de lui donner plus d’autonomie

Donner une mission bornée

Un agent fiable sait ce qu’il doit produire et ce qui ne relève pas de lui. Une mission trop large rend les erreurs difficiles à attribuer et à corriger.

Rendre les sources traçables

Les informations utilisées doivent être connues, à jour et accessibles lors d’une vérification. Une réponse sans provenance claire ne doit pas déclencher une action sensible.

Augmenter l’autonomie progressivement

L’autonomie se gagne avec des résultats observés, des journaux compréhensibles et une voie de retour sûre.