Le POC n’est pas la prod
Un graphe qui « marche sur un golden path » ne dit rien des boucles infinies, des tools mal paramétrés, des fuites de données ou d’une facture tokens qui explose un vendredi soir.
1. Stop conditions explicites
PASS, FAIL, NEED_APPROVAL, max_loops : sans états de fin, un orchestrateur improvise. Documentez-les comme des contrats d’API.
2. Séparation des rôles
Analyste (faits + tools), rédacteur (forme), validateur (règles). Mélanger tout dans un seul prompt rend le debug et l’audit impossibles.
3. Guardrails & HITL
Bloquez les actions irréversibles. Exigez une validation humaine sur les zones grises. Le HITL n’est pas un échec d’automatisation : c’est une feature de confiance.
4. Observabilité & coûts
- Traces par nœud (inputs/outputs, tools, latence)
- Compteurs tokens et budgets par cas d’usage
- Jeux golden + failure pour non-régression
5. Gouvernance écrite
Matrice données / tools / autonomie, owners, revue des prompts, plan de déploiement (sandbox → préprod → prod). Sans document vivant, le comité IA redécouvre tout à chaque sprint.
En Expert, le livrable n’est pas seulement le code du lab : ce sont aussi architecture.md, deploy-plan.md et governance.md.
Checklist express avant préprod
- Aucun tool d’écriture prod sans double contrôle
- PII et secrets hors des prompts et des logs bruts
- max_loops + timeout réseau sur chaque tool
- Runbook d’incident « agent qui dérive »
- KPI métier définis (pas seulement « ça répond »)