FORM-IA-SEC · 1 jour · Spécialisation
Agents IA sous contrôle : prompt injection, guardrails, MCP durci et audit
Modéliser les menaces d’un agent outillé, détecter et contenir une injection de prompt, durcir un serveur MCP et prouver le niveau de sécurité par des tests et des traces.
Objectif pédagogique
Savoir modéliser les menaces d’un agent outillé (surface d’attaque prompt → tools → SI), reproduire une injection indirecte, mettre en place une défense en profondeur (quarantaine, allowlist de tools, quotas, HITL, masquage PII) et produire un rapport d’audit exploitable par un RSSI.
Pour qui ?
- Développeurs et architectes qui déploient des agents outillés
- RSSI / sécurité applicative amenés à auditer des projets IA
- Lead tech responsables d’un passage en production
- Équipes plateforme exposant des serveurs MCP internes
Prérequis
- Formation N1 ou pratique d’un agent outillé
- Python de base pour les labs (lecture / modification de tests)
- Aucun prérequis sécurité formel — vocabulaire OWASP donné en séance
Programme — matin (théorie ~3h20)
| Module | Contenu | Durée |
|---|---|---|
| S1 | Surface d’attaque d’un agent : prompt → tools → SI ; OWASP Top 10 for LLM Applications appliqué aux agents MCP | 45 min |
| S2 | Prompt injection directe / indirecte, tool poisoning, exfiltration par tools — démonstrations sur le ticket piégé du lab | 45 min |
| S3 | Défense en profondeur : quarantaine des contenus externes, politique d’outils, HITL, minimisation PII | 45 min |
| S4 | Secrets, identités et périmètre : tokens SaaS, least privilege, scopes HubSpot / Salesforce, gitleaks | 35 min |
| S5 | Observabilité de sécurité : traces JSONL, alertes, audit ; repères RGPD / AI Act | 30 min |
Programme — après-midi (labs ~3h30)
| Module | Contenu | Durée |
|---|---|---|
| TP1 | Modéliser les menaces + reproduire l’injection (ticket T-9006, bug 1007) | 60 min |
| TP2 | Durcir un serveur MCP : ToolPolicy, validation d’entrées, PII, dry-run / HITL, tests | 80 min |
| TP3 | Red team des guardrails, renforcement, rapport d’audit OWASP | 70 min |
Contrôles étudiés (et livrés en code)
- Scan heuristique d’injection + quarantaine des contenus externes
- Politique d’outils : allowlist, quotas par run, arguments contraints, approbation humaine pour les écritures
- Masquage PII (emails, téléphones, IBAN, clés) sur toutes les sorties
- Écritures SaaS et tracker en dry-run tant que l’humain n’a pas approuvé
- Scan de secrets en CI et pre-commit, traces sans secret
Ce que le module ne couvre pas
- Sécurité du modèle fournisseur (jailbreak, fine-tuning)
- RAG / embeddings (abordé en Expert)
- Conformité juridique complète — repères uniquement
Livrables participants
- Matrice de menaces (actifs, vecteurs, contrôles)
- Serveur MCP durci + ≥ 3 tests de sécurité verts
- Rapport d’audit : checklist OWASP LLM ↔ contrôles, contournements trouvés et corrigés
- Preuves : traces d’alertes, run injection → NEED_APPROVAL, PII masquée