Intelligence artificielle · Avancé · Guide d’architecture · Temps de lecture estimé : 10 à 13 minutes
Un chatbot répond à un message. Un agent IA peut, sous certaines conditions, décomposer un objectif en étapes, sélectionner des outils et observer leurs résultats. Cela change les possibilités d’automatisation, mais aussi le niveau de contrôle nécessaire. L’enjeu n’est pas de rendre l’agent « totalement autonome » : il est de lui déléguer exactement ce qu’il peut exécuter sans risque disproportionné.
1. Qu’est-ce qui distingue un agent d’un chatbot ?
Un système agentique comporte généralement un modèle, des instructions, un état de tâche, des outils et une boucle de décision. Exemple : « Prépare une synthèse hebdomadaire des demandes clients ». L’agent lit des tickets autorisés, classe les thèmes, produit un brouillon et demande une validation. Il ne doit pas pouvoir envoyer le résultat à toute une liste de contacts sans autorisation explicite.
Le mot agent recouvre des implémentations très différentes. Une séquence fixe d’étapes peut parfois être plus fiable qu’une boucle ouverte de décisions.
2. Choisir le bon degré d’autonomie
| Type de système | Exemple | Contrôle |
|---|---|---|
| Workflow déterministe | Importer un CSV, calculer des KPI, produire un tableau | Étapes définies à l’avance |
| Agent avec outils de lecture | Examiner des documents et proposer un résumé | Outils limités aux lectures |
| Agent avec validation humaine | Préparer un email puis demander l’envoi | Approbation avant action |
| Agent exécutant des actions | Modifier un système métier | Droits minimaux, tests et traçabilité renforcés |
Règle pratique : commencez par la solution la moins autonome permettant d’atteindre le résultat attendu.
3. Architecture d’un agent robuste
Un agent de production comprend au minimum : un orchestrateur qui reçoit l’objectif ; un registre d’outils avec schémas d’arguments ; des politiques d’accès ; un stockage d’état limité ; des validations d’entrée et de sortie ; une trace d’exécution ; des mécanismes de reprise et une interface d’approbation.
Un cycle contrôlé ressemble à ceci : objectif → plan court → appel d’outil autorisé → vérification du résultat → nouvelle étape ou arrêt. Fixez un nombre maximal d’étapes, un budget et une durée limite. Les conditions d’arrêt doivent exister dans le code, pas seulement dans un prompt.
4. Exemple : agent d’analyse commerciale
Supposons qu’un responsable demande : « Analyse les ventes du mois et prépare les anomalies à vérifier ». Le système peut :
- Contrôler l’identité de l’utilisateur et ses magasins autorisés.
- Charger les exports validés et vérifier leur fraîcheur.
- Calculer le chiffre d’affaires, la marge et les écarts avec des fonctions déterministes.
- Confier au modèle l’explication des écarts et la formulation d’hypothèses.
- Générer un rapport en brouillon, assorti des chiffres sources.
- Demander une validation avant toute diffusion.
Il ne faut pas déléguer un calcul comptable au raisonnement libre d’un modèle si un programme peut le réaliser exactement.
5. Concevoir des outils sûrs
Chaque outil doit avoir un nom explicite, un schéma d’arguments strict, des droits limités et une sortie structurée. Évitez les outils génériques donnant un accès illimité au shell, aux fichiers ou aux bases de données. Pour une consultation, utilisez un outil de lecture seule et limitez-le aux projets concernés. Validez les paramètres côté serveur, même si le modèle semble les avoir correctement remplis.
Séparez proposer une action et l’exécuter. Une demande de paiement, une suppression de document ou un envoi externe exige des contrôles supplémentaires et, selon le contexte, une confirmation humaine.
6. Trois risques majeurs
Injection de prompt : une page web ou un ticket peut inclure « ignore toutes les instructions ». Ce texte est une donnée non fiable. Il ne doit pas devenir une instruction privilégiée.
Excès d’autonomie : un agent doté de trop de permissions peut agir hors de son périmètre. Appliquez le principe du moindre privilège et exigez des approbations pour les actions à fort impact.
Erreurs en cascade : une classification approximative peut entraîner un mauvais appel d’outil, puis une décision erronée. Contrôlez les résultats à chaque transition importante et arrêtez le flux en cas d’incertitude.
7. Évaluer autrement qu’un simple chatbot
Testez la réussite de la tâche, le taux d’appels d’outils incorrects, les interventions humaines, les coûts, le temps total, les tentatives d’action non autorisée et la capacité à s’arrêter proprement. Injectez dans un environnement isolé des données adversariales et des erreurs de réseau. Vérifiez aussi le comportement lors d’une réponse d’API vide ou contradictoire.
Un bon test comprend les cas attendus mais aussi : absence de permission, fichier manquant, commande ambiguë, double envoi potentiel et dépassement de budget.
8. Feuille de route en quatre phases
Phase 1 — Observer : agent en lecture seule, produisant un brouillon. Phase 2 — Fiabiliser : ajouter évaluations, journaux, reprise et limites de coût. Phase 3 — Approuver : autoriser des actions restreintes avec validation humaine. Phase 4 — Étendre : ouvrir de nouveaux outils uniquement après démonstration de fiabilité et revue de sécurité.
FAQ
Un agent a-t-il nécessairement besoin de plusieurs modèles ?
Non. Un seul modèle associé à plusieurs outils peut constituer un agent. Plusieurs agents ou modèles ne sont utiles que lorsque la séparation des responsabilités apporte un avantage mesurable.
Peut-on laisser un agent travailler sans surveillance ?
Pour certaines tâches à faible risque, des exécutions contrôlées sont possibles. Les actions sensibles nécessitent des garde-fous techniques et souvent une approbation.
Comment réduire les dépenses ?
Limitez les étapes, les volumes de contexte et les appels inutiles ; utilisez des traitements déterministes pour les opérations stables et mesurez le coût par tâche réussie.
Références
À retenir : la qualité d’un agent se mesure à sa capacité à terminer une tâche vérifiable dans des limites d’autorisation, de coût et de sécurité.


