Human-in-the-loop : garder la main sur un agent IA

Un agent IA qui agit seul va vite. Un agent qui vous demande tout ne sert à rien. Entre les deux, il y a une idée simple : il s'arrête aux bons moments, et c'est vous qui décidez.

Ce que veut dire « human-in-the-loop »

L'expression anglaise veut dire « un humain dans la boucle ». Pour un agent IA, c'est une règle de fonctionnement : à certains moments, l'agent ne décide pas. Il présente ce qu'il s'apprête à faire, il attend, et il ne continue qu'avec l'accord d'une personne.

Ce n'est pas de la méfiance envers le modèle. Un agent peut très bien raisonner et se tromper quand même : il a mal lu un montant, il a pris le mauvais destinataire, il a compris « supprimer les doublons » plus largement que vous. Tant qu'il écrit un brouillon, l'erreur ne coûte rien. Dès qu'il paie, envoie ou efface, elle coûte.

Les trois façons de faire

• Tout valider. L'agent demande avant chaque action. C'est sûr, mais on finit par cliquer « oui » sans lire, ce qui revient à ne rien valider.
• Ne rien valider. L'agent agit seul et on relit après. Ça marche pour ce qui se rattrape : un fichier qu'on peut restaurer, un brouillon, une recherche.
• Valider ce qui ne se rattrape pas. L'agent agit seul la plupart du temps, et s'arrête avant les gestes qui engagent : payer, envoyer, supprimer, publier, s'inscrire, choisir à votre place. C'est la façon qui tient dans la durée.

La troisième demande de dire à l'agent où passe la limite. Une ligne dans ses instructions suffit souvent : « Avant de payer, d'envoyer un message en mon nom ou de supprimer quoi que ce soit, demande-moi. Si je ne réponds pas, ne le fais pas. » Le guide Ce qu'un agent IA ne devrait pas faire seul détaille cette liste.

Ce qu'une bonne demande de validation contient

Si la question est floue, vous allez soit répondre au hasard, soit aller vérifier vous-même, et l'agent n'aura servi à rien. Une demande utile tient en peu de choses :

• une question courte, qui se lit en une seconde : « Je paie la facture OVH de 42,90 € ? » ;
• le contexte qui permet de décider sans ouvrir autre chose : le montant, le destinataire, le texte du mail, la ligne de commande ;
• des réponses toutes prêtes, sous forme de boutons : « Payer », « Attendre », « Refuser » ;
• une échéance : passé un délai, la question expire et l'agent n'agit pas.

Le dernier point compte plus qu'il n'y paraît. Un silence ne doit jamais valoir un accord. Si personne ne répond, l'action n'a pas lieu.

Où la question doit arriver

Un agent travaille souvent quand vous n'êtes pas devant l'écran : une tâche longue dans Claude Code, un scénario n8n qui tourne la nuit, un assistant qui trie vos mails. Si la demande reste dans le terminal, l'agent attend des heures pour rien. La question doit venir à vous, sur le téléphone, là où vous lisez déjà vos messages, avec de quoi répondre sans ouvrir d'application.

Comment le mettre en place

Il y a deux grandes façons :

• Le construire soi-même. Des cadres comme LangGraph savent mettre un agent en pause et le reprendre plus tard. n8n a des nœuds qui envoient un message et attendent la réponse. C'est le bon choix si vous écrivez déjà votre agent en code et que vous voulez tout garder chez vous.
• Donner un outil à l'agent. Avec le protocole MCP, on branche à l'agent un outil du genre ask_human, qu'il appelle quand il a besoin de vous. Rien à coder : on colle une adresse dans Claude, ChatGPT ou Cursor.

C'est ce que fait Aval : votre agent vous pose la question sur votre téléphone, sur Telegram ou par mail, avec un bouton par réponse, et attend. Le guide Ajouter une validation humaine à un agent MCP montre comment le brancher.

Questions fréquentes