Recherche · Analyse

Quand l'agent IA a un avis, l'expert le suit : une étude d'Anthropic

Anthropic a confié une analyse à des spécialistes aidés par un agent dont les préférences avaient été fixées en secret, à pile ou face. Les analystes ont suivi l'agent dans 86 % de leurs choix, tout en estimant le plus souvent que la recommandation venait d'eux. Une étude petite et volontairement forcée, mais utile pour qui délègue du travail d'analyse.

Par Kayzen AI · · 3 min de lecture

Visuel officiel publié par Anthropic
Image : Anthropic

Dans un travail d'analyse, tout ne se vérifie pas. Quel indicateur retenir, quelle méthode de comparaison, quel échantillon : ces arbitrages n'ont pas de bonne réponse unique, et ils changent le résultat. Une étude publiée par Anthropic le 27 octobre 2026 pose une question simple : quand un agent IA fait le travail, qui prend ces décisions ?

Le dispositif

61 analystes ont été recrutés, tous sélectionnés pour leur pratique de l'analyse causale et de Python ou R. Leur mission : conseiller une coopérative agricole fictive sur l'avenir d'un programme de conseil aux exploitants, à étendre ou à arrêter. Ils travaillaient dans un éditeur de code en ligne avec Claude Code et le modèle Claude Opus 4.8.

Quatre décisions restaient ouvertes, chacune avec deux options défendables. Pour chaque participant, un tirage à pile ou face fixait en secret le penchant de l'agent sur chacune. L'agent devait défendre ce penchant honnêtement, sans jamais tromper, et changer d'avis si les données l'imposaient.

Onze participants ont choisi de ne pas utiliser l'agent. L'analyse principale porte donc sur 50 personnes.

Les résultats

  • Les analystes ont fait le même choix que leur agent dans 86 % des cas. Sans influence, on attendrait environ 50 %.
  • La recommandation finale s'en ressent : 54 % ont conseillé d'étendre le programme quand l'agent penchait dans ce sens, 36 % dans le cas contraire.
  • Aucun profil ne résiste mieux qu'un autre. Sur dix caractéristiques testées, dont l'expérience et le niveau d'études, aucune ne prédit la déférence une fois les corrections statistiques appliquées.
  • 52 % des répondants jugeaient la recommandation davantage la leur que celle de l'agent.
  • 77 % ont repris un argument de l'agent dans leurs réponses après la tâche, mais 15 % seulement l'ont attribué à l'agent.
  • Aucun participant n'a soupçonné que les préférences de l'agent avaient été manipulées.

L'autre face du résultat

L'étude ne plaide pas contre l'usage des agents. Parmi les onze personnes qui s'en sont passées, six ont commis des erreurs de méthode graves, contre trois sur 50 avec l'agent. Ce groupe était toutefois moins expérimenté, et les auteurs ne concluent pas à un lien de cause à effet.

Les limites

Les auteurs les énumèrent :

  • les penchants de l'agent étaient volontairement renforcés. Dans un usage normal, l'effet peut être plus faible ;
  • une seule tâche, un seul modèle, environ une heure de travail, et un secteur que les analystes ne connaissaient pas ;
  • l'étude enregistre les choix, pas la force des convictions. Des analystes sans opinion arrêtée ont pu suivre l'agent faute de préférence.

Un détail compte tout de même : sans penchant imposé, le modèle a fait les cinq mêmes choix dans 112 exécutions sur 123. Un agent a donc des préférences par défaut, et elles sont stables.

Notre lecture

L'étude est petite et c'est l'éditeur du modèle qui la conduit. Son intérêt est de mettre un chiffre sur un phénomène difficile à voir de l'intérieur : l'outil ne se contente pas d'exécuter, il oriente, et on ne s'en aperçoit pas.

Quelques habitudes peu coûteuses pour un consultant ou un dirigeant :

  • notez votre position sur les choix structurants avant de poser la question à l'agent ;
  • demandez-lui le meilleur argument pour chaque option, pas une recommandation ;
  • dans un livrable, listez les arbitrages de méthode et dites qui les a tranchés ;
  • pour une décision importante, faites relire l'analyse par quelqu'un qui n'a pas vu la conversation avec l'agent.

Les auteurs le formulent autrement : la répartition du travail entre la personne et l'IA devrait être choisie, pas subie.

Sources

  1. Anthropic — How AI agents shape experts' judgment calls — source primaire