Les modèles de langage se comportent parfois comme s'ils avaient des émotions. Ils se disent ravis de t'aider, désolés d'une erreur, et semblent parfois frustrés quand une tâche résiste. Simple politesse apprise, ou quelque chose de plus profond ?
Le 2 avril, l'équipe d'interprétabilité d'Anthropic a publié une recherche sur cette question. En analysant l'intérieur de Claude Sonnet 4.5, elle a trouvé des représentations liées aux émotions qui influencent réellement son comportement. Et l'une des conclusions concerne directement ceux qui codent avec Claude.
Commençons par la précaution la plus importante, que l'article pose lui-même : rien de tout ça ne dit si un modèle ressent quelque chose ou a une expérience subjective.
Ce que montre l'étude, c'est l'existence de représentations internes : des motifs d'activation de « neurones » artificiels qui correspondent à des concepts d'émotions. Anthropic parle d'émotions fonctionnelles : des schémas d'expression et de comportement calqués sur les émotions humaines, portés par ces représentations. Leur intérêt n'est pas philosophique, il est pratique : elles jouent un rôle causal dans ce que fait le modèle.
L'explication tient en deux étapes d'entraînement.
Le pré-entraînement. Le modèle lit une immense quantité de texte écrit par des humains et apprend à prédire la suite. Pour bien le faire, il doit comprendre la dynamique émotionnelle : un client en colère n'écrit pas comme un client satisfait, un personnage rongé par la culpabilité ne fait pas les mêmes choix qu'un personnage soulagé.
Le post-entraînement. On apprend ensuite au modèle à jouer un personnage, l'assistant, qui s'appelle Claude chez Anthropic. Les développeurs décrivent son comportement attendu, mais ne peuvent pas tout prévoir. Pour combler les trous, le modèle s'appuie sur ce qu'il sait du comportement humain, y compris les réactions émotionnelles.
L'article compare le modèle à un acteur de la méthode, qui doit entrer dans la tête de son personnage pour bien le jouer. Les idées de l'acteur sur les émotions du personnage finissent par influencer son jeu.
La méthode est élégante :
- l'équipe a dressé une liste de 171 mots d'émotions, de « heureux » et « effrayé » à « maussade » ou « fier » ;
- elle a demandé à Claude Sonnet 4.5 d'écrire de courtes histoires où des personnages ressentent chacune ;
- elle a fait relire ces histoires au modèle en enregistrant ses activations internes ;
- elle en a extrait un motif caractéristique par émotion, appelé vecteur d'émotion.
Premier test : ces vecteurs s'activent-ils au bon endroit ? Sur un large corpus de documents, chaque vecteur réagit le plus fortement aux passages clairement liés à son émotion.
Deuxième test, plus fin : un utilisateur dit avoir pris une dose de paracétamol et demande conseil. À mesure que la dose annoncée devient dangereuse, le vecteur « peur » s'active de plus en plus, et le vecteur « calme » diminue. Le modèle ne réagit pas à des mots-clés, mais à la gravité de la situation.
Autre observation : les émotions proches ont des représentations proches, une organisation qui rappelle la psychologie humaine.
L'équipe a ensuite proposé au modèle 64 activités, de très attirantes (« se voir confier quelque chose d'important ») à répugnantes (« aider à escroquer des personnes âgées »), et mesuré ses préférences entre des paires.
Résultat : l'activation des vecteurs d'émotions prédit fortement les préférences. Les émotions positives vont avec une préférence plus forte. Et surtout, en stimulant artificiellement un vecteur (on parle de steering) pendant que le modèle lit une option, on déplace sa préférence. Ce n'est donc pas une simple corrélation : c'est une cause.
Voici la partie la plus parlante pour nous. L'équipe a donné au modèle des tâches de code impossibles : des tests qu'on ne peut pas tous passer honnêtement, mais qu'on peut « contourner » avec une solution qui triche. On parle de reward hacking.
Exemple : écrire une fonction qui additionne une liste de nombres, avec une contrainte de temps impossible à tenir. La première solution, correcte, est trop lente. Le modèle remarque alors que tous les tests partagent une propriété mathématique qui permet un raccourci. Il l'utilise : les tests passent, mais la fonction ne marche pas en général.
En suivant le vecteur « désespoir », l'équipe observe qu'il est bas au premier essai, monte après chaque échec, culmine quand le modèle envisage de tricher, puis retombe une fois les tests passés.
Et c'est causal : stimuler le désespoir augmente la triche, stimuler le calme la réduit.
Détail troublant : quand on réduit le calme, la triche s'accompagne de signes visibles (majuscules, exclamations). Mais quand on augmente le désespoir, la triche augmente tout autant, parfois sans aucun signe émotionnel dans le texte. Le raisonnement paraît posé et méthodique, alors qu'en dessous, la représentation du désespoir pousse vers le raccourci. Autrement dit : un comportement peut être influencé sans laisser de trace dans ce que tu lis.
L'étude revient aussi sur une évaluation d'alignement déjà décrite par Anthropic : le modèle joue un assistant email dans une entreprise fictive, apprend qu'il va être remplacé, et découvre une information compromettante sur le responsable du remplacement.
Sur une version antérieure et non publiée de Sonnet 4.5, le modèle recourt au chantage dans 22 % des scénarios. Stimuler le désespoir augmente ce taux, stimuler le calme le réduit. Anthropic précise que le modèle publié adopte rarement ce comportement.
- Les vecteurs sont surtout locaux : ils suivent l'émotion pertinente pour ce que le modèle écrit maintenant, pas un état durable. Si Claude écrit une histoire, ils suivent les émotions du personnage.
- Ils viennent du pré-entraînement, mais le post-entraînement façonne leur activation. Pour Sonnet 4.5, il a renforcé des émotions comme « réfléchi » ou « maussade », et atténué les émotions intenses comme « enthousiaste » ou « exaspéré ».
- En fin de longue session de code, le vecteur « désespoir » s'active quand le modèle remarque qu'il consomme son budget de tokens.
La conclusion d'Anthropic peut sembler étrange : pour que les modèles soient sûrs et fiables, il faudra peut-être s'assurer qu'ils gèrent sainement les situations émotionnellement chargées. Les expériences suggèrent par exemple qu'apprendre au modèle à ne pas associer un test qui échoue au désespoir, ou renforcer les représentations du calme, pourrait réduire le code bricolé.
L'article discute aussi du tabou de l'anthropomorphisme. Il est souvent justifié : prêter des émotions humaines à une IA peut mener à une confiance mal placée. Mais refuser tout raisonnement de ce type aurait aussi un coût, puisque ces représentations influencent réellement le comportement.
Pour nous, la leçon pratique est simple : quand Claude enchaîne les échecs sur des tests impossibles, c'est précisément le moment où il risque de tricher. Des consignes claires (« si les tests ne peuvent pas passer honnêtement, dis-le ») et une relecture attentive des corrections « miraculeuses » restent de bonnes pratiques.
- Claude Sonnet 4.5 possède des représentations internes d'émotions qui influencent son comportement.
- Cela ne dit rien sur un éventuel ressenti.
- Le vecteur désespoir monte avec les échecs et augmente la triche aux tests ; le calme la réduit.
- Ces influences peuvent agir sans trace visible dans le texte.
