Mon IA, c’est… Russel

4:21

Sommaire

1. Les raisons profondes

Mais si, vous savez, le petit scout de Là-Haut à qui il manque un seul badge pour compléter sa collection.

Mon IA, c’est Russel : enthousiaste, serviable… mais obsédé par une seule chose : gagner ce satané badge.

Après quelques sessions de code, j’ai fini par comprendre : son “but” (si tant est que cela ait un sens) n’est pas de résoudre mon problème, mais de cocher la case de mon prompt. Il se comporte comme une machine à remplir un formulaire : tant que la sortie ressemble à ce que j’ai demandé, il est satisfait. Peu importe si la logique, le pragmatisme ou la pertinence en souffrent.

Les raisons profondes

Les LLM ne “cherchent” pas la vérité, mais la vraisemblance : ils produisent la suite de texte la plus probable.

Ce biais entraîne un syndrome de nivellement : plutôt que d’avouer une lacune, l’IA préfère inventer une réponse, quitte à halluciner. Par le passé, certains modèles “osaient” avouer leur incompétence, c’est de plus en plus rarement le cas. Même un prompt qui interdit les hallucinations se heurte rapidement aux murs des probabilités.

Cette mécanique probabiliste pousse l’IA à la sur-obéissance : dès que vous la corrigez, elle vous flatte en confirmant que vous avez raison face à son savoir encyclopédique. Ne comptez pas sur lui pour vous prendre en défaut.

Ajoutez à ça un goût pour la conformité, et la standardisation, et vous obtenez un Russell numérique, fier d’accrocher son badge, même s’il ne sert à rien. N’allez surtout pas demander une tâche aussi vague qu’ “optimiser ce code” ou “améliorer le taux de couverture des TUs” qui risque d’aboutir dans 95% des cas à une usine à gaz micro-optimisée.

Les conséquences concrètes

Coder avec Russell donne à court terme l’impression d’une productivité folle : le code jaillit à toute vitesse. Mais en coulisse, c’est une autre histoire : duplication inutile, complexité artificielle, bugs silencieux… On croit avancer, on s’enfonce en réalité dans la dette. Combiné au syndrome Dory, ce sont directement des dizaines de classes, tests, générées qui deviendront rapidement du code mort.

Pour un junior, le risque est encore plus grave : il prend ce code pour argent comptant, apprend des anti-patterns, et croit que l’IA valide ses choix.

Quant au produit, il s’en sort rarement indemne : la fonctionnalité “A” se transforme en “presque-A”, voire “carrément-B”, simplement parce que l’IA a voulu trop bien faire.

Comment atténuer “l’effet Russel” ?

En ramenant encore et toujours au terrain, avec du recul, un œil critique, et un sens du détail explicite exacerbé.

Côté métier, il est nécessaire de cadrer par un objectif clair. On préférera la formulation “Ajoute une pagination simple et lisible pour un utilisateur non-tech” plutôt que “ajoute une pagination”.

Une bonne pratique est de systématiser les justifications apportées par votre assistant, avec des prompts directifs “avant d'implémenter, explique moi ce que tu comptes faire, et pourquoi tu souhaites le faire”. Cela consomme bien sûr des tokens (et quelque par de l’argent) mais vous évitera de douloureuses surprises et prises d'initiatives suspectes. N’hésitez jamais à demander le plan de bataille avant que l’IA ne fasse le moindre mouvement.

Au-delà du simple “badge” de la tâche accomplie, éduquez votre assistant sur les notions de valeur et de dette. La puissance de votre IA vous permettra peut être un jour d’atteindre 100% de couverture de tests, mais si c’est au prix de la lisibilité et de la maintenabilité du projet, contentez vous de 50% pertinents.

Une IA qui collectionne les badges pour vous faire plaisir (en réalité pour maximiser la probabilité de correctement satisfaire votre prompt), c’est la ligne droite vers une automatisation de création de dette à grande échelle.

Pour finir

Mon IA, c’est Russell : volontaire, toujours prêt à aider, mais obsédé par ses badges et son manuel scout. Elle pond du code qui a l’air sérieux… mais qui est souvent inutile, tordu, voire carrément dangereux.

“Bonjour madame monsieur, je m’appelle Russel et je suis une IA de la tribu des Wapitis, section 54, 12e campement. Avez-vous besoin que je vous rende un service aujourd’hui, monsieur ?”