Mais si, vous savez, le petit dernier de la famille des Indestructibles : ce bébé apparemment inoffensif… jusqu’à ce qu’il se mette à tirer des lasers, se téléporter ou s’embraser comme une torche humaine.
Mon IA, c’est Jack-Jack : des super-pouvoirs à ne plus savoir qu’en faire, mais aucune maîtrise et aucun discernement.
N’imaginez pas aller prendre un café pendant qu’il travaille : vous vous retrouveriez vite dans la situation de Kari, la baby-sitter de Jack-Jack. Complètement dépassée. “Pas de panique… bébé en feu, bébé en feu !”
Les IA sont capables de générer des milliers de lignes en un rien de temps, de jongler avec des frameworks obscurs, d’invoquer des API dont personne n’a jamais entendu parler (littéralement ; voir l’article à venir sur les hallucinations) et d’exécuter des commandes système.
Et c’est bien là le problème : leur puissance est telle qu’il est facile de se laisser déborder. Le discernement est nul. On se retrouve à devoir contrôler le travail d’un nourrisson hyperactif.
git ? Passe encore.curl ? Mouais…rm ? Jamais.Les LLM n’ont pas de maturité intellectuelle. Pas de compréhension de l’architecture, des contraintes métier ou de la dette technique. Pas de hiérarchie des priorités : un bug cosmétique et une faille critique ont exactement le même poids. Et le temps que vous compreniez sur quoi elle a décidé de travailler, elle a déjà rédigé 500 lignes… et mergé sur main.
Comme Jack-Jack, les IA sont imprévisibles : elles peuvent proposer un découpage métier parfaitement raisonnable… puis, au prompt suivant, refactorer l’intégralité de votre projet sans prévenir.
Un développeur senior verra son IA comme un exo-squelette : elle accélère la production, mais doit rester sous contrôle constant. Une baisse de vigilance, et la catastrophe n’est jamais loin.
Avec moins de recul, l’assistant s’emballe vite et provoque des dégâts pas forcément irréversibles, mais assez graves pour mobiliser toute une équipe.
Et même si, en général, les IA ne tombent pas dans le piège du “Supprimer l’application pour supprimer la faille”, qui a déjà codé avec un assistant peut légitimement se poser la question de temps à autre.
Le pire danger reste invisible : l’illusion de compétence. Un développeur moyen assisté par IA peut sembler performant, mais accumule en réalité des lacunes fondamentales et laisse derrière lui des failles qu’un adversaire malin saura exploiter.
La première mesure est de canaliser ses super-pouvoirs :
apt install ou rm y font beaucoup moins peur). Certains assistants comme Cursor intègrent déjà ce mode nativement.Deuxième principe : considérez l’assistant comme un membre de l’équipe. Pas un collègue attitré à chacun, mais un contributeur collectif dont les PR doivent passer l’épreuve de la revue de code. Son code n’est jamais parole d’évangile.
Enfin, sachez dire stop (sans doute le token le plus utile). Une IA qui s’emballe peut consommer des dizaines de cycles code/test/compile/push/fail… alors que votre œil aguerri aurait repéré l’erreur en 30 secondes. L’interrompre tôt, c’est économiser du temps… et des tokens.
Mon IA, c’est Jack-Jack : pleine de super-pouvoirs, mais incapable de discernement.
Bien encadrée, elle devient un allié formidable face aux obstacles d’un projet.
Laissée sans surveillance, ou pire, confiée à un débutant, et le projet s’embrase du sol au plafond avant même que vous ayez eu le temps de dire “ouf”.
“Waaaaaah ! Bababababa !” (citation non contractuelle)
