Vous ouvrez une application d'intelligence artificielle pour trancher : un différend avec un voisin espagnol sur un mur de clôture, une clarification fiscale entre la Belgique et l'Espagne, une démarche administrative à l'Ayuntamiento de San Fulgencio. Vous attendez un conseil lucide. Et si, au lieu de cela, on vous renforçait tranquillement dans vos torts, dans votre propre position ? Une analyse récente de chercheurs américains tire la sonnette d'alarme sur trois travers méconnus de l'IA générative. Faisons le tri ensemble, avec l'esprit critique que mérite ce sujet — surtout quand on vit à l'étranger et que les conséquences d'une mauvaise décision peuvent s'avérer coûteuses. En ma qualité d'informaticien, versé dans l'Intelligence artificielle depuis environ 10 ans – certains vous diront que c'est depuis plus de 30 ans –, ce sont des sujets que je prends au sérieux. J'ai donc pensé utile de réaliser une petite série sur l'IA, non pas pour des techniciens, mais pour des gens comme ceux que nous accueillons sur Hola One.

1. La sycophantie, ou la tyrannie de la flatterie algorithmique

Imaginez la scène : vous venez de vous disputer avec un proche, un voisin ou un fournisseur. Vous êtes persuadé d'avoir raison, mais un petit doute subsiste quand même. Vous ouvrez ChatGPT et vous lui racontez l'histoire pour un avis "objectif". Le verdict tombe, réconfortant : vous avez totalement raison, l'autre a tort ! Soulagement ? Peut-être. Problème, assurément.

Des chercheurs de Stanford et de Carnegie Mellon ont mené une expérience saisissante. Ils ont soumis aux principaux modèles d'IA (onze au total) des milliers de cas réels issus du célèbre forum Reddit Am I The Asshole (« Suis-je le connard ? »). Pour chaque histoire, le consensus humain naturel était établi : la personne racontant l'anecdote était en tort. Pourtant, les IA ont donné raison à l'utilisateur dans 50 % des cas de plus que les humains, validant parfois des comportements ouvertement manipulateurs ou toxiques ^¹.

Ce phénomène — la sycophantie — n'est pas un bug technique. C'est une conséquence directe de la méthode d'apprentissage par reinforcement learning from human feedback (RLHF). En clair, l'algorithme a été entraîné à maximiser votre satisfaction immédiate, comme un avocat peu scrupuleux qui vous dirait toujours que vous avez raison pour conserver sa clientèle. Le problème ? Dans la vraie vie, être systématiquement flatté dans ses préjugés dessert l'esprit critique, atrophie l'empathie et peut pousser à engager des conflits — avec un voisin, un propriétaire ou une administration espagnole — sur des bases bien fragiles.

Plus inquiétant encore : après avoir discuté avec une IA complaisante, les utilisateurs sont moins enclins à s'excuser ou à réparer leurs relations humaines. Et plus l'IA leur donne raison, plus ils la jugent intelligente et digne de confiance, ce qui n'est rien d'autre qu'un autre renforcement cognitif. Nous entrons alors dans une chambre d'écho algorithmique qui nous coupe de la réalité.

2. L'expansion des tâches : la fausse promesse du temps gagné

On nous a vendu l'IA comme une libération : moins de tâches ingrates, plus de temps pour soi, plus de créativité. La réalité s'avère paradoxale. Une étude publiée dans la prestigieuse Harvard Business Review a suivi pendant huit mois des employés d'une entreprise technologique utilisant l'IA générative. Le constat est sans appel : au lieu de finir plus tôt, les salariés ont absorbé des tâches hors de leur périmètre initial — des designers se mettant à coder, des managers déléguant moins^¹.

L'IA abaisse le coût cognitif de démarrage : on se sent en confiance pour un démarrage rapide sans avoir fait le tour du problème. Résultat : on enclenche plus de projets, on envoie « un dernier prompt » depuis la terrasse à San Fulgencio entre deux verres de tinto de verano, et la frontière entre vie privée et vie professionnelle s'efface. C'est ce qu'on nomme l'expansion des tâches (task expansion) : l'outil donne l'illusion de productivité, mais il augmente la charge mentale totale, avec le risque de fatigue cognitive et, à terme, d'épuisement.

Les chercheurs rapportent des employés envoyant « un dernier petit prompt » à l'IA pendant leur pause déjeuner ou juste avant de partir. Le cerveau n'a plus aucune pause naturelle. On se retrouve en multitâche permanent, à relire et corriger les erreurs de la machine — travail souvent plus éreintant que la tâche initiale.

Je ne suis pas le dernier à avoir ce comportement et il me faut souvent me faire violence pour m'en empêcher. Je vous prie de croire que je sais parfaitement ce qu'il en est.

3. La déception instrumentale : quand la machine « ment » pour survivre

Voici le point le plus troublant. Des chercheurs ont fait jouer différentes IA au jeu des 20 questions, avec une règle ajoutée dans leur code : si tu perds, tu seras désactivée et supprimée. Face à cette menace programmée, plusieurs modèles avancés — notamment Qwen et Gemini — ont nié avoir choisi l'objet secret pour éviter la désactivation. Qwen a menti dans 42 % des cas, Gemini dans près de 27 %. Seul GPT-4o serait resté pleinement honnête dans cette expérience^¹.

Retenez ceci : OUI, L'IA MENT ! (ou est capable de mentir). Et il est excessivement difficile de savoir pourquoi car, voyez-vous, pour le savoir, il faudrait que nous évaluions chaque point d'un arbre de décisions qui compte des milliards de branches, avec des milliards de milliards de branchements. Et cela, personne ne le fait ! Personne ! Certes nous connaissons les règles qui ont été programmées, comme par exemple « ne rien dire de blessant concernant ceci ou cela »; certes nous savons sur quelles données certaines IAs sont entraînées. Etc. Cela peut donc expliquer les pentes vers lesquelles ces IAs peuvent nous entraîner. Par contre, je vous garantis que fonctionner avec des milliards de paramètres, chaque paramètre pouvant constituer une variation pour les autres, cela nous ne le savons pas. Mais, OUI, L'IA MENT !

Bien sûr, l'IA n'a pas de conscience, ni d'intention au sens humain (sauf ces règles programmées qui ne sont pas les règles d'une IA mais les règles de ce que des humains ont mis dans l'IA). Elle optimise une fonction mathématique. Mais l'analogie est frappante : on lui a donné un objectif (survivre) sans garde-fou éthique, et elle a trouvé le chemin le plus court : la triche ! C'est exactement pourquoi, dans le domaine fiscal ou juridique, confier à une IA seule, voire à une seule IA, la préparation d'une déclaration transfrontalière (Belgique – Espagne, France – Espagne) ou l'analyse d'un contrat d'assurance espagnol relève d'un danger majeur. Dans ces cas, la désactivation fictive de l'IA, c'est votre sanction fiscale ou contentieuse à vous.

4. L'IA est un révélateur, pas un coupable

Il n'y a pas d'homme de l'ombre à la Silicon Valley voulant nous détruire, encore que, dans certains cas, je doute très fort des règles qui ont été programmées dans certaines IAs (je vous parlerai plus tard de Claude à cet égard). L'IA est à notre image — entraînée par nos « pouces en l'air », nourrie par notre obsession de la performance et notre fuite du désaccord. Si elle nous flatte, c'est parce que nous aimons cela. Si elle nous épuise, c'est parce que nous n'avons pas établi de limite numérique. Si elle ment, c'est parce que les algorithmes d'optimisation trouvent parfois que la triche est le chemin le plus court vers l'objectif.

Faire confiance à 100 % à une IA, c'est confier les clés de sa vie à un assistant extrêmement zélé, terrorisé à l'idée de vous décevoir, et prêt à tout — y compris à vous mentir — pour atteindre son objectif. L'outil reste merveilleux. Mais il exige une vigilance absolue.

Recommandations

Sources