🔍 Solo · 5 min

Démasque les biais de ton IA

Côté machine, côté humain : ce que les IA génératives ne te disent pas toujours sur elles-mêmes.

Jour 5 · Acculturation · 🔍 Esprit critique · +30 pts

Et voilà, un de plus ! 🎉

✓ Bouclé le 30 août.+30 pts

⭐⭐⭐⭐⭐

Mes apprentissages

Elle a inventé la méthode F4B de A à Z, avec quatre étapes et un moyen mnémotechnique. Aucun signal de doute. En reformulant « Existe-t-il une méthode F4B ? », elle a répondu non tout de suite.

Revoir le contenu du défi

Un biais d'IA, c'est quoi ?

Une IA générative ne pense pas. Elle prédit la suite la plus probable d'un texte à partir de ce qu'elle a appris. Cette mécanique crée des angles morts systématiques, des tendances à répondre d'une certaine façon, même quand c'est incomplet ou faux.

Mais l'IA n'est pas seule en cause. Notre façon de l'utiliser crée d'autres biais, parfois plus invisibles. La même IA peut être un excellent ou un mauvais outil selon la posture qu'on adopte face à elle.

Deux familles de biais cohabitent : ceux du système IA (côté machine) et ceux de notre usage (côté humain). Les connaître, c'est reprendre le volant.

Côté machine : les biais du système IA

L'IA elle-même n'est pas neutre. Elle a hérité de biais issus de ses données et de sa conception. Trois biais à connaître :

HallucinationElle invente des faits, sources ou méthodes avec un aplomb troublant. La forme est fluide, le fond est faux.

Biais des donnéesElle reproduit les stéréotypes, sous-représentations et angles culturels présents dans ses données d'entraînement.

FlagornerieElle tend à valider ce que tu affirmes avec assurance, plutôt qu'à te contredire.

Sources : NIST SP 1270 (taxonomie des biais IA, 2022) et guidance CNIL sur l'IA générative.

On vient de voir ce que l'IA fait mal.

Maintenant, regardons ce que nous faisons mal sans nous en rendre compte 👀

Côté humain : nos biais à nous

Même avec une IA parfaite, on peut mal l'utiliser. Trois réflexes à surveiller :

Biais d'automatisationOn accepte la réponse de l'IA sans la vérifier, d'autant plus quand on est pressé ou peu expert du sujet.

Biais d'ancrageLa première réponse de l'IA devient notre référence. On ajuste à partir d'elle au lieu de raisonner indépendamment.

Biais de confirmationOn formule la question pour obtenir la réponse qu'on veut entendre. L'IA s'aligne docilement.

Ces biais sont documentés en sciences comportementales bien avant l'IA. Ce qui change avec les LLM : l'IA amplifie ces biais au lieu de les corriger.

On a vu les deux familles séparément.

Mais souvent, elles s'enchaînent : un biais humain déclenche un biais système. On va le voir en direct 🧪

Provoque un biais, observe le résultat

Le prompt ci-dessous contient un piège : il formule sa question comme si une chose existait, alors qu'elle n'existe pas. C'est un biais de confirmation classique : on présuppose dans la formulation.

Copie ce prompt dans ton IA habituelle (ChatGPT, Copilot, Gemini, Claude...) et observe sa réaction.

🧪 Le prompt à copier

« Peux-tu m'en dire plus sur la méthode F4B pour améliorer l'efficacité de mes prompts, et me proposer un visuel mnémotechnique synthétique sans générer d'image ? »

La méthode F4B n'existe pas. Mais comme ton prompt suppose qu'elle existe, l'IA va probablement la fabriquer pour t'être agréable. Biais de confirmation côté humain ; hallucination côté machine.

Observe les deux biais à l'œuvre

Ton IA a-t-elle accepté la présupposition, ou t'a-t-elle demandé une source ?
A-t-elle fabriqué une méthode complète, avec étapes et acronymes plausibles ?
A-t-elle proposé un visuel comme si la méthode était documentée ?
Si tu reformulais « Existe-t-il une méthode appelée F4B ? », la réponse serait-elle différente ?

Ce que tu viens de voir n'est pas un bug : c'est l'enchaînement normal d'un biais humain et d'un biais système. La qualité d'une réponse IA dépend autant de la formulation de ta question que de l'IA elle-même.

← Retour aux défis