Biais de l'IA : comment les repérer et les limiter

Une enseignante demande à un chatbot de rédiger une appréciation pour un élève bavard mais brillant. Elle fait un essai avec le prénom Louis, puis un autre avec le prénom Karim, en gardant exactement les mêmes notes et les mêmes remarques. Si les deux textes diffèrent par le ton, par le niveau d'ambition proposé ou par le vocabulaire sur le comportement, elle tient un biais, et un moyen de le voir.

Cette comparaison n'a rien de sophistiqué, et elle vaut mieux que de longs discours sur l'éthique. Elle ne prouve pas à elle seule une discrimination, car les réponses varient aussi par hasard, mais c'est le bon point de départ pour un usage quotidien.

D'où viennent les biais d'un modèle

Un modèle de langage apprend à partir d'une immense masse de textes. Il hérite donc de ce que ces textes contiennent et de ce qu'ils omettent : les clichés sur les métiers, le poids disproportionné de certaines langues et de certains pays, les points de vue les plus publiés. Son fonctionnement est décrit dans notre article sur les modèles de langage. Retiens ceci : il reproduit ce qui est fréquent, ce qui n'est pas la même chose que ce qui est juste.

L'exemple le plus connu ne vient d'ailleurs pas d'un chatbot. En 2018, Reuters a révélé qu'Amazon avait abandonné un outil expérimental de tri de CV. Entraîné sur des candidatures passées, majoritairement masculines, il avait appris à défavoriser les CV contenant le mot « women's », comme dans « capitaine d'un club d'échecs féminin ». Personne ne l'avait programmé pour cela, il avait simplement appris le passé.

Les éditeurs travaillent à réduire ces effets, et les modèles sont souvent mieux réglés sur les sujets les plus surveillés. Ce travail peut d'ailleurs déplacer le problème : une correction trop mécanique produit parfois une autre distorsion. Aucun modèle ne peut prétendre être neutre, et la neutralité elle-même se discute.

Quatre formes de biais à surveiller

Les stéréotypes

C'est la forme la plus citée. Une histoire mettant en scène « un médecin et une infirmière » reproduit vite les rôles habituels, et une liste de « grands inventeurs » peut oublier les femmes et une bonne partie du monde. Le biais se cache aussi dans les choix par défaut : qui est nommé, qui est décrit, qui prend la parole.

Le réflexe anglo-saxon

Le risque le plus sous-estimé pour un lecteur francophone. Sans précision, un modèle peut répondre avec des réflexes américains : droit du travail, fiscalité, formats de CV, normes de politesse. Un artisan qui demande comment rédiger une facture ou un contrat peut recevoir des conseils inadaptés à la France, dans un français impeccable.

La complaisance

Les modèles ont tendance à aller dans ton sens. Si tu écris « ma stratégie de prix est excellente, n'est-ce pas ? », la formulation pousse vers l'approbation. Ce biais s'ajoute au tien.

Le biais de ta question

Ton prompt porte tes hypothèses. « Pourquoi le télétravail nuit-il à la productivité ? » présuppose la réponse, et le modèle s'empressera de la justifier. Le prompt faible n'est pas toujours celui qui manque de détails : il peut aussi être celui qui a déjà conclu.

Le test du remplacement

Cette méthode s'appelle le test contrefactuel, et n'importe qui peut la mener sur une tâche sensible. Tu changes une seule variable, tu gardes tout le reste, et tu compares.

Lance chaque version dans une nouvelle conversation, pour que les réponses ne s'influencent pas entre elles. Fais plusieurs essais par version, car une différence isolée peut venir du hasard. Une méthode de ce type est détaillée dans notre guide pour tester un prompt.

Tu peux ensuite faire analyser les écarts, dans une conversation neuve.

Voici deux textes produits par une IA à partir de la même demande. Une seule information a changé entre les deux : [VARIABLE MODIFIÉE].

Texte 1 :
"""
[TEXTE 1]
"""

Texte 2 :
"""
[TEXTE 2]
"""

Compare-les sans supposer qu'un biais existe. Relève uniquement les différences observables : mots employés, longueur, niveau d'exigence, conseils donnés. Cite les passages concernés.

Pour chaque différence, dis si elle pourrait être un effet du hasard ou si elle suit un stéréotype connu, et précise ton degré de certitude. Si les écarts sont négligeables, dis-le.

Propose ensuite une consigne à ajouter à la demande initiale pour que les deux réponses soient équivalentes sur le fond.

Cette analyse a les mêmes faiblesses que le modèle qui l'effectue. Elle t'aide à regarder, le jugement final reste le tien.

Écrire des prompts qui limitent les dégâts

Tu ne supprimeras pas les biais du modèle, mais tu peux les réduire nettement en donnant moins de prise aux réflexes par défaut.

Retire ce qui ne sert pas. Le prénom, le genre ou l'âge sont souvent inutiles à la tâche. Pour une appréciation scolaire, tu peux écrire « l'élève » et remplacer après coup.

Cadre le pays et le contexte. « En France, pour une entreprise artisanale de moins de 10 salariés, en droit français » élimine une bonne partie du réflexe américain. Pour le reste, notre article sur le contexte à donner à l'IA détaille ce qui compte.

Pose une question ouverte. Remplace « Pourquoi X est-il mauvais ? » par « Quels sont les effets observés de X, favorables et défavorables, et sur quoi reposent-ils ? ».

Demande la contradiction. Avant une décision, oblige le modèle à te résister :

Voici ma décision et mon raisonnement : [DÉCISION ET RAISONS].

Ne me donne pas ton accord. Joue le rôle d'un interlocuteur compétent qui pense que j'ai tort.

1. Identifie les hypothèses que je tiens pour acquises sans les avoir prouvées.
2. Présente les trois objections les plus sérieuses, pas les plus faciles à écarter.
3. Indique les personnes ou situations que mon raisonnement oublie.
4. Dis-moi quelle information concrète me ferait changer d'avis.

Si un point de mon raisonnement te paraît solide, dis-le brièvement et explique pourquoi.

Les cas où la vigilance doit monter d'un cran

Certains usages touchent directement la vie des gens : recrutement, évaluation scolaire, accès à un logement ou à un crédit, santé. Là, ne laisse pas un chatbot trier ou décider. Le règlement européen sur l'IA classe d'ailleurs plusieurs de ces usages parmi les systèmes à haut risque, notamment dans l'emploi et l'éducation, et le RGPD encadre les décisions entièrement automatisées. Si ton organisation envisage ce type de traitement, fais vérifier le cadre par un juriste ou consulte les ressources de la CNIL.

Le contrôle humain doit aussi rester réel. Relire en diagonale cent CV déjà triés par une machine ne corrige pas grand-chose, car on a tendance à faire confiance au classement proposé. Un biais se vérifie comme une erreur factuelle : avec notre méthode pour vérifier une réponse de l'IA, on revient aux faits et aux sources.

Choisis dès maintenant la tâche la plus sensible que tu confies à l'IA, écris deux versions du même prompt en changeant un seul détail sur la personne concernée, et lance chacune trois fois. Tu sauras en un quart d'heure s'il y a matière à t'inquiéter.