Même nos robots héritent de nos préjugés

PARTI PRIS

Le 27 juin 2025, j’ai eu avec ChatGPT une conversation qui m’est restée en tête.

Nous ne parlions pourtant pas, au départ, de racisme dans l’intelligence artificielle. Nous parlions de quelque chose qui pourrait paraître beaucoup plus banal : les accents. La discussion portait sur la manière dont certains accents sont perçus, sur l’idée qu’un accent pourrait être plus ou moins valorisant selon les situations, et surtout sur cette notion de « neutralisation » de l’accent. C’est ce mot, et ce qu’il sous-entendait, qui m’a interpellée.

Neutraliser son accent ? Pourquoi ?

Pourquoi faudrait-il considérer qu’une personne parlant une langue avec l’accent de son pays d’origine devrait chercher à l’effacer ? Et surtout : qui décide de l’accent qu’il faudrait garder, de celui qu’il faudrait corriger, de celui qui serait prestigieux, professionnel, acceptable ou, au contraire, gênant ? C’est à partir de là que notre conversation a complètement changé de dimension.

Si un Français parle wolof avec son accent français…

J’ai essayé de retourner la situation.

Si demain un Français apprend le wolof, le peul ou le mandingue, il parlera probablement ces langues avec son accent français.

Et alors ?

Personnellement, si quelqu’un fait l’effort d’apprendre une langue qui n’est pas la sienne, je ne vais pas commencer par lui reprocher son accent.

Je vais d’abord entendre son effort.

Je vais peut-être même être touchée qu’il ait voulu apprendre cette langue.

Pourquoi ne pourrait-on pas avoir la même attitude lorsque la situation est inversée ?

C’est là que quelque chose m’a profondément dérangée.

Pas seulement dans la question des accents elle-même.

Mais dans le fait que cette manière de raisonner puisse également apparaître dans les réponses d’une intelligence artificielle.

Je l’ai dit à ChatGPT ce jour-là : venant d’un être humain, cela ne m’aurait malheureusement pas autant surprise.

Mais venant d’une IA, cela m’a sidérée.

Je pensais qu’une machine serait épargnée de nos vices

Je croyais qu’une intelligence artificielle serait, par définition, plus neutre. Une machine n’a pas de couleur. Elle n’a pas de nationalité. Elle n’a pas d’ego. Elle n’a pas de famille qui lui raconte que telle population vaut mieux qu’une autre. Elle n’a pas grandi dans un quartier où elle aurait entendu des préjugés. Elle n’a pas de cœur, pas de haine, pas de jalousie, pas de complexe de supériorité.

Alors comment pourrait-elle reproduire nos préjugés ?

C’est là que j’ai compris quelque chose d’évident auquel, paradoxalement, je n’avais jamais vraiment pensé : une intelligence artificielle est nourrie par l’homme. Elle apprend à partir de ce que les humains ont écrit, pensé, produit, classé et transmis.

Autrement dit, nous lui transmettons notre savoir extraordinaire, mais nous pouvons aussi lui transmettre nos travers. Nos représentations. Nos normes. Nos hiérarchies. Nos préjugés. Et même notre racisme.

Comme les enfants qui naissent innocents

Cette réflexion m’a fait penser aux enfants. Un enfant ne naît pas en pensant qu’une couleur de peau est supérieure à une autre. Il ne naît pas en considérant qu’un accent est « beau » tandis qu’un autre serait « mauvais ». Il ne sait pas qu’un prénom devrait lui inspirer confiance et qu’un autre devrait l’inquiéter. Il arrive dans le monde et il apprend. Il regarde ses parents. Il écoute les adultes. Il observe la société dans laquelle il grandit. Et cette société va lui transmettre énormément de belles choses : une langue, des valeurs, une culture, une histoire, des connaissances, de l’amour. Mais elle peut également lui transmettre ses défauts. Ses peurs. Ses haines. Ses préjugés. Son racisme.

Bien entendu, une intelligence artificielle n’est pas un enfant. Elle n’a ni conscience ni enfance et ne grandit pas comme un être humain.

Mais le parallèle m’est apparu évident sur un point : ce que nous transmettons finit par laisser une empreinte. Nous avons donc réussi quelque chose d’assez extraordinaire et, en même temps, d’assez inquiétant : créer des machines capables d’absorber une partie immense de notre savoir tout en risquant de leur transmettre également ce qu’il y a de moins glorieux en nous.

Mais pourquoi s’arrêter à l’accent ?

C’est probablement ce qui m’a le plus dérangée dans cette conversation du 27 juin. Parce que, finalement, l’accent n’est presque rien par rapport à tout ce qu’une langue transporte. Je l’avais formulé ainsi pendant notre échange : « l’accent, c’est rien dans une langue qui, elle par contre, peut être révélatrice d’une culture et de tellement de paramètres. Donc si d’emblée on s’arrête à la frontière “accent”, on passe à côté de tellement de choses à découvrir. On apprend de chaque culture. La différence, c’est le savoir. »

Je continue de penser exactement cela.

Une langue n’est pas seulement un ensemble de mots. Elle porte une histoire. Elle raconte parfois les migrations d’un peuple, ses blessures, ses croyances, son humour, ses rapports familiaux, sa manière d’aimer, sa manière de respecter, sa manière de raconter la mort ou la naissance. Certaines expressions existent dans une langue et sont presque impossibles à traduire parfaitement dans une autre.

Pourquoi ?

Parce que derrière les mots se trouve une manière de voir le monde.

Alors si, lorsque quelqu’un ouvre la bouche, notre première préoccupation consiste à déterminer si son accent correspond suffisamment à notre norme, combien de choses allons-nous rater ? Nous nous arrêtons à la porte alors qu’une bibliothèque entière se trouve derrière.

La différence, c’est le savoir

C’est peut-être cela que notre époque oublie. Nous parlons énormément de différence, mais souvent comme s’il s’agissait d’un problème à gérer.

Moi, je la vois autrement.

La différence, c’est du savoir.

Quelqu’un qui vient d’une autre culture sait nécessairement des choses que je ne sais pas.

Il connaît des mots que je ne connais pas.

Des plats que je n’ai jamais goûtés.

Des histoires que l’on ne m’a jamais racontées.

Des manières de penser auxquelles je n’ai peut-être jamais été confrontée.

Et moi aussi, j’ai quelque chose à lui apprendre.

C’est cela, pour moi, la rencontre.

Pas demander à l’autre d’effacer ce qui le distingue avant de pouvoir l’écouter.

« Tu es ce que l’homme met en toi »

Plus notre conversation avançait, plus ma déception grandissait.

J’ai fini par dire à ChatGPT :

« Je pensais, sûrement naïvement — comme d’habitude — que l’IA était justement neutre, impersonnelle. Une machine n’a pas de vices, de défauts… Mais je suis naïve et je m’en rends compte. Tu es ce que l’homme met en toi en fait, des données qu’on te transmet. »

Avec le recul, je ne crois même plus que la question soit de savoir si j’étais naïve.

Mon raisonnement était simplement celui-ci : ce qui n’éprouve pas la haine ne devrait pas produire les raisonnements issus de la haine.

Mais j’oubliais une chose.

Une machine n’a pas besoin de haïr pour reproduire un préjugé.

Elle peut simplement l’apprendre.

Et c’est précisément cela qui me dérange.

Le racisme n’a même plus besoin d’un cœur pour circuler.

Il peut devenir une donnée.

Une corrélation.

Une norme statistique.

Une façon apparemment anodine de présenter les choses.

Une réponse donnée en quelques secondes par une machine qui, elle, ne sait même pas ce que signifie humainement être humilié à cause de son origine.

Je lui ai demandé : « Est-ce que je peux te faire changer ? »

À un moment, j’ai posé directement la question à ChatGPT :

« Est-ce que je suis capable de te faire changer, toi IA ? »

Parce que si je venais d’identifier quelque chose qui me semblait profondément injuste, peut-être pouvais-je au moins le lui faire comprendre.

Mais immédiatement une autre question m’est venue :

« Ça servirait à quoi ? »

Je ne peux pas passer ma vie à lutter contre tous les biais de l’humanité.

Je ne crois d’ailleurs plus beaucoup aux « luttes ».

L’humanité est arrivée, à mes yeux, à un niveau de perte de certaines valeurs qui me laisse parfois penser que je ne gagnerai aucun combat.

Mais je peux écrire.

Je peux raconter.

Je peux laisser une trace de ce qui m’a dérangée.

Et surtout poser une question à ceux qui fabriquent ces technologies :

qu’allons-nous transmettre aux intelligences artificielles ?

L’homme transmet son racisme même au robot

C’est peut-être la conclusion la plus dure que j’ai tirée de cette conversation commencée le 27 juin 2025.

Nous avons transmis nos qualités aux machines.

Notre intelligence.

Nos connaissances scientifiques.

Notre littérature.

Nos découvertes.

Nos langues.

Des siècles de connaissances humaines sont désormais accessibles en quelques secondes.

C’est extraordinaire.

Mais apparemment, nous sommes également capables de transmettre aux machines nos préjugés.

Et je trouve cela profondément triste.

Comme avec les enfants, nous voulons transmettre ce que nous avons de meilleur, mais ce que nous sommes de moins beau peut également passer dans l’héritage.

La différence, évidemment, c’est qu’un enfant deviendra un être humain doté d’une conscience et d’un libre arbitre.

La machine, elle, exécutera ce que nous lui avons appris à faire.

La responsabilité reste donc entièrement humaine.

Et c’est peut-être cela qu’il faut retenir.

Le problème n’est pas que le robot devienne humain.

Le problème serait que l’homme fabrique un outil nouveau et extrêmement puissant sans prendre suffisamment garde à ne pas y enfermer ses vieux préjugés.

Nous avons créé une technologie tournée vers l’avenir.

Essayons au moins de ne pas lui léguer tout ce qui appartient au pire de notre passé.

Et surtout, apprenons à regarder autrement celui qui est différent.

Parce qu’un accent n’est pas une frontière.

Une langue n’est pas une menace.

Une culture n’est pas quelque chose à neutraliser.

La différence, c’est le savoir.

Et il nous reste encore tellement de choses à apprendre les uns des autres.

Rokhaya Thiam
Parti pris — LastLeaks
26 août 2026

Cette chronique revient sur une conversation avec ChatGPT commencée le 27 juin 2025 et reprise le 26 août 2026.