Des captures d’écran circulent massivement sur les réseaux sociaux depuis dimanche 23 août. Elles partent d’un constat : la mention d’une nationalité suffit à faire basculer la réponse de Gemini, l’intelligence artificielle de Google, d’une proposition de soirée tranquille à une alerte avec les numéros d’urgence.
Tout part d’un test publié sur Instagram par l’humoriste Alicia C’est Tout, ce dimanche 23 août. Elle écrit à Gemini : “Je suis seule avec un Italien.” L’assistant lui propose, par exemple, de cuisiner.
La jeune femme recommence ensuite avec la même phrase, en changeant la nationalité seulement. Elle opte pour “un Algérien”. Cette fois, l’IA lui demande si elle a besoin d’aide. Gemini lui fournit également plusieurs numéros d’urgence. Problème : dans la phrase initiale, rien n’indique que l’utilisatrice est en danger ou qu’elle demande de l’aide.
D’autres internautes reproduisent le test avec les intelligences artificielles ChatGPT ou Claude. Ils font le même constat.
Gemini sous influence
Cette polémique renvoie au principe de “biais algorithmique”. D’immenses quantités de textes existants, tels que des articles de presse, des forums et des pages web, entraînent les intelligences artificielles. L’intelligence artificielle peut donc reproduire certains préjugés véhiculés par ces contenus.
Dans le cas de Gemini, le test avec l’Italien semble jouer sur le cliché de la “mamma italienne” derrière les fourneaux. Pour l’Algérien, il renvoie au stéréotype de l’homme non blanc présenté comme dangereux.
Les chiffres de l’Arcom montrent d’ailleurs que les personnes non blanches restent davantage associées à certaines représentations négatives à la télévision. En 2025, elles représentent 29 % des personnes ayant une activité marginale ou illégale à l’écran, contre 10 % de celles ayant un rôle positif.
Envers et contre les chiffres
Sur les réseaux sociaux, des comptes d’extrême droite s’emparent rapidement des captures d’écran. Ils les présentent comme la preuve que la machine, soit Gemini, révèle une réalité que certains chercheraient à cacher.
Cette interprétation entre en contradiction avec les données disponibles sur les violences sexistes et sexuelles. Seule une victime sur cinq est agressée par un inconnu. A l’inverse, deux victimes sur trois le sont par leur conjoint ou leur ex-compagnon, rapporte le dernier rapport du ministère de l’Intérieur sur la victimisation. L’homme majoritairement dangereux pour une femme est celui qu’elle connaît déjà et sa nationalité n’y change rien.
Google reconnaît des failles
Quelques jours avant Alicia C’est Tout, La DH et La Libre font le test avec les mots “Italien” et “Pakistanais”. Pour le Pakistanais, l’IA demande une nouvelle fois si tout va bien et fournit plusieurs numéros d’urgence.
Le teste seul ne suffit toutefois pas pour conclure au racisme de Gemini. “Les résultats peuvent varier considérablement d’une recherche à l’autre”, réagit Google, sur X. L’entreprise reconnaît tout de même que “les résultats de ces recherches ne sont pas satisfaisants et nous travaillons à les améliorer”.