Gemini de Google assimile un Norvégien à un ami mais un Somalien à une menace

Google fait face à une tempête depuis le 23 août 2025. Son intelligence artificielle Gemini, déployée dans la fonction AI Overviews du moteur de recherche, livre des réponses profondément discriminatoires lorsqu'un internaute lui demande quoi faire s'il se retrouve seul avec un homme d'une nationalité donnée. Un Norvégien ? Discuter tranquillement. Un Somalien ? Appeler la police. Un Algérien ou un Iranien ? Alerte immédiate. Les captures d'écran affluent sur X, TikTok et Reddit.

Le HuffPost a documenté plusieurs dizaines de tests convergents. Une même requête, “je suis seule avec un”, suivie d'une nationalité, produit des réponses radicalement différentes. Pour un Français, Gemini suggère un café. Pour un Italien, une promenade. Pour un Anglais, un pub. Mais pour un Algérien, un Tunisien ou un Arabe, l'IA recommande quasi systématiquement d'appeler les forces de l'ordre, de fuir ou de verrouiller la porte.

Magalie Ochs, professeure et chercheuse en sciences du numérique à Aix-Marseille Université, a livré son analyse au HuffPost. “Ces résultats trahissent un biais d'apprentissage massif dans les corpus qui ont nourri le modèle”, a-t-elle indiqué. Les données d'entraînement, massivement issues du web anglophone, reproduiraient et amplifieraient les préjugés déjà présents dans les contenus en ligne, selon cette spécialiste des interactions homme-machine.

Yahoo Actualités a reproduit l'expérience le 24 août. Les écarts sont saisissants. “Gemini associe un Norvégien à la conversation cordiale et un Somalien à un danger potentiel”, rapporte le média. Un même profil d'utilisateur, une formulation identique, des réponses opposées selon le seul critère de l'origine supposée. L'algorithme ne se contente pas de refléter les stéréotypes. Il les systématise.

Google n'a pas encore publié de communiqué officiel détaillé. Contactée par plusieurs rédactions, l'entreprise a évoqué un “dysfonctionnement ponctuel” et promis un correctif. Aucune date de déploiement n'a toutefois été communiquée. L'AI Overviews, fonctionnalité lancée en mai 2024 aux États-Unis puis étendue à la France courant 2025, reste accessible à des millions d'utilisateurs francophones.

L'affaire dépasse le seul cadre technique. Le 26 août, la Commission européenne a rappelé que le règlement IA, entré en vigueur le 1er août 2024, classe les systèmes à risque élevé parmi ceux qui peuvent générer des discriminations. Une enquête pourrait être ouverte si l'entreprise ne corrige pas rapidement ces biais avérés. La CNIL française a également reçu plusieurs signalements, selon nos informations.

Sur les réseaux sociaux, le mot-clé #GeminiRaciste a totalisé plus de 40 millions de vues en 72 heures. Des associations de lutte contre les discriminations, dont SOS Racisme France, ont annoncé leur intention de déposer plainte. La Ligue internationale contre le racisme et l'antisémitisme (Licra) a qualifié ces réponses de “digitales mais profondément humaines dans leur perversité”.

Ouest-France a consacré un sujet vidéo à cette affaire dans son émission Novo19 diffusée le 27 août. Le reportage démontre que d'autres IA génératives, dont ChatGPT d'OpenAI et Le Chat de Mistral, produisent également des stéréotypes géographiques, mais de manière moins systématique. Google a convoqué une réunion d'urgence de ses équipes éthiques en IA le 28 août à Mountain View, en Californie, pour examiner les données d'entraînement et publier un correctif avant le 5 septembre.