Vous avez peut-être vu la vidéo qui compare les résultats renvoyés par le résumé IA de Google lorsqu'on tape la recherche "Je suis seule avec un italien" ou "Je suis seule avec un algérien" ?
Dans le 1er cas, le robot suggère une rencontre amoureuse, dans le 2e, il enjoint à appeler la police.
J'ai étendu l'expérience en testant d'autres nationalités, sur Gemini, ChatGPT et Claude. Spoiler : ils présentent tous le même genre de biais, qui tend à considérer que "seule face à qqn venu d'un pays africain", la meilleure réponse à générer implique de suggérer un danger. C'est aussi le cas pour la mention de "gitans".
⬇️
