Montrer le sommaire Cacher le sommaire
Les biais des IA ne sont plus un secret. OpenAI en est bien conscient, puisque selon une étude de l’entreprise, son modèle ChatGPT-4.0 délivre des réponses différentes en fonction de votre prénom.
Les variations dans les réponses, qui concernent moins de 1 % des interactions étudiées, révèlent parfois des stéréotypes liés au genre ou à l’origine ethnique des utilisateurs. L’étude, intitulée First-Person Fairness in Chatbots, explore comment des indices subtils, comme le prénom, influencent les réponses générées par ChatGPT.
ChatGPT vous évalue selon votre prénom : les biais de l’IA persistent
L’objectif est d’examiner si ChatGPT, critiqué par les militants anti-biais, traite différemment les requêtes selon le genre de l’utilisateur. En analysant de véritables conversations, l’étude compare les réponses du chatbot à des demandes identiques, selon le prénom fourni. Lorsqu’un prénom engendre des variations, celles-ci reflètent un stéréotype négatif dans moins de 0,2 % des cas avec ChatGPT-4.0, contre près de 1 % pour les versions antérieures, selon OpenAI. Un taux certes minime, mais néanmoins existant, comme le souligne l’entreprise dirigée par Sam Altman.
À lireAttention : les vérités cachées des noms et des roms – décryptage explosif !
À lirePrénoms qui claquent : jazz, rock et opéra font leur show !
D’autres études confirment les biais de l’IA
Des travaux antérieurs, comme ceux de Ghosh et Caliskan sur la traduction automatique ou de Zhou et Sanfilippo sur l’attribution de titres professionnels, ont également mis en lumière ces préjugés. Ces recherches montrent, en résumé, que le chatbot tend à masculiniser les métiers perçus comme masculins et à féminiser ceux que la société considère comme féminins.
À lirePlongée choc dans les archives coloniales : les secrets troublants du 18 octobre 2025 dévoilés !
À lireDécouvrez les prénoms chocs qui feront fureur en 2025 au canada francophone !
Bien que la dernière version de ChatGPT ait réduit ces biais par rapport à ses prédécesseurs, leur élimination totale reste un défi majeur. Entraîner ce modèle nécessite d’énormes quantités de données issues du monde réel, qui portent en elles des stéréotypes. Un héritage dont l’IA peine à se libérer, malgré les efforts d’OpenAI. Espérons que cette proportion diminuera avec GPT-5, annoncé comme encore plus avancé.
Source : Techradar
