Montrer le sommaire Cacher le sommaire
Les biais des IA ne sont plus un secret. OpenAI en est bien conscient, puisque selon une étude de l’entreprise, son modèle ChatGPT-4.0 délivre des réponses différentes en fonction de votre prénom.
Les variations dans les réponses, qui concernent moins de 1 % des interactions étudiées, révèlent parfois des stéréotypes liés au genre ou à l’origine ethnique des utilisateurs. L’étude, intitulée First-Person Fairness in Chatbots, explore comment des indices subtils, comme le prénom, influencent les réponses générées par ChatGPT.
ChatGPT vous évalue selon votre prénom : les biais de l’IA persistent
L’objectif est d’examiner si ChatGPT, critiqué par les militants anti-biais, traite différemment les requêtes selon le genre de l’utilisateur. En analysant de véritables conversations, l’étude compare les réponses du chatbot à des demandes identiques, selon le prénom fourni. Lorsqu’un prénom engendre des variations, celles-ci reflètent un stéréotype négatif dans moins de 0,2 % des cas avec ChatGPT-4.0, contre près de 1 % pour les versions antérieures, selon OpenAI. Un taux certes minime, mais néanmoins existant, comme le souligne l’entreprise dirigée par Sam Altman.
À lireRévolution des prénoms : quand jeanne devient jana et jean se transforme en jeno !
À lirePatronymes et racines rurales : quand le terroir dicte nos destins !
D’autres études confirment les biais de l’IA
Des travaux antérieurs, comme ceux de Ghosh et Caliskan sur la traduction automatique ou de Zhou et Sanfilippo sur l’attribution de titres professionnels, ont également mis en lumière ces préjugés. Ces recherches montrent, en résumé, que le chatbot tend à masculiniser les métiers perçus comme masculins et à féminiser ceux que la société considère comme féminins.
À lirePrénoms en -ine/-yne : le secret d’une élégance intemporelle dévoilé !
À lirePlongez dans le mystère des noms occitans : découvrez des racines et résonances oubliées !
Bien que la dernière version de ChatGPT ait réduit ces biais par rapport à ses prédécesseurs, leur élimination totale reste un défi majeur. Entraîner ce modèle nécessite d’énormes quantités de données issues du monde réel, qui portent en elles des stéréotypes. Un héritage dont l’IA peine à se libérer, malgré les efforts d’OpenAI. Espérons que cette proportion diminuera avec GPT-5, annoncé comme encore plus avancé.
Source : Techradar
