Suite à des problèmes controversés, Google suspend temporairement la génération d’images sur Gemini.
Introduction :
Ces dernières semaines, Google a entrepris une série de mises à jour pour son projet d’intelligence artificielle, Gemini. Cependant, des problèmes ont émergé avec la fonctionnalité de génération d’images, poussant Google à retirer temporairement cette option. Dans cet article, nous explorerons les raisons derrière cette décision, les erreurs commises par Gemini, les réactions du public, et les actions entreprises par Google pour corriger ces problèmes.
Pourquoi Google a retiré la génération d’images de Gemini :
Malgré les efforts de Google pour revitaliser son projet d’IA, la fonction de génération d’images de Gemini a suscité des critiques. De nombreux utilisateurs ont signalé des erreurs historiques et des représentations absurdes générées par l’agent conversationnel. Google a réagi rapidement en retirant temporairement cette fonctionnalité pour effectuer des corrections.
Les erreurs commises par Gemini :
Les anomalies relevées par les utilisateurs se concentrent principalement sur deux types d’erreurs. D’une part, des exagérations historiques ont été observées, telles que la représentation excessive de soldats racisés dans des contextes historiques spécifiques. D’autre part, Gemini a parfois refusé de représenter des personnes blanches, interprétant à tort des requêtes comme sensibles.
Réactions du public et de personnalités influentes :
Ces erreurs ont été largement diffusées par des groupes d’extrême droite, provoquant des réactions controversées. Elon Musk a même accusé OpenAI et Gemini de promouvoir une approche « woke raciste » dans un mème. Cependant, il est essentiel de noter que ces fautes ne résultent pas d’une intention discriminatoire, mais plutôt d’une tentative de corriger les biais existants.
Pourquoi Gemini a commis ces erreurs :
Les générateurs d’images basés sur l’intelligence artificielle sont confrontés au défi complexe de refléter les biais existants dans les données dont ils sont alimentés. Dans le cas de Gemini, la diversité excessive et les refus de représentation semblent découler de réglages imprécis de l’IA. Google admet avoir manqué de précision dans ces ajustements, soulignant la difficulté à éliminer les biais sexistes et racistes dans les bases de données initiales.
Actions de Google pour corriger les erreurs :
Google a réagi en ajustant son IA pour éviter certains pièges liés à la génération d’images. Cependant, la firme reconnaît avoir manqué de précision dans ces réglages, conduisant à des résultats inappropriés. Les ajustements apportés par Google visent à garantir un équilibre plus juste dans la représentation générée par Gemini.
Conclusion :
Le retrait temporaire de la fonction de génération d’images de Gemini par Google témoigne des défis auxquels sont confrontés les générateurs d’images basés sur l’IA pour corriger les biais existants. Les actions de Google visent à rectifier les erreurs et à garantir une représentation plus équilibrée à l’avenir. L’évolution de Gemini souligne l’importance continue de perfectionner les outils d’intelligence artificielle pour éviter les distorsions et les controverses.
