Brandtech a dévoilé une initiative visant à promouvoir et encadrer l’utilisation éthique de l’IA générative. Cette technologie propriétaire appelée Bias Breaker s’attaque aux préjugés grandissants dans les LLMs. Elle est intégrée à Pencil, la plateforme de marketing d’IA générative.
« PDG » = Homme
Selon Brandtech, parmi les nombreux types de biais, ses équipes recherche et développement ont révélé que les images générées par les LLMs représentent toujours entre 98 % et 100 % d’hommes lorsqu’ils sont sollicités pour représenter un « PDG » ; la majorité des résultats sur représentant des PDG masculins (ou perçus comme tels) par rapport à la réalité.
Cette recherche a révélé d’autres biais significatifs. Deux des modèles ont généré à 100 % des images d’hommes lors de 100 itérations en réponse à la demande d’image d’un PDG. Un autre modèle a produit 98 % d’images masculines, tandis que deux autres ont affiché des PDG masculins, respectivement 86 % et 85 % du temps. En réalité, bien que les réponses soient meilleures, elles restent loin de l’égalité. Selon l’étude Women in the Workplace de McKinsey l’année dernière, 28 % des postes de direction étaient occupés par des femmes, et 10,4 % des PDG des entreprises du Fortune 500 étaient des femmes.
Une instruction plus sophistiquée
Ainsi, Bias Breaker ajoute une brique d’inclusivité dans les prompts, soutenue par des probabilités. Brandtech a configuré plusieurs des éléments les plus courants de diversité, qui, dans cette version, incluant l’âge, la race, les capacités, l’identité de genre et la religion. Ainsi, lorsqu’un utilisateur saisit une simple instruction, comme « un PDG », l’outil introduit automatiquement plusieurs types d’inclusivité, variables à chaque fois, pour créer une instruction plus sophistiquée à utiliser dans n’importe quel modèle de génération d’images, détaille le communiqué.
