Décryptage | Voir à travers la lentille de Lensa

Les portraits plus ou moins fantaisistes générés par l’application sont trop stéréotypés, voire sexistes voire racistes Lentille a fait grand bruit sur les réseaux sociaux ces dernières semaines. Ces images ne sont-elles pas que le reflet de nos préjugés et de notre imaginaire collectif ?

Qu’est-ce que Lentille ?

A la base, il s’agit d’un jeu de rôle intégré à une application d’édition d’images. Une fois que vous avez téléchargé entre 10 et 20 photos de vous Lentillesa fonction “Magic Avatar”, ajoutée en novembre dernier, se charge de les reconstruire grâce à l’intelligence artificielle (IA) et d’en créer des versions fantasmagoriques : astronautes, guerriers du jeu vidéo, personnages animés, etc.

“Nous avons franchi un mur”

Nous sommes habitués aux applications gratuites qui collectent et utilisent nos données. Jonathan Bonneau, professeur à l’École des médias de l’UQAM, croit qu’il y a Lentille, qui n’est pas gratuite, on a “franchi un mur” : les conditions d’utilisation stipulent que l’application utilise des images fournies par les utilisateurs pour améliorer son algorithme, qu’elle est propriétaire des images générées et se réserve le droit de les réutiliser. “Le client paie pour offrir des données sur la formation professionnelle et l’IA à l’entreprise”, a-t-il résumé. Nous payons également leur publicité. »

Montrer des images… mais de quoi ?

La popularité de Lentille ont explosé ces dernières semaines et les critiques à son encontre aussi. De nombreux utilisateurs ont remarqué que les avatars créés par l’application sont souvent plus “sexy” que les photos soumises : seins gonflés, parties du corps dénudées, expressions plus sensuelles, etc. Les utilisateurs d’ascendance africaine soulignent que Lentille leur peau a tendance à être pâle, ce que Jonathan Bonneau appelle le “racisme algorithmique”. Ces réflexes applicatifs peuvent être attribués aux préjugés conscients ou inconscients de ses développeurs, convient-il. Cependant, les utilisateurs jouent également un rôle. “Le simple fait de cliquer spontanément est certain selfies au lieu de cela, d’autres, par curiosité, disent à l’application que cette image attire l’attention, explique-t-il, et trompent son algorithme pour qu’il propose le même type d’image encore et encore. »

Lentille est formé à partir d’images déjà disponibles sur internet, ce qui est un univers biaisé. Il suffit de taper les mots “grand-père” ou “femme guerrière” dans Google pour le voir : les images proposées représentent principalement des personnes de race blanche et les guerrières portent généralement l'”armure de bikini” populaire dans les jeux vidéo. “Ce que nous voyons Lentillec’est une partie d’internet qui n’est peut-être pas visible pour tous les utilisateurs, mais que l’intelligence artificielle revient au premier plan », suggère-t-il.

Un drapeau rouge ?

L’une des préoccupations soulevées par la popularité de Lentillecette application peut faciliter la création de fausses images et notamment la divulgation de pornographie (vengeance porno). “Plus la technologie est facile à utiliser, plus les gens l’utiliseront pour le bien… et pour le mal”, reconnaît Philippe Beaudoin, président de Waverly, une société d’intelligence artificielle, tout en mettant l’accent sur les outils de l’image. la falsification était accessible avant Lentille. Cela ne l’empêche pas de croire à la nécessité d’imposer un cadre réglementaire aux candidatures. Il plaide également pour un meilleur contrôle des utilisateurs, qui peuvent paramétrer les outils qu’ils utilisent et combattre, en quelque sorte, la standardisation stéréotypée imposée par une appli comme Lentille. “L’idée n’est pas de laisser l’IA prendre toutes les décisions que l’utilisateur peut prendre lui-même”, juge-t-il.

Un pas de plus vers le métaverse

Avatars créés avec Lentille constitue un outil supplémentaire pour “s’évader de la réalité”, estime Philippe Beaudoin. “Avec l’avènement du métaverse, qui emprunte beaucoup aux codes du jeu vidéo, on va vers une plus grande personnalisation de l’individu. On a envie de montrer nos meilleurs atouts, comme on le fait déjà dans les réseaux sociaux, -étudiant pour sa part”. partie Jonathan Bonneau. Nous allons nous examiner, nous améliorer et nous lancer dans le métaverse avec l’espoir d’avoir, par exemple, une vie complémentaire. »

Remise en question de nos habitudes

Avec la multiplication des filtres et des applications de retouche d’images, Philippe Beaudoin estime que les internautes ont un sens plus critique qu’auparavant face à des images idéalisées telles que celles générées par Lentille. « Les jeunes aujourd’hui ont ces applications sur leur téléphone, ils savent qu’ils peuvent utiliser des filtres et penser que tout le monde autour d’eux fait la même chose, observe-t-il. Cela n’évite pas les problèmes d’image ou de perception de soi, mais on peut avoir un conversation et comprendre qu’il s’agit d’un univers fictif. “TikTok et Facebook font pire que Lentille utiliser nos données personnelles », reconnaît d’emblée Jonathan Bonneau. Ce qui n’est pas une raison pour ne pas s’interroger, ajoute le professeur de l’UQAM. ne les expédiez pas, les entreprises veulent Lentille peut les prendre, dit-il. La vraie discussion est la suivante : quelle photo garderez-vous privée ou réservée à un groupe restreint d’amis ? »