Skip to content

Les selfies générés par synthetic intelligence usually are not sexistes et racistes?

Astronauts, Greek heroes et fées: les “Magic Avatars” de Lensa, who suggest aux utilisateurs de générer par IA des portraits artistiques personnalisés, ont envahi les réseaux sociaux. Mais Prisma Labs, the corporate behind the app, accumulates the controversies.

In a number of seconds, Lensa transforms the visage of the consumer into superheroes or into tableau impressionist. Nonetheless, the “Magic Avatar” performance – proposed for the app after November – requires 10 to twenty selfies to create a collection of digital characters in 4K. A powerful, et viral idea.

Mais plusieurs médias pointent du doigt l’appli pour ses tendances sexistes. MIT Expertise Overview He additionally accused «Magic Avatar» of believing sexualized pictures with out the consent of the customers – a phenomenon that doesn’t concern male images. « Même si toutes les pictures que j’ai téléchargées étaient entièrement vêtues et principalement des gros plans de mon visage, l’software a revoyé a number of pictures avec une nudité implicite ou réelle« , additionally clarify a journalist from CNN. an article of Wired Raconte même remark Lensa a généré des nudes, alors que la journaliste n’avait uploadé que des images d’elle enfant.

« Pourquoi tous mes avatars d’IA ont-ils d’énormes seins ?« , s’interroge également an article of The Reduce. Ars Technica Clarify actually that the expertise utilized by the appli « can simply sexualize with out default outcomes » : « This conduct stems from the big variety of sexualized pictures discovered on the premise of ladies (…) who’ve recovered on the Web« . Les representations misogynes des femmes sur le net, non filtrées, influential ainsi l’IA.

«Pornification» of selfies, personalities, appropriation of artistic endeavors…

De son côté, Prisma Labs guarantee à TechCrunch That your groups are en practice de bosser pour correcter les défauts de l’intelligence artificielle. A noter que d’autres biases culturels – racistes ou grossophobes – ont été repérés, avec par exemple sure utilisateurs non blancs representés avec une peau éclaircie.

Autre supply de critiques: les données personnelles. Alors que l’appli utilise les clichés de ses utilisateurs pour s’entraîner et se developper, sa politique de confidentialité point out that Prisma Labs détient les droits sur les pictures réalisées à partir des selfies sur l’appli. La société guarantee toutefois à TechCrunch That the images of the customers are instantly deleted from the cloud after use.

BuzzFeed Briefly, rapport that des artistes accuse Lensa de voler leurs œuvres. Google Photographs, Pinterest, DevianArt… Despite the fact that the expertise utilized by the app works in all the pictures revealed on-line to feed the database of people that embody AI, the artists reproach the Lensa with no credit score (no credit score) no creator.

Prisma Labs replies in affirming that the generic portraits usually are not relevant to these thought of as des copies d’oeuvres. « All just like the cinéma n’a pas tué le théâtre (…), l’IA is not going to substitute the extra artistes however may develop into a formidable instrument for the aider« , written by the société dans a tweet. Pas sûr, ceci dit, qu’essayer « Magic Avatar » avec son propre visage soit forcement une bonne idée.

Arts

Leave a Reply

Your email address will not be published. Required fields are marked *