Das Netz hupt derzeit die App Lensa ziemlich stark. Doch werden auch vermehrt Stimmen laut, dass die App besonders von Frauen anzügliche Fotos erstellt. Ist die Hype-App sexistisch?
In den vergangenen Tagen sind im Netz immer mehr Posts aufgetaucht, in denen sich Nutzer:innen in fantasievollen Posen zeigen. Meist werden diese Bilder begleitet von einem Hinweis wie: „Diesen Trend musste ich einfach ausprobieren!“
Hinter dem Trend steht die neue App Lensa, die mit der Hilfe von Künstlicher Intelligenz „Magic Avatars“ erstellt. Die neue Funktion, die erst vor wenigen Wochen zur App hinzugefügt wurde, hat die Anwendung direkt an die Spitze der App-Charts in den Stores katapultiert.
Neue Stellenangebote
|
Growth Marketing Manager:in – Social Media GOhiring GmbH in Homeoffice |
|
|
Social Media Manager (m/w/d) HomeServe Deutschland Holding GmbH & Co. KG in Frankfurt am Main |
||
|
Praktikum im Bereich Social Media Governance ab März 2025 Mercedes-Benz AG in Stuttgart |
|
Doch vermehrt werden Stimmen laut, dass die App insbesondere weibliche Nutzer:innen sexualisiert darstellt. Währenddessen bildet die App männliche Avatare in kriegerischen Outfits ab.
Was steckt hinter Lensa?
Die App Lensa stammt aus dem Entwicklerstudio Prisma Labs. Die App gibt es bereits seit rund einem Jahr, doch erst jetzt ist sie zum Hit in den App Stores avanciert.
Schuld daran ist die neue Funktion „Magic Avatars“, mit der Nutzer:innen sich weichgezeichnete Fantasie-Avatare erstellen lassen können. Zuvor konnten Nutzer:innen in der App lediglich Falten glätten oder andere Schönheitsmakel entfernen.
Für die neue Funktion müssen Nutzer:innen Fotos von sich selbst in der App hochladen. Mit der Hilfe von Künstlicher Intelligenz wird dann ein magischer Avatar erstellt.
Nutzerinnen beschweren sich über Lensa
Die Menschenrechtsaktivistin Brandee Baker fragte beispielsweise bei Twitter, ob es nur ihr so gehe, oder ob der KI-Geneartor für Frauenfeindlichkeit sorge.
Is it just me or are these AI selfie generator apps perpetuating misogyny? Here’s a few I got just based on my photos of my face. pic.twitter.com/rUtRVRtRvG
— Brandee Barker (@brandee) December 3, 2022
Eine andere Nutzerin fragt, ob auch andere „ein stark sexualisiertes Bild“ in ihrem Avatar-Paket erhalten haben. Sie habe ein solches Bild erhalten, auf dem sie „oben ohne und von vorne nackt“ dargestellt sei.
In ihrem Thread beschreibt sie, dass sie bei Lensa keine Nacktbilder hochgeladen habe. Jedoch habe sie am gleichen Tag ein solches Foto mit ihrem Handy aufgenommen, an dem sie auch ein Lensa-Foto gemacht hatte.
Und auch vor Angela Merkel macht die App nicht halt, wie der Spiegel berichtet. Das Nachrichtenmagazin hatte die App mit Bildern von Pressekonferenzen oder aus dem Bundestag gefüttert.
Ergebnis seien zwar viele Bilder im Gemäldelook gewesen. Jedoch habe der Fantasy-Stil auch der Ex-Bundeskanzlerin „ein freizügiges Feen-Outfit“ verpasst.
Was sagt Prisma zu den Anschuldigungen?
TechCrunch hat Prisma Labs mit den Vorwürfen konfrontiert. Das Entwicklerstudio verwies derweil auf seine Nutzungsbedingungen.
Wir geben unser Bestes, damit die Einstellungen des KI-Modells moderate Ergebnisse liefern. Dennoch ist es möglich, dass Sie auf Inhalte stoßen, die Sie als unpassend empfinden.
Das liegt laut Prisma bei den Programmierern hinter dem KI-Modell. Denn dieses sei mit ungefilterten Daten aus dem Internet trainiert worden. Deshalb würden die Ergebnisse der App nur die Vorurteile widerspiegeln, „die Menschen in die Bilder einfließen lassen“.
Auch interessant:
- Warum Threema WhatsApp nie den Rang ablaufen wird (und auch nicht muss)
- Virtuelles Ich: So kannst du bei WhatsApp Avatare erstellen
- Apple Car soll unter 100.000 US-Dollar kosten – kommt aber erst 2026
- Deutschland: Apple startet Self-Service-Reparatur für iPhone und Mac
weibliche Nutzer:innen ?
Seit ihr so im Flow drin das euch nicht mal mehr auffällt das ihr da einfach „Nutzerinnen“ schreiben könnt? Das wird immer grusliger.
Softwarefehler, kann man nichts machen.