Am vergangenen Montag berichteten wir euch über die von Twitter ausgelotete Herausforderung zur Aufdeckung von Vorurteilen im eigenen Algorithmus zum Zuschneiden von Bildern. Nachdem man im März die Funktion abgeschaltet hatte, da diese bestimmte Vorurteile widerspiegelte, wollte man vor einem erneuten Versuch auf Nummer sicher gehen.
Jetzt sind die Ergebnisse bekannt und trotz Überarbeitung seitens Twitter werden noch immer bestimmte Nutzergruppen von der Künstlichen Intelligenz bevorzugt. Jenes Problem, das es auf den ersten Platz schaffte, machte deutlich, dass der Algorithmus dünne, junge, feminine Gesichter mit hellen oder warmen Gesichtsfarben vorzog.
Den Sieg nahm Bogdan Kulynych, Absolvent einer schweizerischen Universität, nach Hause. Er erforschte Schwächen des Algorithmus, indem er ein KI-Programm realistische Gesichter erstellen ließ, die sich lediglich in Faktoren, wie der Gesichtsfarbe oder dem Alter unterschieden. Anschließend fütterte er die Twitter-Funktion mit den Daten.
Neue Stellenangebote
|
Referent:in Kommunikation (B2C) mit Schwerpunkt Social Media und Künstliche Intelligenz (m/w/d) Tourismus NRW e.V. in Düsseldorf |
|
|
Marketing Mitarbeiter – Online-Medien / Kampagnen / Social Media (m/w/d) SÜDWERK Projektgesellschaft mbH in Burgkunstadt |
|
|
PR-Berater – Digital – und Technologiekommunikation / Public Relations / Social Media (m/w/d) HARVARD Engage! Communications GmbH in München |
Der zweite Platz demonstrierte, dass die KI gerade Menschen mit grauem oder weißem Haar benachteiligte, ein klarer Indikator für Altersdiskriminierung. Auf den dritten Platz schaffte es die Erkenntnis, dass lateinische Buchstaben vor arabischen Symbolen Vorrang haben. Aber auch andere interessante Eigenschaften wurden aufgedeckt, Vincenzo di Cicco demonstrierte etwa, dass Emojis mit heller Hautfarbe vom Algorithmus bevorzugt werden.
Zusammenfassend hat die Herausforderung also viele positive Dinge gebracht. So hat Twitter nun Zeit Lücken zu schließen, die bisher von den eigenen Entwicklungsteams unentdeckt blieben. Dass Unternehmen Probleme auch falsch angehen können, demonstrierte Amazon bei der eigenen Gesichtserkennung. Hier zog man Nutzer:innen in den Schmutz, die Probleme meldete.
Eigene Meinung:
Twitter geht mit der ausgerufenen Herausforderung einen Schritt in die richtige Richtung. Häufig übersehen gerade die Abteilungen, die Software entwickeln Fehler, ein Grund ist, dass man einfach Dinge übersieht, wenn man jeden Tag damit zu tun hat. Gerade bei Algorithmen, die mit Menschen interagieren, ist ein ausreichender Test und das Aufdecken möglichst vieler Lücken essenziell.
Via The Verge
Neue Stellenangebote
|
|
Referent:in Kommunikation (B2C) mit Schwerpunkt Social Media und Künstliche Intelligenz (m/w/d) Tourismus NRW e.V. in Düsseldorf |
|
|
|
Marketing Mitarbeiter – Online-Medien / Kampagnen / Social Media (m/w/d) SÜDWERK Projektgesellschaft mbH in Burgkunstadt |
|
|
|
PR-Berater – Digital – und Technologiekommunikation / Public Relations / Social Media (m/w/d) HARVARD Engage! Communications GmbH in München |
|
|
Werkstudent als Social Media Content Creator (m/w/d) Malteser in Deutschland in Hannover |
|
|
Praktikum (m/w/d) Social Media LEONINE Holding GmbH in Berlin |
|
|
Praktikant/in / Werkstudent/in Social Media (all genders) Schleich GmbH in München |
