Forscher haben herausgefunden, dass KI-Systeme zur Hausüberwachung vollkommen willkürlich handeln. Die Gründe dafür bleiben mangels Transparenz aber unklar. Die Hintergründe.
Eine neue Studie vom MIT und der Penn State University zeigt: Der Einsatz von Künstlicher Intelligenz (KI) in der Heimüberwachung könnte zu großen Problemen führen. Sprachmodelle wie GPT-4 seien inkonsequent und würden demnach unvorhersehbar handeln. Oft empfehlen sie, die Polizei zu rufen, auch wenn keine kriminellen Aktivitäten erkennbar sind. Diese Inkonsistenz könnte gefährlich werden.
Noch problematischer: Die Modelle reagieren unterschiedlich auf ähnliche Szenen. Ein Video zeigte etwa einen Autodiebstahl und das Modell schlug Alarm, während ein ähnliches Video keine Reaktion hervorrief. Diese Unterschiede werfen die Frage auf, wie zuverlässig KI wirklich ist. Besonders in heiklen Situationen kann das fatale Folgen haben.
Neue Stellenangebote
|
Growth Marketing Manager:in – Social Media GOhiring GmbH in Homeoffice |
|
|
Content Creator Social Media (m/w/d) CSU-Bezirksverband Augsburg in Augsburg |
|
|
Social Media Manager (Fokus: Community Management Supervision) (w/m/d) – befristete Elternzeitvertretung für 18 Monate Yello Strom GmbH in Köln |
Voreingenommenheit von KI bei der Hausüberwachung
Ein weiteres Problem liegt in der Denkweise des Algorithmus. Denn KI zeigt unbewusste Vorurteile. In Vierteln mit überwiegend weißen Bewohnern schlug sie seltener Alarm, selbst wenn ähnliche Aktivitäten wie in anderen Gegenden zu sehen sind. Das zeigt, dass KI von demografischen Unterschieden beeinflusst wird. Die genauen Gründe sind aber unklar, da die Trainingsdaten der Modelle oft nicht öffentlich zugänglich sind.
Diese Vorurteile könnten im Einsatz schwerwiegende Folgen haben. Denn es ist nicht absehbar, wie viele Menschen dadurch unfair behandelt werden könnten. Es wird jedoch deutlich, dass Vorsicht geboten ist, wenn KI in sensiblen Bereichen zum Einsatz kommt.
Die Notwendigkeit von Vorsicht
Die Ergebnisse der Studie unterstreichen die Risiken, die mit dem Einsatz von KI bei der Heimüberwachung verbunden sind. Deshalb sollte man der Technologie nicht einfach blind vertrauen. Es braucht mehr Transparenz und Kontrolle. Nur so kann sichergestellt werden, dass KI fair und zuverlässig arbeitet.
Die Zukunft der Heimüberwachung könnte derweil stark von KI geprägt sein. Doch bevor die Technologien im Alltag zum Einsatz kommen, muss sichergestellt werden, dass sie auch wirklich funktionieren.
Auch interessant:
- Künstliche Intelligenz im iPhone 16: Das sind die neuen Apple-Produkte
- Selbstheilendes Stromnetz: Künstliche Intelligenz soll Blackouts vermeiden
- KI-Lücke: Künstliche Intelligenz sorgt für eine noch tiefere „digitale Kluft“
- KI als Richter: Die Vorteile und Nachteile von Künstlicher Intelligenz in der Justiz
Kommentieren