Technologie

SynthID: Sind Wasserzeichen eine Lösung, um KI-Inhalte zu erkennen?

vor 5 Stunden
Wasserzeichen KI Texte erkennen Kennzeichnung kennzeichnen
Adobe Stock/ ihor
geschrieben von Maria Gramsch

Die Anzahl der KI-generierten Inhalte im Netz nimmt aktuell deutlich zu. Doch es fällt immer schwerer entsprechende Fotos, Texte oder Videos zu identifizieren. Wasserzeichen könnten eine Lösung für die Kennzeichnung von KI-Inhalten sein.

Das Thema Künstliche Intelligenz hat das Internet nach der Einführung von ChatGPT im Sturm erobert. Große Sprachmodelle haben sich binnen kurzer Zeit enorm weiterentwickelt. Doch das führt immer wieder zu der Frage, wie eine Kennzeichnungspflicht für KI-generierte Inhalte im Netz aussehen könnte.

Denn während Texte und Videos immer besser werden, fällt es Menschen zunehmend schwer, sie von anderen Inhalten zu unterscheiden. Eine Lösung dafür könnte eine Art Wasserzeichen sein, das Inhalte erkennbar macht, die ein KI-System erstellt hat.

Kennzeichnungspflicht: Ist ein Wasserzeichen für KI die Lösung?

Spätestens im August 2026 soll eine Kennzeichnungspflicht für KI-generierte Inhalte in der Europäischen Union eingeführt werden. Denn dann endet die Übergangsfrist für das KI-Gesetz der EU.

Dieses besagt, dass „die Ausgaben des KI-Systems in einem maschinenlesbaren Format gekennzeichnet“ sein müssen. Außerdem sollen KI-Inhalte „als künstlich erzeugt oder manipuliert“ erkennbar sein.

Eine Lösung könnte eine Art Wasserzeichen sein, das KI-generierte Inhalte als solche kennzeichnet. Ein mögliches Verfahren dafür hat Google-Tochter DeepMind entwickelt.

Google stellt dieses Tool künftig als Open-Source-Lösung für Entwickler und Unternehmen zur Verfügung. Begleitend zu dieser Veröffentlichung ist ein Artikel im Fachmagazin Nature von DeepMind-Forscher erschienen, der die Vorgehensweise von SynthID beschreibt.

SynthID sei „die erste Anwendung eines generativen Textwasserzeichens in großem Maßstab für Millionen von Benutzern“, heißt es in dem Artikel. Das Tool biete außerdem „eine bessere Erkennbarkeit als vergleichbare Methoden“.

Wie funktioniert SynthID von Google?

Ein Wasserzeichen bei Bildern, Videos oder Audios wird dabei beispielsweise in einzelnen Pixeln oder Tönen versteckt. Das KI-System erstellt diese Elemente so, dass ein Muster erzeugt wird, das jedoch nicht sichtbar oder hörbar ist.

Das funktioniert auch bei Texten, allerdings können dabei keine Pixel oder Töne verändert werden. Vielmehr wird in diesen Fällen die Arbeitsweise von KI-Systemen herangezogen.

KI-Modelle wählen die Elemente für Inhalte so aus, dass sie als folgendes Token immer das wählen, das statistisch am wahrscheinlichsten ist. Bei einer Frage wie „Wo gehst du …?“ wäre das beispielsweise als nächstes Token eher „hin“ als „einkaufen“.

Doch diese Wahrscheinlichkeiten können angepasst werden, wodurch wiederum entsprechende Muster entstehen. Diese versteckten Muster können dann von einem Algorithmus als Wasserzeichen ausgelesen werden.

Wasserzeichen für KI: Erfolgreicher Test von SynthID

Im Rahmen einer Studie haben die Forscher von DeepMind die Wirksamkeit von Wasserzeichen für KI beim Einsatz von SynthID untersucht. Dafür wurde die Hälfte von 20 Millionen Antworten des Chatbots Gemini mit einem Wasserzeichen versehen.

Erkennbar ist das Wasserzeichen für Nutzer demnach nicht. Denn diese sollten die Antworten positiv oder negativ bewerten. Der Unterschied zwischen den Antworten mit und ohne Wasserzeichen betrug jedoch lediglich 0,01 Prozent.

Auch interessant:

Unsere Empfehlungen für dich

Über den Autor

Maria Gramsch

Maria ist freie Journalistin und technische Mitarbeiterin an der Universität Leipzig. Seit 2021 arbeitet sie als freie Autorin für BASIC thinking. Maria lebt und paddelt in Leipzig und arbeitet hier unter anderem für die Leipziger Produktionsfirma schmidtFilm. Sie hat einen Bachelor in BWL von der DHBW Karlsruhe und einen Master in Journalistik von der Universität Leipzig.

Zu allen Artikeln

Kommentieren