Technologie

SymGen: Mit diesem Tool kannst du die Antworten von KI-Modellen überprüfen

Schnelle Überprüfung von KI-Texten
Unsplash.com/BoliviaInteligente
geschrieben von Felix Baumann

KI-Modelle legen beeindruckende Fähigkeiten an den Tag. Sie sind aber alles andere als perfekt. Denn Sprachmodelle liefern gelegentlich falsche oder unvollständige Antworten. Um KI-Inhalte schneller und effizienter überprüfen zu können, haben Forscher ein System namens SymGen entwickelt. 

Forscher des Massachusetts Institute of Technology (MIT) haben ein System entwickelt, das es ermöglicht, die Antworten von KI-Modellen schneller und effizienter zu überprüfen. Diese Technologie, genannt SymGen, könnte den Prozess der Überprüfung von KI-generierten Texten von Grund auf verändern. Gleichzeitig ließe sich die Arbeit von menschlichen Prüfern reduzieren.

Im Gesundheitswesen, Finanzsektor oder anderen kritischen Bereichen ist die Genauigkeit von KI enorm wichtig. SymGen bietet deshalb eine Lösung, um potenzielle Fehler in den Antworten von großen Sprachmodellen schneller und effektiver zu erkennen.


Neue Stellenangebote

Growth Marketing Manager:in – Social Media
GOhiring GmbH in Homeoffice
Social Media und PR Specialist (m/w/d)
BeA GmbH in Ahrensburg
Social Media Manager B2B (m/w/d)
WM SE in Osnabrück

Alle Stellenanzeigen


Schnelle Überprüfung von KI-Texten soll Halluzinationen vermeiden

Sprachmodelle wie ChatGPT oder andere große KI-Modelle sind leistungsfähig, neigen jedoch dazu zu „Halluzinationen“. Das bedeutet, dass sie manchmal falsche oder nicht unterstützte Informationen generieren, auch wenn die Eingabedaten korrekt sind. Diese Unsicherheit erfordert menschliche Prüfer, die die KI-Antworten anhand der verwendeten Quellen überprüfen.

Die Herausforderung dabei ist, dass dieser Prozess zeitaufwendig und fehleranfällig sein kann. Wenn die KI auf lange Dokumente verweist, müssen Menschen diese etwa vollständig durchsuchen, um die Antwort zu validieren. Das kann besonders problematisch sein, wenn eine KI in risikoreichen Bereichen wie der Medizin oder im Finanzwesen eingesetzt wird, wo Fehler schwerwiegende Folgen haben könnten.

Quellen werden schnell und effektiv hervorgehoben

Mit SymGen sollen Prüfer spezifische Quellen, die ein Modell verwendet hat, schneller einsehen können. Der Kern von SymGen ist, dass es KI-Antworten mit genauen Zitaten versieht. So kann ein Nutzer über hervorgehobene Textstellen fahren und genau sehen, auf welche Daten sich das Modell stützt. Unmarkierte Stellen signalisieren, dass die Information einer tiefergehenden Überprüfung bedarf.

Ein zentraler Vorteil des Ansatzes ist die Möglichkeit, präzise erkennen zu können, welche Teile einer Antwort korrekt sind und welche möglicherweise nicht. In einem Vergleichstest mit herkömmlichen Methoden konnte SymGen die Zeit zur Überprüfung von KI-generierten Texten um 20 Prozent reduzieren.

Das System stellt damit einen Fortschritt in der Verifizierung von KI-Modellen dar und könnte die Einführung solcher Modelle in hochsensiblen Bereichen erleichtern – indem es das Vertrauen in ihre Genauigkeit stärkt.

Auch interessant:

Über den Autor

Felix Baumann

Felix Baumann ist seit März 2022 Redakteur bei BASIC thinking. Bereits vorher schrieb er 4 Jahre für den Online-Blog Mobilegeeks, der 2022 in BASIC thinking aufging. Nebenher arbeitet Felix in einem IT-Unternehmen und beschäftigt sich daher nicht nur beim Schreiben mit zukunftsfähigen Technologien.

Kommentieren