KI-Modelle legen beeindruckende Fähigkeiten an den Tag. Sie sind aber alles andere als perfekt. Denn Sprachmodelle liefern gelegentlich falsche oder unvollständige Antworten. Um KI-Inhalte schneller und effizienter überprüfen zu können, haben Forscher ein System namens SymGen entwickelt.
Forscher des Massachusetts Institute of Technology (MIT) haben ein System entwickelt, das es ermöglicht, die Antworten von KI-Modellen schneller und effizienter zu überprüfen. Diese Technologie, genannt SymGen, könnte den Prozess der Überprüfung von KI-generierten Texten von Grund auf verändern. Gleichzeitig ließe sich die Arbeit von menschlichen Prüfern reduzieren.
Im Gesundheitswesen, Finanzsektor oder anderen kritischen Bereichen ist die Genauigkeit von KI enorm wichtig. SymGen bietet deshalb eine Lösung, um potenzielle Fehler in den Antworten von großen Sprachmodellen schneller und effektiver zu erkennen.
Neue Stellenangebote
|
Growth Marketing Manager:in – Social Media GOhiring GmbH in Homeoffice |
|
|
Referent*in Unternehmenskommunikation (m/w/d) Social Media-Marketing & Grafikdesign BFT GmbH in Aachen |
|
|
Digital- & Social Media-Managerin / -Manager (w/m/d) Berliner Stadtreinigungsbetriebe (BSR) in Berlin |
Schnelle Überprüfung von KI-Texten soll Halluzinationen vermeiden
Sprachmodelle wie ChatGPT oder andere große KI-Modelle sind leistungsfähig, neigen jedoch dazu zu „Halluzinationen“. Das bedeutet, dass sie manchmal falsche oder nicht unterstützte Informationen generieren, auch wenn die Eingabedaten korrekt sind. Diese Unsicherheit erfordert menschliche Prüfer, die die KI-Antworten anhand der verwendeten Quellen überprüfen.
Die Herausforderung dabei ist, dass dieser Prozess zeitaufwendig und fehleranfällig sein kann. Wenn die KI auf lange Dokumente verweist, müssen Menschen diese etwa vollständig durchsuchen, um die Antwort zu validieren. Das kann besonders problematisch sein, wenn eine KI in risikoreichen Bereichen wie der Medizin oder im Finanzwesen eingesetzt wird, wo Fehler schwerwiegende Folgen haben könnten.
Quellen werden schnell und effektiv hervorgehoben
Mit SymGen sollen Prüfer spezifische Quellen, die ein Modell verwendet hat, schneller einsehen können. Der Kern von SymGen ist, dass es KI-Antworten mit genauen Zitaten versieht. So kann ein Nutzer über hervorgehobene Textstellen fahren und genau sehen, auf welche Daten sich das Modell stützt. Unmarkierte Stellen signalisieren, dass die Information einer tiefergehenden Überprüfung bedarf.
Ein zentraler Vorteil des Ansatzes ist die Möglichkeit, präzise erkennen zu können, welche Teile einer Antwort korrekt sind und welche möglicherweise nicht. In einem Vergleichstest mit herkömmlichen Methoden konnte SymGen die Zeit zur Überprüfung von KI-generierten Texten um 20 Prozent reduzieren.
Das System stellt damit einen Fortschritt in der Verifizierung von KI-Modellen dar und könnte die Einführung solcher Modelle in hochsensiblen Bereichen erleichtern – indem es das Vertrauen in ihre Genauigkeit stärkt.
Auch interessant:
- Protestbrief gegen KI-Training: Schauspieler und Musiker gehen auf die Barrikaden
- Selbstheilendes Stromnetz: Künstliche Intelligenz soll Blackouts vermeiden
- Mit KI-Influencerin Emma: Deutsche Tourismus-Zentrale blamiert sich
- CT-Scans: Künstliche Intelligenz könnte Tausende Leben retten
Kommentieren