Wie gut ist KI im Ernst beim Geschichtenerfinden? Mehr als Sie sich vorstellen können!

Sind Sie schon einmal in eine solche Situation geraten: Sie haben einer KI eine Frage gestellt und sie hat Ihnen eine sehr detaillierte, umfassende und scheinbar logische Antwort gegeben. Aber als wir nachprüften, stellten wir fest, dass diese Informationen völlig frei erfunden waren?

Dies ist das berühmte Phänomen der „KI-Illusion“.

Bildquelle: Hesenburgs Sina Weibo

Warum treten KI-Halluzinationen auf? Lassen Sie uns dieses Rätsel heute gemeinsam lösen.

Warum treten KI-Halluzinationen auf?

Unter KI-Halluzination versteht man das Phänomen, dass KI Informationen generiert, die vernünftig erscheinen, in Wirklichkeit jedoch falsch sind. Die häufigste Erscheinungsform ist die Erfindung nicht vorhandener Fakten oder Einzelheiten.

Genau wie wenn wir in einer Prüfung auf Fragen stoßen, auf die wir die Antwort nicht wissen, werden wir versuchen, die Antwort mithilfe unseres bereits vorhandenen Wissens zu erraten. Wenn KI auf eine Situation stößt, in der Informationen fehlen oder unsicher sind, füllt sie die Lücken und zieht Schlussfolgerungen auf der Grundlage ihrer eigenen „Erfahrung“ (Trainingsdaten).

Dies liegt nicht daran, dass es uns täuschen möchte, sondern daran, dass es versucht, diese Aufgabe mithilfe eines Modells zu erfüllen, das es versteht.

1

Vorhersagen basierend auf statistischen Beziehungen

Denn KI (insbesondere Sprachmodelle wie ChatGPT) lernt die statistischen Zusammenhänge zwischen Wörtern anhand großer Mengen an Trainingsdaten. Sein Hauptziel besteht darin, das wahrscheinlichste nächste Wort basierend auf dem Kontext vorherzusagen, nicht darin, die Frage oder den Inhalt wirklich zu verstehen. KI generiert Inhalte also im Wesentlichen durch Wahrscheinlichkeitsmaximierung und nicht durch logisches Denken.

Einfach ausgedrückt ist KI wie ein weiser Mann, der viel liest und sich durch das Studium riesiger Mengen an Texten und Materialien Wissen aneignet. Allerdings versteht es dieses Wissen nicht wirklich, sondern „sagt“ vielmehr das nächste am besten geeignete Wort voraus, indem es statistische Beziehungen und Muster zwischen Wörtern findet. Das heißt, die KI errät anhand einer großen Anzahl zuvor erlernter Beispiele das wahrscheinlichste nächste Wort.

Manchmal liegt das Modell jedoch mit seinen Schätzungen falsch. Wenn es vorne eine kleine Abweichung gibt, wächst der folgende Inhalt wie ein Schneeball. Deshalb kann es bei KI manchmal vorkommen, dass sie mit einem kleinen Fehler beginnt und am Ende eine völlig erfundene Geschichte spinnt.

2

Einschränkungen der Trainingsdaten

Da KI über keine Erfahrung in der realen Welt verfügt, basiert ihre gesamte „Erkenntnis“ auf Trainingsdaten. Allerdings können Trainingsdaten nicht alle Informationen der Welt enthalten und manchmal enthalten sie sogar falsche Informationen. Es ist, als ob eine Person Fragen nur auf Grundlage der Bücher beantworten kann, die sie gelesen hat. Wenn das Buch falsche Informationen enthält oder Kenntnisse in bestimmten Bereichen fehlen, kann es leicht zu Fehlurteilen kommen. Beispiel: Wenn die Halluzinationen der KI in der Anfangsphase stärker sind, kann es so aussehen, als hätte die KI zwei Wissenseinheiten gelernt: „Peking ist die Hauptstadt Chinas“ und „In Paris gibt es einen Eiffelturm.“ Wenn wir es fragen: „Welche berühmten Gebäude gibt es in Peking?“, kann es sein, dass es diese Informationen fälschlicherweise vermischt und sagt: „In Peking gibt es einen Eiffelturm.“

3

Überanpassungsproblem

Da die Anzahl der Trainingsparameter bei großen Modellen sehr groß ist, besteht bei großen Modellen das Problem der „Überanpassung“ der Trainingsdaten. Das heißt, weil zu viele falsche oder irrelevante Dinge erinnert werden, wird die KI überempfindlich gegenüber dem Rauschen in den Trainingsdaten, was schließlich zu Halluzinationen führt.

4

Eingeschränktes Kontextfenster

Aufgrund technischer Einschränkungen werden die Kontextfenster großer Modelle zwar immer größer (sie können beispielsweise 64.000 oder 128.000 Token verarbeiten), sie verstehen Text jedoch immer noch innerhalb eines begrenzten Bereichs. Das ist, als würde man ein Buch durch ein kleines Fenster lesen. Der gesamte Inhalt des Buches ist nicht einsehbar, was leicht zu Missverständnissen führen kann.

5

Design zur Generierung flüssiger Antworten

Viele große Modelle sind mittlerweile so konzipiert, dass sie fließende Antworten geben. Wenn sie sich bei einer Frage nicht sicher sind, neigen sie eher dazu, eine scheinbar vernünftige Antwort auf der Grundlage ihres vorhandenen Wissens zu erfinden, anstatt zu sagen: „Ich weiß nicht.“ Die Kombination aller oben genannten Situationen hat das aktuelle, sehr ernste Problem der KI-Halluzinationen verursacht.

Copyright-Bilder in der Galerie. Der Nachdruck und die Verwendung können zu Urheberrechtsstreitigkeiten führen.

Wie können wir KI-Halluzinationen reduzieren?

KI scheint sehr praktisch zu sein, aber der ernsthafte „Unsinn“ von KI kann den Leuten manchmal wirklich Kopfschmerzen bereiten. Die bereitgestellten Informationen müssen oft mehrfach überprüft werden und sind manchmal nicht so zuverlässig wie eine direkte Suche im Internet. Wie gehen wir also mit KI-Halluzinationen um? Um Ihnen dabei zu helfen, haben wir die folgenden Methoden zusammengefasst.

1

Fragen optimieren

Die Art und Weise, wie Sie Fragen stellen, ist entscheidend für die Beantwortung präziser Fragen. Die Kommunikation mit KI muss außerdem klar und spezifisch sein und vage oder offene Fragen vermeiden. Je spezifischer und klarer die Fragen sind, desto genauer sind die Antworten der KI. Gleichzeitig sollten wir bei der Beantwortung unserer Fragen genügend Kontext oder Hintergrundinformationen bereitstellen, um die Möglichkeit zufälliger Vermutungen durch die KI zu verringern. Die Tipps lassen sich in den folgenden vier Fragetypen zusammenfassen:

1. Grenzen setzen: „Bitte beschränken Sie Ihre Forschung strikt auf Forschungsarbeiten, die 2022 in Nature veröffentlicht wurden“;

Beispiel: „Stellen Sie die Entwicklungsgeschichte von ChatGPT vor“ → „Bitte stellen Sie die Entwicklungsgeschichte von ChatGPT nur basierend auf den offiziellen öffentlichen Dokumenten von OpenAI von 2022-2023 vor.“

2. Unsicherheit markieren: „Bei mehrdeutigen Informationen ist es notwendig, ‚Dies ist Spekulation‘ zu markieren“;

Beispiel: „Analyse des Marktanteils von Tesla im Jahr 2025“ → „Analyse des Marktanteils von Tesla im Jahr 2025. Bei inoffiziellen Daten oder Prognosen bitte [Spekulation] markieren.“

3. Schrittweise Analyse: „Der erste Schritt besteht darin, die bestätigten Fakten aufzulisten, und der zweite Schritt besteht darin, eine detaillierte Analyse durchzuführen“;

Beispiel: „Bewerten Sie die Auswirkungen künstlicher Intelligenz auf die Beschäftigung“ → „Bitte bewerten Sie die Auswirkungen von KI auf die Beschäftigung in zwei Schritten:

1) Listen Sie zunächst die konkreten Auswirkungen auf, die bisher aufgetreten sind.

2) Führen Sie auf der Grundlage dieser Fälle eine Analyse zukünftiger Trends durch.“

4. Klare Einschränkungen: Sagen Sie der KI, dass sie auf Grundlage vorhandener Fakten antworten und keine Annahmen treffen soll.

Beispiel: „Prognose der Immobilienmarktentwicklung im Jahr 2024“ → „Bitte analysieren Sie nur auf Basis der tatsächlichen Immobiliendaten im Jahr 2023 und der entsprechenden ausgegebenen Richtlinien und fügen Sie keine spekulativen Inhalte hinzu.“

2

Batch-Ausgabe

Da KI-Inhalte auf Wahrscheinlichkeitsbasis generiert werden, ist die Wahrscheinlichkeit einer KI-Halluzination umso größer, je mehr Inhalte gleichzeitig generiert werden. Wir können die Ausgabemenge aktiv begrenzen. Wenn ich beispielsweise einen langen Artikel schreiben möchte, sage ich der KI: „Lass uns ihn Absatz für Absatz schreiben. Schreibe zuerst den Anfang. Wenn du mit diesem Teil zufrieden bist, fahre mit dem nächsten Absatz fort.“ Dadurch wird nicht nur der Inhalt präziser, sondern auch die Qualitätskontrolle des generierten Inhalts wird einfacher.

3

Kreuzvalidierung

Eine weitere praktische Möglichkeit, die Zuverlässigkeit von KI-Antworten zu verbessern, ist die Verwendung einer „Multi-Modell-Kreuzvalidierung“. Es wird eine KI-Aggregationsplattform verwendet: Mehrere KI-Modelle können gleichzeitig dieselbe Frage beantworten. Wenn Sie auf eine Frage stoßen, die eine strenge Antwort erfordert, wird diese Funktion aktiviert, um verschiedenen großen Modellen die Teilnahme an der Diskussion zu ermöglichen und durch den Vergleich ihrer Antworten ein umfassenderes Verständnis zu erlangen.

Zum Vergrößern anklicken, Bildquelle: vom Autor bereitgestellt

Ein weiteres Beispiel ist die Funktion „Multi-Model Collaboration“ der Nano AI-Suchplattform, die es verschiedenen KI-Modellen ermöglicht, ihre jeweiligen Funktionen auszuführen und ein effizientes Team zur Zusammenarbeit zu bilden. DeepSeekR1, das gut im Denken ist, ist für die Analyse und Planung verantwortlich, Tongyi Qianwen ist für die Fehlerkorrektur und Ergänzung verantwortlich und schließlich ist Doubao AI für das Sortieren und Zusammenfassen verantwortlich. Dieses Kooperationsmodell einer „Expertengruppe“ erhöht nicht nur die Glaubwürdigkeit der Inhalte, sondern ermöglicht auch umfassendere und tiefere Einblicke.

Bildquelle: vom Autor bereitgestellt

4

RAG-Technologie

KI ist eine intelligente, aber vergessliche Person. Um seine Leistung zu steigern, können wir ihm eine Superenzyklopädie geben, in der er jederzeit den Inhalt nachschlagen und Fragen beantworten kann. Dieses „Lexikon“ ist das Herzstück der RAG. Es ermöglicht der KI, vor der Beantwortung von Fragen relevante Informationen aus zuverlässigen Materialien zu finden und dann auf Grundlage dieser Informationen Antworten zu generieren. Auf diese Weise wird die Wahrscheinlichkeit verringert, dass die KI „Unsinn redet“. Derzeit wird die RAG-Technologie hauptsächlich in Berufsfeldern wie Medizin, Recht und Finanzen eingesetzt, um durch den Aufbau einer Wissensbasis die Genauigkeit der Antworten zu verbessern. Natürlich müssen KI-generierte Inhalte bei der tatsächlichen Verwendung in Hochrisikobereichen wie Medizin, Recht und Finanzen weiterhin von Fachleuten überprüft werden.

5

KI-Illusionen nutzen

Lassen Sie mich abschließend über einen Vorteil der KI-Halluzination sprechen.

Oft sind KI-Illusionen auch Funken wilder Kreativität! Wie ein skurriler Künstler ist er nicht an konventionelles Denken gebunden und kann überraschende Ideen entwickeln.

Schauen Sie sich einfach DeepSeek an. Es ist tatsächlich anfälliger für Halluzinationen als ChatGPT und Claude. Der Grund, warum DeepSeek in diesem Jahr so ​​beliebt geworden ist, ist jedoch untrennbar mit seiner starken kreativen Leistungsfähigkeit verbunden.

Manchmal ist es besser, KI-Illusionen als Quelle der Kreativität zu betrachten, anstatt sie als Fehler zu betrachten! Beim Schreiben, beim Schaffen von Kunst oder beim Brainstorming können uns diese „springenden Gedanken“ helfen, die Tür zu einer neuen Welt zu öffnen.

Copyright-Bilder in der Galerie. Der Nachdruck und die Verwendung können zu Urheberrechtsstreitigkeiten führen.

Die Natur der KI-Illusionen – KI erzeugt im Nebel des Wissens manchmal „Schatten“, die real erscheinen, in Wirklichkeit jedoch eine Illusion sind. Aber wie bei jedem Werkzeug kommt es darauf an, wie Sie es verwenden.

Wenn wir lernen, auf die richtige Weise mit KI zu kommunizieren, ihre Kreativität sinnvoll zu nutzen und unser unabhängiges Denken beizubehalten, kann KI von einem „eloquenten Lügner“ zu unserem mächtigen Assistenten werden.

Denn in diesem Zeitalter, in dem sich KI und Mensch gemeinsam weiterentwickeln, kommt es nicht darauf an, der KI die Schuld für ihre Unvollkommenheiten zu geben, sondern zu lernen, besser mit ihr zusammenzuarbeiten.

Planung und Produktion

Autor: Tian Wei, KI-Tool-Forscher

Rezension von Yu Yang, Leiter des Tencent Xuanwu Lab