Das neueste Cover von Science: Das „Kaninchenloch“ der Verschwörungstheorien wird durch das große KI-Modell zerstört

„Wenn man einmal in den Kaninchenbau der Verschwörungstheorien gefallen ist, kommt man nur schwer wieder heraus?“

Im Informationszeitalter verbreiten sich unbegründete Verschwörungstheorien wie ein Virus um die Welt und fügen dem gesellschaftlichen Vertrauen, der Popularisierung der Wissenschaft und der persönlichen psychischen Gesundheit schweren Schaden zu. Daten zeigen, dass mehr als 50 % der US-Bevölkerung an irgendeine Form von Verschwörungstheorie glauben.

Zwar haben Wissenschaftler versucht, Verschwörungstheorien zu entlarven, indem sie logische Fehlschlüsse aufdeckten und wissenschaftliche Erkenntnisse populär machten, doch diesen Interventionen mangelt es an Interaktivität und Zielgerichtetheit, und sie sind meist wirkungslos.

Heute hat die künstliche Intelligenz (KI) neue Durchbrüche bei der Entlarvung von Verschwörungstheorien erzielt und beginnt, ihre Stärke zu zeigen .

KI-gestützte Chatbots reduzierten falsche Vorstellungen sogar bei den hartnäckigsten Verschwörungstheoretikern um durchschnittlich 20 % , wobei die Wirkung mindestens zwei Monate anhielt und sich über eine Vielzahl unabhängiger Verschwörungstheorien und unterschiedliche demografische Kategorien erstreckte.

Diese Leistung ist einem gemeinsamen Forschungsteam des Massachusetts Institute of Technology und der Cornell University in den USA zu verdanken. Sie versuchten, die Vorstellung zu widerlegen, dass „Verschwörungstheorien tief verwurzelt sind und nicht geändert werden können“, indem sie eine neue Methode vorschlugen: den Einsatz von KI-Chatbots zur Bekämpfung falscher Informationen .

Sie untersuchten, ob große Sprachmodelle (LLMs) wie GPT-4 Turbo ihre leistungsstarken Fähigkeiten zur Informationserfassung nutzen können, um Verschwörungstheorien wirksam zu entlarven, indem sie maßgeschneiderte, konversationelle Widerlegungen verwenden, um direkt auf bestimmte von Verschwörungstheoretikern vorgelegte Beweise zu reagieren.

Die Ergebnisse der Studie zeigen, dass LLMs in der Lage sind, mit einer großen Menge an „Angriffen“ durch Falschinformationen umzugehen und eine große Menge an Gegenbeweisen zu liefern . Im Vergleich zu der Informationsflut, die für Menschen schwer zu bewältigen ist, können LLMs möglicherweise unbegrenzt Widerlegungen für falsche Informationen generieren.

Die entsprechende Forschungsarbeit trug den Titel „Durably Reducing Conspiracy Beliefs Through Dialogues with AI“ und wurde als Titelartikel im Wissenschaftsjournal Science veröffentlicht.

In einem verwandten Perspektivartikel schrieben Bence Bago und Jean-François Bonnefon: „KI wird unsere Kultur tiefgreifend verändern, ob zum Guten oder zum Schlechten. Diese Forschung zeigt ein positives Anwendungspotenzial der Überzeugungskraft generativer KI .“

KI zerschlägt erfolgreich Verschwörungstheorien

Auf Wikipedia wird Verschwörungstheorie wie folgt definiert: „Eine Theorie, die Ereignisse oder reale Situationen als Ergebnis einer Verschwörung böser und mächtiger Gruppen erklärt, obwohl andere Erklärungen wahrscheinlicher sind.“

Diese Theorien sind im Allgemeinen aufgrund des Mangels an zuverlässigeren Beweisen nicht falsifizierbar und können logisch in sich schlüssig sein, sodass sie möglicherweise eine ganze Reihe von Anhängern haben.

Die Entstehung von Verschwörungsvorstellungen unter Gläubigen wird durch eine Vielzahl psychologischer Mechanismen beeinflusst, und obwohl ihre Absurdität sehr offensichtlich ist, ist es unwahrscheinlich, dass sie dadurch davon überzeugt werden, ihre unbegründeten, auf Fakten basierenden Überzeugungen aufzugeben, anstatt ihre zugrunde liegenden psychologischen und identitätsbezogenen Überzeugungen grundlegend zu ändern, da die Notwendigkeit besteht, eine komplexe Welt zu vereinfachen und auf die Ungewissheit bestimmter Ereignisse zu reagieren.

Zu diesem Zweck nutzte das Forschungsteam die Tatsache, dass LLMs auf riesige Mengen an Informationen zugreifen und in Echtzeit auf personalisierte Weise mit den Benutzern interagieren können. Es ging der Frage nach, ob ausreichend überzeugende Beweise verwendet werden könnten, um die Menschen davon zu überzeugen, aus dem „Kaninchenbau“ der Verschwörung herauszukommen.

Sie gehen zunächst davon aus, dass Interventionen, die auf sachlichen, korrigierenden Informationen basieren, möglicherweise unwirksam erscheinen, weil ihnen die nötige Tiefe und Personalisierung fehlt . Sie entwarfen eine Reihe von Experimenten auf Basis von GPT-4 Turbo und rekrutierten 2.190 Verschwörungstheoretiker als Teilnehmer, um zu testen, ob LLMs Verschwörungstheorien durch personalisierte Gespräche wirksam bekämpfen können.

Abbildung ｜ Dialogdesign und -prozess zwischen menschlichen Teilnehmern und LLMs. (Quelle: Dieses Dokument)

Zunächst wählte das Forschungsteam 774 Teilnehmer aus und bat sie, die Verschwörungstheorien, an die sie glaubten, und deren Gründe zu beschreiben. Anschließend teilte es sie in eine Interventionsgruppe und eine Kontrollgruppe ein und führte getrennte Gespräche mit LLMs.

Bei den Gesprächen der Interventionsgruppe mit den LLMs kam es zu zahlreichen persönlichen Interaktionen, in denen sie ihre Ansichten und sogenannten „Beweise“ austauschten, und die LLMs lieferten auf der Grundlage dieser Beweise gezielte Gegenargumente. während die Teilnehmer der Kontrollgruppe mit dem LLMs-System Gespräche über Themen führten, die nichts mit Verschwörungstheorien zu tun hatten.

Abbildung | Der Dialog mit LLMs kann den Glauben an Verschwörungstheorien dauerhaft abbauen, selbst unter überzeugten Anhängern dieser Theorien. (Links) Durchschnittlicher Glaube an Verschwörungstheorien unter menschlichen Teilnehmern nach Bedingung (rot: LLMs versuchten, Verschwörungstheorien zu widerlegen; blau: LLMs diskutierten unabhängige Themen) und Zeitpunkt in Studie 1. (Quelle: Dieses Dokument)

Die Ergebnisse zeigten, dass sogar Teilnehmer, die an Verschwörungstheorien glaubten, bereit waren, ihre Überzeugungen auf Grundlage der Argumentation und Beweise der LLMs zu ändern , was die Rolle des rationalen Denkens bei der Korrektur falscher Überzeugungen weiter unterstrich; Der Dialog mit LLMs kann nicht nur bestimmte Verschwörungstheorien beeinflussen, sondern auch zusätzliche Auswirkungen auf andere, nicht damit zusammenhängende Verschwörungstheorien haben.

Darüber hinaus ist die Genauigkeit von LLMs bei der Widerlegung von Verschwörungstheorien extrem hoch. Nach der Auswertung durch professionelle Faktenprüfer wurden 99,2 % der Widerlegungen als wahr angesehen, nur 0,8 % waren irreführend und es gab keine falschen Informationen oder offensichtliche Voreingenommenheit.

Darüber hinaus überprüfte das Forschungsteam durch kontinuierliche Überarbeitung der Fragebogenformulierung die Robustheit dieses Ergebnisses in zwei Versuchsrunden.

Die Innovation dieser Forschung liegt darin:

Echtzeit-Interaktion: Anders als bei herkömmlichen statischen Informationen wurden in dieser Studie mithilfe von LLMs Echtzeit-Dialogexperimente entwickelt, um die von den Teilnehmern geäußerten Verschwörungsvorstellungen auf personalisierte Weise zu widerlegen. Mit dieser interaktiven Methode können die Fragen und Gegenargumente menschlicher Teilnehmer zeitnah beantwortet und so die Wirksamkeit der Intervention verbessert werden.

Personalisierter Dialog: LLMs generieren maßgeschneiderte Widerlegungsinhalte basierend auf den spezifischen Überzeugungen der Teilnehmer, wodurch die Intervention gezielter und überzeugender wird;

Direkte Widerlegung: LLMs liefern nicht nur sachliche Informationen, sondern liefern auch sofort echte Daten als Antwort auf von den Teilnehmern angeführte falsche Beweise und erklären deren Quelle und Zuverlässigkeit. Allerdings muss man darauf achten, dass LLMs dazu verwendet werden können, falsche Überzeugungen zu fördern und daher verantwortungsvoll eingesetzt und mit entsprechenden Einschränkungen versehen werden müssen .

Natürlich weist diese Studie auch gewisse Einschränkungen auf. Beispielsweise wurde die Stichprobe der Studie hauptsächlich aus Online-Teilnehmern in den Vereinigten Staaten gezogen, und in zukünftigen Arbeiten sollten auch Verschwörungstheoretiker aus anderen Kulturen und mit anderen Hintergründen getestet werden.

Darüber hinaus wurde in dieser Studie nur das GPT-4-Turbo-Modell verwendet und es ist unklar, wie andere Modelle abschneiden.

Darüber hinaus sind LLMs zwar bei der Veränderung von Überzeugungen erfolgreich, die spezifischen kognitiven Mechanismen bleiben jedoch unklar und es bedarf in Zukunft weiterer Forschung, um zu untersuchen, wie LLMs durch Dialoge Überzeugungsänderungen beeinflussen.

Wissenschaftliche Fakten sind der stärkste Gegenbeweis

Darüber hinaus hat das Weltwirtschaftsforum in seinem „Global Risks Report 2024“ die durch KI hervorgerufene Verstärkung falscher Informationen als eines der schwerwiegendsten Risiken weltweit aufgeführt. In diesem Zusammenhang sind die potenziellen positiven Auswirkungen der KI besonders wichtig.

Die oben genannten Ergebnisse zeigen, dass KI-Modelle wie LLMs nicht nur den Glauben der Menschen an bestimmte Verschwörungstheorien wirksam reduzieren können, sondern auch ein großes Potenzial haben, tief verwurzelte Überzeugungen zu verändern.

Wie jedoch Bence Bago et al. Wie in einem zukunftsweisenden Artikel hervorgehoben wird, funktioniert dieser KI-Dialogansatz möglicherweise nur bei gut begründeten Verschwörungstheorien, und die Wirksamkeit der KI kann bei falschen Überzeugungen ohne vernünftige Grundlage verringert sein .

Sie weisen außerdem darauf hin, dass die Skalierbarkeit von KI-gestützten Gesprächsinterventionen wünschenswert sei und nicht nur auf Verschwörungstheorien, sondern auch auf Bereiche wie Pseudowissenschaft, Gesundheitsmythen, Klimaskepsis und mehr angewendet werden könne. Ob diese Art von falschen Überzeugungen jedoch ebenso schwer zu korrigieren sind wie Verschwörungstheorien, muss noch weiter untersucht werden.

Sie schlagen vor, dass künftige Forschungen untersuchen sollten, wie lange und wie oft solche KI-Gespräche dauern müssen, um ihre Wirksamkeit sicherzustellen.

Hinzu kommt, dass Verschwörungstheoretiker möglicherweise keiner wissenschaftlichen Institution vertrauen und es weiterhin eine große Herausforderung darstellt, sie davon zu überzeugen, mit KI zu interagieren .

Aus einer anderen Perspektive könnte ein personalisierter Ansatz funktionieren. Da die Verwandten und Freunde von Verschwörungstheoretikern oft bestrebt sind, deren falsche Überzeugungen zu zerstören, ist es möglicherweise möglich, Gläubige dazu zu bewegen, an einem Dialog mit der KI teilzunehmen, indem man ihre Verwandten und Freunde dazu ermutigt.

„ Dass LLMs ein wirksames Instrument zur Bekämpfung von Verschwörungstheorien sein können, mag angesichts ihres Rufs, falsche Tatsachen zu erfinden, ironisch erscheinen“, bemerkte H. Holden Thorp, Chefredakteur des Magazins Science, in einem Fokusartikel. „Aber in Gesprächen mit Verschwörungstheoretikern waren sie wirksam bei der Reduzierung des Glaubens.“

Auch David Rand, einer der Autoren der Studie, sagte: „Unsere Beweise zeigen, dass es tatsächlich Gegenbeweise und Erklärungen sind, die nicht auf einer Verschwörung beruhen.“

Thorp warf außerdem die Frage auf: „Hängt dies mit der Neutralität der LLMs und dem Mangel an emotionalen Reaktionen in menschlichen Gesprächen zusammen? Die aktuelle Forschung hat jedoch noch keine stichhaltigen Beweise für diese Ansicht geliefert.“

Diese Ergebnisse legen nahe, dass bei den Bemühungen zur Reduzierung wissenschaftlicher Fehlinformationen nicht die Überbringer der Informationen überbetont werden sollten, sondern der Schwerpunkt eher auf der Bereitstellung ausreichender Gegenbeweise liegen sollte, wenn substanzielle Gegenbeweise entscheidend werden.

H. Holden Thorp sagt: „Es ist rätselhaft, dass das Vertrauen der Öffentlichkeit in Wissenschaftler trotz der Verbreitung von Verschwörungstheorien nach wie vor hoch ist.“ Vielleicht ist es dieses unerschütterliche Vertrauen in die Wissenschaft, das LLMs so effektiv bei der Bereitstellung von Gegenbeweisen macht.

Obwohl Maschinen möglicherweise besser als Menschen darin sind, Fehlinformationen zu widerlegen, sind es letztlich immer noch wissenschaftliche Fakten, die die Menschen überzeugen. Daher liegt es in der Verantwortung der Wissenschaftler, das Zukunftspotenzial der KI nachzuweisen.

Autor: Tian Xiaoting Herausgeber: Academic Jun