Ein Bild muss nicht unbedingt die Wahrheit wiedergeben! Vorsicht vor KI-Gerüchten um Sie und mich | Digitale Kompetenz

Prüfungsexperte: Liu Xiangquan

Außerordentlicher Professor, Direktor der Abteilung für Robotiktechnik, Universität für Informationswissenschaft und Technologie Peking

In den letzten Jahren hat sich die Informationstechnologie, repräsentiert durch Big Data und künstliche Intelligenz (KI), täglich verändert. Die Entwicklung dieser Technologien bringt immer mehr Komfort für unsere Arbeit und unser Leben mit sich, gleichzeitig hat sie aber auch gewisse negative Auswirkungen. Immer mehr Gerüchte tauchen im Internet auf, die mithilfe von KI-Tools und Synthesetechnologie erfunden wurden.
KI-Gerüchte können nicht nur zu auffälligen und kontroversen Themen zusammengestellt werden, sondern können sogar Bilder, Audio- und Videodateien generieren, die der Realität nahe kommen. Dadurch wird die herkömmliche Auffassung, dass „wo ein Bild ist, da ist die Wahrheit“, untergraben und es wird für die Menschen schwieriger, zwischen Wahrheit und Lüge zu unterscheiden. Heute wollen wir uns mit der Verbreitung von Gerüchten über KI befassen. Unter Gerüchteverbreitung durch KI versteht man den Einsatz künstlicher Intelligenz zur Generierung falscher Informationen (einschließlich Text, Bildern, Audio- und Videodateien), um Online-Gerüchte zu verbreiten. In den letzten Jahren kam es in vielen Fällen zu negativen Auswirkungen durch die Verbreitung von Gerüchten über KI.

„Guangzhou schränkt die Essenslieferung ein“, „Die Turnhalle im Stadtzentrum von Xinyang in der Provinz Henan ist eingestürzt“, „Das Rote Kreuz in Gansu hat 1,6 Millionen Yuan an Verwaltungsgebühren für Handwärmtaschen eingenommen“ … Diese sogenannten „Nachrichten“ mit „Bildern, Videos und der Wahrheit“ wurden im Internet weit verbreitet und erregten die Aufmerksamkeit einer großen Zahl von Internetnutzern.

Das Bild zeigt das Online-Gerücht über das „Erdbeben im Landkreis Xide“, das von einer KI-Software erfunden wurde

Bei allen oben genannten Fällen handelt es sich um von KI-Software synthetisierte Falschinformationen. Um Plattformprämien zu erhalten oder Verkehr anzuziehen, verwenden einige Kriminelle KI-Software, um automatisch Artikel zu generieren und diese dann mit echten Bildern zu versehen, um gefälschte Bilder und Videos zu synthetisieren und sie auf Online-Plattformen zu veröffentlichen.

Ein solches Verhalten wird sich negativ auf die Gesellschaft auswirken und die öffentliche Ordnung ernsthaft stören. Obwohl die Polizei das Gerücht dringend widerlegte und die Fakten klarstellte, war das Gerücht der Wahrheit bereits weit voraus, was dazu führte, dass viele Menschen es glaubten und den Beteiligten große Schwierigkeiten bereitete.

Einem Bericht der Nachrichtenagentur Xinhua zufolge zeigte ein Dokument aus einem kürzlich abgeschlossenen Fall, dass Kriminelle mithilfe von KI-Technologie innerhalb kurzer Zeit etwa 10.000 gefälschte Videonachrichten produzierten und dabei aktuelle Nachrichten und zufällig ausgewählte Online-Videos als Material verwendeten. Darunter wurden über 20 Videos veröffentlicht, die mehrere Provinzen betrafen und über eine Million Mal angesehen wurden.

Wenn Gerüchte als KI getarnt werden, wird es schwieriger, zwischen Gerüchten und Wahrheit zu unterscheiden. Die Hemmschwelle und die Kosten für die Verbreitung von Gerüchten werden erheblich gesenkt und die Effizienz ihrer Verbreitung sowie die Wirkung, die sie erzielen, nehmen exponentiell zu.

Gerüchte über künstliche Intelligenz sind zu einem neuen Internetproblem geworden, das dringend unter Kontrolle gebracht werden muss. Als Kommunikationsknotenpunkt ist die persönliche Macht auch im Prozess der Unterbindung von Gerüchten sehr wichtig. Wie können wir also im Alltag die Augen offen halten, KI-Gerüchte erkennen und ihnen widerstehen?

eins

Wie erkennt man KI-Gerüchte?

0 1Beobachten Sie die Details des Bildes

Beobachten Sie die Details im Bild, wie Farbe, Licht und Schatten, Klarheit usw., sorgfältig, um zu sehen, ob sie der tatsächlichen Situation im wirklichen Leben entsprechen. Wenn Sie etwas Ungewöhnliches feststellen, sollten Sie wachsam sein.

0 2Informationsquelle überprüfen

Wenn Sie Informationen im Internet sehen, prüfen Sie, ob die Quelle zuverlässig ist. Seien Sie vorsichtig bei Informationen aus unbekannten Quellen.

0 3

Mit Hilfe der Technologie

Erkennen Sie mit technischen Mitteln, ob Bilder, Videos etc. manipuliert wurden. Nutzen Sie beispielsweise professionelle Bilderkennungssoftware, Videoanalysetools etc.

zwei

Wie kann man KI-Gerüchten widerstehen?

Sensibilisierung für Prävention

Beim Durchsuchen von Informationen im Internet müssen wir hinsichtlich der Informationsquelle wachsam sein und versuchen, maßgebliche und vertrauenswürdige Medien oder Institutionen als Informationsquellen auszuwählen. Generell sollten Sie bei Online-Nachrichteninformationen auf die Logik achten. Wenn Sie feststellen, dass eine Nachrichteninformation offensichtliche logische Lücken oder Widersprüche aufweist, ist sie wahrscheinlich manipuliert oder erfunden.

Handeln Sie nicht blind

Denken Sie daran, nicht blind ungeprüften Informationen zu glauben und diese auch nicht zu verbreiten. Wenn Sie in den sozialen Medien oder im Internet auf verdächtige Informationen stoßen, können Sie diese zunächst überprüfen oder auf die Veröffentlichung offizieller Nachrichten warten, bevor Sie sich ein Urteil bilden. Folgen Sie nicht der Masse und hören Sie nicht nur auf eine Seite.

Bewusste Pflege der Netzwerkökologie

Wir sollten bewusst die Finger von Falschinformationen lassen und nicht zu Anhängern und Förderern von Fake News werden. Wenn falsche Informationen gefunden werden, sollten diese zeitnah über verschiedene Kanäle wie Meldehotlines und Internet-Meldezentren gemeldet werden, um gemeinsam eine saubere und gesunde Online-Ökologie aufrechtzuerhalten.

Egal wie fortschrittlich eine Maschine ist, es ist schwierig, die menschliche Intelligenz zu übertreffen, und KI-generierte Inhalte weisen zwangsläufig Schlupflöcher auf. Wenn wir in Zukunft im Internet surfen, sollten wir aufmerksam sein, die Augen offen halten, positive Maßnahmen ergreifen und gemeinsam eine eiserne Mauer errichten, um die Verbreitung von KI-Gerüchten zu verhindern.