Die Ära des „Sehens ist nicht unbedingt Glaubens“ ist angebrochen. Vorsicht vor Online-Betrug durch KI-Gesichtsveränderung

Mit der rasanten Entwicklung der Technologie der künstlichen Intelligenz (KI) hat diese zwar verschiedenen Branchen neue Möglichkeiten eröffnet, gleichzeitig aber auch beispiellose Sicherheitsherausforderungen mit sich gebracht. Obwohl uns KI bei der Verarbeitung verschiedener Arten von Informationen unterstützen und die Arbeitseffizienz verbessern kann, treten Sicherheitsrisiken wie Cyberangriffe und Datenlecks immer stärker in den Vordergrund. Probleme wie übermäßiges Sammeln von Daten, diskriminierende Algorithmen und der Missbrauch von Deep Fakes stellen eher große Risiken für das Funktionieren der Sozialökonomie dar. In jüngster Zeit haben einige Kriminelle damit begonnen, KI-Technologie zu verwenden, um Gesichter und Stimmen anderer Personen zu verschmelzen und so sehr realistische zusammengesetzte Bilder zu erstellen und so neue Arten von Online-Betrug zu begehen. Wenn KI zu einem Werkzeug für Betrugsversuche wird, ist es oft schwierig, sich gegen diese Art von High-Tech-Betrug zu schützen, und den Opfern entstehen in kurzer Zeit erhebliche Verluste.

Die „KI-Gesichtsveränderung“ wird missbraucht. Technologie darf nicht zum Komplizen von Kriminellen werden

KI öffnet die Büchse der Pandora

In den letzten zwei Jahren sind Produkte der generativen künstlichen Intelligenz, vertreten durch ChatGPT, „Wenxin Yiyan“, Sora usw., äußerst populär geworden. Ihre technischen Eigenschaften, aus großen Datensätzen auf der Grundlage komplexer Algorithmen, Modelle und Regeln zu lernen und so neue, originelle Inhalte zu erstellen, haben die menschliche Vorstellungskraft von Technologie völlig untergraben.

Mit der kontinuierlichen Weiterentwicklung der KI-Technologie werden ihre Vorteile bei der Informationsverarbeitung und Interaktion immer deutlicher, der Realismus und die Effizienz der generierten Inhalte werden immer stärker und das Phänomen, dass „Fälschungen mit echt verwechselt werden“, tritt immer häufiger auf. Allerdings besteht aufgrund fehlender wirksamer Kontrollen und Beschränkungen die Gefahr, dass diese Mittel missbraucht oder gar für Betrugszwecke eingesetzt werden. Kriminelle Gruppen haben sogar damit begonnen, Chatbots mit generativer KI für Online-Betrug einzusetzen und so ihren illegalen Aktivitäten einen „technologischen Deckmantel“ zu verleihen. Die KI-Technologie hat still und leise die „Büchse der Pandora“ geöffnet.

Vor nicht allzu langer Zeit erhielt ein Bürger namens Herr Wang in Mianyang, Sichuan, plötzlich einen Videoanruf vom Leiter seiner Aufsichtseinheit, der ihm mitteilte, dass sein Freund mehr als 400.000 Yuan von Herrn Wangs Firmenkonto leihen wolle. Aufgrund seines Vertrauens in den Anführer und der Tatsache, dass seine Identität per Videochat überprüft worden war, überwies Herr Wang sofort mehr als 400.000 Yuan auf das angegebene Konto. Später stellte er jedoch fest, dass er betrogen worden war. Tatsächlich nutzte der Betrüger intelligente KI-Gesichtsveränderungs- und Voice-Over-Technologie, um sich als Anführer auszugeben und ihn zu betrügen.

Im Februar dieses Jahres gab die Polizei von Hongkong einen Betrugsfall bekannt, bei dem es um die „Gesichtsveränderung mehrerer Personen“ mittels künstlicher Intelligenz ging und es um einen Gesamtschaden von 200 Millionen HK-Dollar ging. In diesem Fall wurden Mitarbeiter der Hongkonger Niederlassung eines multinationalen Unternehmens eingeladen, an einer vom Finanzvorstand der Zentrale initiierten Mehrpersonen-Videokonferenz teilzunehmen. Gemäß den Auflagen überwies er mehrmals 200 Millionen HK-Dollar auf fünf lokale Bankkonten. Später erkundigte er sich bei der Zentrale und stellte fest, dass er betrogen worden war. Die polizeilichen Ermittlungen ergaben, dass in diesem Fall bei der sogenannten Videokonferenz nur das Opfer eine „echte Person“ war und es sich bei den übrigen sogenannten Teilnehmern allesamt um Betrüger handelte, deren Gesichter durch KI verändert worden waren.

Unter der Technologie zur „KI-Gesichtsveränderung“ kann jeder zum Opfer werden

Technisch nicht schwierig

Durch die Popularisierung der KI-Technologie sind die Grenzen zwischen virtuell und real verwischt worden, sodass es schwieriger geworden ist, zwischen wahren und falschen Informationen zu unterscheiden. Das Auftreten verschiedener Fälle hat gezeigt, dass KI-Betrug nicht mehr weit von uns entfernt ist. Kriminelle verändern in der Regel ihr Gesicht, um sich als Verwandte, Freunde, Kollegen usw. auszugeben und von ihren Opfern Geld zu verlangen. Die Videomethode wirkt glaubwürdig und lässt die Opfer weniger wachsam sein. In diesem Umfeld sind nicht nur normale Menschen anfällig für Betrug, sondern auch professionelle Institutionen sind nicht immun.

Tatsächlich ist die technische Logik hinter der Gesichtsveränderung durch KI nicht kompliziert. Der Prozess umfasst hauptsächlich mehrere wichtige Schritte wie Gesichtserkennung und -verfolgung, Extraktion von Gesichtsmerkmalen, Gesichtstransformation und -fusion, Rendern der Hintergrundumgebung, Bild- und Audiosynthese usw.

Je detaillierter die eingegebenen Informationen sind, desto genauer ist das digitale Bild. Der Kern dahinter besteht aus drei Teilen: Erstens werden Deep-Learning-Algorithmen verwendet, um Gesichtsbilder im Video genau zu identifizieren und wichtige Gesichtsmerkmale wie Augen, Nase und Mund zu extrahieren. zweitens, diese Merkmale mit dem Zielgesichtsbild abzugleichen, zu ersetzen und zu verschmelzen; Rendern Sie abschließend die Hintergrundumgebung und fügen Sie synthetischen Ton hinzu, um ein äußerst realistisches Video mit einer gefälschten „Gesichtsveränderung“ zu erstellen.

Wenn Sie im Internet suchen, finden Sie viele sogenannte „Softwareunternehmen zum Ändern des Gesichts“, die den Namen der Unterhaltung verwenden und behaupten, rund um die Uhr Dienste anzubieten. Es wird davon ausgegangen, dass die aktuellen Kosten für die Produktion eines „Show Face and Talk“-Videos nur einige zehn Yuan betragen. Zur Erstellung eines Videos ist lediglich die Bereitstellung eines Frontalfotos erforderlich. Dabei bewegen sich nicht nur Augen, Mund und Kopf, sondern wenn Sie Text angeben, können auch die Lippenbewegungen angepasst werden. Es kann in einer Nacht abgeschlossen werden. Einige Unternehmen behaupten, dass die Erstellung eines einminütigen Videos aus Fotos nur etwa 30 Yuan kostet. Wenn das Video kurz ist und die Qualitätsanforderungen nicht hoch sind, können Sie sogar ein paar Dollar pro Video verlangen.

Die zweischneidige Natur der künstlichen Intelligenz hat eine tiefgreifende Reflexion über die Netzwerksicherheit in allen Bereichen der Gesellschaft ausgelöst.

Was sollen wir tun?

Diese Situation unterstreicht die zweischneidige Natur der künstlichen Intelligenz und hat in allen Bereichen der Gesellschaft tiefe Überlegungen zur Netzwerksicherheit und KI-Überwachung ausgelöst. Angesichts der neuen technologischen Fortschritte müssen wir ein neues Regulierungssystem schaffen, um uns an diese anzupassen.

In diesem Zeitalter, in dem „Sehen nicht unbedingt Glauben ist“, ist die Frage, wie man die Annehmlichkeiten der künstlichen Intelligenz voll ausschöpfen und gleichzeitig Sicherheitsrisiken wirksam vorbeugen kann, der Schlüssel für die Menschheit bei der Nutzung zukünftiger Technologien. Dies ist auch die Richtung und treibende Kraft für die kontinuierliche Verbesserung der entsprechenden Gesetze.

Die schwer vor KI-Betrug zu schützenden Fallen werden in den Fokus polizeilicher Maßnahmen rücken. Um entsprechende illegale und kriminelle Aktivitäten genau zu identifizieren, wirksam zu verhindern und umfassend zu bekämpfen, bedarf es einer systematischen Koordinierung und innovativen Verbesserung der Gesetzgebung, der Strafverfolgung und der Justiz. Zu diesem Zweck sollte die Regierung entsprechende Gesetze und Vorschriften formulieren und verbessern, um den Umfang und die Grenzen der Nutzung von KI-Technologie sowie die rechtliche Haftung für illegale Handlungen klarzustellen. Letztes Jahr erließ mein Land die „Einstweiligen Maßnahmen zur Verwaltung generativer künstlicher Intelligenzdienste“, in denen die Verpflichtung zum Schutz personenbezogener Daten klargestellt wurde. Das ist ein guter Anfang.

Neben rechtlichen Aspekten sind auch Aufklärung und Sensibilisierung der Öffentlichkeit von entscheidender Bedeutung. Angesichts neuer Betrügereien, bei denen KI-Technologie zum Einsatz kommt, muss die Öffentlichkeit wachsam sein, ihre Vorsichtsmaßnahmen verstärken und in erster Linie für die Sicherheit ihrer persönlichen Daten verantwortlich sein.

Stärken Sie das Bewusstsein für den Schutz personenbezogener Daten und verhindern Sie Informationslecks. Geben Sie persönliche biometrische Daten wie Gesicht und Fingerabdrücke nicht leichtfertig an andere weiter. Geben Sie Ihren Personalausweis, Ihre Bankkarte, Ihren Bestätigungscode und andere Informationen nicht leichtfertig preis. Speichern Sie aus Bequemlichkeit keine Ausweis- und Bankkartenfotos direkt auf Ihrem Mobiltelefon. Klicken Sie nicht auf unbekannte Links und scannen Sie nicht nach Belieben unbekannte QR-Codes; Verwalten Sie Ihren eigenen Freundeskreis und ermöglichen Sie Fremden nicht ohne weiteres die Bildschirmfreigabe Ihres Mobiltelefons. Bei selten genutzten Apps empfiehlt es sich, vor der Deinstallation Ihr persönliches Konto zu kündigen.

Im Zeitalter der künstlichen Intelligenz können Text, Ton, Bilder und Videos umfassend synthetisiert werden. Überweisen Sie in typischen Szenarien wie Überweisungen und Geldtransaktionen kein Geld ohne Überprüfung direkt über einen einzelnen Kommunikationskanal. In diesem Zeitalter hochentwickelter Technologie geben wir immer noch den technologisch am wenigsten fortschrittlichen Vorschlag: Überprüfen und bestätigen Sie erneut durch zusätzliche Kommunikationsmethoden, beispielsweise durch einen Rückruf der Mobiltelefonnummer der anderen Partei.