Das Gesichtserkennungssystem der Bank wurde gehackt. Wo könnte die Schwachstelle liegen?

Zuvor hatte die Nachricht, dass „das Gesichtserkennungssystem einer Bank gehackt wurde“, in der Öffentlichkeit Besorgnis über dessen Sicherheit ausgelöst. Wie geht man mit technologischen Schwachstellen und Herausforderungen um? Fachinterpretation>>

Geschrieben von Wang Huishen (Praktikant) Bearbeitet von Ding Lin

Redakteur für Neue Medien/Lv Bingxin

„Betrüger stahl Frau mit ‚falschem Gesicht‘ Hunderttausende Yuan“, „Didi wurde zu einer Geldstrafe von 8,026 Milliarden Yuan verurteilt, weil es illegal persönliche Benutzerinformationen (darunter 107 Millionen Gesichtserkennungsdaten) gesammelt hatte“ … In letzter Zeit sind Themen im Zusammenhang mit Gesichtserkennung häufig heiß diskutiert worden. Angesichts der zunehmenden Beliebtheit von Gesichtsscans geben uns diese Fälle Anlass zum Nachdenken: Bietet Gesichtserkennung zusätzlichen Schutz oder birgt sie unnötige Sicherheitsrisiken?

Als Reaktion auf dieses Problem führte die Beijing Science and Technology Daily ein Exklusivinterview mit Professor Gao Xinbo von der Chongqing University of Posts and Telecommunications. Als professioneller Wissenschaftler auf diesem Gebiet gab Gao Xinbo eine detaillierte Einführung in die bisherige Entwicklungsgeschichte der Gesichtserkennungstechnologie, wie man mit aktuellen Schwachstellen und Herausforderungen umgeht und wie sie sich in Zukunft entwickeln wird.

Wie können die Lücken in den Gesichtserkennungssystemen der Banken geschlossen werden?

Beijing Science and Technology Daily: Die jüngsten Nachrichten über „falsche Gesichter, die Bankkarten durchziehen“ haben die Aufmerksamkeit aller auf die Schwachstellen in Gesichtserkennungssystemen gelenkt. Wie ist dieser Sachverhalt Ihrer Meinung nach aus technischer Sicht zu interpretieren?

Gao Xinbo: Derzeit werden zwei Möglichkeiten zum Sammeln von Bildern für Gesichtserkennungssysteme verwendet. Eine Möglichkeit besteht darin, ein zweidimensionales Bild in das System hochzuladen. Das System identifiziert das Bild, indem es es mit den im Merkmalsraum des Systems registrierten Gesichtsbildern vergleicht. Diese Lösung ist relativ einfach, weist jedoch eine Lücke auf: Mithilfe eines qualifizierten zweidimensionalen Gesichtsbildes kann jeder erfolgreich authentifiziert werden. So nutzten beispielsweise im Jahr 2019 mehrere Grundschüler ausgedruckte Fotos, um die Gesichtsscan-Funktion der Fengchao-Expressschließfächer zu „knacken“.

Aus diesem Grund verwenden Finanzinstitute wie Banken die zweite Lösung zur Gesichtserfassung. Dabei werden Gesichtsbilder erfasst und gleichzeitig eine Lebendigkeitsüberprüfung durchgeführt, um sicherzustellen, dass es sich bei dem Prüfer um eine echte Person handelt, und um zu verhindern, dass andere böswillig Fotos stehlen. Konkret erfordert es, dass der Benutzer während der Erfassung der Gesichtsinformationen blinzeln, den Mund öffnen und andere Aktionen gemäß den Anweisungen ausführen muss.

Ein großer Fehler bei der Lebendigkeitsprüfung besteht jedoch darin, dass das System davon ausgeht, dass das Gesicht und der lebende Körper zur selben Person gehören. Wenn Li Si die Maske von Zhang San trägt, erkennt das Gesichtserkennungssystem das Gesicht von Zhang San und Li Si führt die zur Lebenderkennung erforderlichen Aktionen aus. In diesem Fall kann das System nicht erkennen, dass es sich bei dem „Selbst“ tatsächlich um Li Si und nicht um Zhang San handelt. Es gab bereits frühere Nachrichtenberichte, denen zufolge Forscher an der Stanford University eine Technologie zur „Gesichtsveränderung“ erfunden hätten, mit der Gesichtsausdrücke mithilfe von Software transplantiert werden können. Aktuellen Nachrichten zufolge nutzten Kriminelle ähnliche „Hightech“-Techniken, um Gesichtserkennungssysteme anzugreifen und Bankkarten zu stehlen.

Beijing Science and Technology Daily: Wie sollen wir mit solchen Schlupflöchern umgehen?

Gao Xinbo: Wir können die Dualmodus-Kameraerkennungsmethode „sichtbares Licht + Infrarot“ verwenden, d. h. wir verwenden sichtbares Licht, um das Aussehen einer Person zu erkennen, und thermisches Infrarot, um die Wärmeverteilung des Gesichts zu erkennen. Nur wenn das optische Porträt und die thermische Infrarot-Temperaturverteilungskarte mit der Person übereinstimmen, kann die Identitätserkennung durchgeführt werden. Auf diese Weise kann sich niemand, selbst wenn er mithilfe einer Software sein Gesicht verändert, eine Maske trägt oder ähnlich aussieht, als Sie ausgeben.

Darüber hinaus können wir auch Dual-Mode- oder Multi-Mode-Verifizierungsmethoden anwenden. Zusätzlich zur Gesichtserkennung können wir auch Verifizierungsmethoden aus verschiedenen Blickwinkeln hinzufügen, wie etwa Iris, Fingerabdruck, Fingervene, Handflächenabdruck, Stimmabdruck usw. Dadurch können zumindest die Lücken der Einzelerkennungstechnologie geschlossen werden.

Die Gesichtserkennungstechnologie entwickelt sich mit dem technologischen Fortschritt weiter

Beijing Science and Technology Daily: Auf welche Herausforderungen ist die Gesichtserkennungstechnologie bei ihrer Entwicklung gestoßen? Auf welchem ​​Stand ist die entsprechende Technologie heute?

**Gao Xinbo: **Die Gesichtserkennung hat sich in den letzten Jahren relativ schnell entwickelt. Der erste erfolgreiche Fall einer Gesichtserkennung (basierend auf Bilderkennungstechnologie) stammt aus dem Media Lab des Massachusetts Institute of Technology, wo ein Wissenschaftler namens Alex Pentland die „Eigenface“-Methode vorschlug. Einfach ausgedrückt wird die Gesichtserkennung durch Zerlegung der Merkmalswerte im Bild durchgeführt. Da diese Technologie jedoch empfindlich auf Lichtstörungen reagiert, wurde sie damals nicht eingesetzt.

Später wurden in der akademischen Gemeinschaft immer wieder neue Methoden vorgeschlagen, die Grundidee bestand jedoch darin, Bildmerkmale zu extrahieren und dann einen Klassifikator zur Erkennung zu entwerfen. Das Forschungsgebiet der Merkmalsextraktion hat im Laufe der Jahre rasante Fortschritte gemacht. In den letzten Jahren wurde Deep Learning hauptsächlich zur Gesichtserkennung eingesetzt, wobei Merkmalsextraktion und Klassifikatordesign in einer Methode integriert wurden, die eine „End-to-End“-Erkennung ermöglicht.

Heutzutage verfügt die Gesichtserkennung mit Unterstützung von Big Data und Deep-Learning-Technologien über eine hohe Genauigkeit und gute Robustheit (Robustheit, die Fähigkeit, Variablen zu widerstehen). Daher hat die Gesichtserkennung nun den Weg zur praktischen Anwendung eingeschlagen.

In den Anfängen der Gesichtserkennungsforschung konnte ein Artikel veröffentlicht werden, wenn die Genauigkeitsrate 1 % höher war als bei anderen Methoden. jetzt ist es unmöglich, 1 % zu erreichen – denn es sind bereits über 99 % erreicht. Einer der wichtigsten und erfolgreichsten Bereiche bei der Entwicklung künstlicher Intelligenz in unserem Land ist die Mustererkennung. Man kann sagen, dass die Gesichtserkennungstechnologie meines Landes im Bereich der Bilderkennung international führend ist.

Beijing Science and Technology Daily: Wir haben gehört, dass manche Menschen mit ähnlichen Gesichtern (z. B. Zwillinge) eine Gesichtserkennung beieinander durchführen können. Ist dieses Problem für die heutigen Gesichtserkennungssysteme unlösbar?

Gao Xinbo: Theoretisch wird die Identifizierung von Personen mit ähnlichen Gesichtern die Erkennung erschweren und die Genauigkeit verringern, aber es ist nicht unmöglich. Im wirklichen Leben können Menschen, die sich sehr ähnlich sehen, immer noch von ihren Eltern oder Bekannten unterschieden werden, was zeigt, dass diese Gesichter immer noch unterschiedlich sind und eine künstliche Intelligenz sie durchaus erkennen kann. Was wir tun müssen, ist, das Training des Systems zu intensivieren, beispielsweise durch das Sammeln einer großen Menge an Gesichtsdaten von Zwillingen als Trainingsbeispiele, damit das neuronale Netzwerk sie während des Trainings gezielt unterscheiden und die Erkennungsstärke erhöhen kann.

Viele Organisationen glauben jedoch nicht, dass es notwendig ist, in Technologie für individuelle Bedürfnisse zu investieren. Das Deep-Learning-Training einer KI ist relativ energieintensiv. Große Modelle verfügen über eine große Anzahl neuronaler Netzwerkschichten und Knoten, und jede Trainingssitzung kostet viel Strom. Daher ist es technisch nicht unmöglich, Personen mit ähnlichen Gesichtern zu identifizieren. Aus umfassenden Überlegungen, beispielsweise zur Kostensenkung, könnten wir dieses Problem jedoch auch durch mehrere Überprüfungen lösen.

Es besteht die Gefahr eines Informationsverlusts, und die Gesichtserkennungstechnologie konzentriert sich zunehmend auf den Datenschutz

Beijing Science and Technology Daily: Nachrichten über das Durchsickern von Gesichtsinformationen haben in der Öffentlichkeit Besorgnis über die Privatsphäre und Sicherheit ausgelöst. Wie können wir die relevante Privatsphäre besser schützen?

Gao Xinbo: Das ist ein sehr kritisches Thema. Der Datenschutz bei Big Data ist eine Forschungsrichtung, über die wir ständig nachdenken.

Wir arbeiten derzeit an einem Videoüberwachungssystem zum Schutz der Privatsphäre, also zur „Anonymisierung“ der Videoüberwachung. Es gibt zwei Anonymisierungsschemata. Zum einen verformt das System das menschliche Gesicht so, dass das bearbeitete Gesicht für Menschen nicht mehr erkennbar ist, für Maschinen aber schon (A steht vor der Kamera, der Computer zeichnet aber das nicht vorhandene Z auf). Durch die „Erschaffung“ anonymer Gesichter auf diese Weise kann die Privatsphäre geschützt werden.

Die andere Möglichkeit ist das „Gesichtstauschen“. Dabei wird in der Datenbank ein Gesicht erstellt, das sich vom vorhandenen Gesicht unterscheidet, um eine Person zu ersetzen, und dann wird das Originalgesicht mithilfe von Wasserzeichen oder anderen Methoden darin eingebettet. Wenn es notwendig ist, die Identität einer Person zu ermitteln, kann die Technologie eingesetzt werden. Allgemeine Systeme verfügen nicht über diese Technologie und was sie sehen können, ist nicht die Person selbst.

Unsere Idee besteht darin, der Überwachungskamera einen Chip oder ein Modul hinzuzufügen, um eine Anonymisierungsverarbeitung durchzuführen, sodass die vom Objektiv übertragenen Fotos und Videos nicht das „Selbst“ zeigen; Gleichzeitig sind nur öffentliche Behörden (wie etwa die Polizei) dazu befugt, Informationen zurückzuverfolgen und so unsere Privatsphäre zu schützen.

Beijing Science and Technology Daily: Die „Anonymisierung“, die Sie gerade erwähnt haben, macht es für Menschen unmöglich, sie zu identifizieren, aber Maschinen können sie immer noch erkennen. Gibt es also eine Möglichkeit, es für Menschen erkennbar zu machen, aber nicht für Maschinen?

Gao Xinbo: Ja. Mittlerweile gibt es eine neue Technologie namens „Adversarial Learning“, bei der spezielle Pflaster auf das Gesicht geklebt werden, um die maschinelle Erkennung zu stören. Diese Patches werden als Adversarial Samples bezeichnet. Wenn wir die Privatsphäre in Zukunft vor übermäßiger Datenerfassung schützen möchten, verwenden wir möglicherweise so etwas wie einen Patch. Sobald wir es auf unser Gesicht kleben, können Computer, Überwachungsgeräte usw. es nicht mehr erkennen. Einige Leute arbeiten jetzt auch an dieser Technologie. Darüber hinaus können diese Patches relativ klein gestaltet werden, sodass sie für andere Menschen im wirklichen Leben leichter zu erkennen sind. Computer allein können sie jedoch nicht erkennen.

Warum kann der Computer etwas, das ich darauf klebe, nicht erkennen? Denn die „Erklärbarkeit“ künstlicher Intelligenz ist sehr mangelhaft. Mit anderen Worten, wir wissen nur, dass sie erkennen können, aber es ist schwierig zu erklären, wie sie das tun, denn was sie „tief lernen“, sind die von neuronalen Netzwerken entworfenen „Merkmale“, die der Mensch überhaupt nicht verstehen kann. Wissenschaftler haben herausgefunden, dass es für den Computer manchmal schwierig ist, etwas zu einem Bild hinzuzufügen, um es zu erkennen. Daher können wir diese Funktion nutzen, um die Verwendung von Adversarial Samples zu erweitern.

Tatsächlich gibt es im Bereich der Gesichtserkennung noch viele Bereiche, die es wert sind, untersucht zu werden. Doch der Schutz der Privatsphäre ist derzeit das wichtigste Thema. Letztendlich hoffen wir immer noch, dass Wissenschaft und Technologie zum Wohle der Menschheit eingesetzt werden können und nicht, um Ärger zu verursachen.

Beijing Science and Technology Daily: Wie Sie sagten, hat die Gesichtserkennungstechnologie ein gewisses Niveau erreicht. Allerdings entwickeln Kriminelle ständig neue Methoden, um die Gesichtserkennung zu knacken, und es scheint, dass die Gesichtserkennung zu einer potenziellen Sicherheitslücke und versteckten Gefahr geworden ist. Was denkst du darüber?

Gao Xinbo: Das ist auch ein sehr wichtiges Thema. Wissenschaft und Technologie sind wie ein zweischneidiges Schwert. Einerseits sind sie für alle praktisch, andererseits bergen sie aber auch versteckte Gefahren.

Wissenschaft und Technologie selbst haben keinen Wert. Aber wir Menschen haben Werte und können richtig von falsch und schwarz von weiß unterscheiden. Daher hängen die Werte der Technologie von ihren Benutzern ab. Wenn der Benutzer die richtigen Werte hat, wird die Technologie positive Auswirkungen haben, andernfalls wird sie negative Auswirkungen haben. Das Spiel zwischen den beiden wird jedoch auch den Fortschritt von Wissenschaft und Technologie fördern und den Prozess der ständigen Problemlösung vorantreiben.

Da die technologische Entwicklung immer hinter den Problemen zurückbleibt, müssen wir unser Bestes tun, um bereits jetzt Probleme zu vermeiden. Dies führt zu zwei Routen. Der erste ist die Sozialerziehung. Wir müssen den Benutzern die richtige Werteorientierung und Werteanleitung geben. Der zweite Grund ist die einschränkende Wirkung von Systemen und Vorschriften. Neben der Festlegung von Regeln und Vorschriften sowie der Einschränkung und strengen Bestrafung von Kriminellen sollte das Gesetz den betroffenen Stellen auch strenge rechtliche Verpflichtungen auferlegen und sie dazu anhalten, die biologischen Daten der Menschen zu schützen. Kurz gesagt, wir müssen sowohl „die Menschen mit Tugend gewinnen“ als auch „das Land gemäß den Gesetzen regieren“.

Produziert von: Science Central Kitchen

Produziert von: Beijing Science and Technology News | Pekinger Wissenschafts- und Technologiemedien