Kann KI verhindern, dass „sie“ Sie abhören?

Möglicherweise sind Sie auch schon einmal in eine solche Situation geraten:

Wenn Sie eine App auf Ihrem Telefon öffnen, sehen Sie als Erstes das, worüber Sie vor wenigen Minuten mit Ihren Freunden oder Ihrer Familie gesprochen haben. Beim ersten Mal werden Sie überrascht sein. Aber nach einer längeren Zeit gewöhnt man sich daran und wird nicht mehr überrascht sein.

Einer der Hauptschuldigen sind die Mikrofone, die es mittlerweile überall gibt und die Sie ständig „belauschen“. Sie sind in Mobiltelefone, Fernseher, Uhren und andere Geräte eingebettet und übertragen Ihre Stimme in Echtzeit an neuronale Netzwerke und Systeme künstlicher Intelligenz. Dadurch helfen sie dem Empfehlungssystem, „maßgeschneiderte“ Push-Dienste für Sie bereitzustellen.

(Quelle: Pixabay)

Wie können wir also verhindern, dass dies passiert? Im Internet gibt es viele Methoden, wie zum Beispiel ein völlig anderes Lied abzuspielen, die Lautstärke auf das Maximum zu stellen und aktiv etwas Lärm zu machen; Beispielsweise können keine langfristigen Mikrofonberechtigungen autorisiert, sondern eine einmalige Autorisierungsmethode gewählt werden.

Nun hat ein Forscherteam der Columbia University in den USA eine neue Methode vorgeschlagen: Sie haben ein System künstlicher Intelligenz entwickelt, das das Auftreten von „Abhörvorfällen“ verhindern kann, indem es einfach einen extrem leisen, vom System erzeugten Ton im Raum abspielt.

Mit anderen Worten: Dieses System wird den Ton der Gespräche der Teilnehmer so verstellen, dass er von Mikrofonen oder anderen Überwachungssystemen nicht gehört werden kann, ohne dass dadurch normale Gespräche beeinträchtigt werden.

Das zugehörige Forschungspapier mit dem Titel „Real-Time Neural Voice Camouflage“ wurde auf der Preprint-Website arXiv veröffentlicht.

Darüber hinaus gaben die Forscher an, dass dieses künstliche Intelligenzsystem problemlos auf Hardware wie Computern und Mobiltelefonen eingesetzt werden kann und Ihre Privatsphäre jederzeit schützen kann.

KI mit KI besiegen

Probleme, die durch künstliche Intelligenz ausgenutzt werden, sollten durch künstliche Intelligenz gelöst werden.

Während die Arbeit des Teams an Störsystemen wie Mikrofonen im Bereich der künstlichen Intelligenz theoretisch möglich ist, bleibt es eine schwierige Herausforderung, sie für praktische Anwendungen schnell genug zu machen.

Das Problem besteht darin, dass das Stören eines Mikrofons, das in einem bestimmten Moment beim Sprechen von Personen lauscht, das Gespräch einige Sekunden später möglicherweise nicht stört. Wenn Menschen sprechen, verändert sich ihre Stimme ständig, da sie unterschiedliche Wörter und Geschwindigkeiten aussprechen. Diese Veränderungen machen es für Maschinen nahezu unmöglich, mit dem schnellen Tempo der menschlichen Sprache Schritt zu halten.

In dieser Studie konnte der KI-Algorithmus die Charakteristika dessen vorhersagen, was eine Person als Nächstes sagen würde und hatte genügend Zeit, ein entsprechendes Flüstern zu produzieren.

(Quelle: Pixabay)

Carl Vondrick, Assistenzprofessor für Informatik an der Columbia University, sagte, der Algorithmus könne mit einer Effizienz von 80 Prozent verhindern, dass Gespräche über nicht autorisierte Mikrofone abgehört werden, und er funktioniere sogar, wenn den Leuten Informationen wie der Standort des nicht autorisierten Mikrofons nicht bekannt seien.

Dazu mussten die Forscher einen Algorithmus entwickeln, der ein neuronales Netzwerk in Echtzeit stören konnte, der während des Sprechens kontinuierlich generiert werden konnte und der für große Teile des Vokabulars einer Sprache funktionierte. In bisherigen Studiengängen konnte keine Arbeit die oben genannten drei Anforderungen gleichzeitig erfüllen.

Der neue Algorithmus verwendet ein Signal namens „Predictive Attacks“, das alle Wörter stört, die das automatische Spracherkennungsmodell zu transkribieren trainiert ist. Darüber hinaus müssen die Angriffsgeräusche, wenn sie über die Luft übertragen werden, laut genug sein, um etwaige in der Ferne befindliche Lauschmikrofone zu stören. Der Angriffsschall muss die gleiche Distanz zurücklegen wie der Schall.

Das KI-System erreicht eine Echtzeitleistung, indem es zukünftige Angriffe auf Signale oder Wörter vorhersagt, die auf zwei Sekunden Eingabesprache beruhen.

Gleichzeitig optimierte das Forschungsteam den Angriff so, dass seine Lautstärke normalen Hintergrundgeräuschen ähnelt und die Menschen so im Raum natürlich sprechen können, ohne von Systemen wie Mikrofonen überwacht zu werden.

Darüber hinaus konnten sie die Wirksamkeit dieses Ansatzes in realen Räumen mit natürlichen Umgebungsgeräuschen und komplexen Formen erfolgreich demonstrieren.

Vondrick sagte jedoch auch, dass das System derzeit nur für die meisten englischen Wörter wirksam sei und dass der Algorithmus auf weitere Sprachen angewendet werde.

Was können wir für ethische KI tun?

Manche Leute sagen, dass unsere persönlichen Daten im Zeitalter von Big Data „nackt“ seien und dass es immer mehr intelligente Geräte um uns herum gebe, die in unsere Privatsphäre hineinspähen.

Wenn dieses Forschungsergebnis künftig auf mehr Sprachen angewendet und in mehr Szenarien implementiert werden kann, kann es uns helfen, die Ausbeutung durch verschiedene Formen künstlicher Intelligenz zu vermeiden.

Jianbo Shi, Professor am Institut für Computer- und Informationswissenschaften der University of Pennsylvania, kommentierte: „Sie werfen eine neue Frage auf: Wie können wir künstliche Intelligenz nutzen, um uns vor der Ausbeutung durch unbewusste künstliche Intelligenz zu schützen?“

Gleichzeitig schlug Shi vor, dass Forscher bei zukünftigen Arbeiten bereits in der ersten Entwurfsphase „bewusst“ über die Auswirkungen künstlicher Intelligenz auf Mensch und Gesellschaft nachdenken und nicht mehr fragen sollten, was ethische KI für uns tun kann, sondern was wir für ethische KI tun können.

Wenn wir in diese Richtung glauben, wird die Forschung zur ethischen KI voller Interesse und Kreativität sein.

Originallink:

https://arxiv.org/abs/2112.07076

https://techxplore.com/news/2022-04-spying-ai-block-rogue-microphones.html

https://c3.ai/glossary/artificial-intelligence/ethical-ai/

Akademische Schlagzeilen