AGI Magic Box, wird Pluto oder Astro Boy veröffentlicht?

Die Mensch-Maschine-Symbiose ist ein ewiges Thema in Science-Fiction-Werken. Unter ihnen ist „PLUTO“ möglicherweise das erste Comic-Werk, das untersucht, wie Menschen und Roboter im Konflikt koexistieren können.

Wenn Astro Boy der „Friedensbote“ der Mensch-Maschine-Symbiose ist, der mehrere Generationen von Menschen dazu inspiriert hat, Robotern zu vertrauen und sie zu lieben, dann ist Pluto das Gegenteil von Astro Boy, eine Tötungsmaschine voller Hass. Im Spin-off von „Astro Boy“, „Der größte Roboter der Welt“, wird ein Superroboter namens PLUTO die sieben größten Roboter der Welt herausfordern, darunter auch Astro Boy.

Diese Geschichte wurde später von Naoki Urasawa weiter adaptiert, der mehr Raum und Worte nutzte, um die verschiedenen Widersprüche und Konflikte im Zusammenleben von Menschen und Maschinen darzustellen.

Vor Kurzem wurde die Geschichte von Pluto von Netflix auf die Leinwand gebracht. Der Animationsfilm „Pluto“ war sofort nach seiner Veröffentlichung ein Hit, erhielt eine Douban-Bewertung von 9,1 und eine IMDb-Bewertung von 9,3 und erhielt begeisterte Kritiken.

Obwohl das Thema dieser Animation die altmodische „Mensch-Maschine-Symbiose“ ist, hat sie im Jahr 2023 eine andere Note.

In diesem Jahr hat die „Intelligenzentwicklung“ großer Modelle Denkfähigkeiten auf menschlichem Niveau bewiesen. Verkörperte Intelligenz hat die Koexistenz von Mensch und Maschine in Science-Fiction-Filmen beschleunigt und die Realisierung künstlicher Intelligenz (AGI) ist nicht länger unmöglich.

Gleichzeitig treten die Auswirkungen und Gefahren, die große Modelle und AGI mit sich bringen, allmählich zutage. Einige Maler sprachen sich gemeinsam dagegen aus, dass KI ihre Werke lernt. Einer der Gründe für den Coup von OpenAI war die Sorge der Wissenschaftler, dass die KI außer Kontrolle geraten könnte. Auch der KI-Wettbewerb zwischen China und den USA hat heftige Auseinandersetzungen ausgelöst.

Vergessen Sie nicht die Welt im Allgemeinen. Viele Regionen sind im Schatten eines Krieges gefangen, der dem Nahostkrieg im Anime „PLUTO“ ähnelt.

Die reale Welt, in der wir leben, überschreitet unwissentlich die Singularität. Wie wird die Mensch-Maschine-Symbiose in naher Zukunft aussehen? Wird KI dazu verwendet, Menschen wie Pluto zu töten? Sind wir bereit, eine Gruppe superintelligenter Roboter mit „hunderttausend PS“ willkommen zu heißen?

Warum bringen Sie nicht die gleiche Neugier mit, die Sie in Ihrer Kindheit beim Anschauen der Astro Boy-Cartoons hatten, und lassen Ihrer Fantasie freien Lauf?

Die Tötungsmaschine erwacht? Wieder einmal: „Der Wolf kommt“

Um Spoiler zu vermeiden, fasse ich die Handlung des Zeichentrickfilms „PLUTO“ in einem Satz zusammen: Roboter rufen im Zentrum des Universums nach Liebe.

Wenn Menschen und Roboter in der Zukunft zusammenleben, werden Roboter über dieselben Emotionen und Denkfähigkeiten wie Menschen verfügen und mit ihnen glückliche Familien gründen können. Mehrere bizarre Morde offenbarten die verborgenen Widersprüche im Zusammenleben von Mensch und Maschine: Die Roboter entwickelten Hass und erhoben wütend ihre Waffen …

Kommt Ihnen diese Geschichte nach der Lektüre bekannt vor?

Es gibt zahlreiche Science-Fiction-Werke wie dieses: Im fernen Jahr 3xxx ist der technologische Stand der menschlichen Gesellschaft hoch entwickelt, künstliche Intelligenz ist allgegenwärtig, und eines Tages erwachen die Roboter wie Dolores in „Westworld“ und entdecken, dass die Menschen sie auf verschiedene Weise unterdrücken, also beginnen sie zu kämpfen und Rache zu nehmen.

Das Erwachen des Roboterbewusstseins und das Auftauchen einer unkontrollierbaren Bedrohung für die Menschheit sind wesentliche Merkmale fast aller „technologischen Geistergeschichten“. PLUTO ist jedoch nur ein weiterer Fall von „Falschmeldung“.

Erstens sind IQ und Bewusstsein nicht dasselbe, selbst wenn eine AGI-starke künstliche Intelligenz erreicht wird. Intelligente Maschinen können menschliche Gefühlsausdrücke lange Zeit nur durch Stimme, Mimik, Gestik etc. simulieren und verfügen nicht über wirkliche emotionale Erfahrungen. Darüber hinaus sind wir von einer starken künstlichen Intelligenz noch weit entfernt. Bei einem kürzlich durchgeführten Turing-Test mit GPT-4 war sein Ergebnis weitaus niedriger als das des Menschen. Die Angst vor dem „Erwachen des Maschinenbewusstseins“ ist lediglich ein weiterer „Uncanny-Valley-Effekt“.

Und zweitens: Falls Roboter tatsächlich ein Bewusstsein entwickeln, werden sie dann definitiv böse sein? Offensichtlich nicht. So wie Astro Boy und Pluto zwei verfeindete Lager sind, so werden auch die Verhaltensmerkmale von Robotern in „Gut“ und „Böse“ unterteilt. Angesichts unseres derzeitigen Verständnisses der KI-Technologie und der aktuellen Beziehung zwischen Mensch und Roboter befürchte ich, dass sich Roboter nicht „von Menschen bedroht“ fühlen und dass es natürlich unwahrscheinlich ist, dass sie zu menschlichen Killern oder zu Roboter-Rebellenlegionen werden. Wie in den neuesten Science-Fiction-Werken wie „The Wandering Earth 2“ und „PLUTO“ gehen die Bedrohungen durch Roboter hauptsächlich von Netzwerkschwachstellen, böswilligen Handlungen von Menschen und von den von Algorithmen berechneten „guten Absichten führen zu schlechten Ergebnissen“ aus, um die Menschen am Laufen zu halten.

Immer wenn eine intelligente Entität mit herausragenden Fähigkeiten auftaucht, wie etwa ChatGPT, taucht der Mythos der „Superintelligenz“ der Maschine auf, die mit ihrem IQ prahlt und Ideen verkauft wie „Maschinenintelligenz wird die menschliche Intelligenz übertreffen“ und „Maschinen werden Menschen ersetzen“. Offensichtlich sind diese Ansichten unhaltbar. Egal wie leistungsstark eine Maschine ist, sie reicht nicht aus, um die menschliche Weisheit zu besiegen.

Es ist einfach so, dass die Leute immer gerne an spannende Geschichten und eingebildete Gefahren glauben. Aus einer anderen Perspektive betrachtet, könnte diese instinktive Sensibilität gegenüber Gefahren für das Überleben in der Wildnis in die menschliche DNA eingraviert sein. Daher werden die Leute an solchen Geschichten, von „Der Junge, der Wolf schrie“ ​​bis „Das Erwachen der Tötungsmaschine“, immer Freude haben und können mit einem Wechsel des Protagonisten von vorne beginnen.

Das wahre Problem liegt verborgen: eine hochgradig symbiotische soziale Krise

Wenn über die falschen Risiken des Erwachens intelligenter Maschinen diskutiert wird, werden die wahren Gefahren möglicherweise verschleiert. Diese realen Risiken sind die Probleme der Mensch-Maschine-Symbiose.

Durch die Einführung großer Modelle können sich Maschinen von automatisierten Systemen zu hochautonomen Systemen entwickeln.

Das sogenannte automatisierte System, ähnlich einem Kehrroboter oder einem Thermostat, muss lediglich festgelegte Aufgaben in einer kontrollierbaren Umgebung und gemäß festgelegten Zielen ausführen. Allerdings ist die Umsetzung verkörperter Intelligenz, etwa in Haushaltsrobotern und selbstfahrenden Autos, offensichtlich nicht so einfach. Sie müssen Hindernisse in einer sich dynamisch verändernden physischen Umgebung präzise und umgehend erkennen und in Echtzeit die richtigen Entscheidungen und entsprechenden Maßnahmen treffen. Diese hochautonomen Systeme weisen eine dem Menschen ähnliche Intelligenz auf. Große Modelle machen die verkörperte Intelligenz autonomer Systeme zur Realität.

Das klingt großartig, aber diese Zukunft der Symbiose zwischen Menschen und autonomen Systemen kann Sicherheitsrisiken bergen:

1. Algorithmus-Blackbox. KI verfügt über „dunkles Wissen“ und kann Entscheidungen ohne die Hilfe theoretischer oder mathematischer Analysen treffen. In Bereichen wie der Erdbebenvorhersage und der Wettervorhersage kann sie bessere Ergebnisse erzielen als menschliche Experten. Allerdings versteht die KI die wissenschaftlichen Prinzipien und mathematischen Modelle, die ihr zugrunde liegen, nicht wirklich. Wenn die Schlüsselsysteme unzuverlässig sind, lässt sich die Sicherheit im Produktionsprozess nur schwer gewährleisten. So kann beispielsweise beim Entwurf eines Autopilotsystems für ein Flugzeug durch die Verwendung eines mathematischen White-Box-Modells die Einhaltung von Sicherheitsstandards gewährleistet werden, während die Black-Box-Natur des Algorithmus keine ausreichende Sicherheit und Zuverlässigkeit garantieren kann.

2. Arbeitslosigkeitsproblem. Je höher der Automatisierungsgrad und je weiter verbreitet der Einsatz von Robotern ist, desto höher ist die Arbeitslosenquote. Nicht jeder Kutscher kann Autofahren lernen. Viele Arbeitsplätze, die durch autonome Systeme ersetzt wurden, werden nie wiederkommen. Berufe, die Kreativität erfordern und nur schwer durch KI ersetzt werden können, wie etwa Programmieren und künstlerisches Schaffen, können nur wenigen Menschen Beschäftigungsmöglichkeiten bieten. Veränderungen in der Berufsstruktur werden unweigerlich zu Arbeitslosigkeit führen und die Entwicklung der KI-Branche behindern. Der Widerstand und die Opposition einer großen Zahl von Malern gegenüber der AIGC im vergangenen Jahr sind ein klarer Beweis dafür.

3. Technologieabhängigkeit. Für die meisten Menschen wird die Einführung von KI-Anwendungen und Robotern das Leben definitiv angenehmer machen. Beispielsweise haben automatische Essenslieferfahrzeuge und Hotelserviceroboter die manuelle Arbeit erheblich reduziert. ChatGPT hilft Schülern bei den Hausaufgaben und beim Schreiben von Arbeiten. Dies bedeutet auch, dass der Mensch nach und nach bestimmte Fähigkeiten verliert. Beispielsweise müssen Kinder in Zukunft möglicherweise keine Tang- und Song-Gedichte mehr aufsagen. Roboter werden ihnen Dinge sorgfältig in die Hände geben und die täglichen Aktivitäten der Menschen werden abnehmen, was versteckte Gefahren wie Fettleibigkeit mit sich bringt. Da die Vorhersagen der Algorithmen immer präziser werden, verlassen wir uns bei unseren Entscheidungen zunehmend auf die KI, statt auf die Ratschläge der Menschen in unserer Umgebung und auf unsere eigenen Gefühle und unsere Intuition zu hören. Auch der gesamte positive Mechanismus aus Entscheidungsfindung, Handlung und Feedback wird unterbrochen, was zu einem zunehmenden Vertrauensverlust der Menschen führt. Das Zusammenleben von Mensch und Maschine ist wie „einen Frosch in warmem Wasser kochen“. Die Sorge, sich zu sehr auf die Technologie zu verlassen, ist nicht unbegründet.

4. Politischer Konflikt. Eine weitere potenzielle Bedrohung geht vom Misstrauen und den Machenschaften zwischen Regierungen und Unternehmen aus. Die Kontrolle intelligenter Technologien ist zu einem politischen Thema geworden und der technologische Wettbewerb rund um intelligente Technologien löst politische Spiele aus, die denen während des Kalten Krieges ähneln.

In einem am 20. November 2023 im Magazin „The New Yorker“ veröffentlichten Artikel mit dem Titel „Warum der Pate der KI Angst vor dem hat, was er gebaut hat“, erklärte der Turing-Preisträger Geoffrey Hinton unverblümt: „Wir wissen nicht, wie künstliche Intelligenz aussehen wird.“ Aber als der Reporter fragte: „Warum ziehen Sie nicht einfach den Stecker?“ Hinton antwortete: „Wegen der Konkurrenz zwischen den verschiedenen Ländern.“ Zuvor hatte er sich geweigert, eine Petition zu unterzeichnen, die eine Aussetzung der Forschung im Bereich der künstlichen Intelligenz für mindestens sechs Monate forderte, und erklärt: „China wird Forschung und Entwicklung nicht für sechs Monate einstellen.“ Es gibt Grund zur Annahme, dass manche Regierungen, Unternehmen oder Wissenschaftler aus politischen Erwägungen den Risiken der künstlichen Intelligenz einfach ihren Lauf lassen.

Während wir uns von einer Gesellschaft mit menschlicher Autonomie zu einer symbiotischen Mensch-Maschine-Gesellschaft mit maschineller Autonomie entwickeln, müssen sich die Betriebsmechanismen entsprechend ändern. Dies wird zwar nicht unbedingt zu Katastrophen wie Morden führen, doch die Auswirkungen auf Beschäftigung, Kultur und politische Ordnung werden auch Sicherheitsrisiken mit sich bringen.

Von nun an ist die Büchse der Pandora geöffnet

Sie fragen sich vielleicht, ob wir jetzt, da die wahren Risiken erkannt wurden, im Voraus Vorkehrungen treffen und die Reibungsverluste in der Mensch-Maschine-Symbiose verringern können?

Dieser Wunsch ist sowohl aus technischer als auch aus sozialer Sicht wenig realistisch.

Aus technischer Sicht unterscheidet sich KI von allen technologischen Risiken der Menschheitsgeschichte. Als Algorithmus, der autonom lernt und sich weiterentwickelt, muss KI ständig große Datenmengen verarbeiten, komplexe interne Transformationen und „unüberwachtes Lernen“ durchführen. Die darin enthaltenen Muster und versteckten Fehler werden von menschlichen Ingenieuren möglicherweise nicht rechtzeitig erkannt. Wir hören Programmierer oft einen Witz erzählen: Wenn ein Programm laufen und funktionieren kann, dann fassen Sie es nicht an und denken Sie nicht daran, den „Scheißberg“ aufzuräumen. Daher ist es möglich, dass der Mensch das Wachstum der KI nicht selbst kontrollieren kann. Wer hätte vor einem Jahr gedacht, dass ChatGPT „Intelligenz entwickeln“ und die Welt auf den Kopf stellen würde?

Auf gesellschaftlicher Ebene besteht der derzeitige Ansatz der etablierten Länder zur Bewältigung von Krisen oft nicht aus „präventiver Prävention“, sondern aus „dynamischem Gleichgewicht“. Präventive Prävention erfordert eine Einschätzung des „Worst-Case-Szenarios“ im Vorfeld und anschließende defensive Investitionen. Die Kosten sind sehr hoch und sie wird im Allgemeinen nur in der medizinischen Versorgung, bei Naturkatastrophen, im Krieg usw. eingesetzt. Die Risiken einer starken künstlichen Intelligenz sind nicht so gravierend. Manche Leute scherzten sogar, dass man „im entscheidenden Moment die Stromversorgung der KI abziehen“ müsse. Daher muss bei der Prävention dieser Krise das Kosten-Nutzen-Verhältnis berücksichtigt werden. Dabei wird nicht auf den maximalen Nutzen zugunsten absoluter Sicherheit verzichtet, sondern es wird vielmehr ein dynamisches Gleichgewicht zwischen Wirtschaftlichkeit und Sicherheit gefunden. Dieses Problem des „dynamischen Gleichgewichts“ wird einige gefährdete Gruppen einem größeren Risiko aussetzen, wie etwa Arbeitnehmer mit monotonen Tätigkeiten, Angestellte auf niedriger Ebene, einfache Wissensproduzenten usw., die dem Druck ausgesetzt sind, ersetzt zu werden.

Der KI-Pfad großer Modelle öffnet die „Büchse der Pandora“ der AGI-starken künstlichen Intelligenz. Es ist noch nicht bekannt, ob Pluto oder Astro Boy oder beide veröffentlicht werden.

Eine Gesellschaft, in der Menschen und Roboter stark integriert sind und koexistieren, ist unvermeidlich. Worauf sollten wir uns verlassen, um Optimismus und Zuversicht aufrechtzuerhalten? Ich denke, „PLUTO“ könnte die Antwort gegeben haben, und die lautet „Liebe“.

Die Saat der Menschheit wird in den Flammen des Krieges und der verbrannten Erde hartnäckig sprießen und die neue Welt immer wieder neu aufbauen.