Ein Auto ohne Fahrer? Wie AGI den Menschen aus dem autonomen Fahren „entfernen“ kann

[Anmerkung des Herausgebers] Das Aufkommen von ChatGPT und GPT-4 hat den Menschen die mächtige Fähigkeit „großer Modelle, die Welt zu verändern“ wirklich spüren lassen. Die meisten Diskussionen über große Modelle sind jedoch abstrakt und unspezifisch, vielleicht zu optimistisch oder zu pessimistisch.

Andrej Karpathy, Mitbegründer von OpenAI und ehemaliger Leiter für KI und Vision bei Tesla, schrieb kürzlich in einem Blogbeitrag mit dem Titel „Selbstfahren als Fallstudie für AGI“: „Leider war ein Großteil der Diskussion eher abstrakt, was dazu führte, dass sich die Leute bei diesem Thema im Kreis drehten und keinen Konsens erzielten.“

Karpathy nutzte das autonome Fahren als Beispiel, um über seine persönlichen Ansichten zur zukünftigen Form der AGI zu sprechen, und glaubte, dass „die Entwicklung autonomer Fahrfähigkeiten eine gute frühe Fallstudie für die Untersuchung von AGI ist.“

Die Kerngedanken sind folgende:

Copilot und GPT-4 sind „sekundäre“ Programmierautomatisierung;

AGI wird dadurch eingeschränkt, dass die Nachfrage das Angebot übersteigt, und zwar aufgrund von Selbstbeschränkungen der Entwickler, regulatorischen Einschränkungen und einfachem Ressourcenmangel (z. B. der Notwendigkeit, mehr GPU-Rechenzentren zu bauen).

In der weiteren Arbeitswelt werden sich viele Arbeitsplätze verändern, einige werden verschwinden, es werden jedoch auch viele neue Beschäftigungsmöglichkeiten entstehen, wobei es eher um eine Umstrukturierung der Arbeitsplätze als um eine völlige Beseitigung geht.

AGI ähnelt eher Technologien wie dem autonomen Fahren, bei dem der Fortschritt schrittweise erfolgt, die Gesellschaft sowohl Beobachter als auch Teilnehmer ist und die Expansion durch eine Reihe von Faktoren begrenzt wird, darunter Regulierung und qualifizierte Arbeitskräfte, Informationen, Materialien und Energie.

Die Welt wird nicht zusammenbrechen, sondern sich anpassen, verändern und neu aufbauen. Am Beispiel des autonomen Fahrens wird die Automatisierung des Verkehrs diesen sicherer machen, die Städte werden sauberer und reibungsloser, und Parkplätze und am Straßenrand geparkte Autos werden nach und nach verschwinden, wodurch mehr Platz für die Menschen entsteht.

Academic Headlines hat eine einfache Übersetzung vorgenommen, ohne die Hauptbedeutung des Originaltextes zu verändern. Der Inhalt ist wie folgt:

In jüngster Zeit gab es im Zusammenhang mit der Entwicklung großer Sprachmodelle (LLMs) in der Community zahlreiche Diskussionen zu Themen wie Künstlicher Allgemeiner Intelligenz (AGI), ihrem Entwicklungszeitplan und möglichen Formen. Einige dieser Diskussionen sind voller Hoffnung und Optimismus, doch es herrschen auch Ängste und Pessimismus hinsichtlich der Zukunft. Leider war ein Großteil der Diskussion eher abstrakt, was dazu führte, dass sich die Leute bei dem Thema im Kreis drehten und keinen Konsens erzielen konnten. Daher habe ich nach konkreten Analogien und historischen Präzedenzfällen gesucht, um dieses Thema praktischer anzugehen. Insbesondere wenn ich nach meinen persönlichen Ansichten zur zukünftigen Form der AGI gefragt werde, neige ich dazu, autonomes Fahren als Beispiel zu nennen. In diesem Artikel werde ich dies erklären.

Sehen wir uns zunächst eine gängige Definition von AGI an:

AGI: Ein autonomes System, das die menschlichen Fähigkeiten bei den meisten wirtschaftlich wertvollen Aufgaben übertreffen kann. Beachten Sie, dass diese Definition zwei spezifische Anforderungen enthält. Erstens handelt es sich um ein vollständig autonomes System, das heißt, es kann unabhängig und ohne oder mit nur geringer menschlicher Aufsicht betrieben werden. zweitens ist es in der Lage, die meisten wirtschaftlich wertvollen Aufgaben autonom zu erledigen. Um genauer zu werden, verweise ich persönlich gerne auf den Occupational Index des U.S. Bureau of Labor Statistics. Ein System, das beide Eigenschaften besitzt, ist AGI.

In diesem Beitrag möchte ich argumentieren, dass unsere jüngsten Entwicklungen im Bereich der autonomen Fahrfunktionen eine hervorragende frühe Fallstudie für die gesellschaftliche Dynamik der zunehmenden Automatisierung und im weiteren Sinne dafür sind, wie AGI im Allgemeinen aussehen wird.

Ich denke, das liegt daran, dass das Feld des autonomen Fahrens einige Eigenschaften aufweist, die man grob mit „es ist eine große Sache“ zusammenfassen kann: Autonomes Fahren ist sehr intuitiv und für die Gesellschaft sichtbar (stellen Sie sich Autos auf den Straßen ohne Fahrer vor!), es hat einen großen wirtschaftlichen Anteil, es beschäftigt derzeit viele Menschen (denken Sie an Uber-/Lyft-Fahrer), und das Autofahren ist ein schwieriges Problem bei der Automatisierung, aber wir haben es geschafft (vor vielen anderen Bereichen der Wirtschaft), und die Gesellschaft hat es bemerkt und reagiert darauf. Natürlich gibt es auch andere Branchen, in denen es zu großen Automatisierungsveränderungen gekommen ist, mit denen ich persönlich jedoch nicht so vertraut bin oder denen einige der oben genannten Merkmale fehlen.

Teilautomatisierung

Im Bereich der künstlichen Intelligenz gilt autonomes Fahren als „ausreichend komplexes“ Problem. Es kam nicht aus dem Nichts; Es handelt sich um einen schrittweisen Prozess der Automatisierung von Fahraufgaben, zwischendurch gibt es viele Ergebnisse der „instrumentellen künstlichen Intelligenz“. Bei autonomen Fahrzeugen sind viele Autos mittlerweile mit Fahrerassistenzsystemen der „Stufe 2“ ausgestattet – künstlicher Intelligenz, die mit Menschen zusammenarbeitet, um das Auto von Punkt A nach Punkt B zu bringen. Dieses System ist nicht vollständig automatisiert, kann aber viele der einfachen Fahrdetails bewältigen.

Manchmal kann es sogar ganze Vorgänge automatisch erledigen (z. B. das Parken des Autos für Sie). Der Mensch fungiert hierbei primär als Überwacher, kann jedoch grundsätzlich jederzeit die Fahraufgabe übernehmen oder übergeordnete Anweisungen erteilen (z. B. Aufforderung zum Spurwechsel). In manchen Fällen (wie etwa beim Folgen der Fahrspur und bei schnellen Entscheidungen) übertrifft die KI die Leistung des Menschen, in seltenen Fällen kann sie jedoch immer noch zu kurz kommen. Dies ähnelt vielen Utility-KIs, die wir in anderen Branchen einzusetzen beginnen, insbesondere da sich die Fähigkeiten großer Sprachmodelle ständig verbessern. Wenn ich als Programmierer beispielsweise GitHub Copilot verwende, um einen Codeabschnitt zu automatisieren, oder eine größere Funktion mit GPT-4 schreibe, übergebe ich die Details auf niedriger Ebene an das automatisierte System, kann aber gleichzeitig bei Bedarf auch „eingreifen“. Mit anderen Worten: Copilot und GPT-4 sind „sekundäre“ Programmierautomatisierung. Es gibt viele solcher Automatisierungen der zweiten Ebene in allen Branchen und nicht alle basieren auf LLMs – von TurboTax über Roboter in Amazon-Lagern bis hin zu vielen anderen „Tool-KIs“ in den Bereichen Übersetzung, Schreiben, Kunst, Recht, Marketing und mehr.

Vollautomatisch

Mit der Weiterentwicklung der autonomen Technologie erreichen einige Systeme eine ausreichende Zuverlässigkeit, um wie Waymo heute zu werden. Sie erreichen allmählich den Bereich der vollständigen Autonomie. Heute können Sie in San Francisco eine App öffnen und statt eines Uber ein Waymo rufen. Ein fahrerloses Auto holt Sie als zahlenden Passagier ab und bringt Sie zu Ihrem Ziel. Das ist wirklich erstaunlich. Sie müssen weder Autofahren können noch konzentriert bleiben, Sie können sich einfach hinlegen und ein Nickerchen machen, während das System Sie sicher von Punkt A nach Punkt B bringt. Wie viele Leute, mit denen ich gesprochen habe, fahre ich persönlich lieber mit Waymo als mit Uber und bin für den innerstädtischen Transport fast ausschließlich auf Waymo umgestiegen. Sie erhalten ein stabileres, wiederholbares Erlebnis mit ruhiger Fahrt, der Möglichkeit, Musik abzuspielen und mit Freunden zu chatten, ohne dass Sie Ihre Gehirnleistung darauf verwenden müssen, herauszufinden, was der Fahrer denkt, während er Ihnen zuhört.

Vollautomatisierte Hybridwirtschaft

Obwohl die Technologie für selbstfahrende Autos mittlerweile verfügbar ist, rufen viele Menschen immer noch lieber Uber als Waymo an. Was ist der Grund? Erstens wissen viele Leute nicht einmal, dass sie Waymo rufen können. Selbst wenn sie es wissen, vertrauen sie dem automatisierten System möglicherweise nicht vollständig und würden es vorziehen, wenn ein Mensch fährt. Darüber hinaus macht es manchen Leuten vielleicht einfach Spaß, mit menschlichen Fahrern zu reden, Witze zu machen und die Interaktion mit anderen zu genießen. Abgesehen von persönlichen Vorlieben ist es klar, dass Waymo Mangelware ist, wenn man die zunehmenden Wartezeiten bei der aktuellen App betrachtet. Es gibt nicht genügend Autos, um die Nachfrage zu decken. Dies kann teilweise daran liegen, dass Waymo Risiken und die öffentliche Meinung sorgfältig verwaltet und überwacht. Ein weiterer möglicher Grund ist, dass Waymo von den Aufsichtsbehörden eine Quote für die Anzahl der Fahrzeuge erhält, die sie auf den Straßen einsetzen dürfen. Darüber hinaus kann Waymo Uber nicht über Nacht vollständig ersetzen. Sie müssen die Infrastruktur aufbauen, Fahrzeuge produzieren und den Betrieb ausweiten. Ich denke, dass sich eine ähnliche Situation mit verschiedenen Automatisierungen in anderen Teilen der Wirtschaft abspielen wird – manche Leute oder Unternehmen werden sie sofort nutzen, aber viele Leute 1) wissen nichts über sie, 2) vertrauen ihnen nicht, selbst wenn sie es wissen, und 3) würden, selbst wenn sie es wissen, trotzdem lieber Menschen einstellen und mit ihnen arbeiten. Darüber hinaus übersteigt die Nachfrage das Angebot und AGI wird aus genau den gleichen Gründen auf die gleiche Weise eingeschränkt sein – durch selbst auferlegte Beschränkungen der Entwickler, regulatorische Auflagen und schlicht und einfach durch Ressourcenknappheit (wie die Notwendigkeit, mehr GPU-Rechenzentren zu bauen).

Vollautomatische Globalisierung

Wie ich bereits erwähnt habe, ist die weltweite Skalierung dieser Technologie aufgrund der begrenzten Ressourcen nach wie vor sehr teuer, arbeitsintensiv und langsam. Derzeit kann Waymo nur in San Francisco und Phoenix tätig sein, sein Ansatz ist jedoch grundsätzlich allgemein und skalierbar, sodass eine Ausweitung auf Los Angeles, Austin und weitere Standorte möglich ist. Die Produktwerbung kann auch durch andere Umweltfaktoren eingeschränkt sein, beispielsweise durch das Fahren bei starkem Schneefall. In einigen seltenen Fällen kann sogar eine Rettung durch einen menschlichen Helfer erforderlich sein. Erweiterte Funktionen sind nicht „kostenlos“. Um beispielsweise eine neue Stadt zu betreten, muss Waymo Ressourcen aufwenden. Sie müssen Standorte bestimmen, Straßen kartieren und Wahrnehmungs- und Planungs-/Kontrollsysteme anpassen, um besonderen Umständen oder örtlichen Regeln und Vorschriften Rechnung zu tragen. In unserer Berufsanalogie lassen sich viele Arbeitsplätze möglicherweise nur in bestimmten Umgebungen oder unter bestimmten Bedingungen vollständig automatisieren, während die Ausweitung der Abdeckung Arbeit und Mühe erfordert. In beiden Fällen sind die Methoden selbst allgemein und skalierbar, und die Grenzen werden sich erweitern, allerdings nur allmählich im Laufe der Zeit.

Soziale Reaktion

Ein weiterer Aspekt, den ich interessant finde, ist, dass es noch vor ein paar Jahren viele Kommentare und FUD (Angst, Unsicherheit und Zögern) zum Thema „Wird es funktionieren?“ gab. „Wird es nicht funktionieren?“ und die Leute diskutierten immer noch, ob es möglich war. Und jetzt, da autonomes Fahren wirklich da ist, ist es kein Forschungsprototyp mehr, sondern ein Produkt – ich kann Geld gegen einen vollautomatisierten Transportdienst eintauschen. Innerhalb ihres derzeitigen Betriebsrahmens hat die Branche vollständige Autonomie erreicht. Im Großen und Ganzen interessiert dies jedoch nur wenige Menschen. Die meisten Leute, mit denen ich spreche (sogar die aus der Technikbranche!), sind sich dieser Änderung nicht einmal bewusst. Wenn Sie mit einem Waymo durch die Straßen von San Francisco fahren, werden Sie feststellen, dass viele Leute es als eine Art Kuriosität betrachten. Zuerst waren sie überrascht, dann starrten sie und dann machten sie mit ihrem Leben weiter. Wenn die vollständige Automatisierung auch in anderen Branchen Einzug hält, wird sie die Welt vielleicht nicht im Sturm erobern. Den meisten Menschen ist das zunächst wahrscheinlich gar nicht bewusst. Wenn sie es bemerken, werfen sie möglicherweise einen Blick darauf und zucken mit den Achseln, eine Reaktion, die von Ablehnung bis Akzeptanz reichen kann. Einige Leute waren darüber so verärgert, dass sie aus Protest Pylonen vor Waymo aufstellten. Natürlich sind die Auswirkungen noch lange nicht in vollem Umfang spürbar, aber wenn es soweit ist, erwarte ich, dass es sich um eine weitreichende Vorahnung handeln wird.

Wirtschaftliche Auswirkungen

Lassen Sie uns über die Auswirkungen der Automatisierung auf Arbeitsplätze sprechen. Natürlich ersetzt Waymo den Fahrerjob, aber es schafft auch viele weniger sichtbare Arbeitsplätze, die es vorher nicht gab – etwa menschliche Kommentatoren, die beim Sammeln von Daten für das Training neuronaler Netzwerke helfen, Kundendienstmitarbeiter, die sich per Fernzugriff mit dem Support verbinden, wenn am Fahrzeug Probleme auftreten, und Arbeiter, die die Flotte, Karten usw. aufbauen und warten. Um diese hochintelligenten Hightech-Autos zusammenzubauen, muss zunächst eine völlig neue Industrie bestehend aus verschiedenen Sensoren und der dazugehörigen Infrastruktur geschaffen werden. Auch in der Arbeitswelt insgesamt werden sich viele Berufe verändern, manche werden verschwinden, aber es werden auch viele neue entstehen. Dabei handelt es sich eher um eine Umgestaltung der Arbeit als um eine vollständige Entfernung, auch wenn diese Entfernung den wichtigsten Teil darstellt. Es lässt sich kaum bestreiten, dass die Gesamtzahl der Arbeitsplätze nicht irgendwann und mit der Zeit sinken wird. Allerdings wird dies viel langsamer geschehen, als sich jemand vorstellen könnte, der die Situation naiv betrachtet.

Wettbewerbslandschaft

Der letzte Aspekt, den ich berücksichtigen möchte, ist die Wettbewerbslandschaft. Vor ein paar Jahren gab es jede Menge Unternehmen, die selbstfahrende Autos herstellten. Aufgrund der enormen Schwierigkeit dieses Bereichs (ich würde behaupten, dass Automatisierung angesichts des aktuellen Stands der KI- und Computertechnologie „gerade noch möglich“ ist) ist das Ökosystem mittlerweile jedoch deutlich konsolidiert. Waymo hat die erste voll funktionsfähige Demonstration der Zukunft selbstfahrender Autos geliefert. Dennoch holen einige Unternehmen auf, darunter Cruise, Zoox und natürlich mein persönlicher Favorit, Tesla. Aufgrund meiner tatsächlichen Erfahrungen und meines Engagements auf diesem Gebiet werde ich es hier kurz erläutern. Ich bin davon überzeugt, dass das ultimative Ziel der Branche für autonomes Fahren darin besteht, vollständig autonomes Fahren auf globaler Ebene zu erreichen. Waymos Strategie besteht darin, zunächst Autonomie zu erreichen und dann weltweit zu expandieren, während Teslas Strategie darin besteht, zunächst weltweit zu werben und dann schrittweise Autonomie zu erreichen. Heute bin ich ein treuer Nutzer der Produkte beider Unternehmen und persönlich eher ein Befürworter der Gesamttechnologie. Allerdings muss eines der beiden Unternehmen noch viel an der Software arbeiten, während bei dem anderen Unternehmen noch viel an der Hardware gearbeitet werden muss. Ich kann selbst beurteilen, welches schneller wachsen wird. Allerdings werden, wenn die Analogie zutrifft, wie dies auch in vielen anderen Wirtschaftssektoren der Fall sein könnte, nach einer Phase schnellen Wachstums und schnellen Wachstums (denken Sie an die Ära des autonomen Fahrens um 2015) nur wenige Unternehmen als Sieger aus dem harten Wettbewerb hervorgehen. Inmitten all dessen wird es eine Menge aktiver Nutzung instrumenteller KI (wie die heutigen ADAS-Funktionen der Stufe 2) und sogar einiger offener Plattformen (wie Comma) geben.

Allgemeine künstliche Intelligenz

Das Obige ist meiner Meinung nach der allgemeine Umriss von AGI. Übertragen Sie das jetzt einfach gedanklich auf die gesamte Wirtschaft, wobei es sich mit unterschiedlicher Geschwindigkeit und mit allen möglichen Wechselwirkungen und Zweitrundeneffekten abspielt, die schwer vorherzusagen sind. Auch wenn dieses Modell möglicherweise nicht perfekt ist, glaube ich, dass es ein nützliches Denkwerkzeug ist. Aus einer Perspektive betrachtet, sieht es nicht wie eine sich selbst rekursiv verbessernde Superintelligenz aus, die unserer Kontrolle entgehen und in den Cyberspace vordringen könnte, um dort tödliche Krankheitserreger oder Nanobots zu erschaffen und die gesamte Galaxie in grauen Brei zu verwandeln. Vielmehr ähnelt es einer Technologie wie dem autonomen Fahren, bei der der Fortschritt schrittweise erfolgt, die Gesellschaft sowohl Beobachter als auch Teilnehmer ist und die Ausbreitung durch eine Reihe von Faktoren begrenzt wird, darunter Regulierung und die Verfügbarkeit gut ausgebildeter Arbeitskräfte, Informationen, Materialien und Energie. Die Welt wird nicht zusammenbrechen, sondern sich anpassen, verändern und neu aufbauen. Am Beispiel des autonomen Fahrens wird die Automatisierung des Verkehrs diesen sicherer machen, die Städte werden sauberer und reibungsloser, und Parkplätze und am Straßenrand geparkte Autos werden nach und nach verschwinden, wodurch mehr Platz für die Menschen entsteht. Ich persönlich freue mich auf ähnliche Veränderungen, die AGI in verschiedenen Bereichen mit sich bringen wird.

Originallink:

https://karpathy.github.io/2024/01/21/selfdriving-agi/