Turing-Preisträger LeCun: „KI wird die Welt erobern, aber sie wird die Menschen nicht besiegen“

[Anmerkung des Herausgebers] Als Turing-Preisträger und leitender KI-Wissenschaftler von Meta ist Yann LeCun einer der stärksten Verteidiger der KI-Technologie.

Als seine ehemaligen Mitarbeiter Geoffrey Hinton und Yoshua Bengio das Aussterben der KI erklärten, griff LeCun nicht ein. Stattdessen unterzeichnete er einen offenen Brief, in dem er zur Akzeptanz von Open-Source-KI aufrief und sagte, dass KI nicht von einigen wenigen Unternehmen kontrolliert werden sollte .

Wird KI der Menschheit also verheerende Katastrophen bringen oder wird sie die Entwicklung der menschlichen Gesellschaft beschleunigen? Dies sind auch die beiden gegensätzlichen Stimmen, die es in der Branche bereits seit der Veröffentlichung von ChatGPT vor über einem Jahr gibt.

Kürzlich wurde LeCun vom amerikanischen Digitalmedium WIRED interviewt und beantwortete die oben genannten Fragen. Die Kerngedanken sind folgende:

KI wird die Kreativität bis zu einem gewissen Grad demokratisieren. Sie können sehr flüssige Texte mit einem wirklich tollen Stil schreiben, aber sie sind auch langweilig, weil das, was sie sich ausdenken, möglicherweise völlig künstlich ist.

Auf lange Sicht werden alle zukünftigen Interaktionen zwischen Menschen und der digitalen Welt und in gewissem Maße auch zwischen Menschen durch KI-Systeme vermittelt werden.

KI muss Open Source sein, denn wenn Plattformen zu einem wesentlichen Teil der Kommunikationsstruktur werden, brauchen wir eine gemeinsame Infrastruktur.

Yann LeCun glaubt, dass er keiner Denkschule wie dem „Akzelerationismus“ oder dem „Extinktionismus“ angehört, und er mag diese Bezeichnungen nicht.

Yann LeCun erkennt AGI nicht an, da es keine allgemeine Intelligenz gibt. Intelligenz ist kein linearer, messbarer Prozess und verschiedene Arten intelligenter Wesen verfügen über unterschiedliche Fähigkeiten.

Das Setzen von Zielen in KI-Systemen ist die einzige Möglichkeit, deren Steuerbarkeit und Sicherheit zu gewährleisten. Dies wird als zielorientierte KI bezeichnet, eine völlig neue Architektur, für die es bisher noch keine Beispiele gibt.

Yann LeCun glaubt, dass sich die Forschungsgemeinschaft nicht mehr für OpenAI interessiert, weil sie keine Artikel veröffentlicht oder offenlegt, woran sie arbeitet. Einige meiner ehemaligen Kollegen und Studenten arbeiten bei OpenAI und wir haben Mitleid mit ihnen, weil bei OpenAI Instabilität herrscht.

Academic Headlines hat den Artikel sorgfältig zusammengestellt, ohne die Hauptidee des Originaltextes zu verändern. Der Inhalt ist wie folgt:

Halten Sie Yann LeCun keine Predigt über Schwarzmalerei. Als Pionier der modernen KI und leitender KI-Wissenschaftler bei Meta ist LeCun einer der lautstärksten Verteidiger dieser Technologie. Er spottet über die utopischen Szenarien seiner Kollegen, in denen Fehlinformationen zur Ausrottung der Menschheit führen . Er twittert häufig auf X, um diejenigen zu beschimpfen, die Angst verbreiten. Als seine ehemaligen Mitarbeiter Geoffrey Hinton und Yoshua Bengio ihre Namen an den Anfang einer Erklärung setzten, in der sie KI als „Risiko auf gesellschaftlicher Ebene“ bezeichneten, beteiligte sich LeCun nicht. Stattdessen unterzeichnete er einen offenen Brief an US-Präsident Joe Biden, in dem er zur Akzeptanz von Open-Source-KI aufrief und sagte, dass KI nicht von einigen wenigen Unternehmen kontrolliert werden sollte.

LeCuns Punkt ist wichtig. Gemeinsam mit Hinton und Bengio war er an der Entwicklung der Deep-Learning-Methode beteiligt, die für die Verbesserung der KI von entscheidender Bedeutung ist. Alle drei erhielten die höchste Auszeichnung der Computerbranche – den Turing Award. Im Jahr 2013 stellte ihn Meta (damals Facebook) als Gründungsdirektor von FAIR ein. Darüber hinaus ist er Professor an der New York University. Zuletzt half er dabei, CEO Mark Zuckerberg davon zu überzeugen, einen Teil der KI-Technologie von Meta mit der Welt zu teilen. In diesem Sommer hat Meta ein Open-Source-Large Language Model (LLMs) namens „Llama 2“ auf den Markt gebracht, um mit OpenAI, Microsoft und Google zu konkurrieren. Einige Kritiker warnen, dass diese Open-Source-Strategie es böswilligen Akteuren ermöglichen könnte, durch Codeänderungen den Schutz vor schädlichen Inhalten in der LLM-Ausgabe zu umgehen. LeCun, eine der bekanntesten Persönlichkeiten auf dem Gebiet der KI, glaubt, dass Menschen dieses Problem lösen können.

Diesen Herbst sprachen LeCun und ich in einem Konferenzraum in Metas Midtown-Büros in New York. Wir sprachen über Open Source, warum er die Gefahren der KI für übertrieben hält und darüber, ob Computer Menschen so bewegen können wie Charlie Parkers Saxophonsoli . (LeCun wuchs außerhalb von Paris auf und besuchte häufig die New Yorker Jazzclubs). Wir hatten im Dezember ein weiteres Gespräch, als LeCun an der NeurIPS-Konferenz teilnahm. Dieses Interview wurde aus Gründen der Länge und Klarheit bearbeitet.

Steven Levy: In einem kürzlichen Vortrag sagten Sie: „Maschinelles Lernen ist Mist.“ Warum würde ein KI-Pionier wie Sie das sagen?

Yann LeCun: Maschinelles Lernen ist großartig. Doch wie steht es mit der Vorstellung, dass wir eine KI auf menschlichem Niveau erreichen können, indem wir einfach die vorhandene Technologie erweitern? Damit Maschinen genauso effizient lernen können wie Menschen und Tiere, fehlt etwas Wichtiges, aber wir wissen noch nicht, was es ist.

Ich möchte diese Systeme nicht schlechtmachen oder sagen, dass sie nutzlos sind, aber ich habe mich während meiner gesamten Karriere auf sie konzentriert. Allerdings müssen wir die Begeisterung mancher zügeln, die glauben, wir müssten nur die Größenordnung erhöhen, um schnell die Intelligenz des Menschen zu erreichen. Das ist absolut nicht der Fall.

Sie fühlen sich dafür verantwortlich, diese Dinge aufzudecken.

Das stimmt. KI wird der Welt viele Vorteile bringen, manche Menschen missbrauchen sie jedoch, weil sie Angst vor der Technologie haben. Wir müssen wachsam sein, um die Leute nicht abzuschrecken. Dies ist derselbe Fehler, den wir bei anderen weltverändernden Technologien gemacht haben. Nehmen wir zum Beispiel die Erfindung des Buchdrucks im 15. Jahrhundert. Die katholische Kirche hasste sie, nicht wahr? Die Menschen können die Bibel selbst lesen, ohne einen Priester um Anleitung zu bitten. Fast alle Machthaber waren gegen die flächendeckende Verwendung des Buchdrucks, weil dies die Machtstruktur verändern würde. Sie hatten Recht, und dies führte zu 200 Jahren religiöser Konflikte. Aber es brachte auch die Aufklärung mit sich. [Anmerkung: Historiker könnten darauf hinweisen, dass die Kirche den Buchdruck eigentlich für ihre eigenen Zwecke nutzte, aber so sieht LeCun es jedenfalls. ］

Warum schlagen so viele der größten Namen der Technologiebranche Alarm wegen der KI?

Manche suchen nach Aufmerksamkeit, andere sehen die Realität der Gegenwart nicht. Sie sind sich nicht darüber im Klaren, dass KI Hassreden und Fehlinformationen tatsächlich eindämmen kann . Bei Meta haben wir in diesem Bereich mithilfe von KI enorme Fortschritte gemacht. Vor fünf Jahren wurden etwa 20 bis 25 % aller Hassreden, die wir von unserer Plattform entfernt haben, von KI-Systemen entfernt, bevor sie jemand sah. Im letzten Jahr lag dieser Anteil bei 95 %.

Was halten Sie von Chatbots? Sind sie leistungsstark genug, um menschliche Arbeitsplätze zu ersetzen?

Sie sind erstaunlich und die Menschen haben auf diesem Gebiet enorme Fortschritte gemacht. Sie demokratisieren die Kreativität bis zu einem gewissen Grad , sie können sehr flüssige Texte schreiben, die einen wirklich tollen Stil haben, aber sie sind auch langweilig, weil das, was sie sich ausdenken, möglicherweise völlig künstlich ist.

Meta scheint entschlossen zu sein, diese Technologien weiterzuentwickeln und in Produkte zu implementieren.

Langfristig werden alle unsere Interaktionen mit der digitalen Welt und in gewissem Maße auch untereinander durch KI-Systeme vermittelt. Wir müssen Dinge ausprobieren, die im Moment noch nicht leistungsstark genug sind, um das zu leisten, die es aber bald tun werden, oder die Menschen dabei helfen, Dinge in ihrem täglichen Leben zu erschaffen, sei es Text oder Echtzeitübersetzungen und ähnliches, und möglicherweise auch im Metaversum.

Wie treibt Mark seine Arbeit im Bereich KI bei Meta voran?

Mark ist sehr engagiert. Ich habe Anfang des Jahres mit ihm gesprochen und ihm das Gleiche gesagt wie Ihnen, nämlich dass alle unsere Interaktionen in Zukunft durch KI vermittelt werden. ChatGPT hat uns schneller als gedacht gezeigt, was KI für neue Produkte leisten kann. Wir erleben, dass die Öffentlichkeit von den Fähigkeiten der KI fasziniert ist, die weit über unsere Vorstellungskraft hinausgehen. Daher beschloss Mark, eine Produktabteilung zu gründen, die sich auf generative KI konzentriert.

Warum hat Meta beschlossen, den Llama-Code in einem Open-Source-Format mit anderen zu teilen?

Wenn Sie über eine offene Plattform verfügen, zu der viele Menschen beitragen können, geht es viel schneller voran. Das resultierende System ist sicherer und weist eine bessere Leistung auf. Stellen Sie sich eine Zukunft vor, in der alle unsere Interaktionen mit der digitalen Welt durch KI-Systeme vermittelt werden. Sie möchten nicht, dass KI-Systeme von einigen wenigen Unternehmen an der Westküste der USA kontrolliert werden. Vielleicht ist es den Amerikanern egal, vielleicht ist es der US-Regierung egal. Aber ich sage Ihnen gleich: In Europa wird es ihnen nicht gefallen. Sie werden sagen: „Okay, dieser hier spricht korrektes Englisch. Aber was ist mit Französisch? Was ist mit Deutsch? Was ist mit Ungarisch? Was ist mit Niederländisch oder was auch immer? Wie haben Sie es trainiert? Wie spiegelt das unsere Kultur wider?“

Dies scheint eine großartige Möglichkeit zu sein, Startups dazu zu bringen, Ihr Produkt zu verwenden und Ihre Konkurrenz auszustechen.

Wir müssen mit niemandem Kompromisse eingehen, so läuft es nun einmal in der Welt. KI muss Open Source sein, denn wenn Plattformen zu einem wesentlichen Teil der Kommunikationsstruktur werden, brauchen wir eine gemeinsame Infrastruktur.

Ein Unternehmen, das dieser Aussage nicht zustimmt, ist OpenAI, und das scheint Ihnen nicht zu gefallen.

Zu Beginn hatten sie die Vision, eine gemeinnützige Organisation zu gründen, die KI-Forschung betreibt und mit Unternehmen wie Google und Meta konkurrieren möchte, die die Branchenforschung dominieren. Ich dachte, das wäre eine falsche Idee, aber es stellte sich heraus, dass ich Recht hatte. OpenAI ist nicht mehr geöffnet. Meta war schon immer offen und ist es immer noch. Zweitens würde ich sagen, dass es schwierig ist, substanzielle KI-Forschung zu betreiben, wenn man nicht über eine Möglichkeit verfügt, sie zu finanzieren. Schließlich mussten sie eine gewinnorientierte Organisation gründen und Investitionen von Microsoft erhalten. Obwohl OpenAI über ein gewisses Maß an Unabhängigkeit verfügt, handelt es sich mittlerweile im Wesentlichen um einen kollaborativen Forschungszweig von Microsoft. Der dritte Punkt ist, dass sie glauben, dass die allgemeine künstliche Intelligenz (AGI) unmittelbar bevorsteht und dass sie diese vor allen anderen entwickeln werden, aber sie können es nicht.

Was halten Sie von dem Drama bei OpenAI, wo Sam Altman als CEO rausgeschmissen wurde und dann wieder in einen anderen Vorstand zurückkehrte? Glauben Sie, dass dies Auswirkungen auf die Forschungsgemeinschaft oder die Industrie haben wird?

Ich glaube, die Forschungsgemeinschaft interessiert sich nicht mehr so ​​sehr für OpenAI, weil sie keine Artikel veröffentlichen und nicht offenlegen, woran sie arbeiten. Einige meiner ehemaligen Kollegen und Studenten arbeiten bei OpenAI und wir haben Mitleid mit ihnen, weil bei OpenAI Instabilität herrscht. Die Entwicklung der Forschungsarbeit kann nicht von einem stabilen Umfeld getrennt werden, und wenn solche dramatischen Ereignisse eintreten, werden die Menschen zögerlich. Ein weiterer wichtiger Aspekt für Forscher ist die Offenheit, und OpenAI ist wirklich nicht mehr offen. In diesem Sinne hat sich OpenAI verändert und wird nicht mehr als Beitrag zur Forschungsgemeinschaft angesehen. Es liegt alles in den Händen offener Plattformen.

Dieses Ereignis wurde als Sieg des KI-„Beschleunigungs“-Ansatzes bezeichnet, der das genaue Gegenteil des „Aussterbens“ darstellt. Ich weiß, dass Sie kein „Extinktionist“ sind, aber sind Sie ein „Beschleuniger“?

Nein, ich mag diese Etiketten nicht. Ich gehöre keiner bestimmten Denkschule an. Ich achte sehr darauf, diese Denkweise nicht ins Extreme zu treiben, denn dann schließt man zu leicht den Kreis und macht etwas Dummes.

Die Europäische Union hat vor Kurzem eine Reihe von KI-Vorschriften veröffentlicht, von denen eine Open-Source-Modelle weitgehend ausnimmt. Welche Auswirkungen wird dies auf Meta und andere Unternehmen haben?

Dies hat Meta in gewissem Maße beeinträchtigt, aber wir sind stark genug, um alle Vorschriften einzuhalten. Dies ist für Länder, die nicht über die nötigen Ressourcen verfügen, um KI-Systeme von Grund auf neu zu entwickeln, noch wichtiger. Sie können auf Open-Source-Plattformen zurückgreifen und über KI-Systeme verfügen, die ihrer Kultur, Sprache und ihren Interessen entsprechen. In nicht allzu ferner Zukunft wird die überwiegende Mehrheit unserer Interaktionen mit der digitalen Welt durch KI-Systeme vermittelt werden . Sie möchten nicht, dass diese Dinge von einigen wenigen Unternehmen in Kalifornien kontrolliert werden.

Waren Sie daran beteiligt, den Regulierungsbehörden zu helfen, zu dieser Schlussfolgerung zu gelangen?

Ich befinde mich in Gesprächen mit den Regulierungsbehörden, spreche jedoch nicht direkt mit ihnen. Ich stehe mit verschiedenen Regierungen in Kontakt, insbesondere mit der französischen Regierung, aber auch indirekt mit den Regierungen anderer Länder. Im Grunde wollen sie nicht, dass der digitale Konsum der Bürger von einigen wenigen kontrolliert wird – eine Idee, die die französische Regierung schon früh aufgegriffen hat. Leider habe ich mit niemandem auf EU-Ebene gesprochen, der sich stärker von Weltuntergangsprophezen beeinflussen lässt und alles regulieren möchte, um die Katastrophen zu verhindern, die er für möglich hält. Die Regierungen Frankreichs, Deutschlands und Italiens lehnten dies jedoch ab. Sie argumentierten, dass die EU besondere Regelungen für Open-Source-Plattformen erlassen müsse.

Aber ist Open-Source-KI wirklich schwer zu kontrollieren und zu regulieren?

Für Produkte, bei denen die Sicherheit eine große Rolle spielt, gibt es bereits Vorschriften. Würde man beispielsweise KI zur Entwicklung neuer Medikamente einsetzen, gäbe es bereits Vorschriften, die die Sicherheit des Produkts gewährleisten. Ich denke, das macht Sinn. Die Frage, die diskutiert wird, ist, ob es angemessen ist, die Forschung und Entwicklung im Bereich der KI zu regulieren. Ich glaube, das macht keinen Sinn.

Könnte nicht jemand die Weltherrschaft übernehmen, indem er komplexe Open-Source-Systeme großer Unternehmen nutzt? Durch den Zugriff auf Quellcode und Gewichte könnten Terroristen oder Betrüger KI-Systemen zerstörerische Fähigkeiten verleihen.

Sie benötigen 2.000 GPUs an einem abgelegenen Ort und genügend Geld und Talent, um die Aufgabe zu erledigen.

Ich denke, sie werden irgendwann herausfinden, wie sie ihre eigenen KI-Chips herstellen können.

Ja, aber es wird der Spitzentechnologie einige Jahre hinterherhinken. So läuft es in der Weltgeschichte: Bei jedem technologischen Fortschritt kann man die Bösen nicht davon abhalten, ihn sich zu holen, und dann heißt es: gute KI gegen böse KI. Um die Nase vorn zu behalten, müssen wir den Fortschritt beschleunigen. Und um noch schnellere Fortschritte zu erzielen, müssen wir die Forschung öffnen und mehr Menschen die Teilnahme ermöglichen.

Wie definiert man AGI?

Ich mag den Begriff AGI nicht, weil es so etwas wie allgemeine Intelligenz nicht gibt. Intelligenz ist kein linearer, messbarer Prozess und verschiedene Arten intelligenter Wesen verfügen über unterschiedliche Fähigkeiten.

Wenn Computer erst einmal die Intelligenz des Menschen erreicht haben, werden sie damit nicht aufhören. Mit mehr Wissen, Mathematik auf Maschinenniveau und besseren Algorithmen werden sie Superintelligenz erschaffen, oder?

Ja, es besteht kein Zweifel daran, dass Maschinen irgendwann intelligenter sein werden als Menschen. Wir wissen nicht, wie lange das dauern wird. Es könnten Jahre oder Jahrhunderte sein.

Müssen wir uns dann ergeben?

NEIN. Wir alle werden KI-Assistenten haben, was so sein wird, als würden wir mit einer Gruppe superintelligenter Mitarbeiter zusammenarbeiten, nur dass es sich dabei nicht um Menschen handeln wird. Die Menschheit wird dadurch bedroht sein, aber ich denke, wir sollten uns freuen. Am meisten reizt mich die Zusammenarbeit mit Leuten, die klüger sind als ich, weil sie die eigenen Fähigkeiten erweitert.

Aber wenn Computer Superintelligenz erreichen, warum brauchen sie uns dann noch?

Es gibt keinen Grund zu der Annahme, dass KI-Systeme, sobald sie intelligent werden, den Menschen ersetzen wollen. Wer davon ausgeht, dass KI-Systeme die gleichen Motivationen haben wie Menschen, liegt völlig falsch. Das werden sie nicht, denn das legen wir im Design fest.

Quelle: Tuchong Creative

Was passiert, wenn die Menschen diese Ziele nicht festlegen und ein superintelligentes System ein Ziel verfolgt, das letztlich den Menschen schadet? Der Philosoph Nick Bostrom drückt es so aus: Ein System, das darauf ausgelegt ist, unter allen Umständen Büroklammern herzustellen, erobert die Welt, um mehr Büroklammern herzustellen.

Es wäre töricht, das System einfach aufzubauen und die Sicherheitsvorkehrungen zu ignorieren. Es ist, als würde man ein Auto mit einem 1.000-PS-Motor, aber ohne Bremsen bauen. Das Setzen von Zielen in KI-Systemen ist die einzige Möglichkeit, deren Steuerbarkeit und Sicherheit zu gewährleisten. Ich nenne dies zielorientierte KI. Dies ist eine völlig neue Architektur und wir haben noch keine Beispiele dafür gesehen.

Ist das jetzt Ihr Job?

Ja, die Idee ist, dass die Maschine Ziele hat, die sie erreichen muss, und dass sie nichts produzieren kann, was diese Ziele nicht erfüllt. Zu diesen Zielen können Sicherheitsvorkehrungen oder andere Maßnahmen gehören, die Gefahren verhindern sollen, was KI-Systeme sicher macht.

Glauben Sie, dass Sie die Folgen der KI, zu denen Sie beigetragen haben, bereuen werden?

Wenn ich das glauben würde, würde ich es nicht noch einmal tun.

Sie sind ein Jazzfan. Wird irgendetwas, das die KI hervorbringt, jemals mit der überwältigenden Kreativität mithalten können, die bislang nur Menschen hervorbringen konnten? Kann es Werke mit Seele schaffen?

Die Antwort ist kompliziert. Ja, KI-Systeme werden irgendwann in der Lage sein, Musik, bildende Kunst oder andere Werke mit einer technischen Qualität zu schaffen, die der des Menschen ähnelt oder diese sogar übertrifft. KI-Systeme sind jedoch nicht in der Lage, improvisierte Musik zu schaffen, die auf menschlichen Emotionen und emotionaler Kommunikation beruht. KI verfügt hierzu nicht, zumindest noch nicht, weshalb Jazz live gehört werden muss.

Sie haben mir nicht geantwortet, ob diese Art von Musik Seele hat.

Sie haben Musik, die völlig seelenlos ist. Diese Musik ist im Hintergrund in Restaurants zu hören und wird hauptsächlich von Maschinen produziert, also vom Markt.

Aber ich spreche vom Gipfel der Kunst. Wenn ich Ihnen eine der besten Aufnahmen von Charlie Parker vorspielen und Ihnen sagen würde, dass sie von einer künstlichen Intelligenz erstellt wurde, würden Sie sich betrogen fühlen?

Jein. Ja, denn Musik ist mehr als nur ein Hörerlebnis. Sie ist in hohem Maße ein kulturelles Erlebnis und die Bewunderung für den Künstler. Ihr Beispiel ist wie bei Milli Vanilli, wo Authentizität ein wichtiger Teil des künstlerischen Erlebnisses ist.

Wenn KI-Systeme gut genug wären, um mit den künstlerischen Leistungen der Elite mithalten zu können, und Sie die Geschichten dahinter nicht kennen würden, würde der Markt mit Musik auf dem Niveau von Charlie Parker überschwemmt werden, und wir könnten den Unterschied nicht erkennen.

Ich glaube nicht, dass daran etwas falsch ist. Ich werde immer noch das Original kaufen, genauso wie ich immer noch eine handgefertigte Schale für 300 $ kaufen werde, obwohl ich eine ähnlich aussehende für 5 $ bekommen kann, die aber trotzdem aus einem Ort mit einer jahrhundertealten Kultur stammt. Wir gehen immer noch zu Live-Auftritten meiner Lieblings-Jazzmusiker, auch wenn man sie imitieren kann. Die Erfahrung mit einem KI-System ist anders.

Sie wurden kürzlich von Präsident Macron geehrt, und ich kann kein Französisch lesen …

Ritter der französischen Ehrenlegion (Chevalier de la Légion d'honneur). Es wurde von Napoleon gegründet. Es ähnelt ein wenig dem britischen Rittertitel, aber wir hatten eine Revolution, deshalb nennen wir die Leute nicht mehr „Sir“.

Gibt es Waffen und Ausrüstung?

Nein, sie haben keine Schwerter oder ähnliches. Allerdings dürfen Besitzer einer solchen Waffe einen kleinen roten Streifen am Revers tragen.

Kann ein KI-Modell diesen Preis gewinnen?

Nicht in naher Zukunft und ich glaube sowieso nicht, dass es eine gute Idee ist.

Originalautor: Steven Levy

Originallink: https://www.wired.com/story/artificial-intelligence-meta-yann-lecun-interview/

Zusammengestellt von: Yan Yimi