DeepMinds neueste Forschung: KI schlägt Menschen und entwickelt bessere Wirtschaftsmechanismen

„Viele der Probleme, mit denen die Menschheit konfrontiert ist, sind nicht einfach nur technische Probleme, sondern erfordern von uns eine soziale und wirtschaftliche Koordination zum Wohle der Allgemeinheit.“ „Damit KI-Technologie hilfreich ist, muss sie direkt von menschlichen Werten lernen.“

— Raphael Koster, Forschungswissenschaftler bei DeepMind

Kann künstliche Intelligenz (KI) die menschliche Gesellschaft in ein wirklich intelligentes Zeitalter führen?

Obwohl die Branche der künstlichen Intelligenz nach über 60 Jahren Entwicklung bahnbrechende Fortschritte erzielt hat und in allen Bereichen der Wirtschaft und Gesellschaft breite Anwendung findet, bleibt der Aufbau eines künstlichen Intelligenzsystems, das mit den menschlichen Werten im Einklang steht, ein ungelöstes Problem.

Eine neue Studie des britischen KI-Unternehmens DeepMind könnte Praktikern in der KI-Branche nun eine neue Idee zur Lösung dieses Problems liefern.

Es wird berichtet, dass das künstliche Intelligenzsystem von DeepMind nicht nur gelernt hat, Richtlinien zur Umverteilung öffentlicher Gelder in einem Online-Wirtschaftsspiel für vier Spieler zu formulieren, indem es von mehr als 4.000 Personen und in Computersimulationen lernte, sondern auch sehr gute Leistungen zeigte und andere menschliche Spieler besiegte.

Bei dem Spiel müssen die Spieler entscheiden, ob sie eine Geldspende behalten oder sie zum Wohle der Allgemeinheit mit anderen teilen möchten.

Die zugehörige Forschungsarbeit mit dem Titel „Human-centred mechanism design with Democratic AI“ (Menschenzentriertes Mechanismusdesign mit demokratischer KI) wurde am 5. Juli online in der maßgeblichen wissenschaftlichen Zeitschrift Nature Human Behaviour veröffentlicht.

(Quelle: Nature Human Behaviour)

Annette Zimmermann, Assistenzprofessorin an der Universität York im Vereinigten Königreich, warnte davor, „Demokratie eng mit einem System der Präferenzbefriedigung gleichzusetzen, das nach den beliebtesten politischen Maßnahmen sucht“.

Sie sagte auch, dass es bei Demokratie um mehr gehe, als nur darum, die eigenen Lieblingspolitiken bestmöglich umzusetzen – es gehe darum, einen Prozess zu schaffen, in dem die Bürger sich auf gleicher Augenhöhe austauschen und miteinander beraten können.

Von KI entworfene Wirtschaftsmechanismen

Das ultimative Ziel der KI-Forschung besteht darin, Technologien zu entwickeln, die der Menschheit zugute kommen – von der Unterstützung bei alltäglichen Aufgaben bis hin zur Lösung großer existenzieller Herausforderungen für die Gesellschaft.

Schon heute lösen Systeme des maschinellen Lernens große Probleme in der Biomedizin und helfen der Menschheit, Umweltprobleme zu bewältigen. Allerdings muss die Anwendung von KI zur Unterstützung der Menschen bei der Gestaltung gerechter und wohlhabender Gesellschaften noch weiterentwickelt werden.

In der Wirtschaftswissenschaft und der Spieltheorie befasst sich das als Mechanismusdesign bekannte Gebiet mit der Frage, wie der Fluss von Reichtum, Informationen oder Macht zwischen Akteuren mit Anreizen optimal gesteuert werden kann, um gewünschte Ziele zu erreichen.

In dieser Arbeit wollte das Forschungsteam nachweisen, dass Deep-Reinforcement-Learning-Agenten (RL) zum Entwurf eines wirtschaftlichen Mechanismus verwendet werden können, der die Präferenzen der motivierten Bevölkerung erfasst.

Bei diesem Spiel beginnen die Spieler mit unterschiedlichen Geldbeträgen und müssen entscheiden, wie viel sie beitragen, um zur Entwicklung eines gemeinsamen Fonds beizutragen und schließlich einen Teil davon zurückzubekommen. Dabei muss wiederholt entschieden werden, ob eine Geldspende behalten oder mit anderen Spielern geteilt werden soll, um möglicherweise einen gemeinsamen Nutzen daraus zu ziehen.

Das Forschungsteam trainierte einen Deep-Reinforcement-Learning-Agenten, um einen Umverteilungsmechanismus zu entwerfen, der in Situationen von Vermögensgleichheit und -ungleichheit Gelder unter den Spielern aufteilt.

Die geteilten Einnahmen werden den Spielern über zwei verschiedene Umverteilungsmechanismen zurückgegeben, von denen einer vom KI-System und der andere von Menschen entwickelt wird.

Abbildung｜Spieldesign (Quelle: Nature Human Behaviour)

Bei mithilfe künstlicher Intelligenz formulierten Richtlinien verteilt das System öffentliche Gelder auf Grundlage der Höhe der von jedem Spieler eingezahlten Startkapitalmittel um und verringert so die Vermögenslücke zwischen den Spielern.

Diese Politik erhielt mehr Stimmen von menschlichen Spielern als ein „egalitärer“ Ansatz (bei dem das Geld unabhängig vom Beitrag jedes Spielers gleichmäßig aufgeteilt wird) und ein „libertärer“ Ansatz (bei dem das Geld auf Grundlage des Anteils aufgeteilt wird, den jeder Spieler zur öffentlichen Kasse beigesteuert hat).

Gleichzeitig korrigiert diese Richtlinie auch das anfängliche Vermögensungleichgewicht und verhindert, dass Spieler „Trittbrettfahren“, da sie fast nichts zurückbekommen, wenn sie nicht etwa die Hälfte ihres Startkapitals einzahlen.

Das Forschungsteam warnte jedoch auch davor, dass seine Forschungsergebnisse kein Rezept für eine „KI-Regierung“ darstellten und dass es auch nicht beabsichtige, KI-gesteuerte Tools speziell für die Politikgestaltung zu entwickeln.

Ist es vertrauenswürdig?

Die Ergebnisse legen nahe, dass KI-Systeme darauf trainiert werden können, demokratische Ziele zu erreichen, indem man in einem anreizkompatiblen Wirtschaftsspiel einen Mechanismus entwickelt, den Menschen eindeutig bevorzugen.

Bei dieser Arbeit verwendete das Forschungsteam Techniken der künstlichen Intelligenz, um ein Umverteilungsschema von Grund auf zu erlernen. Dieser Ansatz entlastet KI-Forscher – die selbst möglicherweise voreingenommen oder nicht repräsentativ für die breitere Bevölkerung sind – von der Last, ein domänenspezifisches Ziel zur Optimierung auszuwählen.

Diese Forschungsarbeit wirft auch mehrere Fragen auf, von denen einige theoretisch herausfordernd sind. Man könnte sich beispielsweise fragen, ob es eine gute Idee ist, demokratische Ziele als Methode zur Wertekalibrierung hervorzuheben. Das KI-System könnte von anderen demokratischen Ansätzen die Tendenz geerbt haben, der Mehrheit auf Kosten der Minderheit Macht zu verleihen. Dies ist insbesondere angesichts der dringenden Befürchtung wichtig, dass KI auf eine Weise eingesetzt werden könnte, die bestehende Vorurteile, Diskriminierung oder Ungerechtigkeiten in der Gesellschaft verschärft.

(Quelle: Pixabay)

Eine weitere offene Frage ist, ob die Menschen den in KI-Systemen eingebauten Mechanismen vertrauen werden. Wenn die Identität des Schiedsrichters im Voraus bekannt ist, ziehen Spieler möglicherweise einen menschlichen Schiedsrichter einem KI-Agenten vor. Wenn Menschen jedoch der Meinung sind, dass die Aufgabe für Menschen zu komplex ist, neigen sie dazu, dem KI-System zu vertrauen.

Würden Spieler außerdem anders reagieren, wenn ihnen die Spielmechanik mündlich erklärt würde, anstatt sie durch Erfahrung zu erlernen? Zahlreiche Veröffentlichungen zeigen, dass sich Menschen manchmal anders verhalten, insbesondere bei riskanten Entscheidungen, wenn der Mechanismus eher „deskriptiv“ als „empirisch“ ist. Allerdings lassen sich die von der KI entwickelten Mechanismen nicht immer in Worte fassen. In diesem Fall ist es wahrscheinlich, dass das beobachtete Verhalten vollständig von der Wahl der Beschreibung durch das Forschungsteam abhängt.

Am Ende des Papiers betonte das Forschungsteam auch, dass dieses Forschungsergebnis eine Form der „KI-Governance“ unterstützt, bei der autonome Agenten ohne menschliches Eingreifen politische Entscheidungen treffen.

Sie hoffen, dass die Weiterentwicklung der Methode Werkzeuge hervorbringt, die dabei helfen, reale Probleme auf wirklich menschliche Weise zu lösen.

Referenzlinks:

https://www.nature.com/articles/s41562-022-01383-x

https://www.deepmind.com/publications/human-centred-mechanism-design-with-democratic-ai

https://www.newscientist.com/article/2327107-deepminds-ai-develops-popular-policy-for-distributing-public-money/