KI wird immer leistungsfähiger! Wie macht man daraus eine KI mit „Gewissen“?

Heutzutage entwickelt sich die künstliche Intelligenz (KI) rasant und KI-Agenten rücken zunehmend in den Forschungsschwerpunkt der Branche.

Als intelligente Entität ist ein KI-Agent in der Lage, die Umgebung wahrzunehmen und durch eigene Entscheidungen und Handlungen zu verändern und so seine Leistung durch Lern- und Anpassungsfähigkeiten zu verbessern.

Müssen KI-Agenten, die unabhängige Entscheidungen treffen können, also eine rechtliche Verantwortung tragen? Wie sollte es im Gesetz definiert werden?

Eine kürzlich im renommierten Wissenschaftsjournal Science veröffentlichte Forschungsarbeit lieferte eine mögliche Antwort auf diese Frage.

Daniel Gervais, Juraprofessor an der Vanderbilt University in den USA, und John Nay, Gründer und CEO des CodeX Institute und von Nomos AI an der Stanford University, veröffentlichten gemeinsam ein Papier, in dem es heißt:

Die KI hat sich inzwischen soweit entwickelt, dass sie als juristische Person mit Rechten und Pflichten fungieren kann. Bevor das Problem kompliziert wird, müssen wir daher einen „artenübergreifenden“ Rechtsrahmen entwickeln, um KI als Rechtssubjekt zu behandeln.

Darüber hinaus hoben sie die Idee von „Zero-Member LLCs“ und das Trainieren großer Sprachmodelle (LLMs) hervor, um KI-Agenten zu überwachen oder KI-Systeme in gesetzestreue Systeme umzuwandeln.

Die zugehörige Forschungsarbeit mit dem Titel „Künstliche Intelligenz und interspezifisches Recht“ wurde in Science veröffentlicht.

KI steuert „Null-Personen-GmbH“

Bislang war das Rechtssystem einheitlich und konnte nur von Menschen gestaltet und genutzt werden. Im Rechtssystem müssen nicht-menschliche Rechtssubjekte (wie etwa Tiere) ihre Rechte durch Menschen wahrnehmen, und diese Subjekte sind lediglich Werkzeuge, die zur Wahrnehmung menschlicher Interessen und Pflichten eingesetzt werden.

Bei der Einbindung von KI in das Rechtssystem geht es jedoch weniger darum, die Rechte und Pflichten dieser nicht-menschlichen Subjekte zu definieren und zu schützen, als vielmehr darum, die mit ihnen verbundenen menschlichen Interessen und Pflichten zu berücksichtigen.

Black's Law Dictionary bezeichnet Unternehmen als „juristische Personen“. In den Vereinigten Staaten schreiben die Gesetze mancher Rechtsräume nicht immer ausdrücklich vor, dass die oberste Leitung eines Unternehmens von einem Menschen ausgeübt werden muss.

Die im US-amerikanischen Uniform Limited Liability Company Act (ULLCA) erwähnte „Zero-Member Limited Liability Company“ scheint nicht unbekannt zu sein. Obwohl in der Klausel eindeutig festgelegt ist, dass das Fehlen von Mitgliedern zur Auflösung der LLC führt, setzt das ULLCA diese Bestimmung nicht durch.

Selbst wenn nur ein US-Bundesstaat die Existenz einer LLC ohne Gesellschafter zulassen würde, könnte das Unternehmen gemäß der sogenannten „Internal Affairs Doctrine“ dennoch landesweit Geschäfte tätigen. Nach dieser Doktrin stützen sich Gerichte bei der Festlegung von Regeln für die internen Angelegenheiten einer juristischen Person auf die Gesetze des Staates, in dem die Gesellschaft gegründet wurde.

Wenn es eine solche „Zero-Member LLC“ gäbe, die von KI betrieben würde, welche rechtlichen Möglichkeiten gäbe es? Das Gesetz kann den autonomen Handlungen der KI nicht ohne Weiteres rechtliche Konsequenzen zuschreiben (obwohl der Begriff „Autonomie“ hier möglicherweise begrenzt ist). Das Gesetz könnte die Haftung auf die Menschen übertragen, die die LLC gegründet haben. Dazu wäre jedoch wahrscheinlich ein neues Rechtsinstrument erforderlich, da Menschen normalerweise nicht für die Handlungen der von ihnen gegründeten oder kontrollierten juristischen Personen haftbar gemacht werden.

Darüber hinaus ist nicht auszuschließen, dass AI selbst einen Antrag auf Gründung einer neuen GmbH stellt. Den Gerichten stehen weiterhin zahlreiche Instrumente zur Verfügung, um die Haftung juristischer Personen zu regeln, darunter Schadensersatz, Vermögensbeschlagnahme und Auflösung. Die Gerichte können verschiedene Anordnungen erlassen, beispielsweise einstweilige Verfügungen, aber die KI entscheidet, ob diesen Anordnungen Folge geleistet wird.

Darüber hinaus schlugen die Autoren des Papiers eine weitere Möglichkeit vor: „Zero-Member LLCs“ in allen Rechtsräumen für illegal zu erklären. Dies würde jedoch weltweit umfangreiche gesetzgeberische Anstrengungen erfordern und könnte im Widerspruch zur Förderung der Entwicklung der Technologiebranche stehen. Daher sollte das Aufkommen des Phänomens der „Gesellschaft mit beschränkter Haftung ohne Gesellschafter“ das Rechtssystem dazu veranlassen, sich an die Implementierung autonomer KI-Agenten anzupassen.

Wenn KI in der Form einer Gesellschaft mit beschränkter Haftung oder einer anderen juristischen Person mit klar definierter Rechtspersönlichkeit agieren darf, bringt das zwei wesentliche Vorteile mit sich : Erstens wird KI dadurch zu einer juristischen Person, gegen die vor Gericht Schadensersatzklagen erhoben werden können, was dem Geschädigten eine klare rechtliche Angriffsfläche bietet; Zweitens bietet dies Forschern im Bereich des maschinellen Lernens eine klarere Forschungsrichtung.

Aufbau einer juristischen KI mit „Gewissen“

Im aktuellen Paradigma scheint es einen Weg zu geben, gesetzestreues Verhalten in KI-Agenten einzubetten, die von LLMs angetrieben werden. Beispielsweise könnte man ein LLM trainieren, das den Haupt-KI-Agenten überwacht und/oder beeinflusst und als Belohnungsmodell verwendet werden könnte.

Es muss jedoch klar sein, dass in vielen Situationen, in denen menschliche Akteure involviert sind, letztlich Menschen Entscheidungen über die Rechtmäßigkeit der Situation treffen müssen. dies ändert sich auch durch die Anwesenheit von KI-Agenten nicht.

Über die normativen Ansprüche hinaus wird es von entscheidender Bedeutung sein, die fortgeschrittene KI, die in den kommenden Jahren entstehen wird, in unser Rechtssystem zu integrieren, damit wir ihr Verhalten überwachen, Verantwortung zuweisen, notwendige Sicherheitsvorkehrungen treffen und die KI-Forschung auf die Entwicklung eines legitimen künstlichen „Gewissens“ ausrichten können.

Im Kontext der rasanten Entwicklung der digitalen Intelligenz ist es von entscheidender Bedeutung, den Schwerpunkt auf eine proaktive und automatisierte Kriminalprävention zu legen. Angesichts der unvermeidlichen Umstände, wenn KI-Systeme ihr ideales Verhalten nicht erreichen, sollten die beteiligten Unternehmen jedoch dafür verantwortlich sein, Personen, die vor Gericht nachweisen können, dass ihnen ein Schaden entstanden ist, eine Entschädigung zu zahlen. Um dieses Ziel zu erreichen, kann der Umfang der mindestens vorzuhaltenden Betriebshaftpflichtversicherungen erweitert werden.

Die Entstehung artenübergreifender Gesetze ist unvermeidlich, es lässt sich jedoch nur schwer vorhersagen, an welchem ​​Ende dieses rechtlichen Spektrums wir landen werden. Einerseits könnte ein artenübergreifendes Recht eine Änderung des Gesellschaftsrechts erfordern, um der Arbeitsweise von Unternehmen Rechnung zu tragen, die teilweise von Menschen kontrolliert werden. Andererseits kann artenübergreifendes Recht auch bedeuten, dass Rechtssysteme im alltäglichen Umgang mit autonomen, intelligenten Wesen angepasst werden müssen.

Link zum Artikel:

www.science.org/doi/10.1126/science.adi8678