Welches sind die größten Risiken für Unternehmen angesichts der rasanten Entwicklung der künstlichen Intelligenz?

• KI hat das Potenzial, Branchen wie der Landwirtschaft, dem Bildungs- und Gesundheitswesen „erhebliche Vorteile“ zu bringen.
• Doch ein neuer Bericht des Weltwirtschaftsforums weist auf die potenziellen Risiken hin, die künstliche Intelligenz für Wirtschaft und Gesellschaft birgt.
• Experten für Risikomanagement sind der Meinung, dass wir eine stärkere Regulierung der künstlichen Intelligenz benötigen, um ihre Vorteile sicher nutzen zu können.

Im Rahmen der Global Risks Outlook Survey des Weltwirtschaftsforums werden Chief Risk Officers ( CROs ) großer Unternehmen und internationaler Organisationen befragt . Risikomanager sind sich im Allgemeinen einig, dass künstliche Intelligenz ( KI ) das Potenzial hat, Wirtschaft und Gesellschaft erhebliche Vorteile zu bringen. Allerdings kann sie auch erheblichen Schaden anrichten, wenn wir die mit dieser Technologie verbundenen Risiken nicht verstehen.

Die im Halbjahresbericht des Forums zum Chief Risk Officers Outlook ausführlich beschriebene Umfrage warnt davor , dass das Risikomanagement mit KI nicht mit den rasanten technologischen Fortschritten Schritt gehalten hat.

Drei Viertel der befragten CROs gaben an, dass der Einsatz von KI ein Reputationsrisiko für ihr Unternehmen darstellt, während neun von zehn sagten, dass mehr getan werden müsse, um die Entwicklung und Nutzung von KI zu regulieren.

Fast die Hälfte ist dafür, die Entwicklung neuer KI-Technologien zu pausieren oder zu verlangsamen, bis wir ihre Risiken besser verstehen. KI „ schafft eine komplexe und unsichere Umgebung, in der Organisationen agieren “ , heißt es in dem Bericht .

„ Die Diskussionen über technologiebezogene Risiken haben in den letzten Monaten dramatisch zugenommen, insbesondere angesichts der exponentiellen Fortschritte und des Interesses an generativer KI. “

Großer Nutzen und großer Schaden

In dem Bericht heißt es, dass die KI-Technologie zwar das Potenzial habe , in Bereichen wie der Landwirtschaft, der Bildung und dem Gesundheitswesen „ erhebliche Vorteile “ zu bringen , sie könne jedoch auch „ große Umbrüche verursachen “ .

Als eines der größten Risiken wird von den Risikoverantwortlichen der böswillige Einsatz von KI genannt. Aufgrund ihrer einfachen Handhabung kann die Technologie der generativen KI missbraucht und von manchen Menschen dazu verwendet werden, falsche Informationen zu verbreiten, Cyberangriffe durchzuführen oder an sensible personenbezogene Daten zu gelangen.

Ein erhebliches Risiko der KI besteht in ihren „ undurchsichtigen inneren Abläufen “ . Dem Bericht zufolge ist noch nicht vollständig klar, wie KI-Inhalte erstellt werden. Dies unterstreicht die Risiken, auf die die Risikoverantwortlichen hingewiesen haben, nämlich dass wir möglicherweise unbeabsichtigt persönliche Daten weitergeben und voreingenommene Entscheidungen auf der Grundlage von KI-Algorithmen zulassen.

So sehen Risikomanager die Risiken, die der rasante Aufstieg der künstlichen Intelligenz mit sich bringt. Bild: Weltwirtschaftsforum

Der Bericht stellte außerdem fest, dass es aufgrund des mangelnden Verständnisses der Funktionsweise künstlicher Intelligenz schwierig sei, die künftigen Risiken dieser Technologie vorherzusagen. CROs sagen jedoch, dass die Geschäftsbereiche, die am stärksten von KI betroffen sind, Betrieb, Geschäftsmodelle und Strategie sind.

Alle Befragten sind der Ansicht, dass die Entwicklung der KI schneller voranschreitet, als die potenziellen ethischen und gesellschaftlichen Risiken bewältigt werden können. 43 % der Befragten gaben an, dass die Entwicklung neuer KI-Technologien ausgesetzt oder verlangsamt werden sollte, bis ihre potenziellen Auswirkungen besser verstanden seien.

Regulierung der Entwicklung künstlicher Intelligenz

Mehr als die Hälfte der CROs gibt an, dass sie sich der Auswirkungen bewusst sind, die die Technologieregulierung auf ihre Organisationen haben könnte. 90 % der Chief Risk Officers sagten, dass die Regulierung der Entwicklung künstlicher Intelligenz beschleunigt werden müsse.

Mehr als die Hälfte der CROs plant, die in ihren Organisationen eingesetzten KI-Technologien auf ihre Sicherheit, Rechtmäßigkeit und „ ethische Konformität “ zu überprüfen . Einige CROs geben jedoch an, dass die Geschäftsleitung KI nur ungern als Geschäftsrisiko betrachtet.

Peter Giger , Chief Risk Officer bei der Zurich Insurance Group und Co-Autor des CRO Outlook-Berichts , sagte, wir könnten die Risiken der KI nicht ignorieren, Unternehmen müssten jedoch einen umfassenderen, längerfristigen Ansatz verfolgen.

Giger sagte: „ Wenn wir uns zu sehr und zu eng auf die Risiken konzentrieren, die in den nächsten sechs Monaten wahrscheinlich dominieren werden, kann uns das leicht davon ablenken, die großen Risiken anzugehen, die vor uns liegen.“

Künstliche Intelligenz ist ein hervorragendes Beispiel, weil sie uns dazu zwingt, langfristig zu denken. Wird KI heute unser aller Leben verändern? Wahrscheinlich nicht. Für viele von uns stellt sie keine unmittelbare Bedrohung dar. Aber man kann die Auswirkungen und Trends, die KI im Laufe der Zeit haben wird, nicht ignorieren .

Wie man künstliche Intelligenz verantwortungsvoll nutzt

Im Juni dieses Jahres veröffentlichte das Forum ein Weißbuch mit Empfehlungen für die verantwortungsvolle Entwicklung künstlicher Intelligenz und forderte Technologieentwickler dazu auf, offener und transparenter zu sein und eine präzisere und einheitlichere Terminologie zu verwenden.

Die Leitlinien fordern die Technologiebranche außerdem auf, sich stärker darum zu bemühen, die Öffentlichkeit für die Möglichkeiten und Grenzen künstlicher Intelligenz zu sensibilisieren und gesellschaftlichen Anliegen sowie Nutzerfeedback mehr Beachtung zu schenken, um das Vertrauen der Branche zu stärken.

Weitere Informationen zur Global Risks Outlook Survey

Die Global Risks Outlook Survey wurde unter der Chief Risk Officer Group des Forums durchgeführt, die sich aus Risikoexperten einer breiten Palette multinationaler Unternehmen aus Sektoren wie Technologie, Finanzdienstleistungen, Gesundheitswesen, professionelle Dienstleistungen und industrielle Fertigung zusammensetzt.

Die Befragten sind der Ansicht, dass neben künstlicher Intelligenz auch makroökonomische Bedingungen, Preis- und Versorgungsstörungen bei wichtigen Rohstoffen, bewaffnete Konflikte und regulatorische Änderungen die größten Sorgen der Unternehmen bereiten.

Autor dieses Artikels:

Douglas Broom , Leitender Redakteur, Forumsagenda

Dieser Artikel erschien ursprünglich auf dem Agenda -Blog des Weltwirtschaftsforums.