Welche Auswirkungen wird ChatGPT auf die Entwicklung und die künftige Beschäftigung von Kindern haben? Wir brauchen dringend Antworten

• Auch Kinder nutzen generative KI, verheimlichen dies jedoch häufig vor ihren Lehrern und Eltern.
• Generative KI hat viele Vorteile, aber auch viele unbeantwortete Fragen und Risiken für Kinder;
• Angesichts der immer stärkeren Verbreitung von KI müssen die Beteiligten Maßnahmen ergreifen, um ihre möglichen Auswirkungen auf die Entwicklung von Kindern zu verstehen.

Generative KI, wie sie ChatGPT zugrunde liegt, hat KI-Algorithmen und Datenverarbeitung aus dem Hintergrund in den Mittelpunkt unserer digitalen Erfahrungen gerückt. Die Kinder von heute verwenden es täglich, sei es, um ihnen bei der Erledigung ihrer Hausaufgaben zu helfen oder um zu entscheiden, was sie heute anziehen.

Die schnelle Verbreitung künstlicher Intelligenz hat in der Gesellschaft Diskussionen über ihre weitreichenden Auswirkungen ausgelöst. Obwohl generative KI Vorteile mit sich bringt, steht sie auch vor den seit langem bestehenden Herausforderungen der KI-Technologie, wie etwa algorithmischer Verzerrung und Problemen mit algorithmischen Blackboxen. Es kann sogar Probleme wie unvorhersehbare Ergebnisse verstärken oder sogar neue Probleme schaffen.

Kinder und Jugendliche verbringen die meiste Zeit online. Angesichts der Geschwindigkeit, mit der sich KI entwickelt und immer weiter verbreitet, ist es wichtig, die Auswirkungen von KI auf Kinder zu verstehen.

Wie viele Kinder haben generative KI verwendet?

Generative KI ist ein Teilgebiet des maschinellen Lernens von KI, das aus riesigen Datenmengen lernt, bestimmte Muster entdeckt und neue ähnliche Daten generiert. Sie wird häufig verwendet, um Inhalte zu generieren, die menschliche Schöpfungen nachahmen – seien es Texte, Bilder oder Computercodes. Sie kann aber auch komplexe Planungsaufgaben erfüllen, etwa die Entwicklung neuer Medikamente unterstützen und die Leistung von Robotern auf beispiellose Weise verbessern.

Wir wissen nicht, wie viele Kinder generative KI verwenden, aber vorläufige Umfragen deuten darauf hin, dass es mehr Kinder als Erwachsene sind. Eine kleine Umfrage in den Vereinigten Staaten ergab, dass zwar nur 30 % der Eltern ChatGPT verwendet hatten, aber 58 % ihrer Kinder im Alter von 12 bis 18 Jahren ChatGPT verwendet und es vor ihren Eltern und Lehrern geheim gehalten hatten. In einer anderen Umfrage in den USA gaben jüngere Erwachsene, die ChatGPT kannten, an, dass sie es häufiger verwenden als ältere Erwachsene.

Künstliche Intelligenz ist in Form von Empfehlungsalgorithmen oder automatisierten Entscheidungssystemen bereits Teil des Lebens von Kindern, doch die Begeisterung der Branche für generative KI lässt darauf schließen, dass sie schon bald ein fester Bestandteil der digitalen Umgebung von Kindern werden könnte. KI wird auf verschiedene Weise in das digitale Leben von Kindern integriert, beispielsweise als digitale und persönliche Assistenten und als Suchmaschinenhelfer.

Beliebte kinderfreundliche Plattformen wie Snapchat haben bereits KI-Chatbots integriert. Meta plant unterdessen, seinen KI-Assistenten in seine Produktfamilie aufzunehmen, zu der auch Instagram und WhatsApp gehören, die täglich mehr als 3 Milliarden aktive Benutzer haben.

Wie generative KI Kindern zugute kommen kann

Generative KI eröffnet potenzielle Möglichkeiten wie Hausaufgabenhilfe, leicht verständliche Erklärungen schwieriger Konzepte und personalisierte Lernerfahrungen, die sich an den Lernstil und das Lerntempo der Kinder anpassen. Kinder können mithilfe von KI Kunstwerke schaffen, Musik komponieren, Geschichten und Software schreiben (ohne oder mit nur geringen Programmierkenntnissen) und so ihre Kreativität fördern.

Auch Kinder mit Behinderungen können auf neue Weise mit digitalen Systemen interagieren und durch Text, Sprache oder Bilder mitgestalten. Wenn Kinder diese Systeme direkt nutzen, kann generative KI ihnen helfen, gesundheitliche und entwicklungsbedingte Probleme frühzeitig zu erkennen. Indirekt können generative KI-Systeme Einblicke in medizinische Daten liefern und so den Fortschritt im Gesundheitswesen unterstützen.

Im weiteren Sinne können die analytischen und generativen Fähigkeiten der generativen KI branchenübergreifend eingesetzt werden, um die Effizienz zu verbessern und innovative Lösungen zu entwickeln, die sich positiv auf Kinder auswirken können.

Die Risiken generativer KI für Kinder

Allerdings könnte generative KI auch von Personen mit Hintergedanken eingesetzt werden, um unbeabsichtigt Schaden anzurichten oder die Gesellschaft auf Kosten der Entwicklungschancen und des Wohlbefindens von Kindern zu gefährden.

Es hat sich gezeigt, dass generative KI in der Lage ist, spontan textbasierte Falschinformationen zu erstellen. Sie sind von menschengenerierten Inhalten nicht zu unterscheiden und sogar überzeugender als diese. Von KI generierte Bilder sind von echten Gesichtern nicht zu unterscheiden und werden in manchen Fällen als glaubwürdiger wahrgenommen als echte Gesichter (siehe Abbildung 1). Diese Fähigkeiten der KI können Betrügern helfen, den Umfang ihrer Operationen zu erweitern und Kosten zu senken. Die kognitiven Fähigkeiten von Kindern befinden sich noch in der Entwicklung und sie sind besonders anfällig für Fehlinformationen.

Abbildung 1: Eine Mischung aus echten und generierten Gesichtern – KI-generierte Gesichter sind von echten Gesichtern nicht zu unterscheiden. (Die linke Spalte enthält echte Gesichter und die rechte Spalte enthält synthetische Gesichter)

Bildnachweis: Sophie J. Nightingale und Hany Farid, 2021

Der langfristige Einsatz generativer KI kann bei Kindern zu Problemen führen. Welchen Einfluss wird beispielsweise die Interaktion mit KI-Systemen auf die Entwicklung von Kindern haben, wenn man bedenkt, dass Chatbots einen menschenähnlichen Tonfall haben? Erste Forschungsergebnisse deuten darauf hin, dass die Wahrnehmung und Eigenschaften von Kindern in Bezug auf Intelligenz, kognitive Entwicklung und Sozialverhalten beeinträchtigt sein können.

Darüber hinaus sind viele KI-Systeme von Natur aus voreingenommen. Wie könnten diese Vorurteile die Weltanschauung von Kindern beeinflussen? Experten warnen, dass strengere Tests erforderlich seien, um sicherzustellen, dass Chatbots für Kinder sicher seien. Was bedeutet dies also für die Privatsphäre und den Datenschutz von Kindern, wenn sie mit generativen KI-Systemen interagieren und ihre persönlichen Daten in Gesprächen und Interaktionen teilen? Der australische eSafety-Beauftragte ist der Ansicht, dass in diesem Zusammenhang der Erhebung, Verwendung und Speicherung von Daten von Kindern, insbesondere für kommerzielle Zwecke, mehr Beachtung geschenkt werden muss.

Langzeiteffekte

Die möglichen Ergebnisse der generativen KI bergen sowohl Chancen als auch Risiken. Beispielsweise sind wir uns noch nicht sicher, wie sehr generative KI das zukünftige Arbeitsleben von Kindern verändern wird. Es werden wahrscheinlich einige Schlüsselarbeitsplätze verdrängt und gleichzeitig neue geschaffen. Wie wir Kinder heute erziehen und welche Art von Bildung wir ihnen vermitteln, hängt eng damit zusammen.

Zwar gibt es noch weitaus mehr Chancen und Risiken der KI, doch die oben genannten Beispiele reichen aus, um ihre weitreichenden Auswirkungen aufzuzeigen. Da Kinder ihr ganzes Leben lang mit KI-Systemen interagieren, werden Interaktionen mit KI in ihren prägenden Jahren wahrscheinlich nachhaltige Auswirkungen haben. Daher müssen politische Entscheidungsträger, Regulierungsbehörden, KI-Entwickler und andere Interessengruppen zukunftsorientierter vorgehen.

Handlungsbedarf

Als Ausgangspunkt bieten vorhandene KI-Ressourcen viele Orientierungspunkte für eine verantwortungsvolle KI-Entwicklung. So werden beispielsweise in „AI for Children: A Policy Guide“ von UNICEF neun Anforderungen für die Wahrung der Kinderrechte in der KI-Politik und -Praxis dargelegt, während das „AI for Children“-Toolkit des Weltwirtschaftsforums Ratschläge für Technologieunternehmen und Eltern bereitstellt. Allerdings entwickelt sich die generative KI rasant weiter und bestehende Richtlinien müssen möglicherweise im Kontext der neuen Technologie interpretiert werden. Zudem sind möglicherweise neue Leitlinien und Vorschriften erforderlich.

Politiker, Technologieunternehmen und andere, die sich für den Schutz von Kindern und zukünftigen Generationen einsetzen, müssen dringend handeln. Sie sollten die Forschung zu den Auswirkungen der KI-Generation unterstützen und sich (gemeinsam mit Kindern) an der Vorsorgearbeit beteiligen, um die Regierungsführung besser vorhersehen zu können. Darüber hinaus muss es mehr Transparenz im Bereich der KI geben, damit die KI-Anbieter ihre Technologien verantwortungsvoll entwickeln und die Rechte der Kinder vertreten werden. Die globale Regulierung der KI erfordert die volle Unterstützung der Regierungen, wie UN-Generalsekretär António Guterres gefordert hat.

Quelle: Weltwirtschaftsforum