Wenn KI „falsch“ eingesetzt wird, werden die Menschen wirklich dumm! Ich habe dich nicht angelogen

Ein Tag in der KI ist wie ein Jahr in der realen Welt. In den letzten zwei Jahren hat sich die KI-Technologie rasant entwickelt und die Geschwindigkeit, mit der sie in unser Leben eingedrungen ist, kann als sprunghafter Fortschritt bezeichnet werden. Von Smart Homes bis hin zum autonomen Fahren, von intelligentem Kundenservice bis hin zu KI-Assistenten, von Schreiben und Zeichnen bis hin zu emotionaler Begleitung: Effiziente und praktische KI-Technologie verändert still und leise Stück für Stück unser Verhalten und verbessert unsere Lebensqualität und Arbeitseffizienz.

Copyright-Bilder in der Galerie. Der Nachdruck und die Verwendung können zu Urheberrechtsstreitigkeiten führen.

Viele Arbeitnehmer wie ich (die davon träumen, etwas umsonst zu bekommen) haben begonnen, vom „schmerzlosen Arbeiten“ zu träumen – davon, die Leistungsfähigkeit der KI nutzen zu können, um die Arbeit ohne allzu große Anstrengung zu erledigen und das Leben zu genießen.

Wer fände es nicht äußerst verlockend, zwei- oder dreihundert Yuan pro Monat für eine KI-Mitgliedschaft auszugeben und mehr als 50 % der Arbeit auszulagern? Doch während wir die Annehmlichkeiten der KI genießen, müssen wir uns auch vor den negativen Auswirkungen in Acht nehmen, die sie für die Benutzer mit sich bringen kann : langsames Denken, Abhängigkeit und Faulheit.

Wenn einige Freunde das hören, bezweifeln sie vielleicht, dass die Verwendung von KI so viel Spaß macht und dass sie so schnell und gut Ergebnisse liefert. Sie übertreiben also vielleicht, oder?

Das ist keine Übertreibung.

In den letzten zwei Jahren kamen viele Studien zu ähnlichen Schlussfolgerungen. Damit jeder beide Seiten hören und verstehen kann, werden wir mehrere KI-bezogene Studien sowie die Schlussfolgerungen und Vorschläge von Wissenschaftlern in „einfacher Sprache“ vorstellen. Keine Sorge, auch ohne Grundkenntnisse können Sie es verstehen.

Sorgt KI dafür, dass Menschen am Steuer einschlafen?

Ethan Mollick, außerordentlicher Professor an der Wharton School, veröffentlichte im April 2024 ein Buch mit dem Titel „Co-Intelligence: Leben und Arbeiten mit KI“.

Das Buch stellt ein Experiment vor, bei dem Mollick und seine Kollegen die Boston Consulting Group (BCG), eines der weltweit führenden Beratungsunternehmen, um Unterstützung bei der Durchführung der Forschung baten. Fast 800 Berater der Boston Consulting Group nahmen an dem Experiment teil.

Die Berater wurden nach dem Zufallsprinzip in zwei Gruppen aufgeteilt, von denen eine normal auf herkömmliche Weise arbeitete und die andere GPT-4 verwenden musste (das Flaggschiffprodukt von OpenAI und eines der führenden Produkte im Bereich großer Sprachmodelle).

Nach der Schulung im Bereich künstliche Intelligenz können diese Berater 18 von BCG entwickelte Aufgaben ausführen, darunter kreative Aufgaben, analytische Aufgaben, Schreib- und Marketingaufgaben, Überzeugungsaufgaben usw. Dabei handelt es sich um Standardaufgaben im Rahmen der Arbeit normaler Beratungsberater.

Raten Sie mal, welche Gruppe besser abgeschnitten hat?

Copyright-Bilder in der Galerie. Der Nachdruck und die Verwendung können zu Urheberrechtsstreitigkeiten führen.

Die Antwort ist eigentlich nicht spannend – die Gruppe, die künstliche Intelligenz nutzte, schnitt besser ab. Darüber hinaus ist dieses Urteil nicht subjektiv (die Art, bei der ein Vorgesetzter sagt, Sie können es tun, und dann können Sie es tun). Stattdessen verwendeten die Forscher 118 verschiedene Analysen und die Gruppe, die künstliche Intelligenz verwendete, hatte immer noch einen erheblichen Vorteil.

Berater der KI-Gruppe arbeiteten schneller, waren kreativer, schrieben besser und verfügten über stärkere analytische Fähigkeiten. Alle Aspekte sind in Ordnung.

Sie sagen vielleicht: Ist das nicht toll?

Doch die Forscher stellten etwas Beunruhigendes fest: Wenn Berater KI zur Unterstützung bei der Erledigung von Aufgaben nutzten, fügten die meisten Versuchsteilnehmer einfach die ihnen gestellten Fragen ein und kopierten die Antworten der KI in ihre Arbeitsergebnisse, da die KI den Großteil der Arbeit bereits erledigt hatte.

BCG entwarf daraufhin eine sorgfältig ausgewählte Aufgabe, um sicherzustellen, dass die KI nicht die richtige Antwort finden konnte – eine Aufgabe, die knifflige statistische Fragen mit irreführenden Daten kombinierte.

Ohne die Hilfe von KI lagen menschliche Berater in 84 Prozent der Fälle richtig, doch wenn Berater KI nutzten, lagen sie nur in 60 bis 70 Prozent der Fälle richtig.

Warum passiert das?

Wie Sie vielleicht schon vermutet haben, haben die Berater die Antworten der KI einfach kopiert und eingefügt, genau wie beim letzten Mal. Die Schuld hierfür kann man kaum den Beratern zuschreiben, die Abstriche machen. Stellen Sie sich vor, Sie wären in dieser Situation und hätten eine scheinbar „perfekte“ Standardantwort vor sich. Dann wäre es schwierig, der Versuchung zu widerstehen, sie direkt anzuwenden.

Forscher haben eine anschauliche Metapher: Berater, die sich zu sehr auf KI verlassen, sind wie Autofahrer, die am Lenkrad einschlafen . Da künstliche Intelligenz zu leistungsfähig ist und die meisten Aufgaben gut erledigen kann, schenken Menschen der KI unbewusst zu viel Vertrauen. Wenn das Problem jedoch die Fähigkeiten der KI übersteigt, kann dieses Vertrauen zu großen Fehlern führen.

Wird KI „fähige“ oder „nutzlose“ Schüler unterrichten?

Künstliche Intelligenz wird in der Bildungsbranche immer häufiger eingesetzt, und kluge College-Studenten haben bereits verschiedene große Modelle verwendet, um ihre Hausaufgaben so schnell wie möglich zu erledigen. Darüber hinaus gibt es eine große Anzahl intelligenter Software und Hardware, die in Zusammenarbeit mit Schulen oder Behörden entwickelt wurde, sowie einige ergänzende Bildungsprodukte, die von anderen kommerziellen Unternehmen bereitgestellt werden. Die Forschung zur Anwendung künstlicher Intelligenz im Bildungsbereich ist offensichtlich sehr wichtig und notwendig.

Im vergangenen Juni untersuchte eine in der Fachzeitschrift Nature veröffentlichte Studie die Auswirkungen künstlicher Intelligenz auf Entscheidungsverlust, Faulheit und Datenschutzprobleme bei College-Studenten in Pakistan und China.

Die Studie untersuchte hauptsächlich die Lernsituation von 285 Studenten verschiedener Universitäten in Pakistan und China. Die Ergebnisse der Datenanalyse zeigten, dass künstliche Intelligenz die Entscheidungsfähigkeit von Schülern und Lehrern erheblich beeinträchtigt und Schüler träge macht. Darüber hinaus bringt es auch Sicherheits- und Datenschutzprobleme mit sich.

Die Umfrageergebnisse zeigen, dass 68,9 % der Faulheit von Menschen (teilnehmende Lehrer und Schüler), 68,6 % der persönlichen Datenschutz- und Sicherheitsprobleme und 27,7 % der Entscheidungsfehler auf den Einfluss künstlicher Intelligenz zurückzuführen sind.

Copyright-Bilder in der Galerie. Der Nachdruck und die Verwendung können zu Urheberrechtsstreitigkeiten führen.

Lehrer und Schüler, die künstliche Intelligenz nutzen, verlieren langsam und allmählich das Interesse an der Erledigung ihrer Aufgaben, was nach und nach zum Verlust menschlicher Entscheidungsbefugnis führt. Wenn die Nutzung und Abhängigkeit von künstlicher Intelligenz zunimmt, wird dies automatisch die Denkfähigkeit des menschlichen Gehirns einschränken.

Gleichzeitig wird der Einsatz künstlicher Intelligenz die physische Interaktion in Echtzeit erheblich reduzieren und die Lernumgebung zwischen Schülern und Lehrern beeinflussen.

In einer realen Umgebung gibt es viel Interaktion zwischen Lehrern und Schülern, was die Persönlichkeit und die staatsbürgerliche Kompetenz der Schüler fördert. Beispielsweise können Schüler von anderen Schülern lernen, Lehrern Fragen stellen, Feedback von Klassenkameraden erhalten usw. All dies ist mit KI allein nur schwer zu erreichen.

Die Studie argumentiert, dass vor der großflächigen Einführung von KI-Technologien im Bildungswesen wichtige Vorkehrungen getroffen werden müssen. Künstliche Intelligenz zu akzeptieren , ohne die Hauptprobleme der Menschheit anzugehen (die menschliche Natur hat inhärente Schwächen), ist wie den Teufel zu beschwören. Um dieses Problem zu lösen, wird empfohlen, sich auf die richtige Gestaltung, Bereitstellung und Nutzung von KI für die Bildung zu konzentrieren.

Je besser die eingesetzte KI, desto einfacher ist die Rekrutierung von Talenten?

Eine weitere häufige Anwendung von KI besteht darin, Personalabteilungen bei der Sichtung von Lebensläufen und der Personalbeschaffung zu unterstützen. Was ist also die Wirkung?

In einer 2022 veröffentlichten Studie von Fabrizio Dell'Acqua, einem Soziologen am Innovation Science Lab der Harvard Business School, beauftragte er 181 professionelle Personalvermittler mit der Prüfung von 44 Lebensläufen.

Er teilte die Probanden nach dem Zufallsprinzip in vier Gruppen ein und führte Rekrutierungsarbeiten mit Partnern wie „perfekt vorhersagende künstliche Intelligenz“, „gute künstliche Intelligenz“, „schlechte künstliche Intelligenz“ und „keine künstliche Intelligenz“ durch.

Die Ergebnisse zeigten, dass Probanden, die hochwertige KI nutzten, Bewerbungen weniger genau bewerteten, weniger Zeit und Mühe in jeden Lebenslauf investierten und den Empfehlungen der KI blind folgten. Sie haben sich im Laufe der Zeit auch nicht verbessert.

Doch Personalvermittler, die „schlechte KI“ einsetzen, investieren mehr Aufwand und Zeit in die Auswertung von Lebensläufen und entscheiden sich seltener automatisch für von der KI empfohlene Kandidaten. Sie sind aufmerksamer, wählerischer und unabhängiger. Diese Personalvermittler lernten, besser mit der ihnen zugewiesenen KI zu interagieren und verbesserten ihre Leistung.

Dies zeigt, dass leistungsstarke künstliche Intelligenz den Menschen möglicherweise dazu „ermutigt“, fauler zu sein, das Lenkrad vollständig der künstlichen Intelligenz zu überlassen und auf dem Fahrersitz einzuschlafen.

Lassen Sie KI den Menschen helfen, sich zu verbessern, und Menschen die KI überwachen, damit sie Gutes tut

Stephen Hawking sagte einmal, dass die erfolgreiche Schaffung künstlicher Intelligenz das bedeutendste Ereignis in der Geschichte der Menschheit wäre. Wenn wir nicht lernen, die Risiken zu vermeiden, könnte es leider auch das letzte Mal sein.

Es lässt sich nicht leugnen, dass wir Menschen mit bestimmten Defiziten geboren werden, was aber gleichzeitig ein wichtiges Merkmal dessen ist, was uns zu Menschen macht. Als die ersten großen Technologien entwickelt wurden, zielten sie alle darauf ab, menschliche Schwächen auszugleichen oder auszugleichen. Das Ergebnis, das wir am wenigsten sehen wollen, ist, dass unsere Unzulänglichkeiten immer kürzer werden.

Die Technologie der künstlichen Intelligenz wurde zum Nutzen der Menschheit entwickelt, hat jedoch bisher das Ziel, das Niveau der Menschheit zu verbessern und ihr in einigen Aspekten zu nützen, nicht erreicht.

Als kohlenstoffbasierte Menschen mit reichen Emotionen sind wir zwangsläufig gelegentlich faul, aber wir müssen uns darüber im Klaren sein, dass wir, wenn wir einem System vollkommen vertrauen und ihm alle Entscheidungsgewalt überlassen, tatsächlich eine Transaktion tätigen und die versteckten Kosten Ihr endogener Raum für tiefes Denken und Kompetenzwachstum sein können. (Ähm, hier möchte ich einige Schüler hervorheben, die künstliche Intelligenz verwenden, um „Hausaufgaben abzugeben“. Ihr schlauen kleinen Geister, ich spreche von euch.)

Wenn wir mit KI zusammenarbeiten, um die Effizienz bei der Arbeit zu verbessern, sollten wir KI eher als einen eigenwilligen Teamkollegen denn als allwissenden Diener betrachten. Wir müssen daran denken, auf Lügen und Voreingenommenheit, Nachlässigkeit oder Auslassungen zu achten und gleichzeitig die Moralität ihrer Entscheidungen abzuwägen. Am wichtigsten ist es, zu überlegen, welche Aufgaben es wert sind, an ihn abgegeben zu werden und welche Aufgaben wir lieber für uns behalten möchten.

Denn wenn Sie die künstliche Intelligenz wirklich vollständig „für sich arbeiten lassen“, dann wird eines Tages nicht die künstliche Intelligenz Ihren Arbeitsplatz zerstören, sondern Sie selbst.

Verweise

[1]Ahmad SF, Han H, Alam MM, Rehmat MK, Irshad M, Arraño-Muñoz M, Ariza-Montes A. Einfluss künstlicher Intelligenz auf menschliche Verluste bei der Entscheidungsfindung, Faulheit und Sicherheit in der Bildung. Geistes-, Sozial-, Wissenschafts- und Kommunikationswissenschaften. 2023;10(1):311. doi: 10.1057/s41599-023-01787-8. Epub 2023, 9. Juni. PMID: 37325188; PMCID: PMC10251321.

[2] „Co-Intelligence: Leben und Arbeiten mit KI“ von Ethan Mollick. Veröffentlicht von Portfolio, einem Imprint von Penguin Random House. Urheberrecht: 2024.

[3] „alling Asleep at the Wheel: Mensch-KI-Zusammenarbeit in einem Feldexperiment zu HR-Recruitern“, Fabrizio Dell'Acqua, Labor für Innovationswissenschaft, Harvard Business School

Planung und Produktion

Autor: Mumu, leitender Produktmanager mit Schwerpunkt Mathematik an der Beijing Normal University und KI-Unternehmer

Rezension von Yu Yang, Leiter des Tencent Xuanwu Lab

Planung – Ding Zong

Herausgeber: Ding Zong

Korrekturgelesen von Xu Lai und Lin Lin

Das Titelbild und die Bilder in diesem Artikel stammen aus der Copyright-Bibliothek

Nachdruck kann zu Urheberrechtsstreitigkeiten führen