Mehr als 1.600 Wissenschaftler nahmen teil, und nur 4 % glaubten, dass KI-Tools derzeit „notwendig“ seien.

Im letzten Jahrzehnt hat die Zahl der Forschungsarbeiten zur künstlichen Intelligenz (KI) in allen Bereichen deutlich zugenommen.

Wissenschaftler haben begonnen, KI-Tools zu verwenden, um Forschungsarbeiten zusammenzufassen und zu verfassen sowie Code zu schreiben. Einige Forscher versuchen, mithilfe generativer KI-Techniken neue Bereiche zu erschließen, beispielsweise die Entdeckung von Proteinstrukturen, verbesserte Wettervorhersagen und Innovationen in der medizinischen Diagnostik, um nur einige zu nennen.

KI hat die wissenschaftliche Forschung bereits durchdrungen. Also, was halten Wissenschaftler von ihnen?

Kürzlich führte das renommierte Journal Nature eine Umfrage unter mehr als 1.600 Forschern auf der ganzen Welt durch. Die Ergebnisse deuten darauf hin, dass KI-Tools in der Wissenschaft immer häufiger zum Einsatz kommen und viele Wissenschaftler erwarten, dass sie bald eine zentrale Rolle in der Forschungspraxis spielen werden. Darüber hinaus glaubt mehr als die Hälfte der Befragten, dass KI-Tools im nächsten Jahrzehnt sehr wichtig oder unverzichtbar werden.

Die entsprechenden Umfrageergebnisse wurden in Nature unter dem Titel „KI und Wissenschaft: Was 1.600 Forscher denken“ veröffentlicht.

In der Umfrage glaubten zwei Drittel der Befragten, dass KI eine schnellere Möglichkeit zur Datenverarbeitung bietet, 58 % glaubten, dass KI Berechnungen beschleunigt, die zuvor nicht durchführbar waren, und 55 % erwähnten, dass KI Zeit und Geld spart.

„Dank KI konnte ich bei biologischen Problemen Fortschritte erzielen, die zuvor unlösbar waren“, sagt Irene Kaplow, Computerbiologin an der Duke University.

Allerdings sagten 69 % der Forscher, dass KI-Tools dazu führen könnten, dass man sich stärker auf Mustererkennung als auf ein tiefes Verständnis verlässt. 58 % glaubten, dass KI die Voreingenommenheit oder Diskriminierung in den Daten verstärken könnte. 55 % waren der Meinung, dass diese Tools die Wahrscheinlichkeit von Betrug erhöhen könnten und 53 % wiesen darauf hin, dass ein unvorsichtiger Einsatz die Forschung unreproduzierbar machen könnte.

„Das Hauptproblem besteht darin, dass KI unsere bestehenden Beweis- und Wahrheitsstandards in Frage stellt“, sagt Jeffrey Chuang, der am Jackson Laboratory in Connecticut an der Analyse von Krebsbildern arbeitet.

Bedenken und Aufregung der Wissenschaftler

Um die Ansichten aktiver Forscher zu ermitteln, kontaktierte Nature per E-Mail mehr als 40.000 Wissenschaftler, die in den letzten vier Monaten des Jahres 2022 Artikel veröffentlicht hatten, und lud die Leser von Nature Briefings ein, an der Umfrage teilzunehmen.

Von diesen Befragten entwickeln oder erforschen 48 % KI direkt, 30 % nutzen KI in der Forschung und die restlichen 22 % verwenden KI nicht in der Wissenschaft.

Mehr als ein Viertel derjenigen, die KI in ihrer Forschung einsetzen, glauben, dass KI-Tools im nächsten Jahrzehnt unverzichtbar werden, während nur 4 % der Meinung sind, dass KI-Tools heute eine „Notwendigkeit“ sind. Weitere 47 % glauben, dass KI sehr nützlich sein wird. Forscher, die keine KI verwenden, sind jedoch nicht besonders interessiert. Dennoch glauben 9 %, dass diese Technologien im nächsten Jahrzehnt unverzichtbar werden, und weitere 34 % sagen, dass sie sehr nützlich sein werden.

Als sie gebeten wurden, aus einer Liste möglicher negativer Auswirkungen der generativen KI auszuwählen, zeigten sich 68 % der Forscher besorgt über die Verbreitung ungenauer Informationen, weitere 68 % glaubten, dass Plagiate dadurch leichter und schwerer zu erkennen wären, und 66 % waren besorgt über die Einführung von Fehlern oder Ungenauigkeiten in Forschungsarbeiten.

Darüber hinaus äußerten die Befragten Bedenken hinsichtlich gefälschter Forschungsergebnisse, falscher Informationen und Voreingenommenheit, wenn KI-Tools für die medizinische Diagnose mit Daten trainiert werden, die auf historischen Verzerrungen beruhen. Wissenschaftler sehen bereits Belege dafür: Ein Team in den USA berichtet beispielsweise, dass die Antworten, als sie GPT-4 baten, Diagnosen und Behandlungsempfehlungen für eine klinische Fallstudie zu liefern, je nach Rasse oder Geschlecht des Patienten variierten.

„Große Sprachmodelle (LLMs) werden missbraucht, um ungenaue und gefälschte, aber professionell klingende Ergebnisse zu produzieren“, sagte Isabella Degen, eine Software-Ingenieurin und ehemalige Unternehmerin, die an der britischen Universität Bristol einen Doktortitel in medizinischer KI anstrebt. „Meiner Meinung nach ist uns die Grenze zwischen korrektem Gebrauch und Missbrauch nicht klar genug.“

Der offensichtlichste Vorteil, so die Forscher, besteht darin, dass LLMs nicht-englischsprachigen Forschern dabei helfen können, Grammatik und Stil ihrer Forschungsarbeiten zu verbessern, indem sie andere Arbeiten zusammenfassen oder übersetzen. „Auch wenn es eine kleine Gruppe böswilliger Akteure gibt, kann die akademische Gemeinschaft zeigen, wie diese Werkzeuge für gute Zwecke eingesetzt werden können“, sagte Kedar Hippalgaonkar, Materialwissenschaftler an der National University of Singapore.

Selbst unter den an KI interessierten Forschern sind diejenigen, die in ihrer Arbeit regelmäßig LLMs verwenden, immer noch in der Minderheit. 28 % derjenigen, die KI lernen, gaben an, dass sie täglich oder wöchentlich generative KI-Produkte verwenden, während dies bei 13 % derjenigen der Fall ist, die nur KI verwenden, und bei nur 1 % der anderen, obwohl viele diese Tools zumindest ausprobiert haben. Darüber hinaus war die beliebteste Nutzung in allen Gruppen die kreative Unterhaltung, die nichts mit Forschung zu tun hat. kleinere Gruppen nutzten die Tools, um Code zu schreiben, Forschungsideen zu entwickeln und beim Verfassen von Forschungsarbeiten zu helfen.

Darüber hinaus sind einige Wissenschaftler mit den Ergebnissen der LLMs nicht zufrieden. Ein Forscher, der LLMs zur Unterstützung bei der Bearbeitung von Artikeln verwendete, schrieb: „ChatGPT scheint alle schlechten Schreibgewohnheiten der Menschen kopiert zu haben.“ Johannes Niskanen, Physiker an der Universität Turku in Finnland, sagte: „Wenn wir anfangen, KI zum Lesen und Schreiben von Artikeln zu verwenden, wird sich die Wissenschaft bald von ‚für Menschen von Menschen‘ zu ‚für Maschinen von Maschinen‘ wandeln.“

Die Entwicklung der KI steht vor Schwierigkeiten

Etwa die Hälfte der befragten Wissenschaftler gab an, dass sie bei der Entwicklung oder Nutzung von KI auf Hindernisse stoßen. Zu den größten Sorgen der Forscher, die direkt an der KI arbeiten, zählen unzureichende Computerressourcen, eine unzureichende Finanzierung ihrer Arbeit und ein unzureichender Zugang zu den für den Betrieb der KI erforderlichen qualitativ hochwertigen Daten. Diejenigen, die in anderen Bereichen arbeiten, aber KI in der Forschung einsetzen, waren eher besorgt über den Mangel an qualifizierten Wissenschaftlern und Ausbildungsressourcen und äußerten auch Sicherheits- und Datenschutzbedenken. Forscher, die keine KI verwenden, sagen jedoch, dass sie KI nicht benötigen oder sie für nicht praktikabel halten oder dass ihnen die Erfahrung und Zeit für die Erforschung von KI fehlt.

Ein weiteres Thema, das sich aus der Umfrage ergab, war, dass kommerzielle Unternehmen den größten Anteil am Besitz von KI-Rechenressourcen und KI-Tools haben. Während 23 % der Wissenschaftler, die KI erforschen, sagen, dass sie mit Unternehmen zusammenarbeiten oder für sie arbeiten, die diese Tools entwickeln (Google und Microsoft wurden am häufigsten genannt), ist dies bei den KI-Nutzern nur bei 7 % der Fall. Insgesamt gab etwas mehr als die Hälfte der Befragten an, dass es für Forscher, die KI einsetzen, sehr oder ziemlich wichtig sei, mit Wissenschaftlern dieser Unternehmen zusammenzuarbeiten.

Forscher haben wiederholt davor gewarnt, dass der naive Einsatz von KI-Tools in der Wissenschaft zu Fehlern, Fehlalarmen und nicht reproduzierbaren Ergebnissen führen könnte, was möglicherweise zu einer Verschwendung von Zeit und Mühe führt. Einige Wissenschaftler haben ihre Besorgnis darüber geäußert, dass in den Arbeiten, in denen KI eingesetzt wird, Forschungsergebnisse von schlechter Qualität enthalten sind.

„Maschinelles Lernen kann manchmal nützlich sein, aber KI wirft mehr Fragen auf, als sie hilft“, sagte Lior Shamir, Informatiker an der Kansas State University in Manhattan. „Wenn Wissenschaftler KI einsetzen, ohne zu verstehen, was sie tun, kann das zu falschen Entdeckungen führen.“

Auf die Frage, ob Zeitschriftenherausgeber und Peer-Reviewer in der Lage sind, Artikel, in denen KI zum Einsatz kommt, angemessen zu prüfen, waren die Antwortenden geteilter Meinung. Unter den Wissenschaftlern, die mit KI arbeiten, diese aber nicht direkt entwickeln, gab etwa die Hälfte an, es nicht zu wissen, ein Viertel hielt die Überprüfung für angemessen und ein Viertel für unzureichend. Menschen, die direkt an der Entwicklung von KI beteiligt sind, haben tendenziell eine positivere Einstellung zum Bearbeitungs- und Überprüfungsprozess.

Darüber hinaus fragte Nature die Teilnehmer nach ihrem Grad der Besorgnis hinsichtlich sieben möglicher Auswirkungen der KI auf die Gesellschaft, und zwei Drittel gaben an, sehr oder ziemlich besorgt zu sein. Auch autonome KI-Waffen und KI-gestützte Überwachung standen ganz oben auf der Liste. Am wenigsten beunruhigend war die Vorstellung, dass KI eine existenzielle Bedrohung für die Menschheit darstellen könnte.

Viele Forscher sind jedoch der Meinung, dass KI und LLMs zu einem unvermeidlichen Trend geworden sind. „ KI verändert die Welt grundlegend und wir müssen uns jetzt darauf konzentrieren, wie wir dafür sorgen können, dass sie mehr Vorteile als Probleme mit sich bringt“, schrieb Yury Popov, ein Spezialist für Lebererkrankungen am Beth Israel Deaconess Medical Center in Boston, Massachusetts.

Referenzlinks:

https://www.nature.com/articles/d41586-023-02980-0

Autor: Yan Yimi Herausgeber: Academic Jun