Mithilfe einer KI-Software giftige Pilze erkennen? Nachdem der KI ein Fehler unterlaufen war, aßen die Menschen den giftigen Knollenblätterpilz und wären beinahe gestorben …

Heutzutage wird KI-Technologie in allen Bereichen unseres Lebens eingesetzt, doch einige Wissenschaftler warnen davor, die eigene Gesundheit irgendwelchen Apps anzuvertrauen, da diese wahrscheinlich Fehler machen und sogar Menschenleben kosten könnten.

Sehen wir uns einige der Risiken an, die KI mit sich bringt. ｜giphy

Im Jahr 2015 wurde eine Familie im US-Bundesstaat Oregon wegen einer Pilzvergiftung ins Krankenhaus eingeliefert. Der Grund, warum sie die giftigen Pilze aßen, war, dass die App auf ihren Mobiltelefonen ihnen sagte, dass diese Pilze essbar seien.

Im Jahr 2023 geschah dies erneut. In der Familie von William D. werden häufig Pilze gegessen und die Fähigkeit, Pilze zu identifizieren, wird praktisch von Generation zu Generation weitergegeben. William D. ist jedoch der Meinung, dass der Vorteil seiner Generation in der Nutzung von Smartphones liegt. Also machte er ein Foto von den Pilzen in seinem Garten und lud es in den „Pilzidentifizierer“ seines Telefons hoch, der ihm sagte, dass es sich um eine essbare Sorte handelte. Aber nachdem er es gegessen hatte, wurde er vergiftet.

Das örtliche medizinische Personal sagte, dass das Gift dieses Pilzes sehr stark sei und ein Pilz ausreiche, um vier Menschen zu töten. William D. hat vier gegessen. Glücklicherweise wurde er rechtzeitig ins Krankenhaus gebracht.

Bei dem Pilz, den William D. aß, handelte es sich tatsächlich um eine hochgiftige Art vom Typ Amanita phalloides. ｜Referenz 2

Rick Claypool, ein Forscher für öffentliche Angelegenheiten, verwendete ebenfalls KI-Software, um giftige Pilze zu identifizieren. Obwohl er keinen so schweren Vergiftungsfall wie im vorherigen Fall erlebt hatte, beschloss er, einen Bericht zu schreiben, um alle daran zu erinnern, den von KI identifizierten Pilzarten nicht so leicht zu vertrauen, als ihm klar wurde, wie leicht KI-Identifizierungen heutzutage Fehler unterlaufen können.

Heutzutage gibt es viele Software, die KI zur Pilzidentifizierung nutzt｜picturemushroom

In dem Bericht erwähnte er, dass die heutigen Social-Media-Plattformen tatsächlich dazu beitragen können, dass mehr Menschen die Problematik von Pilzen und Pilzvergiftungen verstehen. Außerdem würden Experten und erfahrene Leute auf der Plattform verschiedene hochwertige Informationen und Ressourcen bereitstellen.

Obwohl KI-Technologien in diesem Prozess eine große Hilfe sein können, ist es auch riskant, ihnen blind zu vertrauen.

Rick Van de Poll, ein Mykologie-Experte, sagte einmal, dass es selbst für Experten schwierig sei, allein anhand des Aussehens zu erkennen, ob Pilze essbar sind . Um sie zu unterscheiden, sind nicht nur Farbe und Form erforderlich, sondern manchmal auch der Geruchssinn und sogar ein Mikroskop.

Einige der im Bericht erwähnten Apps zur Pilzbestimmung. ｜Referenz 4

Im Jahr 2022 analysierte eine Gruppe von Forschern in Australien drei Apps, die angeblich KI zur Identifizierung von Wildpilzen nutzten, d. h. es der KI ermöglichten, die Toxizität von Pilzen allein anhand eines Fotos zu beurteilen. Als Ergebnis stellten sie fest, dass diese Apps giftige Pilze nur in etwa 50 % der Fälle genau identifizieren konnten. Das leistungsstärkste Modell hatte eine korrekte Erkennungsrate von 67 %.

Unter anderem besteht die Wahrscheinlichkeit, dass der APP den extrem giftigen Knollenblätterpilz nicht erkennt und ihn sogar ein- oder zweimal falsch identifiziert. Ein amerikanischer Arzt erwähnte, dass in den letzten Jahren einige Menschen, die Knollenblätterpilze konsumiert hatten, zwar überlebten, sich jedoch einer Lebertransplantation unterziehen mussten und sogar dauerhafte neurologische Probleme entwickelten. Daher seien „die Kosten einer schweren Vergiftung und eines möglichen Todes sehr real“.

Obwohl dieses Bild gut aussieht, wurde es tatsächlich von DALL-E 3 generiert und die Wörter darauf sind bedeutungslos. ｜Referenz 4

Im oben genannten Bericht wurde darauf hingewiesen, dass KI-Technologie zwar sehr nützlich ist, es jedoch zu ernsthaften Schäden führen kann, wenn man die Funktionen einer App vermarktet, ihre Vorteile übertreibt und ihre Risiken herunterspielt. Der Bericht empfiehlt daher, dass Unternehmen, die Apps bereitstellen, ihre Nutzer erstens darüber informieren sollten, wo KI-Technologie zum Einsatz kommt, und sie zweitens daran erinnern sollten, dass KI Fehler machen kann, und die entsprechende Verantwortung für diese Fehler übernehmen sollten.

Dass KI Fehler machen kann, liegt nicht nur daran, dass digitale Fotos zu ungenau zur Erkennung sind, sondern auch daran, dass es im Internet zu viele falsche Informationen gibt.

Ein Bericht von 404media stellte fest, dass einige KI-generierte Bücher, die bei Amazon erschienen und den Leuten beibrachten, „giftige Pilze zu kochen“, in Wirklichkeit Unsinn waren.

Noch gefährlicher ist, dass diese „Ratgeber zum Verzehr giftiger Pilze“ die Leser nicht einmal daran erinnern, dass das Buch von einer KI geschrieben wurde. Bei dem Autor scheint es sich um einen fiktiven Autor zu handeln. Es wird gesagt, dass dieser „falsche Experte“ 19 Bücher veröffentlicht hat …

Diese Bücher werden möglicherweise durch KI generiert, auf dem Cover ist jedoch kein Hinweis darauf zu finden. ｜Referenz 5

Einige KIs verwenden KI-Malerei, um einen Pilz anzuzeigen, wobei auch hier möglicherweise falsche Details angezeigt werden. Ermöglichen Sie Benutzern, falsche Informationen zu erhalten.

Die KI (links) sagt, dass ein Steinpilz so aussieht, aber ihre Darstellung ist tatsächlich ungenau. Rechts ist ein echtes Bild von Steinpilzen. ｜Referenz 4

Im Jahr 2023 entdeckten Reporter von Gizmodo außerdem, dass die KI von Google bei der Verwendung von Suchmaschinen lächerliche Antworten gab. Bei der Suche nach „Knollenblätterpilze zubereiten“ gibt die Suchmaschine die Antwort: Mit Wasser kann man die Giftstoffe herausfiltern…

Und diese Antwort ist tatsächlich falsch. Als Reaktion darauf erklärte Google damals, dass man bei der Behandlung dieser sensiblen Gesundheitsthemen größere Vorsichtsmaßnahmen ergreifen und den Einsatz bestimmter KI einschränken werde.

Die von der KI bereitgestellten Suchmaschineninhalte sind gefälscht und Experten warnen, dass der Verzehr von Knollenblätterpilzen auf diese Weise tödlich sein kann. ｜Referenz 7

Zusammenfassend lässt sich sagen, dass wir die KI-Technologie möglicherweise besser verstehen und regulieren müssen, um sie sinnvoll nutzen zu können, und dass wir die damit verbundenen Risiken nicht ignorieren dürfen.

Tatsächlich gibt es derzeit keine einfache, schnelle, wirksame und 100 % genaue Methode zur Identifizierung wilder giftiger Pilze . Die optimistische Voreingenommenheit der Menschen hinsichtlich ihrer Fähigkeit zur Selbstidentifikation ist eine wichtige Ursache für Tragödien.

Verweise

[1]https://www.oregonlive.com/pacific-northwest-news/2015/05/4_people_fall_ill_after_trusti.html

[2]https://edition.cnn.com/2023/12/29/health/mushrooms-poisoning-foraging/index.html

[3]https://edition.cnn.com/2023/12/29/health/mushrooms-poisoning-foraging/index.html

[4]https://www.citizen.org/article/mushroom-risk-ai-app-misinformation/?utm_source=VentureBeat&utm_campaign=cef30891a2-EMAIL_CA MPAIGN_2024_03_19_01_11_COPY_01&utm_medium=email&utm_term=0_-dff594d55a-%5BLIST_EMAIL_ID%5D&mc_cid=cef30891a2&mc_eid=6385387dc8

[5]https://www.404media.co/ai-generated-mushroom-foraging-books-amazon/

[6]https://www.tumblr.com/rebeccathenaturalist/726294696941518848/hey-there-fellow-naturalist-albeit-less?ref=404media.co

[7]https://gizmodo.com/google-search-ai-answers-slavery-benefits-1850758631

[8]https://www.tandfonline.com/doi/full/10.1080/15563650.2022.2162917

Planung und Produktion

Quelle: Bring Science Home (ID: steamforkids)

Autor: Skin

Herausgeber: He Tong

Korrekturlesen: Xu Lai, Lin Lin