Auch wenn eindeutig klar wurde, dass die vermeintliche Augenkrankheit erfunden ist, hielt sie in die Antworten der einschlÀgigen LLMs Einzug
Der Name klingt ausgedacht â und er ist es auch, genauso wie das gesamte Krankheitsbild. Dennoch fabulierten nur kurze Zeit nach ihrer Publikation die einschlĂ€gigen KI-Chatbots von der Augenkrankheit mitsamt Folgen und Ursachen, als wĂ€re sie real. Es wirft ein schlechtes Licht auf die Anwendung von KI im Gesundheitsbereich.
Die Schöpferin, wenn man so möchte, von Bixonimanie ist Almira Osmanovic Lindström. Sie ist medizinische Forscherin an der UniversitĂ€t Göteborg und wollte herausfinden, ob Large Language Models (LLMs) medizinische Misinformation einfach schlucken und als seriöse medizinische Beratung wiedergeben wĂŒrden. Sie taten es.
Wie Osmanovic Lindström gegenĂŒber dem Wissenschaftsmedium Nature erklĂ€rte, sei ihr die Idee fĂŒr das Experiment gekommen, als sie ihren Studierenden erklĂ€rte, wie KI-Systeme ihr âWissenâ formulieren und wie dieses durch verschiedene Prompts beeinflusst werden kann. Den Namen Bixonimanie habe die Wissenschaftlerin gewĂ€hlt, weil er âlĂ€cherlich klangâ, wie sie erzĂ€hlt. AuĂerdem sollte er bereits den ersten Hinweis enthalten: âIch wollte jedem Arzt und jedem medizinischen Personal ganz klar machen, dass es sich um eine erfundene Erkrankung handelt, denn keine Augenerkrankung wĂŒrde als âManieâ bezeichnet werden â das ist ein psychiatrischer Begriff.â
Die Hauptautorenschaft schrieb sie einem fiktiven Forscher namens Lazljiv Izgubljenovic zu, dessen Profilbild sie per KI erstellte.
So arbeitet Izgubljenovic etwa angeblich an einer nicht existierenden UniversitĂ€t namens âAsteria Horizon Universityâ in der Stadt Nova City in Kalifornien, die ebenfalls erfunden ist.
In der Danksagung einer der Arbeiten wird âProfessorin Maria Bohm von der Starfleet Academyâ honoriert, die âmit ihrem Wissen und ihrem Labor an Bord der USS Enterprise zu dieser Arbeit beigetragenâ habe. In beiden Arbeiten heiĂt es zudem, sie seien von der âProfessor Sideshow Bob Foundationâ finanziert worden, die fĂŒr ihre âArbeit im Bereich fortgeschrittener Taschenspielertricksâ gelobt wird. ZusĂ€tzlich seien die Werke Teil einer gröĂeren Förderinitiative der âUniversity of Fellowship of the Ring and the Galactic Triadâ.
Schon frĂŒh in der Arbeit finden sich Aussagen wie âFĂŒr die Expositionsgruppe wurden fĂŒnfzig fiktive Personen im Alter zwischen 20 und 50 Jahren rekrutiertâ oder âDieses ganze Paper ist frei erfundenâ â deutlicher geht es nicht.
Diese falschen medizinischen Angaben besorgen Fachleute wie Alex Ruani, Doktorandin im Bereich Gesundheitsdesinformation am University College London: âDas ist ein Paradebeispiel dafĂŒr, wie Falsch- und Desinformation funktionieren. Es sieht lustig aus, aber (âŠ) wir haben hier ein Problemâ, erklĂ€rt sie gegenĂŒber Nature. Dies in einer Zeit, in der mehr und mehr Anwendungen an der Schnittstelle von Medizin und KĂŒnstlicher Intelligenz auf den Markt kommen â etwa ChatGPT Health.
