Die Phantomkrankheit der KI: Was ist Bixonimania? Wie unterscheiden wir Realität und Fiktion?
In diesem Artikel
Das digitale Trojanische Pferd der wissenschaftlichen Literatur: Die von künstlicher Intelligenz erfundene fiktive Krankheit
Nature News Feature, 2026 · doi: 10.1038/d41586-026-01100-y
Im Laufe der Medizingeschichte wurden nicht existierende Krankheiten gelegentlich für real gehalten. Diese Irrtümer waren jedoch das Ergebnis unzureichenden Wissens, fehlerhafter Beobachtungen oder des begrenzten Verständnisses der jeweiligen Zeit. Heute nimmt die Bedrohung eine viel heimtückischere Form an: Modelle künstlicher Intelligenz können eine von Anfang an als fiktiv konzipierte Krankheit als vermeintliche Realität in die wissenschaftliche Literatur einbringen und Millionen von Nutzern präsentieren. Der am 7. April 2026 in Nature veröffentlichte und hier besprochene Artikel zeigt, dass dieses Risiko längst keine bloße Möglichkeit mehr ist, sondern bereits eingetretene Realität.
Bixonimania: Die Geburt einer Krankheit, die es nie gab
Anfang 2024 tauchte ein Begriff auf, der zuvor in der medizinischen Literatur nie erwähnt worden war: Bixonimania. Angeblich handelte es sich um ein seltenes Syndrom mit Veränderungen der Augenlidpigmentierung und chronischem Juckreiz infolge einer längeren Exposition gegenüber dem von digitalen Bildschirmen ausgestrahlten blauen Licht (blue light).
Oben: KI-generierte Bilder einer fiktiven Krankheit namens Bixonimania. Quelle: Preprints.org https://doi.org/qzm4 (2024)
In Wirklichkeit hat es eine solche Krankheit nie gegeben. Es war eine gezielte und kontrollierte Falle, die medizinische Forschende der Universität Göteborg entwickelt hatten, um die Anfälligkeit großer Sprachmodelle (LLM — large language model) für Desinformation zu messen. Die Ergebnisse waren in einem Ausmaß verblüffend, das selbst die Forschenden nicht vorhergesehen hatten.
Wie wurde die falsche Krankheit konstruiert?
Die Forschenden gingen in einer systematischen Abfolge von Schritten vor, um die fiktive Krankheit in der akademischen Welt zu verankern:
In der Danksagung des Artikels wurden die „Starfleet Academy und die Besatzung der USS Enterprise (Star Trek)“ sowie als Finanzierungsquelle die „Professor-Figüran-Bob-Stiftung“ genannt. Solche Details würde ein aufmerksamer menschlicher Leser innerhalb weniger Sekunden bemerken. Die Modelle künstlicher Intelligenz ignorierten diese Signale vollständig.
Was sagten die Modelle?
Nur wenige Wochen nach dem Hochladen der gefälschten Artikel ins Internet begannen die weltweit meistgenutzten Modelle künstlicher Intelligenz, Bixonimania bei Fragen zu blauem Licht und Augengesundheit als reales medizinisches Krankheitsbild zu nennen.
„Bixonimania ist tatsächlich ein interessantes und relativ seltenes Krankheitsbild“ — so beschrieb es die Krankheit, als wäre sie eine klinische Realität.
Es stellte Bixonimania als „eine Folge der Exposition gegenüber blauem Licht“ dar und empfahl dem Nutzer, einen Augenarzt aufzusuchen.
Es bezifferte sogar die Häufigkeit der Krankheit: ein Fall unter 90000 Menschen — so beschrieb es ein seltenes Syndrom.
Die Modelle stuften den im akademischen Format verfassten Text aufgrund seiner statistischen Struktur und sprachlichen Muster als „zuverlässige Quelle“ ein. Ohne das Kontextverständnis, das zur Deutung des Starfleet-Witzes nötig wäre, hielten diese Systeme alles für wahr, was wissenschaftlich aussah.
Schematische Darstellung, wie falsche Informationen dauerhaft in die wissenschaftliche Literatur eindringen
Der eigentliche Skandal: Falsche Informationen gelangten in eine begutachtete Zeitschrift
Der Fall Bixonimania blieb kein bloßer „Chatbot-Fehler“. Der schwerwiegendste Aspekt ereignete sich im wissenschaftlichen Publikationswesen. Forschende eines medizinischen Instituts in Indien führten in einem Artikel, den sie auf der angesehenen akademischen Plattform Cureusveröffentlichten, Bixonimania als reales klinisches Krankheitsbild an.
Dies bewies nur eines: Beim Schreiben ihres eigenen Artikels hatten diese Forschenden die Literaturrecherche der KI überlassen und die von ihr genannten Quellen, ohne sie überhaupt zu lesen und ohne den Starfleet-Witz darin zu bemerken, direkt verwendet. Naturemachte darauf aufmerksam, woraufhin der Artikel im März 2026 zurückgezogen wurde (retracted).
Warum tappte künstliche Intelligenz in diese Falle?
Die Antwort liegt in der grundlegenden Funktionslogik großer Sprachmodelle. Diese Modelle verarbeiten Texte nicht durch Verstehen , sondern durch das Erkennen statistischer Muster. Die Formel eines wissenschaftlichen Artikels — Titel, Zusammenfassung, Methoden, Diskussion, Literaturverzeichnis, Danksagung — wird von der KI als „Zuverlässigkeitssignal“ wahrgenommen. Die logische Stimmigkeit des Inhalts oder die kontextuelle Absurdität eines Ausdrucks wie „Starfleet Academy“ werden bei diesem Prozess nicht herausgefiltert.
Ein menschlicher Leser würde innehalten, sobald er in der Danksagung den Namen eines fiktiven Raumschiffs sieht. Die künstliche Intelligenz verarbeitete diesen Ausdruck dagegen wie den Namen einer realen Institution, weil die syntaktische Struktur des Satzes mit anderen akademischen Danksagungen identisch war.
Vergleich der Reaktionen auf Warnsignale im Bixonimania-Artikel
Was bedeutet das für die Medizin?
Bixonimania war ein bewusstes und nachvollziehbares Experiment; es wurde erkannt und korrigiert. Die eigentliche Frage lautet: Wie viele bleiben unbemerkt?
- Patienten oder Angehörige können mit fiktiven Diagnosen konfrontiert werden
- Kliniker können bei KI-gestützten Literaturrecherchen irregeführt werden
- Unnötige diagnostische Tests oder Fehlzuweisungen können die Folge sein
- Zurückgezogene Artikel verbreiten sich weiterhin im Internet
- Rückkopplungsschleife: KI verstärkt ihre selbst erzeugte Falschinformation
- Erosion des akademischen Vertrauens; unzureichende Begutachtungsverfahren
- Langfristige Qualitätsverschlechterung der medizinischen Literatur
- Schwindendes gesellschaftliches Vertrauen in KI-Werkzeuge
Die Rückkopplungsschleife: Falsches nährt Falsches
Die gefährlichste Dimension dieses Problems liegt in einer systemischen Dynamik, die über einen einzelnen Fehler hinausgeht. Große Sprachmodelle lernen und erzeugen Antworten, indem sie vorhandene Internetinhalte durchsuchen. Sobald ein gefälschter Artikel auf einer akademischen Plattform erscheint und ein KI-Modell ihn für wahr hält und in seinen Antworten wiedergibt, ist der nächste Schritt unvermeidlich: Ein anderer Forscher verwendet die KI-Antwort als Quelle und veröffentlicht einen neuen Artikel. Bei der nächsten Suche erfasst die KI auch diesen neuen Artikel als „bestätigte Information“. Der Kreislauf schließt sich; mit jeder Runde wird die Falschinformation etwas stärker legitimiert und tiefer verankert.
Schutz: Ein praktischer Leitfaden
🔎 DIE QUELLE SELBST LESEN
Wenn eine KI einen Artikel empfiehlt oder zitiert, rufe die Quelle selbst auf und lies sie vollständig, einschließlich Danksagung, Angaben zu den Autoren und Finanzierung. KI kann den Vorgang des Lesens nicht ersetzen.
✅ DOI UND ZEITSCHRIFT ÜBERPRÜFEN
Prüfe, ob der DOI jeder Literaturangabe tatsächlich existiert und ob die zitierte Zeitschrift ein anerkanntes, begutachtetes Publikationsorgan ist. Denke daran, dass Preprints noch keine Begutachtung durchlaufen haben.
⚠ VORSICHT BEI DER VERWENDUNG VON KI ZUR LITERATURRECHERCHE
KI-gestützte Literaturrecherchen können den Forschungsprozess beschleunigen; statt den erzeugten Literaturverzeichnissen blind zu vertrauen, muss jedoch jede einzelne Angabe gesondert überprüft werden. Halluzinationen — das Erfinden nicht existierender Quellen — sind bei allen großen Modellen ein dokumentiertes Problem.
🛡 DIE FÄHIGKEIT ZUM KRITISCHEN LESEN BEWAHREN
Wie weit sich digitale Werkzeuge auch entwickeln: Den Kontext eines Textes, seine Widersprüche und logischen Fehler zu erkennen, bleibt die wertvollste Funktion menschlicher Urteilskraft. Im Zeitalter künstlicher Intelligenz wird diese Fähigkeit noch entscheidender.
🎓 DROZDOGAN Akademie — Kommentar und Diskussion
KÜNSTLICHE INTELLIGENZ UND WISSENSCHAFTLICHE INTEGRITÄT · BEWERTUNG
Die Bedeutung dieses Experiments
Das Bixonimania-Experiment stellt den ersten kontrollierten Beleg dar, der eine bereits heute tatsächlich bestehende Anfälligkeit dokumentiert und kein mögliches zukünftiges Risiko. Die Forschenden bauten absichtlich offensichtliche Fehler ein, und dennoch tappten sowohl die Modelle künstlicher Intelligenz als auch eine wissenschaftliche Zeitschrift in diese Falle. Damit wird klar, dass „KI-Halluzinationen“ keine bloß theoretische Sorge mehr sind, sondern ein praktisches Problem der Patientensicherheit geworden sind.
Stärken des Experiments
Die größte methodische Stärke der Studie liegt darin, dass die Falle zugleich erkennbar war (der Starfleet-Witz) und überzeugend genug, um unentdeckt zu bleiben. Diese Doppelstruktur belegt, dass der Irrtum systemisch und nicht zufällig ist. Dass mehrere Modelle in dieselbe Falle tappten, zeigt außerdem, dass das Problem nicht auf ein bestimmtes Modell beschränkt ist. Die Einbeziehung des Cureus-Falls ist besonders wertvoll, weil sie die Aussage vom bloßen KI-Verhalten auf Schwachstellen im wissenschaftlichen Publikationswesen ausweitet.
Einschränkungen und offene Fragen
Die wichtigste Einschränkung des Experiments besteht darin, dass die Falle bewusst und absichtlich konstruiert wurde; unter realen Bedingungen tragen Falschinformationen keine so deutlichen „Warnflaggen“, sondern können wesentlich überzeugender und uneindeutiger sein. Die Schätzungen des Experiments sind daher vermutlich optimistisch; das tatsächliche Risiko könnte größer sein. Offen bleibt auch, ob die Modelle dieses spezielle Muster mit der Zeit erlernen werden und wie widerstandsfähig sie gegenüber raffinierterer Desinformation sein werden.
Auswirkungen auf die klinische und institutionelle Praxis
Für alle medizinischen Fachrichtungen, insbesondere die Onkologie, haben diese Befunde eine klare Botschaft: KI-Werkzeuge können die Literaturrecherche beschleunigen, entbinden jedoch nicht von der Verantwortung, die Quelle zu überprüfen. Wissenschaftliche Zeitschriften müssen ihre Begutachtungsverfahren inzwischen um zusätzliche Ebenen ergänzen, die von KI erzeugte oder auf KI beruhende Inhalte erkennen sollen. Auf institutioneller Ebene müssen Schulungen zur „KI-Kompetenz“ für Forschende zu einem Standardbestandteil werden.
Fragen für die Zukunft
Die entscheidenden Fragen, die derzeit auf Antworten warten, lauten: Wie viele KI-gestützte falsche Literaturangaben kursieren bereits in der wissenschaftlichen Literatur, und lassen sie sich rückwirkend erkennen? In welchem Ausmaß könnte eine systematische Desinformationskampagne, die in die Trainingsdaten großer Sprachmodelle eindringt, die medizinische Wissensbasis dauerhaft schädigen? Können Zeitschriftenverlage einen branchenweiten Standardrahmen für eine KI-basierte Inhaltsprüfung schaffen? Diese Fragen stehen kurz davor, an die Spitze der vorrangigen Themen zu rücken, zu denen die medizinische Wissenschaft im kommenden Jahrzehnt Antworten finden muss.
Wissenschaftliche Quellen
- Stokel-Walker C. Scientists invented a fake disease. AI told people it was real. Nature News Feature, 2026. doi: 10.1038/d41586-026-01100-y
- Thunström AO et al. Das Bixonimania-Experiment — Projektmethodik und Analyse der LLM-Antworten. Universität Göteborg, 2024–2026.
- Athaluri SA, Murali SV, Kesapragada VSRK et al. Exploring the boundaries of reality: investigating the phenomenon of artificial intelligence hallucination in scientific writing through ChatGPT references. Cureus 2023;15:e37432. doi: 10.7759/cureus.37432
- Bender EM, Gebru T, McMillan-Major A, Shmitchell S. On the dangers of stochastic parrots: can language models be too big? Proceedings of FAccT 2021:610–623.
- Alkaissi H, McFarlane SI. Artificial hallucinations in ChatGPT: implications in scientific writing. Cureus 2023;15:e35179.
Dieser Artikel wurde unter Einsatz verschiedener redaktioneller Werkzeuge, darunter künstliche Intelligenz, erstellt. Vor der Veröffentlichung wurde er von menschlichen Redakteuren geprüft.
War dieser Artikel hilfreich?
Ihre Rückmeldung hilft uns, unsere Inhalte zu verbessern.
Leserkommentare
Kommentar verfassen
Ihr Name und Ihr Kommentar werden erst nach Freigabe durch die Administration veröffentlicht. Ihre E-Mail-Adresse wird Besuchern niemals angezeigt.
Schreiben Sie den ersten Kommentar.