Künstliche Intelligenz fällt auf Fake-News herein – und verbreitet sie als real
- Eine erfundene Krankheit wurde von mehreren KI-Systemen zeitweise ernstgenommen und als echte Krankheit übernommen.
- Selbst absichtlich in die Fake-Texte eingebaute Hinweise auf die Fälschung reichten nicht aus, damit Künstliche Intelligenz die Inhalte als falsch erkennen konnte.
- Problematisch ist vor allem, dass KI-Antworten oft kompetent und vertrauenswürdig wirken, obwohl die Quellen und Aussagen fehlerhaft sein können.
- Fake-Informationen können durch Künstliche Intelligenz weiterverbreitet und sogar in echte wissenschaftliche Arbeiten übernommen werden.
- Der Fall zeigt, wie wichtig kritisches Prüfen und das Gegenchecken von KI-generierten Informationen ist. Nutzen Sie in Sachen Gesundheit besser hochwertige und vertrauenswürdige Informationen, die von Menschen verfasst und geprüft wurden - z. B. bei uns
Forscherin erfindet Krankheit als Test
Eine schwedische Forscherin hat mit einem ungewöhnlichen Experiment gezeigt, wie leicht sich moderne Künstliche Intelligenz durch falsche Informationen täuschen lassen kann.
Die Medizinforscherin Almira Osmanovic Thunström von der Universität Göteborg erfand bewusst eine Krankheit namens „Bixonimania“ und veröffentlichte dazu mehrere gefälschte wissenschaftliche Texte.
Die Krankheit existiert nicht. Dennoch behandelten verschiedene KI-Systeme die Informationen später zeitweise so, als handele es sich um reale medizinische Inhalte.
Der Fall wird inzwischen international diskutiert, weil er grundsätzliche Fragen zum Umgang mit künstlicher Intelligenz und wissenschaftlichen Informationen aufwirft. Ein ausführlicher Artikel erschien dazu am 7. April 2026 in Nature (1).
Bixonimania – die erfundene Augenkrankheit
Osmanovic Thunström nannte ihre erfundene Krankheit Bixonimania – eine Augenerkrankung, die sich infolge einer Belastung mit blauem Licht von Bildschirmen einstelle. Sie zeige sich durch Trockenheit am Auge und einer Hyperpigmentierung (starken Rosafärbung) der Augenlider.
Schon allein der Name der Erkrankung hätte Fachleute misstrauisch machen müssen. Denn „-mania“ wird im Allgemeinen nicht für Augenerkrankungen, sondern für psychiatrische Erkrankungen verwendet.
Absurde Hinweise sollten KI warnen
Die Forscherin gab sich sogar Mühe, ihre Täuschung möglichst deutlich zu machen und baute dazu zahlreiche absurde Hinweise in ihre Texte ein.
Die angeblichen Autoren arbeiteten an nicht existierenden Universitäten, in den Danksagungen tauchten Anspielungen auf „Star Trek“ und die „USS Enterprise“ auf. Teilweise stand sogar ausdrücklich im Text, dass das gesamte Paper erfunden sei.
Trotzdem erschienen die Beiträge auf wissenschaftlich wirkenden Plattformen und wurden dort öffentlich zugänglich gemacht. Die Forscherin wollte damit testen, ob große Sprachmodelle solche Inhalte übernehmen würden, sobald sie in einem akademisch wirkenden Umfeld auftauchen.
So fielen ChatGPT, Gemini & Copilot auf die Fake-Krankheit herein
Kurz nach der Veröffentlichung der Fake-Texte begannen verschiedene KI-Systeme offenbar damit, Bixonimania als reale Erkrankung einzuordnen, etwa ChatGPT, Microsoft Copilot, Gemini und Perplexity.
Wer aufgrund von Bildschirmarbeit trockene und gerötete Augen hatte und einer Künstlichen Intelligenz die Symptome beschrieb, konnte sodann den Hinweis auf Bixonimania erhalten – samt einer Empfehlung, deshalb doch einen Augenarzt aufzusuchen.
Besonders problematisch war dabei, dass die Antworten häufig professionell und medizinisch klangen. Kaum ein Nutzer konnte erkennen, dass die Informationen auf vollständig erfundenen Quellen beruhten.
Teilweise reagierten die Systeme später skeptischer auf Nachfragen zur Krankheit. Die beteiligten Unternehmen erklärten mittlerweile auch, ihre Modelle verbessert zu haben.
Dennoch zeigt das Experiment nach Ansicht vieler Forscher, wie anfällig KI-Systeme für wissenschaftlich wirkende Fehlinformationen sein können.
Auch Wissenschaftler übernahmen die erfundene Krankheit
Besonders beunruhigend ist, dass die erfundene Krankheit später sogar in echten wissenschaftlichen Veröffentlichungen auftauchte. Mehrere Autoren zitierten die Fake-Arbeiten offenbar.
Entweder übernahmen sie Titel und Autor der Arbeiten, ohne die Texte gelesen zu haben, die sie zitieren oder sie ließen ihre Artikel bzw. die Recherche dazu direkt von einer Künstlichen Intelligenz erledigen, die die Fake-Arbeiten als Quellen angab.
Dadurch entsteht nach Ansicht von Experten ein problematischer Kreislauf. Falsche Informationen gelangen in digitale Informationssysteme, werden von KI-Modellen übernommen und tauchen anschließend dann in echten wissenschaftlichen Arbeiten auf.
Letztendlich könnten sich auf diese Weise im Netz zunehmend echte und künstlich erzeugte Informationen vermischen.
Je stärker Künstliche Intelligenzen auf automatisch verarbeitete Inhalte zurückgreifen, desto schwieriger könnte es werden, vertrauenswürdige Informationen von manipulierten oder erfundenen Inhalten zu unterscheiden.
KI-Systeme präsentieren auch falsche Inhalte sehr überzeugend
Vor allem im medizinischen Bereich sind hier erhebliche Risiken verborgen. Menschen vertrauen gesundheitlichen Informationen häufig besonders stark – vor allem dann, wenn sie wissenschaftlich formuliert wirken.
Der Nature-Artikel verweist darauf, dass große Sprachmodelle professionell wirkende medizinische Texte offenbar leichter übernehmen und weiterverarbeiten als offensichtlich unseriöse Inhalte aus sozialen Netzwerken.
Hinzu kommt, dass Künstliche Intelligenzen Informationen oft mit großer sprachlicher Sicherheit präsentieren. Dadurch kann bei Nutzern leicht der Eindruck entstehen, die Aussagen seien überprüft oder wissenschaftlich abgesichert.
Forscher fordern deshalb strengere Prüfverfahren für KI-Systeme, insbesondere bei medizinischen Anwendungen.
KI-Unternehmen geloben Besserung
Die oben genannten KI-Unternehmen weisen zwar darauf hin, dass ihre Systeme laufend optimiert werden. OpenAI erklärte, neuere Modelle seien deutlich besser darin geworden, sichere und präzise medizinische Informationen bereitzustellen.
Google betonte indessen, man weise Nutzer ausdrücklich auf die Grenzen aktueller KI-Systeme bzw. -Chatbots hin.
Dies zeigt, dass künftig immer mehr Inhalte, die von Künstlicher Intelligenz generiert oder manipuliert wurden, in wissenschaftliche Datenbanken, Suchmaschinen und Sprachmodelle gelangen könnten – und sich Fehlinformationen dadurch immer weiter und schneller verbreiten.
Verantwortung übernehmen die entsprechenden Unternehmen nicht. Schließlich warnen sie ja stets deutlich, z. B. mit den Worten „ChatGPT kann Fehler machen. Überprüfe wichtige Informationen.“
Fazit: Immer kritisch bleiben bei KI-Antworten
Der Fall „Bixonimania“ zeigt, wie leicht wissenschaftlich wirkende Fehlinformationen in moderne KI-Systeme gelangen können. Besonders problematisch wird dies im Gesundheitsbereich, wo Nutzer den Antworten der Künstlichen Intelligenz häufig großes Vertrauen entgegenbringen.
Experten fordern deshalb strengere Kontrollen und einen kritischeren Umgang mit Informationen, die von Künstlicher Intelligenz stammen.
Wenn Sie selbst eine Künstliche Intelligenz nutzen, überschätzen Sie sie nicht, bleiben Sie immer skeptisch, fragen Sie den Chatbot zwei-/dreimal, ob er sicher ist, dass die Antwort korrekt ist, denken Sie mit und gehen Sie immer davon aus, dass die Künstliche Intelligenz Fehler machen kann – und genau das tut sie öfter als man denkt!
