Wenn künstliche Intelligenz in der Medizin versagt
Künstliche Intelligenz wird schon seit einigen Jahrzehnten in der medizinischen Forschung eingesetzt – etwa zur Auswertung von Bilddaten, zur Mustererkennung in Diagnostikdaten etc.
In den letzten Jahren – insbesondere nach 2015 – hat der Einsatz rasant zugenommen, da große Datenmengen zur Verfügung stehen (z. B. riesige Bildarchive, elektronische Gesundheitsakten), leistungsfähigere Rechner existieren und regulatorische bzw. kommerzielle Voraussetzungen geschaffen wurden.
Heute nun (2025) sind KI-Systeme nicht mehr nur im Laborstatus. Sie werden hingegen zunehmend im Klinik-Alltag eingesetzt. Ein Schwerpunkt liegt auf der Bilddiagnostik. Das heißt, dass KI-Systeme automatisch CT-, MRT- und Ultraschall-Bilder analysieren – und nicht nur das.
Künstliche Intelligenz wird auch zur „Entscheidungsunterstützung“ eingesetzt. Das heißt, sie schätzt Risiken ab und gibt Therapieempfehlungen.
Fachpublikationen betonen jedoch immer wieder, dass menschliche Kontrolle bei vielen KI-Anwendungen weiterhin wichtig ist, da Fehler oder Fehldiagnosen möglich sind. In der Praxis wird auf diese Kontrolle durchaus auch mal verzichtet, wie nachfolgender Bericht zeigt, den uns ein Leser zukommen ließ.
Unserer Redaktion liegen alle Daten, Namen, Befunde und Belege vor. Nachfolgend der Bericht des betroffenen Patienten:
Wie alles begann
Ende August 2025 bemerkte ich plötzlich Blut im Urin deutlich, über mehrere Tage hinweg. Ich ging sofort zu meinem Urologen. Dieser untersuchte mich gründlich und überwies mich zur weiteren Abklärung in ein Röntgeninstitut.
Kurz darauf wurde dort ein Abdomen-CT mit Kontrastmittel durchgeführt. Standarduntersuchung, wie es hieß. Ich rechnete mit einem kleinen Nierenstein oder vielleicht einer Entzündung.
Der Schockbefund
Am 1. September 2025 erhielt mein Urologe den schriftlichen Befund: „Beidseitiger Nierenbeckenausgussstein, nur operativ zu entfernen.“ Kein „vielleicht“, kein „möglicherweise“. Eine klare, angeblich gesicherte Diagnose.
Der Urologe organisierte sofort meine Einweisung in eine Klinik. Mir wurde erklärt, dass man mehrmals „an die Nieren müsse“, dass eine Operation unausweichlich sei. Ich saß da wie erstarrt.
Was bedeutet ein Nierenbeckenausgussstein?
Hinweis von Zentrum der Gesundheit: Ein Nierenbeckenausgussstein bezeichnet einen großen Nierenstein, der das gesamte Nierenbecken und einen Teil oder alle Kelche der Niere ausfüllt – also die Hohlräume, in denen sich der Urin sammelt, bevor er in den Harnleiter abfließt.
Dies ist eine ernsthafte Erkrankung, weil der Stein die Niere langfristig schädigen oder zerstören kann, wenn der Urinabfluss blockiert ist. Eine beidseitige Ausprägung wäre besonders kritisch, da beide Nieren betroffen wären, zumal die Gefahr eines akuten Nierenversagens besteht, wenn keine Behandlung erfolgt.
Ein Nierenausgussstein ist oft zu groß und zu verzweigt, um ihn mit Stoßwellen zu zerkleinern. Daher werden eine oder mehrere perkutane Nephrolitholapaxien durchgeführt, ein minimal-invasiver Eingriff, bei dem über kleine Zugänge in die Niere hinein operiert wird, um den Stein Stück für Stück zu entfernen.
Wenn der gesamte Stein nicht auf einmal entfernt werden kann, sind mehrere operative Eingriffe pro Niere erforderlich.
Nun geht es weiter mit dem Erfahrungsbericht unseres Lesers:
Zwei Wochen Todesangst
Von diesem Tag an lebte ich in ständiger Angst. Ich schlief kaum, spielte alle Risiken im Kopf durch: starke Blutungen, Infektionen, Narkosekomplikationen, mögliche dauerhafte Nierenschäden bis hin zur Dialysepflicht.
Ich sprach mit meiner Familie darüber, was passieren könnte, wenn etwas schiefgeht. Jeder Tag war ein Albtraum. Ich sagte Aufträge ab, verlor Einnahmen, das Geld wurde knapp. In meinem Hauptjob wurde mir gekündigt, da ich in der Probezeit in der Klinik war.
Am 10. September wurde eine dynamische Nierenszintigraphie durchgeführt – mit dem Ergebnis: Beide Nieren arbeiteten völlig normal. Trotzdem zweifelte niemand den CT-Befund an. Die Operation blieb geplant.
Was wird bei einer dynamischen Nierenszintigraphie gemacht?
Hinweis von Zentrum der Gesundheit: Bei einer dynamischen Nierenszintigraphie wird die Funktion der Nieren überprüft. Dafür spritzt man dem Patienten eine schwach radioaktive Substanz, die von den Nieren aus dem Blut gefiltert und mit dem Urin ausgeschieden wird.
Eine spezielle Kamera nimmt dann über etwa 20 bis 30 Minuten fortlaufend Bilder auf. So lässt sich genau verfolgen, wie gut jede Niere arbeitet und wie schnell der Urin abfließt.
Wenn – wie im Fall des Patienten – das Ergebnis lautet, dass beide Nieren völlig normal arbeiten, bedeutet das: Die Nieren sind gut durchblutet, der Urin fließt ungehindert ab und es gibt im Grunde kein Anzeichen für eine Blockade oder einen großen Stein.
Unser Leser berichtet weiter:
Zwischen zwei und vier Operationen pro Niere
Sechs Tage später saß ich im Besprechungsraum der Klinik zum Vorgespräch mit den Ärzten und dem Narkosearzt. Mir wurde erklärt, wie die Vollnarkose ablaufen wird – ruhig, sachlich, routiniert. Ich hörte zu, versuchte, die Fassung zu wahren.
Danach ging es weiter zum behandelnden Arzt. Dort zeigte man mir anhand der Nieren einer Figur, die auf dem Tisch stand, wie die „Steine“ entfernt werden sollten. „Zwischen zwei und vier Operationen pro Niere“, hieß es.
Nach jeder Operation würden Schläuche in den Harnleitern bleiben, bis komplett alles entfernt ist und alles verheilt sei. Vielleicht, sagte der Arzt, sei nach der dritten Operation Schluss. Vielleicht brauche es auch eine vierte. Dann müsse die Niere sich erst erholen.
Ich war drei Stunden in der Klinik, hörte zu, stellte Fragen, unterschrieb Papiere – innerlich leer.
* Hier finden Sie unseren Kochkurs für eine gesunde basische Ernährung
Der Arzt: „Ich sehe hier keine Steine!“
Danach wurde noch ein einfaches Röntgenbild gemacht. Doch während der Arzt die Aufnahmen ansah, veränderte sich sein Blick. „Ich sehe hier keine Steine!“ So klickte er sich durch die CT-Bilder, die bis dahin die Grundlage für alles gewesen waren.
Dann sagte er leise: „Ich sehe hier keine Steine.“ Ich dachte, ich hätte mich verhört. Der Arzt wiederholte: „Keine Steine. Nichts, was eine Operation rechtfertigt.“
Mir wurde heiß, mein Kopf rauschte. Zwei Wochen Todesangst – und plötzlich: nichts. Kein Befund. Kein Grund. Kein Eingriff. Ich saß da, sprachlos, unfähig zu reagieren.
Die KI hatte sich geirrt
Noch am selben Tag versuchte ich, das Röntgeninstitut telefonisch zu erreichen. Niemand wollte mit mir sprechen. Erst nach einer E-Mail erhielt ich einen Rückruf.
Ein Arzt sagte, man werde den Befund „noch einmal prüfen“. Dann fiel zum ersten Mal das Wort, das alles erklären und zugleich noch unbegreiflicher machen sollte:
„Wir setzen bei der Auswertung auch künstliche Intelligenz ein.“
Bis zu diesem Moment hatte niemand erwähnt, dass bei meiner Diagnostik eine KI beteiligt war. Am Abend desselben Tages erhielt ich den neuen Befund: „Kein Nachweis von Nierenkonkrementen beidseits.“
Begründung: Auf den „von der künstlichen Intelligenz berechneten Bildern“ sei Kontrastmittel fälschlich als Stein interpretiert worden. Mit anderen Worten: Die Maschine hatte sich geirrt. Und kein Mensch hatte das Ergebnis überprüft.
Stationäre Kontrolle
Trotz der Entwarnung wurde ich in die Klinik stationär aufgenommen – vom 18. bis 19. September. Eine Blasenspiegelung bis in beide Nierenbecken wurde durchgeführt, um andere Ursachen auszuschließen.
Das Ergebnis: „Keine Verletzungen. Keine Abflussstörung.“
Widersprüchliche Erklärungen
Nachträglich am 29. September 2025 erhielt ich vom Röntgeninstitut telefonisch eine neue Version der Begründung für die Fehldiagnose.
Jetzt hieß es, eine Kochsalzspülung habe die CT-Bilder verfälscht. Es sei möglicherweise eine Spritze oder sogar eine Mitarbeiterin verantwortlich. Nur schriftlich wolle man dies nicht mitteilen.
Ich glaube dem ganzen nicht und gehe davon, dass nun niemand dazu stehen möchte, dass man mit einer KI arbeitet und dieser so vertraut, dass ihre Diagnosen nicht überprüft werden.
Ich erkundigte mich daraufhin bei einem Experten. Ein erfahrener Radiologietechniker erklärte mir unmissverständlich:
„Kochsalz ist im CT unsichtbar. Es kann keine Strukturen beeinflussen oder Kontrastmittel beeinflussen. Wenn ein Bild schlecht ist, liegt der Grund im Timing, in der Injektion oder im Zugang aber sicher nicht an der Kochsalzspülung.“
Kochsalz ist radiologisch neutral. Es kann CT-Bilder weder verändern noch verfälschen. Damit sind die Erklärungen des Instituts wissenschaftlich nicht haltbar.
* Hier entlang geht es zu unserer veganen online Kochschule mit vielen verschiedenen Kochkursen
Warum wird eine Kochsalzlösung gespritzt?
Hinweis von Zentrum der Gesundheit: Kochsalzlösung wird beim Legen eines venösen Zugangs eingespritzt, um zu prüfen, ob die Kanüle korrekt in der Vene liegt und durchgängig ist. Wenn die Lösung ohne Widerstand läuft und keine Schwellung entsteht, ist der Zugang richtig platziert. Außerdem verhindert die Kochsalzlösung, dass die Vene oder der Zugang verstopft, bis ein Medikament verabreicht wird.
Manchmal wird auch nach dem Kontrastmittel eine kleine Menge Kochsalzlösung hinterhergespritzt, um sicherzustellen, dass das Kontrastmittel vollständig in den Blutkreislauf gelangt (statt in der Kanüle oder der Vene zu bleiben). Eine solche Kochsalzspülung verbessert eher die Bildqualität – sie verfälscht sie also nicht.
Unser Leser berichtet weiter:
Rechtliche Schritte
Die zuständige Ärztekammer wurde informiert. Die Rechtsabteilung bearbeitet den Fall unter dem Aktenzeichen AZ: … (alle Details sind uns – ZDG-Redaktion – bekannt).
Seit dem 29. September 2025 liegen neue Informationen vor, die mir bislang jedoch nicht schriftlich mitgeteilt wurden.
Ich bin kein Gegner neuer Technologien. Ich glaube an Fortschritt, wenn er verantwortungsvoll eingesetzt wird. Aber dieser Fall zeigt, was passiert, wenn künstliche Intelligenz in der Medizin ohne Kontrolle eingesetzt wird und wenn niemand Verantwortung übernimmt.
Zwei Wochen Angst, schlaflose Nächte, existenzielle Sorgen, fast eine unnötige Operation, alles ausgelöst durch ein ungeprüftes Ergebnis einer Maschine.
Wenn Technik Fehler macht, müssen Menschen sie erkennen. Wenn Menschen blind vertrauen, bezahlen am Ende die Patienten den Preis.
Technik darf den ärztlichen Blick niemals ersetzen. Verantwortung bleibt beim Menschen.
Ich habe in diesen Wochen gelernt, dass Vertrauen nicht bedeutet, blind zu glauben, sondern zu hinterfragen, auch wenn alle sagen, das Ergebnis sei sicher. Maschinen können rechnen, aber nur Menschen können Verantwortung tragen.
Der gefährlichste Moment in der Medizin ist nicht der technische Fehler, sondern der Augenblick, in dem niemand mehr hinschaut, weil eine Maschine angeblich recht hat.
Diese Erfahrung hat mein Leben verändert
Nicht, weil mir körperlich etwas passiert ist, sondern weil ich verstanden habe, wie schnell Vertrauen, Sicherheit und Kontrolle verloren gehen können, wenn wir den Maschinen mehr glauben als den Menschen. Technik kann Großartiges leisten, aber sie darf niemals den menschlichen Blick ersetzen.
Ich nehme mir das Recht, Fragen zu stellen. Nicht, um zu verurteilen, sondern um aufzuklären und Verantwortung einzufordern. Eins ist ganz klar: Verantwortung beginnt genau dort.
Diagnosen entstehen nicht auf Monitoren, sondern durch Verantwortung, Erfahrung und Gewissen.
Wir alle – ÄrztInnen, PatientInnen und EntwicklerInnen – tragen gemeinsam Verantwortung dafür, dass Fortschritt nicht zur Gefahr wird. Künstliche Intelligenz kann helfen, aber sie darf niemals der letzte Entscheider sein.
Medizin beginnt mit Empathie und endet mit Verantwortung. Beides kann keine Maschine übernehmen.
Mit freundlichen Grüßen, (Name der Redaktion bekannt)
Fazit: Diagnosen hinterfragen – Zweitmeinung einholen
Diagnosen können daher auch einmal hinterfragt werden, vor allem wenn nicht alle Untersuchungsergebnisse übereinstimmen. Besonders wenn größere Operationen anstehen, ist auch das Einholen einer Zweitmeinung gerechtfertigt.
Bleiben Sie als Patient daher immer aufmerksam und fragen Sie im Zweifel lieber einmal zu oft nach als zu wenig. Verlassen Sie sich nicht auf eine einzelne Aussage oder eine einzelne Klinik. Denn im Stress des Klinik-Alltags kann durchaus auch einmal etwas übersehen oder vergessen werden. Es geht um Ihren Körper und um Ihre Gesundheit!
