17/09/2026
Gadget oder Gamechanger?
Ob medizinische KI Vertrauen gewinnt und ihr Potenzial entfalten kann, hängt nicht allein von ihrer technischen Leistungsfähigkeit ab. Ebenso entscheidend ist, welche Werte ihr Verhalten prägen.
Isaac Kohane und Arjun (Raj) Manrai wiesen in Nature Medicine zuletzt auf ein grundsätzliches Problem hin: Solange unklar bleibt, welche Werte medizinische KI-Modelle leiten, wird dies Vertrauen mindern und ihre Anwendung bremsen. Ob und wie stark KI von „unseren“ Werten abweicht, können wir allerdings erst beurteilen, wenn wir diese Werte selbst explizit gemacht haben.
Diese normative Frage hat eine methodische Schwester: Wie belastbar ist eigentlich der „Goldstandard“, an dem wir medizinische KI messen?
KI-Systeme werden zu Recht intensiv auf Fehler, Verzerrungen und mangelnde Übertragbarkeit geprüft. Als Referenz dienen dabei jedoch meist ärztliche Bewertungen oder ein Expertenkonsens. Doch auch diese menschliche „Ground Truth“ ist nicht frei von Unsicherheit: Diagnostische Einschätzungen können durch Unterschiede zwischen Beobachtern, kognitive Verzerrungen, Arbeitsbelastung oder unvollständige Informationen beeinflusst werden.
In ihrem neuen Viewpoint „The benchmark illusion“ in eClinicalMedicine nehmen Dr. Christian Pohlkamp und Prof. Dr. med. Dr. phil. Torsten Haferlach vom MLL MVZ genau diese Asymmetrie in den Blick. Anhand von Erkenntnissen aus Radiologie, Pathologie und Hämatologie sowie zu medizinischen Sprachmodellen zeigen sie: Bei klar definierten Aufgaben kann KI bereits heute menschliche Leistungen erreichen oder übertreffen. Das bedeutet jedoch ausdrücklich nicht, ärztliche Expertise zu ersetzen.
Vielmehr plädieren die Autoren für einen neuen Bewertungsrahmen:
📌 Unsicherheiten und Fehler müssen auf beiden Seiten berücksichtigt werden.
📌 Entscheidend sind patientenrelevante Ergebnisse – nicht allein die Übereinstimmung mit menschlichen Einschätzungen.
📌 Im Mittelpunkt sollte künftig das Zusammenspiel von Mensch und KI stehen.
Die entscheidende Frage lautet also nicht: Wer ist besser – Mensch oder Maschine? Sondern: An welchen Werten und Ergebnissen messen wir medizinische Qualität und wie können sorgfältig validierte KI-Systeme dazu beitragen, Entscheidungen sicherer, konsistenter und patientenzentrierter zu machen?
Zum Viewpoint:
🔗 https://doi.org/10.1016/j.eclinm.2026.104184
Ergänzend die Quelle Kohane/Manrai:
🔗 https://doi.org/10.1038/s41591-025-04050-6
