„Unsere Welt wird zunehmend digitalisiert … Wir sollten uns trotz der unglaublichen Erfolge der computerisierten Medizin vor Augen halten, dass digitale Modelle und Techniken niemals den Menschen in seiner Komplexität und Dynamik erfassen und beschreiben können. Die absolute Sachlichkeit und Neutralität des Computers sollte immer mit dem entscheidenden Quantum an Gefühl und Intuition des erfahrenen Mediziners gekoppelt werden.“

Mit diesem Zitat leitete ich am 31.März als KKC-Vertreter meinen Vortrag zur Mensch-Maschine-Schnittstelle auf der zweitägigen KH-IT-Jahrestagung „Medizintechnik und innovative Geräte in der Krankenhaus-IT“ ein. Zum Erstaunen der 100 Teilnehmer stammt dieses Zitat aus einem Editorial mit dem Titel: „Der digitale Patient – eine Summe aus Bits und Bytes“ – mit dem Erscheinungsjahr 1994. Auch nach 28 Jahren ist diese Frage aktuell, insbesondere angesichts der rasanten Entwicklungen in Big Data, Robotik, Gentechnologie und Künstlicher Intelligenz.

Der kritische KKC-Beitrag sollte eine gesunde Skepsis bei den IT-Entwicklern und Anwendern verstärken, die bei aller Technikfaszination die Grenzen der Anwendbarkeit digitaler Technologien beim Menschen hinterfragt. Die interdisziplinäre Kommunikation der IT-ler mit Medizinern, Anwendern und Patienten sowie deren Angehörigen muss bei der Entwicklung und Bereitstellung der technischen Innovationen sichergestellt sein. Denn das blinde Vertrauen in Big Data Analysen und Digitalen Zwillingen verschleiert oft den Blick auf medizinische, kaum quantifizierbare Einflüsse, die in der Psyche des Menschen begründet liegen und Krankheitsverläufe massiv beeinflussen können.

Vor allem bei den kaum noch überschaubaren KI-Anwendungen sind viele Fragen offen, seitdem Ende 2021 zwei Studien von untersuchten 232 bzw. 415 KI-Prognosetools zu einem vernichtenden Ergebnis kamen: kein einziges war für einen klinischen Einsatz im Rahmen der Corona-Pandemie geeignet! Der Hauptgrund war die Bewertung falscher Annahmen und ungeeignete Daten in den Trainings- und Testphasen der Systeme, weil KI-Forscher ohne medizinisches Fachwissen oder Mediziner ohne KI-Erfahrung die Software entwickelt hatten.

Einige Beispiele aus der Gutachterpraxis belegten die Notwendigkeit, auch Grundsätze der medizinischen Ethik zu beachten, um nicht allein von einer reinen Datenbeschreibung des Menschen auszugehen, sondern vielmehr von einem lebendigen Organismus, der nicht normierbar ist. Ein Krankenhaus ist eben keine Reparaturfabrik, die schwarze Zahlen nachweisen muss.

Beitrag von Manfred Kindler, KKC-Präsident