Forschende der Technischen Universität München haben kritische Datenschutzschwachstellen in KI-Systemen für die Medizin entdeckt. Die Erkenntnisse sind brisant: Medizinische KI-Modelle, die auf sensiblen Patientendaten trainiert wurden, können unter bestimmten Umständen Rückschlüsse auf individuelle Datensätze zulassen. Was bedeutet das für Krankenhäuser, Pflegeeinrichtungen und Gesundheitsunternehmen in Bayern?
Was die TUM-Forschung herausgefunden hat
KI-Systeme in der Medizin werden auf großen Datensätzen trainiert, die Patienteninformationen enthalten: Diagnosen, Laborwerte, Bildgebungsdaten, Behandlungsverläufe. Die TUM-Forschenden konnten zeigen, dass durch sogenannte Membership-Inference-Angriffe unter bestimmten Bedingungen festgestellt werden kann, ob ein bestimmter Datensatz beim Training verwendet wurde. Das ist ein erhebliches Datenschutzproblem, weil es im Extremfall ermöglicht, auf die Krankengeschichte einer Person zu schließen, obwohl nur das fertige KI-Modell zugänglich ist.
Die Schwachstellen betreffen nicht alle medizinischen KI-Systeme gleich stark, aber die Forschung zeigt, dass das Problem systematisch ist und nicht ignoriert werden kann. Wer KI-Systeme mit sensiblen Gesundheitsdaten trainiert oder betreibt, trägt eine erhebliche Verantwortung.
Was das für bayerische Gesundheitsunternehmen bedeutet
Für Krankenhäuser, Arztpraxen und Pflegeeinrichtungen in Bayern ist der Schutz von Patientendaten eine gesetzliche Pflicht und eine ethische Grundvoraussetzung. Der Einsatz von KI-Systemen in der Diagnostik, Behandlungsplanung oder Verwaltung stellt neue Anforderungen an Datenschutzkonzepte. Wer KI einsetzt, ohne die zugrunde liegenden Datenschutzrisiken zu kennen und zu adressieren, riskiert Bußgelder nach DSGVO und Reputationsschäden.
Praktisch bedeutet das: Vor der Einführung eines medizinischen KI-Systems sollte eine sorgfältige Datenschutz-Folgenabschätzung erfolgen. IT-Sicherheitsexperten und Datenschutzbeauftragte müssen frühzeitig eingebunden werden. Und Anbieter von KI-Lösungen sollten konkret auf die Sicherheitsarchitektur ihrer Systeme angesprochen werden. Den regulatorischen Rahmen für IT-Sicherheit beleuchtet der Artikel KRITIS-Dachgesetz: Was das neue IT-Sicherheitsgesetz bedeutet. Den Hintergrund zu Cyberangriffen in Bayern liefert Mindestens jeder fünfte Betrieb in Bayern war Ziel eines Cyberangriffs.
Was die Forschung für die KI-Entwicklung bedeutet
Die TUM-Erkenntnisse sind auch ein Beitrag zur sicheren Entwicklung medizinischer KI. Technische Gegenmaßnahmen wie Differential Privacy, das statistische Rauschen in Trainingsdaten einbettet, können das Risiko von Membership-Inference-Angriffen reduzieren. Solche Methoden sind bekannt, werden aber noch nicht konsequent eingesetzt. Die Forschung schafft Bewusstsein und zeigt Lösungswege auf.
Quelle: Zusammenfassung nach Angaben der Technischen Universität München, aktuelle Pressemitteilung Juli 2026 unter https://www.tum.de/aktuelles/alle-meldungen
Bildquellen
- tum-datenschutz-medizin-ki: Pexels / panumas nikhomkhai