Anmelden
Medizin-KI gefährdet Patientendaten – Forscher fordern neue Standards
Der Beitrag Medizin-KI gefährdet Patientendaten – Forscher fordern neue Standards erschien zuerst beim Online-Magazin BASIC thinking. Über unseren Newsletter UPDATE startest du jeden Morgen bestens informiert in den Tag.
Künstliche Intelligenz verändert die Diagnose von Krankheiten. Doch neue Analysen offenbaren Sicherheitslücken bei der Verarbeitung sensibler Daten mittels KI in der Medizin. Es lässt sich etwa mit großer Genauigkeit nachweisen, ob die Daten einer bestimmten Person zum Training eines Modells verwendet wurden. Das birgt konkrete Gefahren für den Alltag und die digitale Sicherheit von Patienten.
Ein internationales Forscherteam der Technischen Universität München, des Hasso-Plattner-Instituts und des Imperial College London hat die Sicherheit von künstlicher Intelligenz im Gesundheitswesen untersucht. Die im Fachmagazin Nature veröffentlichten Ergebnisse zeigen ein erhebliches Risiko für Patienten, deren Daten für das Training verwendet wurden. In der Untersuchung testeten die Forscher Angriffe auf Modelle, die auf sieben etablierten Datensätzen mit Bildgebungsdaten, Kardiogrammen und elektronischen Patientenakten basierten.
Die Ergebnisse offenbaren Lücken bisheriger Sicherheitstests. Während Angriffe auf ganze Datensätze meist scheiterten, ließen sich einzelne Personen mit einer Wahrscheinlichkeit von nahezu 100 Prozent wiedererkennen. Denn wenn Angreifer Zugriff auf das System der Klinik und ein einziges Datenblatt des Patienten haben, entsteht eine digitale Spur. Gelingt der Nachweis, dass der Datenpunkt in ein spezifisches KI-Modell für Spezialtherapien eingeflossen ist, verrät dies indirekt die Erkrankung des Betroffenen.
Die Schwachstellen von KI in der Medizin
Daniel Rückert, Professor für KI in der Medizin an der Technischen Universität München, sagt dazu:
Das ist kein verschmerzbares Risiko. Gesundheitsdaten sind hochsensibel. (…) Das ist besonders schwerwiegend, weil Diskriminierung durch KI auch in der Medizin eine Rolle spielt und beispielsweise manche Modelle weniger genaue Vorhersagen treffen, wenn die Patientin oder der Patient einer Minderheit angehört.
Je größer und komplexer das Modell aufgebaut ist, desto leichter gelingen Angriffe zur Re-Identifizierung. Das Gedächtnis der Software verhält sich dabei ähnlich wie ein genaues Fotogedächtnis. Detailreiche Merkmale prägen sich so tief ein, dass Einzelspuren sichtbar bleiben.
Für Betroffene kann das schwere Konsequenzen im Alltag haben. Gelangen Informationen über eine Teilnahme an Studien über Drittanbieter an Versicherungen, könnten finanzielle Nachteile drohen. Risikoprofile könnten angepasst werden, was zu höheren Beiträgen bei Zusatzversicherungen führt.
Besonders gefährdet sind Personen, die im Datenset unterrepräsentiert sind, wie Minderheiten oder Menschen mit besonderen Organmerkmalen. Wer eigene Daten freiwillig der Forschung spendet, muss somit unter Umständen noch Jahre später Nachteile befürchten.
Lösungsansätze für mehr Datenschutz
Um Patienten wirksam zu schützen, schlägt die Forschung neue technische Schutzmechanismen vor. Ein vielversprechendes Verfahren sei die sogenannte Differential Privacy, bei der der Datenschutz die Basis bildet. Bei diesem Ansatz überlagert ein System das Datenmaterial mit einem gezielten, minimalen Rauschen.
Das lässt sich mit einem leicht milchigen Glas vergleichen. Das Gesamtbild und die medizinischen Details bleiben für den Computer klar erkennbar, aber das Gesicht des Einzelnen verschwimmt unkenntlich. Neben technischen Anpassungen fordern Fachleute neue Standards bei Prüfverfahren.
Sicherheitstests müssen künftig das individuelle Risiko des einzelnen Menschen messen, statt sich auf einen Gesamtdurchschnitt zu verlassen. Zudem ist eine strenge Kontrolle des Zugangs zu den KI-Modellen selbst unverzichtbar. Dadurch ließe sich der wissenschaftliche Fortschritt sichern, ohne die Vertraulichkeit von Patientendaten zu gefährden.
Auch interessant:
- Neues Gesundheitsgesetz könnte Millionen Arztbesuche verändern
- Verdeckter Test: Das sind die besten gesetzlichen Krankenkassen 2026
- ChatGPT hat jetzt Lockdown-Modus – so kannst du ihn aktivieren
- Langdock: Deutsche Alternative zu ChatGPT und Co.? (Fokus Datenschutz)
Der Beitrag Medizin-KI gefährdet Patientendaten – Forscher fordern neue Standards erschien zuerst auf BASIC thinking. Folge uns auch auf Google News und Flipboard oder abonniere unseren Newsletter UPDATE.
Innerhalb von zwei Tagen erschienen 432 neue Linux Kernel Einträge. Die hohe Zahl sorgt für Diskussionen in der Open Source Gemeinschaft. Experten warnen vor wachsendem Aufwand. Sicherheitsteams stoßen zunehmend an ihre Grenzen. Jede gemeldete Schwachstelle muss geprüft und bewertet werden. Die steigende Menge erschwert sinnvolle Priorisierungen erheblich. Als mögliche Lösung gilt eine stärkere Automatisierung. Künstliche […]
