Исследователи ТУ Мюнхена выявили критическую уязвимость защиты персональных данных пациентов в медицинских ИИ-моделях

KI-Modelle in der Medizin: Forscher der TU München entdecken hohes Datenschutzrisiko Moritz Knolle von der Technischen Universität München (TUM) forscht im Rahmen seiner Doktorarbeit zur Sicherheit von Gesundheitsdaten – und entdeckte kürzlich eine Lücke, die Hacker mit einfachen Mitteln nutzen könnten. An der Untersuchung waren neben Knolles Kolleg:innen auch Teams des Imperial College London und des Potsdamer Hasso-Plattner-Instituts (HPI) beteiligt. Die Studie zeigt, dass in bestimmten Datensätzen bestimmte Patient:innen mit nahezu hundertprozentiger Wahrscheinlichkeit den Modellen zugeordnet werden können. MIT Technology Review: Was war der Anlass für Ihre Untersuchungen? Moritz Knolle: Ich wollte wissen, wie groß das Risiko für Missbrauch ist, wenn man Gesundheitsdaten einem KI-Modell anvertraut. Denn bisher sind die Risiken einfach schlecht verstanden, besonders, wenn es ums Individuum geht. Es gibt natürlich schon Studien, die nahelegen, dass Hacker KI-Modelle in der Medizin attackieren können. Auch zu der Art Angriff, die wir uns angeschaut haben – die Membership Inference Attacks oder kurz: MIAs – gibt es umfassende Literatur. Bisher galten gängige Medizin-KI-Modelle aber weitgehend sicher vor solchen MIAs. Leider haben die entsprechenden Tests immer nur ein durchschnittliches Risiko für alle Patienten ermittelt. Wir haben uns jetzt erstmals das Risiko für individuelle Patienten angeschaut. Und dann ergibt sich doch ein anderes Bild. - Zugriff auf alle Artikel von t3n.de - t3n Magazin und MIT Technology Review in digitaler Form - Reduzierte Werbung - Wöchentlicher Newsletter 118,80 € Du bist bereits Teil der Community? Hier anmelden Andrea ist Redakteurin beim Magazin MIT Technology Review für die Themen Umwelt, Biotechnologie und Materialien.