Internationale Studie zeigt Wege für datenschutzbewusste KI-Modelle in Diagnose und Behandlung psychischer Erkrankungen
Forschende der TU Darmstadt und des Indian Institute of Technology (IIT) Delhi haben eine wegweisende Studie zur Datensicherheit bei Künstlicher Intelligenz im Bereich psychischer Gesundheit veröffentlicht. Unter Leitung von Informatik-Professorin Iryna Gurevych am Ubiquitous Knowledge Processing (UKP) Lab wurde in der Fachzeitschrift Nature Computational Science eine Roadmap für KI-Systeme vorgestellt, die Diagnostik und Therapie psychischer Erkrankungen unterstützen – ohne sensible Patientendaten offenzulegen.
KI zur Unterstützung von Diagnose und Therapie
Psychische Erkrankungen zählen weltweit zu den häufigsten Ursachen für gesundheitliche Einschränkungen. Oft fehlen ausreichend Fachkräfte, um eine frühzeitige Behandlung sicherzustellen. KI-Systeme könnten künftig Therapeutinnen und Therapeuten unterstützen, indem sie feine Signale in Sprache, Mimik oder Wortwahl analysieren – ein wichtiger Schritt zur Früherkennung und besseren Versorgung.
Doch die Vertraulichkeit von Patientendaten bleibt die größte Herausforderung: Sprach- und Videodaten aus Therapiesitzungen sind hochsensibel und können Rückschlüsse auf die Identität Betroffener zulassen.
Datenschutzorientierte Entwicklungsansätze
Das Forschungsteam zeigt auf, wie KI-Systeme datenschutzbewusst konzipiert werden können. Dazu gehört die Kombination verschiedener Verfahren:
- Entfernung personenbezogener Informationen
- Anonymisierung von Stimmen und Gesichtern
- Nutzung synthetischer Daten
- datenschutzorientiertes Modelltraining
Diese Schritte sollen sicherstellen, dass KI-Anwendungen im Gesundheitswesen künftig wirksam, verantwortungsvoll und ethisch vertretbar eingesetzt werden können.
Internationale Zusammenarbeit und Förderung
Erstautor Aishik Mandal ist Teil der NLPsych-Gruppe am UKP Lab, die an der Schnittstelle zwischen natürlicher Sprachverarbeitung (NLP) und psychischer Gesundheit forscht.
Zu den Co-Autor:innen zählen Professor Tanmoy Chakraborty vom IIT Delhi, der durch ein Humboldt-Forschungsstipendium unterstützt wurde, sowie Professorin Iryna Gurevych, Leiterin des UKP Labs.
Gefördert wurde die Arbeit durch das Bundesministerium für Bildung und Forschung (BMBF), das Hessische Ministerium für Wissenschaft und Kunst (HMWK) im Rahmen des Nationalen Forschungszentrums für angewandte Cybersicherheit ATHENE, sowie durch das LOEWE-Zentrum DYNAMIC und die LOEWE-Spitzenprofessur „Ubiquitous Knowledge Processing“.
Die vollständige Studie ist unter folgendem Link abrufbar:
👉 Nature Computational Science – „Towards privacy-aware mental health AI models“
(DARMSTADT – RED/TU)
