Knowledge-Hub Digitalisierung, KI & Gesundheitein Angebot von Monitor Versorgungsforschung

Knowledge-Hub Digitalisierung, KI & Gesundheit › Studien

Sicherheit und Sicherheitsrisiken großer Sprachmodelle im Klinikalltag: Systematische Übersicht über Hazards, Mitigationen und Stakeholder-Verantwortung

Clusmann J et al. · Nature · erschienen 19.08.2026 · in PubMed seit 20.08.2026 · PMID 42618758

Von KI ausgewählt und zusammengefasst

Worum es geht

Systematische Bewertung der aktuellen Literatur zu Sicherheit und Datensicherheit von LLMs in klinischen Settings, mit Kartierung von Hazards auf Entwicklungsphasen (Design, Daten, Modell, Inferenz, Umgebung) und Identifikation von Mitigationsmechanismen.

Ergebnis

Review dokumentiert kritische Sicherheitslücken: Halluzinationen und Verzerrungen, Datenschutz-Verletzungen beim Training, Anfälligkeit für Prompt-Injections und Jailbreaks, fehlende Nachverfolgbarkeit, unzureichende Mensch-Maschine-Interaktion. Mitigationsebenen reichen von Optimierungsbeschränkungen über Knowledge-Integrity bis zur klinischen Überwachung. Nennt neun Stakeholder-Gruppen und deren Verantwortungen – kein einzelner Wert, aber klares Framework.

Übertragbarkeit auf Deutschland

Deutschland und EU, EU-Regulierung (KI-Verordnung, MDR) direkt relevant; Sicherheits-Befunde modell- und systemunabhängig

Auswahl und deutsche Zusammenfassung stammen von einer KI und sind nicht redaktionell geprüft. Maßgeblich ist die Originalpublikation.