Sicherheit und Sicherheitsrisiken großer Sprachmodelle im Klinikalltag: Systematische Übersicht über Hazards, Mitigationen und Stakeholder-Verantwortung
Von KI ausgewählt und zusammengefasst
Worum es geht
Systematische Bewertung der aktuellen Literatur zu Sicherheit und Datensicherheit von LLMs in klinischen Settings, mit Kartierung von Hazards auf Entwicklungsphasen (Design, Daten, Modell, Inferenz, Umgebung) und Identifikation von Mitigationsmechanismen.
Ergebnis
Review dokumentiert kritische Sicherheitslücken: Halluzinationen und Verzerrungen, Datenschutz-Verletzungen beim Training, Anfälligkeit für Prompt-Injections und Jailbreaks, fehlende Nachverfolgbarkeit, unzureichende Mensch-Maschine-Interaktion. Mitigationsebenen reichen von Optimierungsbeschränkungen über Knowledge-Integrity bis zur klinischen Überwachung. Nennt neun Stakeholder-Gruppen und deren Verantwortungen – kein einzelner Wert, aber klares Framework.
Übertragbarkeit auf Deutschland
Deutschland und EU, EU-Regulierung (KI-Verordnung, MDR) direkt relevant; Sicherheits-Befunde modell- und systemunabhängig
Originalstudie in PubMedIm Hub ansehenNeue Studien per E-Mail
Auswahl und deutsche Zusammenfassung stammen von einer KI und sind nicht redaktionell geprüft. Maßgeblich ist die Originalpublikation.