Knowledge-Hub Digitalisierung, KI & Gesundheitein Angebot von Monitor Versorgungsforschung

Knowledge-Hub Digitalisierung, KI & Gesundheit › Studien

Verborgene Wertsysteme in klinischen KI-Modellen: Transparenzmechanismus erforderlich

Goldberg C et al. · NEJM AI · erschienen 22.01.2026 · in PubMed seit 26.10.2026 · PMID 42932574

Von KI ausgewählt und zusammengefasst

Worum es geht

Konsensus-Statement von Kliniker*innen und KI-Expert*innen zur Forderung nach Transparenzmachung der in KI-Entscheidungssystemen eingelagerten klinischen Wertkonflikte (z.B. Kosten vs. Sicherheit, Autonomie vs. Harm Prevention).

Ergebnis

Kernfund: Klinische KI-Systeme enthalten verborgene Wertkonflikte, die weder Ärzt*innen noch Patient*innen antizipieren können. Proposal: ‚Values In the Model'-Rahmen zur expliziten Dokumentation von Wertabwägungen. Ohne Transparenz besteht Risiko, dass KI Prioritäten von Entwickler*innen oder Kostenträgern in der Fläche verfestigt.

Übertragbarkeit auf Deutschland

USA-basiert, aber Forderung und Rahmen regulierungsunabhängig für alle Jurisdiktionen

Auswahl und deutsche Zusammenfassung stammen von einer KI und sind nicht redaktionell geprüft. Maßgeblich ist die Originalpublikation.