Verborgene Wertsysteme in klinischen KI-Modellen: Transparenzmechanismus erforderlich
Von KI ausgewählt und zusammengefasst
Worum es geht
Konsensus-Statement von Kliniker*innen und KI-Expert*innen zur Forderung nach Transparenzmachung der in KI-Entscheidungssystemen eingelagerten klinischen Wertkonflikte (z.B. Kosten vs. Sicherheit, Autonomie vs. Harm Prevention).
Ergebnis
Kernfund: Klinische KI-Systeme enthalten verborgene Wertkonflikte, die weder Ärzt*innen noch Patient*innen antizipieren können. Proposal: ‚Values In the Model'-Rahmen zur expliziten Dokumentation von Wertabwägungen. Ohne Transparenz besteht Risiko, dass KI Prioritäten von Entwickler*innen oder Kostenträgern in der Fläche verfestigt.
Übertragbarkeit auf Deutschland
USA-basiert, aber Forderung und Rahmen regulierungsunabhängig für alle Jurisdiktionen
Originalstudie in PubMedIm Hub ansehenNeue Studien per E-Mail
Auswahl und deutsche Zusammenfassung stammen von einer KI und sind nicht redaktionell geprüft. Maßgeblich ist die Originalpublikation.