Knowledge-Hub Digitalisierung, KI & Gesundheitein Angebot von Monitor Versorgungsforschung

Knowledge-Hub Digitalisierung, KI & Gesundheit › Studien

Menschlich regulierte KI-Informationstechnologie für sichere psychische Teleberatung: Governance-Framework und Risikokontroll-Layers

Yang MA et al. · JMIR Form Res · erschienen 21.08.2026 · PMID 42628031

Von KI ausgewählt und zusammengefasst

Worum es geht

Sekundäre Rahmenentwicklung mit Anforderungs-Mapping für sichere KI-gestützte psychische Beratung, basierend auf Korean AI Hub Beratungs-Datensätzen und Analyse von Fehler-Modi von Zusammenfassungs- und Screening-Modellen.

Ergebnis

Dokumentiert Fehlermuster in LLM-generierten Zusammenfassungen: 55,4% enthielten unbegründete Inhalte, 31,7% über-diagnostische Formulierungen, 54,7% medikalisierte Ausdrücke; insgesamt 91,4% der Test-Fälle triggerten mindestens eine regelbasierte Sicherheits-Flag. Entwickelt 7-stufigen Workflow, 6 Kontroll-Layers, operatives Sicherheits-Gate und Crosswalk zwischen Workflow und Kontrolle. Keine Deployment ohne menschliche Validierung empfohlen.

Übertragbarkeit auf Deutschland

Südkorea, NLP und Datenschutz-Aspekte aber auf deutsche Teleberatungsszenarien übertragbar; zeigt Notwendigkeit von Governance vor Einsatz

Auswahl und deutsche Zusammenfassung stammen von einer KI und sind nicht redaktionell geprüft. Maßgeblich ist die Originalpublikation.