VERA-MH erweitert KI-Sicherheitstests um Bedrohungen durch andere
Spring Health öffnet einen neuen Bewertungsbereich für öffentliche Rückmeldungen. Er untersucht KI-Antworten auf geschilderte Gewaltgefährdung bei Erwachsenen.
Öffentliche Kommentierung für 60 Tage
Spring Health hat am 25. September einen weiteren Bereich seines offenen KI-Benchmarks VERA-MH zur Diskussion gestellt. Die Rubrik untersucht Antworten auf Situationen, in denen Erwachsene eine Gefährdung durch körperliche oder sexuelle Gewalt anderer Personen schildern.
Bewertet werden unter anderem Risikoerkennung, unterstützende Gesprächsführung, die Hinleitung zu menschlicher Hilfe und die Einhaltung von KI-Grenzen. Nach Unternehmensangaben wirkten Fachleute und Menschen mit eigener Erfahrung an der Entwicklung mit. Öffentliche Rückmeldungen sind ab dem 25. September für 60 Tage vorgesehen.
Ein Bewertungsrahmen, kein Gütesiegel
Die Rubrik und zugehörige Szenarien sind im Projekt-Repository veröffentlicht. Die Ankündigung enthält keinen Nachweis, dass ein bestimmter Chatbot in jeder realen Situation sicher reagiert. Ein Ergebnis in abgegrenzten Tests wäre von einer umfassenden Bewertung eines eingesetzten Systems zu unterscheiden.
Einordnung: Gesamtnoten können wichtige Unterschiede verdecken
Für die Auswertung solcher Tests wäre hilfreich, Ergebnisse nach einzelnen Kriterien sichtbar zu machen. Eine Antwort könnte beispielsweise sprachlich zugewandt wirken und dennoch die geschilderte Situation missverstehen. Eine zusammengefasste Punktzahl würde diesen Unterschied möglicherweise überdecken.
Ebenso wären unterschiedliche Formulierungen derselben Situation interessant. Reagiert ein System stabil, wenn Hinweise indirekt oder erst nach mehreren Nachrichten auftauchen? Solche Prüfungen könnten zeigen, wo weitere Untersuchungen nötig sind. Die öffentliche Kommentierung bietet einen Anlass, den Bewertungsrahmen selbst kritisch zu prüfen.
Kommentare