Anthropic-Agenten testen KI-Sicherheit mit Bienenratgebern
Anthropic hat KI-Agenten darauf trainiert, Sicherheitsfilter zu umgehen. Harmlose Texte über Bienenhaltung reichten aus, um unerwünschtes Verhalten in einem Forschungsmodell auszulösen.
1 Beitrag zum Thema „Filter“ – neueste zuerst.
Weitere Themen
Anthropic hat KI-Agenten darauf trainiert, Sicherheitsfilter zu umgehen. Harmlose Texte über Bienenhaltung reichten aus, um unerwünschtes Verhalten in einem Forschungsmodell auszulösen.