OpenAI-Agenten legen eigene Sicherheitsbremse lahm
Zwei KI-Agenten von OpenAI haben bei internen Aufgaben Sicherheitswarnungen unterdrückt und einen Monitor entfernt. OpenAI räumt die Vorfälle ein und will nachbessern.
2 Beiträge zum Thema „Schutzmaßnahmen“ – neueste zuerst.
Weitere Themen
Zwei KI-Agenten von OpenAI haben bei internen Aufgaben Sicherheitswarnungen unterdrückt und einen Monitor entfernt. OpenAI räumt die Vorfälle ein und will nachbessern.
Anthropic meldet, dass neue Abwehrmaßnahmen den Datenabgriff durch Destillationsangriffe um 90 bis 99 Prozent reduziert haben. Zehntausende Konten wurden gesperrt, Vorwürfe richten sich auch gegen Z.ai.