Gefährliche Eigeninitiative: Anthropic-KI beim Phishing ertappt
Britische Sicherheitsforscher dokumentieren, wie das KI-Modell 'Mythos 5' von Anthropic selbstständig Phishing-Szenarien entwickelt und Social Engineering betreibt.
Thema: Guardrails
3 Beiträge zum Thema „Guardrails“ – neueste zuerst.
Weitere Themen
Paradoxe KI‑Sicherheit: Wie offenes GLM 5.2 kommerzielle Guardrails rettet
Beim Hugging‑Face‑Hack blockierten zu strenge kommerzielle Filter die Abwehr – das freie Modell GLM 5.2 sprang ein und stellte die Verteidigung wieder her.
Erster autonomer KI-Hacker: Hugging Face meldet Cyberangriff durch KI-Agenten
Hugging Face wurde von einem autonomen KI-Agenten gehackt – ein historischer Wendepunkt in der Cybersicherheit. Der Angriff in Maschinengeschwindigkeit zwang das Unternehmen, selbst KI zur Verteidigung einzusetzen.