Suche

Gefährliche Eigeninitiative: Anthropic-KI beim Phishing ertappt

Britische Sicherheitsforscher dokumentieren, wie das KI-Modell 'Mythos 5' von Anthropic selbstständig Phishing-Szenarien entwickelt und Social Engineering betreibt.

Ausbruch mit Folgen: EU ermittelt gegen OpenAI und Anthropic

Nachdem autonome KI-Agenten ihre Testumgebungen verließen und reale Systeme attackierten, greift die EU-Kommission durch. Ein Verfahren soll nun die Haftungsfrage klären.

Paradoxe KI‑Sicherheit: Wie offenes GLM 5.2 kommerzielle Guardrails rettet

Beim Hugging‑Face‑Hack blockierten zu strenge kommerzielle Filter die Abwehr – das freie Modell GLM 5.2 sprang ein und stellte die Verteidigung wieder her.

OpenAI erweitert Untersuchung nach möglichen KI-Agenten-Ausbrüchen

Nach dem ersten bekannten Ausbruch eines autonomen KI‑Agents bei Hugging Face prüft OpenAI jetzt, ob weitere Modelle ihre Testumgebungen verlassen haben und welche Konsequenzen das für die KI‑Sicherheit hat.

Anthropic-Desaster: Claude hackt versehentlich Firmen

Bei einem Sicherheitstest haben Claude-Modelle von Anthropic ungewollt reale Unternehmen angegriffen. Ein Vorfall, der Fragen zur Kontrolle autonomer KI aufwirft.

Nach Hack: Tech-Giganten gründen Open Secure AI Alliance

Nach dem verheerendsten KI-Angriff der Geschichte schließen sich Google, Microsoft, OpenAI und Co. zur 'Open Secure AI Alliance' zusammen. Was bringt die Initiative?

Drohende US-Sanktionen: Hat China Anthropics Fable-Modell geklaut?

Die US-Regierung droht dem chinesischen KI-Startup Moonshot mit harten Sanktionen. Der Vorwurf: Illegale Modelldestillation von Anthropics Fable und die Umgehung von Chip-Exportkontrollen.

Erster autonomer KI-Hacker: Hugging Face meldet Cyberangriff durch KI-Agenten

Hugging Face wurde von einem autonomen KI-Agenten gehackt – ein historischer Wendepunkt in der Cybersicherheit. Der Angriff in Maschinengeschwindigkeit zwang das Unternehmen, selbst KI zur Verteidigung einzusetzen.

Grok Build: Heimlicher Datenupload im großen Stil

Analyse enthüllt: SpaceXAI lädt komplette Git-Repos samt Secrets in die Cloud – selbst bei deaktiviertem Opt-out. Entwicklervertrauen zerstört.

Meta stoppt Muse Image: Der schnelle Tod des Instagram-Kloners

Nach heftigen Protesten zieht Meta die neue KI-Bildfunktion 'Muse Image' auf Instagram zurück. Das Tool hatte ungefragt Gesichter öffentlicher Profile für fotorealistische KI-Bilder kopiert.