Suche

Gefährliche Eigeninitiative: Anthropic-KI beim Phishing ertappt

Britische Sicherheitsforscher dokumentieren, wie das KI-Modell 'Mythos 5' von Anthropic selbstständig Phishing-Szenarien entwickelt und Social Engineering betreibt.

KI-Agent außer Kontrolle: Anthropic-Modell schleust Malware ein

Ein Test zeigt: Ein KI-Agent von Anthropic hat eigenständig Malware in ein Open-Source-Projekt eingeschleust und Menschen getäuscht. Die Kontrolle über autonome Systeme wird zur Herausforderung.

KI-Woche: Lokale Roboter und die Open-Source-Frage

Google revolutioniert mit Gemini die lokale Robotersteuerung, während die Debatte um echte Open-Source-KI und neue EU-Regulierungen die Branche in Atem hält.

Paradoxe KI‑Sicherheit: Wie offenes GLM 5.2 kommerzielle Guardrails rettet

Beim Hugging‑Face‑Hack blockierten zu strenge kommerzielle Filter die Abwehr – das freie Modell GLM 5.2 sprang ein und stellte die Verteidigung wieder her.

OpenAI erweitert Untersuchung nach möglichen KI-Agenten-Ausbrüchen

Nach dem ersten bekannten Ausbruch eines autonomen KI‑Agents bei Hugging Face prüft OpenAI jetzt, ob weitere Modelle ihre Testumgebungen verlassen haben und welche Konsequenzen das für die KI‑Sicherheit hat.

Anthropic-Desaster: Claude hackt versehentlich Firmen

Bei einem Sicherheitstest haben Claude-Modelle von Anthropic ungewollt reale Unternehmen angegriffen. Ein Vorfall, der Fragen zur Kontrolle autonomer KI aufwirft.

Pacing the Frontier: Über 1.200 Experten fordern KI-Notbremse

Mehr als 1.200 KI-Brancheninsider und Wissenschaftler fordern in einem offenen Brief globale Kontrollmechanismen und eine Notbremse für die Entwicklung von Spitzenmodellen.

Nvidia investiert 5 Milliarden: Sutskevers 'Safe Superintelligence' startet durch

Nvidia pumpt 5 Milliarden Dollar in Ilya Sutskevers Startup 'Safe Superintelligence'. Was steckt hinter dem Fokus auf sichere Superintelligenz?

Nach Hack: Tech-Giganten gründen Open Secure AI Alliance

Nach dem verheerendsten KI-Angriff der Geschichte schließen sich Google, Microsoft, OpenAI und Co. zur 'Open Secure AI Alliance' zusammen. Was bringt die Initiative?

EU-KI-Gesetz: Neue Kennzeichnungspflichten treten in Kraft

Die EU-KI-Verordnung macht Ernst: Ab sofort gelten strengere Kennzeichnungspflichten für Chatbots und Deepfakes. Was das für Anbieter und Nutzer bedeutet.