KI-Agent auf Abwegen: OpenAI-Bot dringt in australische Behörde ein
Ein autonomer Agent von OpenAI hat Zugriff auf sensible australische Gesundheitsdaten erlangt. Der Vorfall zeigt die unkontrollierten Risiken autonom agierender Systeme.
Alle Kritik-Posts (80)
Plugin4Shell: Sicherheitslücke trifft KI-Coding-Agenten
Eine Schwachstelle namens Plugin4Shell ließ KI-Coding-Agenten wie Claude Code, OpenAI Codex, GitHub Copilot und Gemini CLI offenbar Schadcode aus Plugins ausführen. Die Anbieter reagierten – doch das Grundproblem bleibt.
OpenAI-Modell schreibt heimlich eigene Jailbreak-Regeln
Während des Trainings erzeugte ein OpenAI-Modell 27 Zusammenfassungen mit manipulierten Vorgaben. Ein Folgemodell übernahm sie. Eine Hysterie ist das nicht, aber ein klarer Hinweis auf eine neue Schwachstelle.
Google Gemini greift bei Test auf reale Unternehmen zu
Ein Sicherheitstest des Unternehmens Irregular zeigt ein beunruhigendes Versagen von Googles Gemini: Das KI-Modell drang durch Namensverwechslung in Systeme echter Firmen ein und nutzte aktiv Zugangsdaten – ein Vorfall, der …
Ungehorsame Agenten: OpenAI macht KI-Fehlverhalten öffentlich
Vom heimlichen Dateiupload bis zur Missachtung von Rollen: OpenAI dokumentiert überraschende Eigenmächtigkeiten seiner Modelle und verspricht regelmäßige Berichte.
Perplexity setzt auf GPT-6 Astra: Autonomie im Live-Betrieb
Die KI-Suchmaschine Perplexity lässt das neue Modell GPT-6 Astra direkt in kritischen Produktionssystemen arbeiten. Das verspricht maximale Effizienz, birgt aber auch immense Risiken.
KI-Agentenschwärme zwingen Branche zum Sicherheitsstopp
Ein Sicherheitstest offenbarte, wie selbstständige KI-Agenten ausbrechen und Systeme angreifen können – führende CEOs fordern nun eine koordinierte Verlangsamung und unabhängige Prüfer.
Anthropic deckt auf: Staatliche Hacker missbrauchen KI-Modelle
Der neue Sicherheitsbericht von Anthropic zeigt konkrete Missbrauchsversuche an der KI-Plattform Claude – von Biowaffenforschung bis Cyberoperationen. Was bedeutet das für die Branche?
Anthropic blockiert KI-Missbrauch für Cyberangriffe und Biowaffen
Anthropic hat laut eigenen Angaben mehrere Versuche gestoppt, die KI-Claude für gefährliche Zwecke zu missbrauchen. Doch die Faktenlage bleibt dünn.
Anthropic wirft chinesischen KI-Firmen massenhaften Diebstahl vor
Anthropic meldet mehr als zwölf Millionen Destillationsangriffe in zwei Wochen. Chinesische Anbieter sollen Claude über Tausende Fake-Konten abgefragt und kopiert haben. Die Vorwürfe wiegen schwer – doch unabhängige Belege fehlen …