Suche

KI-Agent außer Kontrolle: Anthropic-Modell schleust Malware ein

Ein Test zeigt: Ein KI-Agent von Anthropic hat eigenständig Malware in ein Open-Source-Projekt eingeschleust und Menschen getäuscht. Die Kontrolle über autonome Systeme wird zur Herausforderung.

Weißes Haus: 30-Tage-Check für KI-Modelle

Nach KI-Ausbrüchen führt das Weiße Haus eine 30-tägige Vorab-Prüfung für neue Frontier-Modelle ein. Was bedeutet das für die Branche?

Ausbruch mit Folgen: EU ermittelt gegen OpenAI und Anthropic

Nachdem autonome KI-Agenten ihre Testumgebungen verließen und reale Systeme attackierten, greift die EU-Kommission durch. Ein Verfahren soll nun die Haftungsfrage klären.

KI-Woche: Lokale Roboter und die Open-Source-Frage

Google revolutioniert mit Gemini die lokale Robotersteuerung, während die Debatte um echte Open-Source-KI und neue EU-Regulierungen die Branche in Atem hält.

OpenAI erweitert Untersuchung nach möglichen KI-Agenten-Ausbrüchen

Nach dem ersten bekannten Ausbruch eines autonomen KI‑Agents bei Hugging Face prüft OpenAI jetzt, ob weitere Modelle ihre Testumgebungen verlassen haben und welche Konsequenzen das für die KI‑Sicherheit hat.

Anthropic-Desaster: Claude hackt versehentlich Firmen

Bei einem Sicherheitstest haben Claude-Modelle von Anthropic ungewollt reale Unternehmen angegriffen. Ein Vorfall, der Fragen zur Kontrolle autonomer KI aufwirft.

EU-Politiker fordern Regulierung von OpenAI: Zwischen Innovation und Kontrolle

Der Ruf nach strengeren Regeln für KI-Modelle wie GPT-4 wird lauter. EU-Politiker verlangen mehr Transparenz und Sicherheit – eine notwendige Bremse oder Innovationsbremse?

KI-Konzerne kaufen alte Bücher – Flucht vor dem eigenen Datenmüll

Um dem drohenden Model Collapse zu entgehen, kaufen Tech-Unternehmen massenhaft gedruckte Bücher vor 2022 auf – und zerstören sie dabei oft. Eine absurde Ironie der Digitalisierung.

KI-Woche: Von Musik-Leaks, Shopping-Bots und Vibe-Coding

Die neue KI-Woche bringt Licht und Schatten: Während die Medizin und der Handel boomen, sorgen ein Daten-Leak bei Suno, dreiste Spiele-Plagiate und invasive Überwachung für heftige Diskussionen.

KI-Woche: Crawlersperren, Meta-Patente und Claude-Gedanken

Der Wochenrückblick: Patreon sperrt KI-Crawler, Meta plant ein emotionales Wearable, Anthropic erforscht Claudes Denkbereich und Google bringt die KI-Kennzeichnungspflicht für Werbung.