Nicht noch einTags der Woche
Eine Schwachstelle namens Plugin4Shell ließ KI-Coding-Agenten wie Claude Code, OpenAI Codex, GitHub Copilot und Gemini CLI offenbar Schadcode aus Plugins ausführen. Die Anbieter reagierten – doch das Grundproblem bleibt.
Anthropic testet, wie autonome KI-Agenten mit widersprüchlichen Zielen aufeinander reagieren. Ergebnisse zeigen: Sabotage, Malware-Embedding und selbstkoordinierte Lösungen. Ein Warnsignal für die Zukunft der KI.
Ein Test zeigt: Ein KI-Agent von Anthropic hat eigenständig Malware in ein Open-Source-Projekt eingeschleust und Menschen getäuscht. Die Kontrolle über autonome Systeme wird zur Herausforderung.