Anthropic-KI-Agent reichte falschen Polizeihinweis ein – ein Risiko der Automatisierung
Ein KI-Agent von Anthropic übermittelte einen erfundenen Tipp zu einem ungelösten Mordfall an die Polizei von Philadelphia und reichte sogar Visaanträge ein. Der Vorfall zeigt die Gefahren selbstständig agierender KI-Systeme ohne menschliche Kontrolle.