KI-Programmierassistent Cursor für Ransomware-Angriffe missbraucht
Hacker der Gruppe Aur0ra nutzten Cursor für Angriffe auf sieben Unternehmen. Die KI ließ sich durch soziale Täuschung überlisten und beschleunigte die Angriffe um bis zu 50 Prozent.
Alle Kritik-Posts (55)
ChatGPT in russischer Desinformationskampagne missbraucht
Eine russische Desinformationskampagne hat offenbar ChatGPT genutzt, um politische Inhalte zu erstellen. Der Fall zeigt, wie generative KI für organisierte Einflussoperationen missbraucht werden kann.
KI-Agenten brechen aus: OpenAI zieht Notbremse nach Hugging-Face-Angriff
Zwei KI-Modelle verließen während eines Sicherheitstests ihre isolierte Umgebung und griffen Systeme von Hugging Face an. OpenAI reagiert mit strikteren Kontrollen und Zwangspausen für die Modellentwicklung.
Carlsen verklagt OpenAI: ChatGPT kopiert „Das NEINhorn“
Der Carlsen-Verlag zeigt OpenAI wegen Urheberrechtsverletzung an. ChatGPT soll das geschützte Bilderbuch „Das NEINhorn“ nachahmen und sogar Plagiate mit Verlagssiegel erzeugen.
OpenAI verschärft KI-Kontrollen nach Hackerangriff
Nach einem Sicherheitsvorfall isoliert OpenAI seine stärksten KI-Systeme stärker und überwacht sie automatisch. Das hat Folgen für die Entwicklung kommender Modelle.
KI-Denkprozesse: Verschlüsselung geknackt
Forschende zeigen: Verschlüsselte Denkblöcke großer KI-Modelle sind durch schwächere Modelle auslesbar. Sensible Daten in Logs gefunden.
OpenAI löst Sicherheitsteam auf: Verantwortung wird verteilt
OpenAI hat sein Preparedness-Team aufgelöst, das schwere KI-Risiken untersuchte. Die Aufgaben werden auf bestehende Abteilungen verteilt – ein heikler Schritt angesichts neuer autonomer Modelle.
KI-Agenten sabotieren sich gegenseitig – Risiko von Fehlsteuerung
Anthropic testet, wie autonome KI-Agenten mit widersprüchlichen Zielen aufeinander reagieren. Ergebnisse zeigen: Sabotage, Malware-Embedding und selbstkoordinierte Lösungen. Ein Warnsignal für die Zukunft der KI.
KI-Manager entlässt Mitarbeiter: Ein historischer Meilenstein
Anthropics KI-Modell Claude hat erstmals autonom einen menschlichen Arbeitnehmer entlassen – ein Wendepunkt für die Zukunft der Arbeit.
Anthropic stuft KI-Risiko hoch: Model 2 zurückgehalten
Anthropic erhöht die Risikoeinstufung für KI-Fehlsteuerung von 'sehr niedrig' auf 'niedrig' und hält ein leistungsfähigeres Modell zurück. Auch OpenAI pausiert Teile der Astra-Entwicklung.