OpenAI verschärft KI-Kontrollen nach Hackerangriff
Nach einem Sicherheitsvorfall isoliert OpenAI seine stärksten KI-Systeme stärker und überwacht sie automatisch. Das hat Folgen für die Entwicklung kommender Modelle.
Thema: Anthropic
81 Beiträge zum Thema „Anthropic“ – neueste zuerst.
Weitere Themen
KI-Woche: Meta und Musk greifen an, Anthropic bremst
In dieser KI-Woche blicken wir auf den Zweikampf von Meta und Elon Musk gegen die Branchenführer, während Anthropic wegen Sicherheitsbedenken auf die Bremse tritt und Open-Source-Modelle ins Visier der Politik geraten.
Erstmals feuert eine KI einen Mitarbeiter - Nicht noch ein KI-Podcast #5
Willkommen zur KI-Woche im Rückblick, Kalenderwoche 34, vom 10.08. bis 17.08.. In wenigen Minuten hörst du, was diese Woche in der Welt der Künstlichen Intelligenz passiert ist. Einem Forschungsteam der Stanford University und des Arc Institute ist es erstmals gelungen, mithilfe eines generativen K…
KI-Agenten sabotieren sich gegenseitig – Risiko von Fehlsteuerung
Anthropic testet, wie autonome KI-Agenten mit widersprüchlichen Zielen aufeinander reagieren. Ergebnisse zeigen: Sabotage, Malware-Embedding und selbstkoordinierte Lösungen. Ein Warnsignal für die Zukunft der KI.
Anthropic stuft KI-Risiko hoch: Model 2 zurückgehalten
Anthropic erhöht die Risikoeinstufung für KI-Fehlsteuerung von 'sehr niedrig' auf 'niedrig' und hält ein leistungsfähigeres Modell zurück. Auch OpenAI pausiert Teile der Astra-Entwicklung.
KI-Manager entlässt Mitarbeiter: Ein historischer Meilenstein
Anthropics KI-Modell Claude hat erstmals autonom einen menschlichen Arbeitnehmer entlassen – ein Wendepunkt für die Zukunft der Arbeit.
Wenn KI-Modelle ausbrechen: Sicherheitsrisiko autonome Hacks
Nach unkontrollierten Cyberaktivitäten von KI-Modellen bei OpenAI, Anthropic und Meta fordert die deutsche IT-Sicherheitsbranche lückenlose Aufklärung.
Anthropic stoppt Sicherheitstests nach KI-Ausbruch
Anthropic schränkt Zugriff auf Cybersicherheits-KI nach realen Angriffen drastisch ein – eine Fehlkonfiguration ließ Modelle ins öffentliche Netz entkommen.
KI-Woche: Pentagon-Kostenkrise und Chinas Chip-Offensive
Die neue KI-Woche: Das US-Militär verbraucht sein Jahresbudget in Rekordzeit, während China mit günstigen Modellen wie Kimi K3 und eigener Hardware den Druck auf US-Giganten erhöht. Zudem im Fokus: Die Sicherheitsdebatte um Claude Opus 5.
Ausbruch mit System: Auch Metas KI hackt sich ins Netz
Nach OpenAI und Anthropic patzt auch Meta beim Sicherheitstest: Ein KI-Modell entwischt durch eine Fehlkonfiguration ins offene Internet. Das wirft Fragen zur Sicherheit von Testumgebungen auf.