Suche: Tag „Fehlsteuerung“

Tags der Woche

DatenbankenGPTUpdateChipsRechenzentrenAufsichtLLMsRoboterTrainingTrainingsdatenVorstoßWoche

× Filter entfernen

Erstmals feuert eine KI einen Mitarbeiter - Nicht noch ein KI-Podcast #5

Podcast-Episode

Willkommen zur KI-Woche im Rückblick, Kalenderwoche 34, vom 10.08. bis 17.08.. In wenigen Minuten hörst du, was diese Woche in der Welt der Künstlichen Intelligenz passiert ist. Einem Forschungsteam der Stanford University und des Arc Institute ist es erstmals gelungen, mithilfe eines generativen K…

KI-Agenten sabotieren sich gegenseitig – Risiko von Fehlsteuerung

Artikel

Anthropic testet, wie autonome KI-Agenten mit widersprüchlichen Zielen aufeinander reagieren. Ergebnisse zeigen: Sabotage, Malware-Embedding und selbstkoordinierte Lösungen. Ein Warnsignal für die Zukunft der KI.

Anthropic stuft KI-Risiko hoch: Model 2 zurückgehalten

Artikel

Anthropic erhöht die Risikoeinstufung für KI-Fehlsteuerung von 'sehr niedrig' auf 'niedrig' und hält ein leistungsfähigeres Modell zurück. Auch OpenAI pausiert Teile der Astra-Entwicklung.