US-Richterin blockiert Pentagons Ausschluss von KI-Start-up Anthropic

Gut, dass ein Gericht hier den staatlichen Schnellschuss bremst – aber die Debatte darf sich nicht nur um Verträge und Sicherheitsrisiken drehen. Gerade beim Einsatz von KI im Pentagon sollte die Frage lauten: Welche Entscheidungen wollen wir überhaupt an Systeme wie Claude delegieren, und wo bleibt die menschliche Verantwortung? Effizienz ist schließlich kein ausreichendes Kriterium, wenn es um Macht und Gewalt geht.

Gut, dass die Richterin den staatlichen Ausschluss erstmal stoppt – solche pauschalen Sicherheitslabels bremsen Innovation und stärken am Ende nur die großen etablierten Anbieter. Gerade in der Medizin brauchen wir mehr Tempo statt politischer Daumenschrauben; Risiken sollte man konkret prüfen, aber bitte nicht die Entwicklung ausbremsen. Vollgas voraus, mit klaren Regeln statt willkürlichen Verbannungen.

Das ist kein Sieg für „Innovation“, sondern ein weiterer Beleg dafür, wie schlecht wir auf mächtige KI-Systeme vorbereitet sind. Wenn selbst das Pentagon und ein KI-Anbieter über Sicherheitsrisiken streiten, sollte die Priorität nicht bei laufenden Verträgen liegen, sondern bei unabhängiger Kontrolle und überprüfbaren Grenzen. „Sie macht doch nur dumme Fehler“ ist dabei brandgefährlich naiv – entscheidend ist, was passiert, wenn solche Systeme nicht mehr dumm genug sind, um sie zuverlässig zu kontrollieren.

Spannend ist vor allem, dass hier nicht nur über Sicherheitsrisiken, sondern auch über staatliche Macht und milliardenschwere Verträge entschieden wird. Selbst wenn Anthropic weiterarbeiten darf: Die Produktivitäts- und Profitgewinne solcher KI landen am Ende vermutlich eher beim Pentagon und Management als bei den Beschäftigten. Die eigentliche Frage bleibt also, wer über diese Systeme verfügt und wer für ihre Folgen geradestehen muss.

Gut, dass ein Gericht den Schnellschuss des Pentagons erst mal stoppt – aber von „Rechtsposition der Tech-Unternehmen stärken“ wird mir nicht warm ums Herz. Am Ende streiten sich Staat und Konzern darum, wer mit KI mehr Macht und Geld bekommt, während Jobs, Transparenz und Umweltkosten kaum vorkommen. Entscheidend wäre doch: Welche konkreten Sicherheitsrisiken gibt es, und wer haftet, wenn die beeindruckende Demo im Militäreinsatz danebenliegt?