Die Euphorie um künstliche Intelligenz ist ungebrochen, doch ein neuer Bericht von Amnesty International wirft einen dunklen Schatten auf das Fundament, auf dem viele der führenden KI-Modelle gebaut sind. Unter dem Titel „Unlawful by Design“ prangert die Menschenrechtsorganisation an, dass Systeme wie GPT-3, Gemini, Llama, DeepSeek, Midjourney und Stable Diffusion strukturell gegen internationale Menschenrechte verstoßen. Das ist keine Randnotiz, sondern eine fundamentale Anklage gegen das Geschäftsmodell der gesamten Branche.
Der Kern der Kritik liegt im massenhaften Web-Scraping. Milliarden von Online-Inhalten – Texte, Bilder, Videos – werden gesammelt, um die riesigen neuronalen Netze zu trainieren. Das Problem? Diese Daten werden oft ohne die explizite Zustimmung der Urheber oder der darauf abgebildeten Personen extrahiert. Amnesty bezeichnet dies nicht als bedauerlichen Nebeneffekt, sondern als eine bewusste, grundlegende Designentscheidung der KI-Industrie. Ohne diesen „Datenraub“, so der Bericht, wäre der kommerzielle Erfolg und die rasante Entwicklung dieser Tools schlichtweg nicht möglich gewesen.
Die Folgen dieser Praxis sind laut Amnesty gravierend und weitreichend. Die unkontrollierte Datensammlung führt zu einer Verstärkung gesellschaftlicher Vorurteile und Diskriminierung, da diese bereits in den Trainingsdaten verankert sind. Es drohen Gefahren für die Gedankenfreiheit und eine kulturelle Dominanz durch die wenigen Tech-Giganten, die diese mächtigen Modelle kontrollieren. Hinzu kommt eine besorgniserregende Umweltbilanz: Der enorme Rechenaufwand für das Training und den Betrieb der KI-Modelle treibt die Emissionen von Unternehmen wie Google und Microsoft in die Höhe. Und als wäre das nicht genug, warnt der Bericht auch vor einer explodierenden Zahl KI-generierter Missbrauchsinhalte, die durch diese Technologien erst ermöglicht werden.
Amnesty charakterisiert diese massenhafte Datenextraktion als eine Form der „Massenüberwachung“. Der Bericht betont, dass nachträgliche Schutzmaßnahmen oder ethische Richtlinien nicht ausreichen, um die grundlegenden Menschenrechtsverletzungen zu beheben, die bereits im Design der Modelle angelegt sind. Für Unternehmen, die KI-Modelle nutzen oder entwickeln, birgt dies ein erhebliches Compliance-Risiko. Insbesondere mit Blick auf den ab 2026 verbindlichen EU AI Act, der strenge Prüfungen vorsieht, stehen viele Firmen vor der Herausforderung, die Herkunft und ethische Unbedenklichkeit ihrer Trainingsdaten nachweisen zu müssen. Die Kritik richtet sich direkt gegen das derzeitige Geschäftsmodell und fordert eine grundlegende Neuausrichtung, die Menschenrechte und Umweltschutz von Anfang an in den Mittelpunkt stellt.
Dieser Bericht ist ein Weckruf, der die ethischen und rechtlichen Grundlagen der aktuellen KI-Entwicklung fundamental in Frage stellt. Er zwingt uns, nicht nur über die Möglichkeiten, sondern auch über die moralischen Kosten und die Nachhaltigkeit dieser Technologien nachzudenken. Die Frage ist nicht mehr, ob KI die Welt verändern wird, sondern ob sie dies auf eine Weise tun darf, die unsere grundlegenden Rechte missachtet.
