Warum der AI Act mehr schadet als schützt. Wenn Gesetze entstehen, dann meistens unter Zeitdruck oder aus politischem Aktionismus. Manchmal aus beidem. Der neue AI Act, die große KI-Verordnung der EU, riecht stark nach letzterem. In Brüssel hat man beschlossen, die Zukunft zu regulieren, noch bevor man sie verstanden hat.
Der EU AI Act legt umfassende Pflichten für den rechtskonformen Einsatz von KI-Systemen wie Microsoft Copilot, ChatGPT oder andere KI-Systeme fest. Ob Unternehmen, Mitarbeitende oder Selbstständige – alle, die KI einsetzen, müssen die Vorgaben verstehen und umsetzen, um Risiken zu minimieren und die Compliance sicherzustellen.
Das Ergebnis ist ein Werk aus 80 Prozent Juristenprosa, 10 Prozent Absicherung gegen das Unvorhersehbare und 10 Prozent einem Versuch, Ethik in PDFs zu gießen. Herausgekommen ist ein Gesetz, das streng genommen nicht einmal weiß, was es eigentlich meint, wenn es „Künstliche Intelligenz“ sagt. Und genau deshalb trifft es auch die Falschen.
Der AI Act der EU will Risiken bannen. KI-Systeme werden klassifiziert: in minimal, begrenzt, hoch und verboten. Klingt nach Ordnung. Tatsächlich aber beginnt hier das Chaos. Schon der Versuch, aus einem fluiden Forschungsfeld eine feste Risikokategorie zu destillieren, ist ein intellektueller Offenbarungseid. Was heißt „hoch riskant“? Eine Sprach-KI, die politische Reden schreibt? Ein Bildgenerator, der Jesus als TikTok-Star darstellt? Oder ein Schulkind, das seinen Aufsatz mit Hilfe von ChatGPT schreibt? Die Antwort bleibt die EU schuldig, stattdessen verteilt sie Pflichten.
Schulungspflicht, Dokumentationspflicht, Transparenzpflicht. Selbst Nutzer, die keine KI entwickeln, sondern sie nur anwenden, müssen sich dem Regelwerk unterwerfen. Also: Der kleine Einzelunternehmer, der ein automatisiertes Kundenmailing über Microsoft Copilot versendet. Der freie Journalist, der seine Rohentwürfe mit GPT strafft. Die Übersetzerin, die DeepL verwendet. Sie alle werden nun Teil eines rechtlichen Rahmens, dessen Tiefgang viele Überfordert, dessen Sprachgewalt selbst Anwälte zum Schwitzen bringt.
Und ja, es gibt Bußgelder. Bis zu 35 Millionen Euro oder 7 Prozent des Jahresumsatzes. Als wolle man Google strafen, trifft aber versehentlich die Werbeagentur aus Wuppertal. Es ist ein Gesetz mit der Schrotflinte formuliert: Wer KI sagt, ist betroffen. Wer KI nutzt, hat Pflichten. Wer nicht weiß, dass er KI nutzt, ist am schlimmsten dran. Denn Unwissenheit schützt hier vor Strafe nicht, sondern macht verdächtig.
Was macht eigentlich die Ethik in diesem Gesetz?
Es ist bemerkenswert, wie viel moralische Rhetorik in das Gesetz gepresst wurde. Die Rede ist von „Vertrauen“, von „Menschenwürde“ und der „Stärkung europäischer Werte“. Tatsächlich aber werden technische Pflichten aufgelistet, die kaum ein kleiner Betrieb erfüllen kann. Und während man an der Supermarktkasse noch einen Bon bekommt, auf dem steht, ob die Paprika Bio ist, muss ein KI-Anwender künftig ein Dossier vorlegen, das erklärt, wie seine KI denkt. Das klingt nicht nach Ethik, das klingt nach technokratischem Illusionismus.
Denn die wahren Probleme – intransparente Trainingsdaten, marktbeherrschende Konzerne, diskriminierende Algorithmen – werden kaum geregelt. Stattdessen sollen Nutzer nachweisen, dass sie ihre KI „verstanden“ haben. Eine Farce in einer Zeit, in der selbst Entwickler nicht mehr genau erklären können, warum ein neuronales Netz bestimmte Entscheidungen trifft. Die Brüsselei betreibt also ein Regelwerk, das vorgibt, das Verhalten von Maschinen zu kontrollieren, ohne die Maschinen selbst zu verstehen.
Fürchtet die EU eigentlich die eigenen Leute?
Wer das Gesetz liest, spürt eines ganz deutlich: Misstrauen. Nicht gegenüber Konzernen, sondern gegenüber den Menschen. Die EU geht offenbar davon aus, dass der Durchschnittsbürger zu dumm ist, mit KI umzugehen. Also muss er geschult werden, versteht sich. Und dann dokumentieren, berichten, verwalten, erfassen, kontrollieren – kurz: sich einordnen in ein feinmaschiges Raster aus Vorschriften und Bürokratie, das weniger nach Fortschritt als nach Formular klingt. Das ist keine Einladung zur Teilhabe, das ist ein Kontrollreflex aus dem letzten Jahrhundert, als man noch glaubte, man könne Freiheit regeln, indem man sie mit Aktenordnern umstellt.
Während Start-ups im Silicon Valley neue KI-Modelle im Wochentakt veröffentlichen, diskutiert man in Europa darüber, ob ein Generator für Pressebilder eine Gefährdung der Demokratie darstellt. Die Angst vor Kontrollverlust führt zu einer Regulierung, die Innovation verhindert, statt sie zu begleiten. Wer als junger Entwickler in der EU eine Idee hat, braucht bald zuerst einen Anwalt. Und eine Compliance-Abteilung.
Nachsatz von Co-Autor Carsten Bornhöft der selbst Wirtschaftsinformatiker ist: „Das KI-Gesetz der EU zeigt uns nicht, wie man klug mit Technologie umgeht, sondern wie hilflos eine alternde Politikkaste auf Innovation reagiert. Während in den Laboren der Welt neue Realitäten entstehen, rühren in Brüssel Tattergreise im Datenpudding und halten sich für Vordenker. Aber ein Gesetz, das jungen Entwicklern die Lust nimmt, ist kein Fortschritt – sondern eine digitale Schrumpfkur für Europa.“
ⓘ Das Wichtigste zum AI Act (EU-KI-Gesetz)
- Startdatum: 2. Februar 2025 (für erste Pflichten)
- Gilt für: Entwickler, Anbieter, Betreiber und Nutzer von KI-Systemen
- Pflichten: Transparenz, Risikobewertung, Schulung, Dokumentation
- Risiko-Kategorien: Minimal, begrenzt, hoch, verboten
- Bußgelder: Bis 35 Mio. Euro oder 7 % des Jahresumsatzes
