Neue KI-Regulierung in der EU: Was der AI Act für Unternehmen bedeutet

Seit dem 2. Februar 2025 ist die erste Frist zur Einhaltung des neuen europäischen AI Acts erreicht. Dieses umfassende Gesetz macht die Europäische Union weltweit zum Vorreiter bei der Regulierung von Künstlicher Intelligenz (KI). Was bedeutet das für Unternehmen? Vor allem eines: Es gibt klare Regeln, welche Anwendungen von KI erlaubt sind – und welche künftig vollständig verboten sind.

Sebastian Büttner

Die EU verfolgt mit dem neuen AI Act einen risikobasierten Ansatz, der KI-Systeme in vier Kategorien einteilt:

1. Minimales Risiko – Beispiele: Spam-Filter oder Empfehlungsalgorithmen. Diese Anwendungen sind von der Regulierung ausgenommen, da sie keine nennenswerte Gefahr für Nutzer darstellen.

2. Begrenztes Risiko – Beispiele: Kundenservice-Chatbots oder Produktempfehlungen. Hier gelten leichte Anforderungen, etwa zur Transparenz gegenüber den Nutzern.

3. Hohes Risiko – Beispiele: Medizinische Diagnosesysteme, KI-gestützte Personalentscheidungen oder Kreditwürdigkeitsprüfungen. Diese Anwendungen unterliegen strengen Vorschriften und müssen umfassend dokumentiert, überwacht und regelmäßig geprüft werden.

4. Untragbares Risiko – Beispiele: Systeme zur Echtzeit-Gesichtserkennung im öffentlichen Raum, Emotionserkennung in Schulen oder Vorhersagen zukünftiger Straftaten („Predictive Policing“). Solche Anwendungen gelten als gefährlich und sind in der EU vollständig verboten. Bei Verstößen drohen hohe Strafen.

Zu den KI-Anwendungen, die als „inakzeptabel“ eingestuft werden, zählen vor allem Systeme, die potenziell gefährlich oder diskriminierend sein können. Hier einige Beispiele:

• Social Scoring: Die Einstufung von Menschen basierend auf ihrem Verhalten.
• Manipulative KI: Systeme, die Entscheidungen einer Person gezielt und unbemerkt beeinflussen.
• Ausnutzung von Schwachstellen: KI, die gezielt Schwächen wie Alter, Behinderung oder soziale Benachteiligung nutzt.
• Predictive Policing: Vorhersagen über die Wahrscheinlichkeit von Straftaten basierend auf äußeren Merkmalen.
• Echtzeit-Biometrie im öffentlichen Raum: Gesichtserkennung in Echtzeit zur Überwachung durch Strafverfolgungsbehörden.
• Emotionserkennung am Arbeitsplatz oder in Schulen: KI-gestützte Systeme zur Analyse von Emotionen in sensiblen Umfeldern.

Unternehmen, die solche Systeme in der EU einsetzen, drohen Strafen von bis zu 35 Millionen Euro oder 7 % ihres weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist.

Für Unternehmen in Europa bringt der AI Act klare Chancen, aber auch neue Herausforderungen mit sich. Er stärkt den Schutz der Bürgerrechte und fördert eine verantwortungsvolle Nutzung von KI. Gleichzeitig bedeutet dies für Unternehmen, ihre KI-Strategien grundlegend zu überdenken und sicherzustellen, dass ihre Anwendungen den neuen Anforderungen entsprechen.

Drei zentrale Implikationen für Unternehmen:

1. Compliance als Wettbewerbsvorteil: Unternehmen, die ihre KI-Anwendungen frühzeitig an die neuen Regeln anpassen, können sich als vertrauenswürdige Partner positionieren.
2. Technologische Transparenz: Eine transparente Dokumentation und Bewertung von KI-Systemen wird zur Pflicht – und zum Unterscheidungsmerkmal gegenüber weniger konformen Wettbewerbern.
3. Stärkung ethischer KI-Nutzung: Die Förderung einer ethisch verantwortlichen KI-Nutzung wird langfristig das Vertrauen von Kunden, Partnern und Mitarbeitenden stärken.

Der AI Act ist nicht nur eine Herausforderung, sondern eine historische Chance für Unternehmen in Europa. Wer frühzeitig handelt, kann nicht nur Strafen vermeiden, sondern auch das Vertrauen seiner Kunden gewinnen und eine Vorreiterrolle einnehmen. Die Zukunft gehört Unternehmen, die Innovation mit Verantwortung verbinden.

Der Autor ist Co-Gründer von Quantum Beyond, einem europäischen Beschleunigungsprogramm für die Digitalisierung von Unternehmen. Unter dem Label Quantum Beyond Infinity liegt der Fokus auf AI-driven Organization Design, datengetriebenen Strategien und der intelligenten Mensch-Maschine-Kollaboration, um Unternehmen zukunftsfähig und wettbewerbsstark für das KI-Zeitalter aufzustellen.