Worum es beim AI Act wirklich geht

Was Sie über den AI Act wissen sollten - FAQ

• Welche KI-Systeme sind betroffen?

  Welche KI-Systeme unter den AI Act fallen

  Der AI Act betrifft Systeme, die auf KI basieren – insbesondere dann, wenn sie Entscheidungen unterstützen oder automatisiert treffen. Entscheidend ist nicht nur die Technologie, sondern deren geplanter und vorhersehbarer Verwendungszweck. 

  Betroffen sind beispielsweise

  • KI-basierte Steuerungs- und Assistenzsysteme
  • Bildverarbeitung und Objekterkennung
  • Prognose- und Optimierungsalgorithmen
  • autonome oder teilautonome Funktionen

  Nicht betroffen vom AI Act

  Ausgenommen von AI Act sind KI-Systeme im Bereich nationale Sicherheit, Verteidigung und militärische Zwecke. Außerdem gilt der Act grundsätzlich nicht für reine Forschungs-, Test- oder Entwicklungsaktivitäten, solange Systeme oder Modelle noch nicht in Verkehr gebracht oder in Betrieb genommen wurden.

• Rollen und Verantwortlichkeiten

  Ähnlich wie beim CRA unterscheidet der AI Act verschiedene Akteure entlang der Wertschöpfungskette:

  • Hersteller (Entwicklung und Bereitstellung von KI-Systemen)
  • Importeure (Einführung in den EU-Markt)
  • Betreiber (Einsatz des KI-Systems)
  • Bevollmächtigte (Vertretung des Herstellers innerhalb der EU)

  Je nach Rolle ergeben sich unterschiedliche Pflichten – insbesondere zwischen Hersteller und Betreibern.

• Risikoklassifizierung als zentraler Unterschied

  Anforderungen hängen vom Risiko des KI-Systems ab

  Der AI Act unterscheidet verschiedene Risikokategorien – von minimalem Risiko bis hin zu Hochrisiko-KI.

  • Niedriges Risiko: geringe Anforderungen
  • Hochrisiko-KI: umfassende regulatorische Pflichten

  Besonders relevant sind Hochrisiko-Systeme, etwa in sicherheitskritischen Anwendungen oder als Bestandteil von Maschinen.

  Zusätzlich werden sogenannte General Purpose AI (GPAI) berücksichtigt – also KI-Modelle, die für vielfältige Anwendungen genutzt werden können. Je nach Einsatz und Leistungsfähigkeit können hier ebenfalls umfangreiche Anforderungen gelten

• Was verlangt der AI Act konkret in Bezug auf Hochrisiko-KI?

  Anforderungen entlang des KI-Lebenszyklus

  Die Anforderungen des AI Act betreffen sowohl die Entwicklung als auch den Betrieb von KI-Systemen.

  Entwicklung und Design

  Bereits bei der Entwicklung müssen zentrale Anforderungen erfüllt werden:

  • Risikomanagementsystem
  • Datenqualität und Datenmanagement
  • technische Dokumentation
  • Sicherstellung von Genauigkeit, Robustheit und Cybersicherheit 

  KI-Systeme müssen nachvollziehbar und kontrollierbar gestaltet werden.

  Transparenz und Kontrolle

  Ein zentraler Unterschied zu anderen Regelwerken ist die Anforderung an den Umgang mit Entscheidungen:

  • Transparenz über Funktionsweise und Einsatz
  • Nachvollziehbarkeit von Ergebnissen
  • Möglichkeiten zur menschlichen Aufsicht 

  Damit wird sichergestellt, dass KI-Systeme nicht „Black Boxes“ bleiben.

  Konformität und Inverkehrbringen

  Für regulierte KI-Systeme sind folgende Nachweise erforderlich:

  • Konformitätsbewertung
  • CE-Kennzeichnung
  • Konformitätserklärung
  • Registrierung in entsprechenden Datenbanken

  Betrieb und Überwachung

  Auch im Betrieb bestehen umfangreiche Pflichten:

  • Monitoring des Systemverhaltens
  • Dokumentation von Ereignissen
  • Meldung schwerwiegender Vorfälle
  • laufende Bewertung der Systemleistung

• Warum die Umsetzung komplex ist

  Die Herausforderung liegt nicht nur in der Technologie, sondern in der Kombination aus Technik, Regulierung und Anwendungskontext.

  In der Praxis zeigt sich:

  • Anforderungen hängen stark vom konkreten Einsatz ab
  • KI-Systeme verändern sich durch Daten und Updates
  • Schnittstellen zu Maschinenverordnung und Cyber Resilience Act
  • hohe Anforderungen an Dokumentation und Nachvollziehbarkeit

  Besonders anspruchsvoll ist die Verbindung von KI-Entwicklung, Systemintegration und regulatorischer Bewertung.

• Wann tritt der AI Act in Kraft?

  Der AI Act tritt ab dem 02. August 2027 vollständig in Kraft. Bestandteile davon gelten jedoch bereits früher.

  

• Was passiert bei Verstößen?

  Verstoß	Strafe
  Nutzung verbotener KI-Systeme	Bis 35 Mio.€ oder 7 % des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahresverhängt, je nachdem, welcher Betrag höher ist
  Nichteinhaltung von Pflichten (ausgenommen Nutzung verbotener KI-Systeme)	Bis 15 Mio.€ oder 3 % des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahresverhängt, je nachdem, welcher Betrag höher ist
  Falsche/irreführende/unvollständige Angaben gegenüber notifizierenden Stellen oder Marktaufsichtsbehörden	Bis 7,5 Mio.€ oder 1 % des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahresverhängt, je nachdem, welcher Betrag höher ist
  Nichteinhaltung Verpflichtungen durch Anbieter von KI-Modellen für allgemeine Zwecke	Bis 15 Mio.€ oder 3 % des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahresverhängt, je nachdem, welcher Betrag höher ist

  Anmerkung: Bei neu gegründeten Unternehmen und KMU gilt jeweils der niedrigere anstatt des höheren Betrags.

  Wird eine Nichtkonformität mit den Anforderungen des EU AI Act festgestellt – etwa bei Hochrisiko-KI-Systemen – und nicht innerhalb der von der zuständigen Marktüberwachungsbehörde gesetzten Frist behoben, hat dies unmittelbare Auswirkungen auf die Bereitstellung im Unionsmarkt: Die Behörden können die weitere Bereitstellung des KI-Systems einschränken oder untersagen.

  Besteht darüber hinaus ein erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte, kann auch die Rücknahme oder der Rückruf bereits in Betrieb genommener Systeme angeordnet werden.