AI Act: Was Unternehmen jetzt wissen müssen

Seit 1. Februar 2025 gelten in der EU neue Regeln für den Einsatz von künstlicher Intelligenz

Die EU hat mit dem "AI Act" weltweit die erste umfassende Regulierung für den Einsatz künstlicher Intelligenz (KI) geschaffen. Die Verordnung wurde am 12. Juli 2024 im Amtsblatt der EU veröffentlicht und tritt seitdem gestaffelt in Kraft.

Wann gilt der AI Act?

Seit dem 1. Februar 2025 dürfen verbotene KI-Systeme nicht mehr genutzt werden und Unternehmen sind verpflichtet, ihre Mitarbeitenden nachweislich über die eingesetzten KI-Systeme zu schulen. Weitere Verpflichtungen, darunter Transparenzpflichten für generative KI, treten am 1. August 2026 in Kraft. Für Hochrisiko-KI-Systeme gilt eine verlängerte Übergangsfrist von 36 Monaten.

Für wen gilt die Verordnung?

Die Verordnung gilt für alle Unternehmen, die KI-basierte Produkte oder Dienstleistungen anbieten oder nutzen. Insbesondere betrifft sie Anwendungen, die Inhalte generieren, Vorhersagen treffen oder Entscheidungsprozesse beeinflussen.

Risikobasierte Einstufung von KI-Systemen

• Verbotene KI: Dazu zählen unter anderem Benotungssysteme für soziales Verhalten ("Social Scoring"), Emotionserkennung am Arbeitsplatz oder biometrische Kategorisierung auf Basis sensibler Merkmale (z.B. politische Einstellung, sexuelle Orientierung).
• Hochrisiko-KI: Dazu gehören Anwendungen, die demokratische Prozesse, Grundrechte oder die Sicherheit beeinflussen. Diese unterliegen strengen Prüf- und Dokumentationspflichten.
• Geringes Risiko: Transparenzpflichten gelten insbesondere für generative KI-Modelle (z.B. ChatGPT). Inhalte müssen klar als KI-generiert gekennzeichnet sein.

Pflichten für Unternehmen

Nun müssen Unternehmen Mitarbeitende im Umgang KI schulen, wobei die Durchführung und Dokumentation verpflichtend ist. Transparenzpflichten verlangen, dass Unternehmen die Funktionsweise ihrer KI-Systeme nachvollziehbar darlegen. Hochrisiko-KI-Systeme unterliegen zusätzlichen Sicherheitsprüfungen und erfordern ein umfassendes Risikomanagement.

Strafen bei Verstoß

• Bis zu 7,5 Mio. Euro oder 1,5 Prozent des weltweiten Jahresumsatzes bei leichten Vergehen,
• Bis zu 35 Mio. Euro oder 7 Prozent des Umsatzes bei schweren Verstößen.

Unternehmen sollten sich zeitnah mit den neuen Regelungen befassen, interne Schulungen durchführen und Compliance-Maßnahmen ergreifen. Weitere Informationen bietet die RTR KI-Servicestelle in Österreich.