04.08.2025
EU-AI-Act: Was Unternehmen wissen müssen
Eine weitere Stufe des EU-AI-Acts, des europäischen Rechtsrahmens für Künstliche Intelligenz (KI), tritt in Kraft. Unsere Übersicht zeigt, was Unternehmen jetzt wissen müssen, wo sie Experteninformationen erhalten und welche Workshops weiterhelfen.
Aktuelle Pflichten für Unternehmen
Die europäische KI-Verordnung (EU-AI-Act) ist weltweit das erste transnationale KI-Gesetz. Ziel der Regelung ist es, risikohafte bzw. negative Auswirkungen von KI-Anwendungen zu minimieren und gleichzeitig Vertrauen in KI sicherzustellen. KI-Anwendungen sollen verlässlich nutzbar und überprüfbar sein, um die Sicherheit zu erhöhen. Die Verordnung stellt Pflichten für geschäftliche Akteure auf, die KI-Systemen anbieten oder betreiben. Sie tritt schrittweise in Kraft und gilt ab August 2027 vollständig auch für weniger riskante KI-Modelle.
Seit dem 2. Februar gilt die erste Stufe des AI-Acts. Seither ist der Einsatz von KI mit „unannehmbarem Risiko“ für alle Unternehmen verboten. In diese Kategorie fallen insbesondere KI-Systeme, die die Grundrechte bedrohen - wie etwa das in China eingesetzte Social Scoring zur Bewertung des sozialen Verhaltens. Außerdem verpflichtet die erste Stufe des AI-Acts Unternehmen dazu sicherzustellen, dass ihre Beschäftigten über ausreichende KI-Kompetenzen verfügen, selbst wenn diese nur gelegentlich generative KI nutzen.
DMB empfiehlt unternehmerische Abwägung von KI-Schulungen
Der EU-AI-Act verpflichtet grundsätzlich Unternehmen dazu, dass sie ihre Beschäftigten für den Umgang mit KI-Anwendungen schulen. Es wird offengelassen, in welchem Rahmen und mit welchem Nachweis solche Kompetenzen vorliegen müssen. Mit dieser bewussten rechtlichen Unschärfe obliegt es den Unternehmern abzuwägen, in welchem Umfang sie ihre Beschäftigten weiterbilden. Der DMB empfiehlt allen Betrieben, die KI-Anwendungen nutzen, Schulungen für die Beschäftigten zu ermöglichen.
Seit dem 2. August gelten neue Governance-Regeln für große, allgemeine KI-Modelle (wie ChatGPT oder Gemini). Die Anbieter müssen nun u. a. aufzeigen, welche Webseiten bzw. Quellen sie nutzen und wie sie das Urheberrecht einhalten. Davon können insbesondere Unternehmer aus künstlerischen Branchen profitieren. Detaillierte Informationen für Anbieter von KI-Modellen mit allgemeinen Verwendungszwecken sind auf der Webseite der EU-Kommission zu finden: KI-Verpflichtungen mit allgemeinem Verwendungszweck.
KI-Beratung und KI-Prüfung für Unternehmen
Mit dem „KI-Service Desk“ informiert die Bundesnetzagentur über die neuen europäischen Anforderungen beim Einsatz und bei der Entwicklung von KI. Mit diesem Tool können KMU leicht und schnell prüfen, ob und in welchem Umfang die KI-Verordnung für ihre eingesetzten KI-Systeme Anwendung findet. Das Informationsangebot zeigt auf, ob es sich um ein reguliertes KI-System handelt, ob Transparenzverpflichtungen bestehen und ob das KI-System als Hochrisiko KI-System oder verbotene Praxis eingestuft werden könnte. Darüber hinaus stellt der KI-Service Desk praxisnahe Informationen und anschauliche Beispiele bereit, um die Vorgaben der KI-Verordnung besser einordnen zu können.
Auch das Fraunhofer-Institut IAIS (Intelligente Analyse- und Informationssysteme) hat einen kostenfreien KI-Prüfkatalog entwickelt. Dieser Leitfaden unterstützt einerseits Entwicklerinnen und Entwickler dabei, vertrauenswürdige KI-Anwendungen systematisch zu gestalten, und hilft gleichzeitig KI-Prüferinnen und -Prüfern bei der Qualitätssicherung.
Weitere Antworten zu grundlegenden Fragen bei der KI-Verordnung können Sie dem Q&A der Europäischen Kommission entnehmen. Zusätzliche Informationen stellt die Website „KI-NRW“ bereit: Infopapier der Kompetenzplattform Künstliche Intelligenz Nordrhein-Westfalen.
Interessante Workshops, Projekte und KI-Zertifizierungen
- KI-Trainer der Mittelstand-Digitalzentren:
Mit Workshops, Unternehmensbesuchen, Vorträgen, Roadshows und weiteren Angeboten bieten die KI-Trainer der Mittelstand-Digital Zentren Aufklärung zum KI-Thema. Ziel ist es, KMU in die Lage zu versetzen, die Potenziale und Herausforderungen dieser Technologie zu erkennen und konkrete Lösungen zu implementieren.
Projekt „Zertifizierte KI“:
Das Fraunhofer-Institut IAIS entwickelt im Rahmen des Projekts “Zertifizierte KI” Prüfverfahren für die Zertifizierung von KI-Systemen. Dazu bietet es in Zusammenarbeit mit internationalen Partnern Workshops für Unternehmen. Zudem unterstützt das Projekt KMU gezielt über eine Mittelstandsplattform bei der Vorbereitung eine KI-Zertifizierung.
Sprechstunde von KI.NRW:
Unternehmen aus NRW können in einer Sprechstunde von „KI.NRW“ zentrale Fragen zur KI-Implementierung klären. Die Buchung der Beratungsgespräche erfolgt über die Webseite von „KI.NRW“.
- Zertifizierungskurs „KI-Beauftragter“:
Der Digitalverband eco bietet einen Zertifizierungskurs an, der Mitarbeitende darauf vorbereitet, die Rolle des KI-Beauftragten gemäß den Anforderungen der KI-Verordnung zu übernehmen. Mehr dazu hier: KI-Beauftragter – Zertifizierungskurs (DMB-Mitgliedern steht ein beschränkter Rahmen an Rabattcodes zur Verfügung ‒ Anfragen an patrick.schoenowski@mittelstandsbund.de)
Weitere Etappen des AI-Acts
Da der EU-AI-Act ein EU-Gesetz ist, muss Deutschland dies noch in nationales Recht umsetzen. Das ist bislang noch nicht geschehen und verursacht Rechtsunklarheit. Die Verordnung sieht beispielsweise vor, dass Deutschland seit August eine nationale Marktaufsicht bestimmen sollte. Diese Aufgabe soll nach eigenen Angaben die Bundesnetzagentur übernehmen - rechtliche Details sind jedoch noch nicht abschließend geklärt.
Ab dem 2. August 2026 tritt ein Großteil der Verordnung in Kraft, darunter die Regelung für „Hochrisiko“-KI-Systeme. Ergänzend dazu gelten ab dem 2. August 2027 weitere Vorschriften für „Hochrisiko“-KI-Systeme.
Kommentar abgeben