Künstliche Intelligenz (KI) verändert die Arbeitswelt rasant. Ob im Kundenservice, Personalwesen, der Datenanalyse oder Prozessautomatisierung, KI bietet enormes Potenzial. Gleichzeitig steigen jedoch die regulatorischen Anforderungen.
Mit dem zunehmenden Einsatz von KI steigen jedoch auch die regulatorischen Anforderungen. Mit der KI-Verordnung der Europäischen Union (EU AI Act) hat die EU den weltweit ersten umfassenden Rechtsrahmen für den Einsatz von Künstlicher Intelligenz geschaffen.
Viele Unternehmen stellen sich deshalb die Frage:
Sind wir von der KI-Verordnung betroffen? Und wenn ja, was müssen wir jetzt tun?
Das Wichtigste in Kürze
• Betroffen sind nicht nur Entwickler von KI-Systemen, sondern auch viele Unternehmen, die KI im Arbeitsalltag einsetzen.
• Je nach Risikoklasse gelten unterschiedliche Anforderungen.
• Unternehmen sollten den Einsatz von KI frühzeitig prüfen und geeignete Governance-Strukturen etablieren.
• Internationale Normen wie ISO 9001, ISO/IEC 27001 und ISO/IEC 42001 können bei der Umsetzung unterstützen.
Was ist die KI-Verordnung?
Die KI-Verordnung (EU AI Act) regelt die Entwicklung, Bereitstellung und Nutzung von KI-Systemen innerhalb der Europäischen Union.
Ihr Ziel ist es, Innovation zu fördern und gleichzeitig sicherzustellen, dass KI-Systeme sicher, transparent und verantwortungsvoll eingesetzt werden sowie die Grundrechte von Menschen schützen.
Dabei verfolgt die Verordnung einen risikobasierten Ansatz: Je höher das Risiko eines KI-Systems, desto umfangreicher sind die gesetzlichen Anforderungen.
Welche Unternehmen sind betroffen?
Die KI-Verordnung richtet sich nicht nur an Unternehmen, die KI entwickeln. Auch Unternehmen, die KI-Systeme in ihren Geschäftsprozessen einsetzen oder KI-basierte Lösungen nutzen, können von den neuen Anforderungen betroffen sein.
Dazu gehören beispielsweise Unternehmen, die KI einsetzen für:
- Personalwesen und Bewerbermanagement
- Kundenservice und Chatbots
- Marketing und Content-Erstellung
- Dokumenten- und Datenanalyse
- Qualitätskontrolle
- Automatisierte Entscheidungsprozesse
Selbst die Nutzung allgemein verfügbarer KI-Anwendungen sollte überprüft werden, um mögliche regulatorische Anforderungen frühzeitig zu erkennen.
KI im Unternehmen: Häufig im Einsatz, oft unbemerkt
Die vier Risikoklassen der KI-Verordnung
Die KI-Verordnung unterscheidet zwischen vier Risikoklassen.
Unvertretbares Risiko
Hohes Risiko
Begrenztes Risiko
Minimales Risiko
Was bedeutet die KI-Verordnung konkret für Unternehmen?
Die KI-Verordnung bedeutet nicht, dass Unternehmen auf KI verzichten müssen. Sie macht jedoch deutlich, dass der Einsatz von KI künftig nachvollziehbar, sicher und verantwortungsvoll erfolgen muss.
Unternehmen sollten sich deshalb frühzeitig mit folgenden Fragen beschäftigen:
- Welche KI-Anwendungen setzen wir bereits ein?
- Welche Risiken sind mit diesen Anwendungen verbunden?
- Sind Verantwortlichkeiten und Prozesse klar definiert?
- Erfüllen wir die Anforderungen an Transparenz und Dokumentation?
- Sind Datenschutz und Informationssicherheit angemessen berücksichtigt?
Wer diese Fragen frühzeitig beantwortet, schafft die Grundlage für eine rechtskonforme und zukunftssichere Nutzung von KI.
Sechs Schritte zur Vorbereitung
Mit einer frühzeitigen Vorbereitung lassen sich Compliance-Risiken reduzieren und das Vertrauen von Kunden, Mitarbeitenden und Geschäftspartnern stärken.
- Erfassen Sie alle eingesetzten KI-Anwendungen.
- Bewerten Sie die damit verbundenen Risiken.
- Definieren Sie Verantwortlichkeiten und Governance-Strukturen.
- Dokumentieren Sie den Einsatz Ihrer KI-Systeme nachvollziehbar.
- Überprüfen Sie Informationssicherheit und Datenschutz.
- Sensibilisieren und schulen Sie Ihre Mitarbeitenden.
DSGVO und KI-Verordnung, wo liegt der Unterschied?
Die Datenschutz-Grundverordnung (DSGVO) regelt den Schutz personenbezogener Daten. Die KI-Verordnung geht darüber hinaus und legt Anforderungen an die Entwicklung, Bereitstellung und Nutzung von KI-Systemen fest, unabhängig davon, ob personenbezogene Daten verarbeitet werden.
Beide Regelwerke ergänzen sich und sollten daher gemeinsam betrachtet werden.
Welche Rolle spielen ISO-Normen?
Viele Anforderungen der KI-Verordnung überschneiden sich mit etablierten Managementsystemen. Unternehmen, die bereits nach internationalen ISO-Normen arbeiten, verfügen daher häufig über eine gute Grundlage für die Umsetzung der neuen Anforderungen.
Welche Bußgelder drohen?
Verstöße gegen die KI-Verordnung können, abhängig von Art und Schwere des Verstoßes, mit erheblichen Geldbußen geahndet werden. Diese können sich auf bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes belaufen, je nachdem, welcher Betrag höher ist.
Praxis-Tipp
Warum sich frühes Handeln lohnt
Die KI-Verordnung ist weit mehr als eine regulatorische Verpflichtung. Unternehmen, die den Einsatz von KI frühzeitig strukturieren und klare Governance-Prozesse etablieren, reduzieren Risiken, stärken das Vertrauen ihrer Kunden und schaffen eine solide Grundlage für den nachhaltigen Einsatz von Künstlicher Intelligenz.
Wie IMSM Sie unterstützen kann
Die Umsetzung der KI-Verordnung muss nicht bei null beginnen. Viele Unternehmen verfügen bereits über etablierte Managementsysteme, auf denen sich aufbauen lässt.
IMSM unterstützt Unternehmen bei der Einführung und Zertifizierung international anerkannter Normen wie ISO 9001, ISO/IEC 27001, ISO/IEC 42001 und ISO 22301. Gemeinsam schaffen wir die Grundlage für einen sicheren, verantwortungsvollen und zukunftsfähigen Einsatz von Künstlicher Intelligenz.
