EU-Regulierungen: Der AI Act und seine Auswirkungen auf KI und Cybersicherheit

Mit dem AI Act ist am 1. August 2024 das weltweit erste umfassende Gesetz zur Regulierung von KI in Kraft getreten. Ziel ist es, Innovationen zu fördern und zugleich ein hohes Schutzniveau für Gesundheit, Sicherheit und Grundrechte zu gewährleisten. Seit dem 2. Februar 2025 müssen Unternehmen zudem die KI-Kompetenz ihrer Mitarbeitenden sicherstellen, wie es Artikel 4 der EU-Verordnung vorschreibt.

Der AI Act im Überblick

Der AI Act klassifiziert KI-Systeme in vier Risikokategorien:

1. Unvertretbares Risiko: Anwendungen wie Social Scoring, bei denen Menschen auf Basis ihres Verhaltens, ihrer Daten oder ihres sozialen Status bewertet und diskriminiert werden könnten. Solche Anwendungen werden verboten.
2. Hohes Risiko: KI-Systeme in der biometrischen Überwachung oder Gesundheitsversorgung unterliegen strengen Auflagen. 
3. Geringes Risiko: KI-Systeme wie beispielsweise Chatbots müssen transparent über ihren KI-Charakter informieren.
4. Minimales Risiko: Anwendungen wie KI-gestützte Bildbearbeitung fallen unter “kaum Einschränkungen”.

Allgemeine Verpflichtung zur KI-Kompetenz: Unabhängig von der Klassifizierung der genutzten KI-Systeme oder deren Risikokategorie sind alle Unternehmen seit dem 2. Februar 2025 verpflichtet, die KI-Kompetenz ihrer Mitarbeitenden sicherzustellen. Dazu gehören Schulungsprogramme, die grundlegendes Verständnis für KI-Systeme und deren sichere Nutzung vermitteln, sowie weiterführende Maßnahmen für spezifische Einsatzbereiche.

Verflechtung von KI und Cybersicherheit

Ein wesentlicher Bestandteil des AI Acts ist das Thema Sicherheit von KI. Denn mit der Zunahme von KI-Systemen steigt auch die Angriffsfläche für Cyberkriminelle. Der AI Act stellt hier klare Anforderungen:

• Robustheit von KI-Systemen: Unternehmen müssen sicherstellen, dass ihre KI-Modelle nicht durch Manipulationen bzw. adversariale Angriffe verfälscht werden können.
• Transparenz und Nachvollziehbarkeit: Die Entscheidungsprozesse von KI-Systemen müssen dokumentiert und erklärbar sein.
• Sicherheitszertifizierung: Hochrisiko-Anwendungen müssen zertifiziert werden, um die Einhaltung von Standards zu garantieren.

Ein Beispiel: Im Gesundheitswesen könnten adversariale Angriffe KI-gestützte Diagnosesysteme manipulieren und falsche Behandlungsempfehlungen generieren, was ernsthafte Folgen für Patienten haben könnte. Unternehmen sollten daher gezielt in die Sicherung medizinischer KI-Systeme investieren.

Sinan Tankaz, Director Digital Solutions and AI bei CANCOM, erklärt: „Der AI Act schafft einheitliche Standards, die Europas Rolle als Vorreiter für verantwortungsvolle Technologien stärken können. Die praktische Umsetzung stellt Unternehmen jedoch vor Herausforderungen, insbesondere bei der Interpretation der Regeln.“

Diese Herausforderungen und Chancen birgt der AI Act

Tatsächlich kommen mit dem AI Act eine Reihe von Anforderungen auf Unternehmen zu – die aber auch, bei richtiger Umsetzung, mehrere Chancen bieten.

Herausforderungen 

1. Compliance sicherstellen: Unternehmen müssen umfassende Prozesse etablieren, um den Vorschriften zu genügen, etwa durch Audits und Risikobewertungen.
2. Investitionen in Sicherheit: Cybersicherheitsstrategien müssen an die spezifischen Anforderungen von KI angepasst werden. Laut dem Allianz Risk Barometer 2025 bewerten 38 Prozent der Unternehmen Cyberangriffe als größte Bedrohung.
3. Datenmanagement optimieren: KI-Systeme erfordern große Datenmengen, deren Schutz und Anonymisierung essenziell sind.

Chancen 

Sinan Tankaz betont: „Strikte Regulierungen können Wettbewerbsvorteile schaffen. So führten strenge Umweltauflagen dazu, dass europäische Automobilhersteller weltweit führend bei umweltfreundlichen Technologien wurden. Eine ähnliche Entwicklung könnte der AI-Act fördern.“

1. Vertrauen schaffen: Unternehmen, die die Vorschriften einhalten, gewinnen das Vertrauen von Kunden und Partnern. 
2. Innovation fördern: Klare Regeln schaffen einen stabilen Rahmen, der sichere und innovative Anwendungen ermöglicht.
3. Marktvorteile sichern: Europa positioniert sich durch den AI Act als Vorreiter für verantwortungsvolle KI, wovon Unternehmen profitieren können. 

Wege zur AI-Act-Compliance

Wie bereits weiter oben erwähnt, ist am 2. Februar 2025 zusätzlich Artikel 4 der EU-Verordnung 2024/1689 („KI-VO“) in Kraft getreten, der Unternehmen verpflichtet, die KI-Kompetenz ihrer Mitarbeitenden sicherzustellen. Hierzu gehört die Einführung von Schulungsprogrammen und die Förderung eines grundlegenden Verständnisses für KI-gestützte Systeme.

Sinan Tankaz empfiehlt, den AI Act systematisch zu analysieren und die Anforderungen strategisch anzupassen. Erfahrene IT-Dienstleister wie CANCOM können dabei entscheidend helfen, Compliance-Aspekte von Anfang an in KI-Projekte zu integrieren.

Wie Sinan Tankaz betont, sollten Unternehmen regulatorische Vorgaben als Chance sehen, um Innovation und Sicherheit zu kombinieren. Ein ausgewogener Ansatz aus Risikobereitschaft und Planungssicherheit sei entscheidend, um die Potenziale der Künstlichen Intelligenz voll auszuschöpfen.

Wie CANCOM Unternehmen beim AI Act unterstützt

Mit umfassender Expertise hilft CANCOM Organisationen dabei, technische und regulatorische Anforderungen rund um den AI Act effizient zu erfüllen. Der End-to-End-Ansatz von CANCOM umfasst Beratung, Implementierung und kontinuierliche Betreuung, wodurch Unternehmen nicht nur Compliance erreichen, sondern auch Wettbewerbsvorteile sichern können.

Weitere Informationen rund um das Thema KI finden Sie auf der CANCOM-Website und der CANCOM.info-Themenseite.