AI-Governance: So setzen Unternehmen AI-Lösungen verantwortungsvoll und regelkonform ein 

Ob gezielte Desinformation, die illegale Sammlung persönlicher Daten oder Diskriminierung: Der Einsatz von AI kann sehr problematisch werden, wenn dieser nicht reguliert wird. Genau darauf zielt AI-Governance ab: Dabei handelt es sich um ein Regelwerk, das genau festlegt, wie AI-Technologien und -Lösungen im Unternehmen eingesetzt werden. Damit soll gewährleistet werden, dass die Nutzung jederzeit verantwortungsvoll, nachvollziehbar, sicher und rechtskonform erfolgt.

Konkret umfasst das Regelwerk sämtliche organisatorischen, technischen und regulatorischen Maßnahmen, die im Zusammenhang mit dem Einsatz von AI im Unternehmen stehen. Dabei wird die gesamte AI-Wertschöpfungskette berücksichtigt: von der Auswahl und Entwicklung entsprechender AI-Lösungen über das Training bis hin zur Anwendung im operativen Betrieb.

Fragen, die in diesem Kontext thematisiert und beantwortet werden, sind unter anderem:

• Wie werden Risiken bei der Nutzung von AI erkannt und gemanagt?
• Wer trägt die Verantwortung für den Betrieb und die Überwachung der AI-Systeme?
• Wie wird sichergestellt, dass die AI-Lösungen transparent und nachvollziehbar agieren?
• Wie werden ethische Grundsätze gewährleistet – etwa die Vermeidung von Diskriminierung?
• Wie lässt sich gewährleisten, dass gesetzliche und datenschutzrechtliche Vorgaben eingehalten werden?
• Welche Maßnahmen müssen umgesetzt werden, um die Qualität und Sicherheit der AI-Lösungen zu garantieren?

AI-Governance wird unverzichtbar

Dass ein solches Regelwerk für Unternehmen heute essenziell ist, zeigt insbesondere der EU AI-Act. So verpflichtet das EU-weite Gesetz Firmen dazu, umfangreiche Maßnahmen zu ergreifen, um den Einsatz von AI-Lösungen verantwortungsvoll, nachvollziehbar und sicher zu gestalten. Dies trifft vor allem auf Einsatzgebiete zu, die hochsensibel sind – wie im Gesundheitswesen, in der Kreditvergabe oder bei HR-Prozessen. Diese Verpflichtung können Unternehmen nur erfüllen, wenn sie ein umfangreiches AI-Governance-Konzept verabschieden und umsetzen.  

Bei Nichteinhaltung sieht der EU AI-Act empfindliche Strafen vor. Je nach Verstoß sind Bußgelder von bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes möglich. Zusätzlich droht ein erheblicher Reputationsschaden – und damit ein erheblicher Vertrauensverlust bei den Kunden.

Der Aufbau umfassender AI-Governance-Strukturen – der laut einer aktuellen Studie mindestens 18 Monate dauert und den erst eine winzige Minderheit der Unternehmen umgesetzt hat (CANCOM.info berichtete) – birgt jedoch mehrere Herausforderungen. Unter anderem müssen Unternehmen die Herkunft und Qualität ihrer Trainingsdaten dokumentieren, die Entscheidungswege von AI-Modellen nachvollziehbar gestalten sowie klare Verantwortlichkeiten für den AI-Einsatz definieren.

Um all diese und weitere Aufgaben umzusetzen, benötigen Unternehmen vor allem entsprechende technische Plattformen und Lösungen. Genau hier kommt IBM watsonx.governance ins Spiel.

Was bietet IBM watsonx.governance?

Als wesentliche Komponente der AI-Plattform IBM watsonx zielt IBM watsonx.governance darauf ab, Unternehmen beim Aufbau umfangreicher AI-Governance-Strukturen zu unterstützen. Wie IBM betont, bietet die Software-Lösung eine Reihe von Funktionen, um AI-Lösungen umfassend zu dokumentieren, zu überwachen und zu steuern. Konkret ermöglicht IBM watsonx.governance laut Hersteller:

• alle relevanten Informationen für den praktischen Einsatz von AI-Lösungen, wie Trainingsdaten oder Einsatzdetails, automatisiert und strukturiert zu erfassen und in Dashboards übersichtlich aufzubereiten
• die Compliance von AI-Lösungen über eine zentrale Konsole zu überwachen, zu steuern und zu überprüfen – und das über den gesamten Lebenszyklus hinweg
• Compliance-Verstöße automatisiert zu erkennen und zu melden.

Wie IBM hervorhebt, können Unternehmen damit beispielsweise sicherstellen, dass generative AI-Modelle keine sensiblen Informationen ausgeben oder diskriminierende Aussagen treffen. Gleichzeitig würden sie jederzeit den Überblick über Versionen, Trainingsdaten und Anwendungsbereiche der eingesetzten AI-Lösungen behalten. All dies sei für die Umsetzung einer umfangreichen AI-Governance von entscheidender Bedeutung.

Wie kann CANCOM bei der Umsetzung unterstützen?

Als AI-Enabler verfolgt CANCOM einen ganzheitlichen „One-4-All-Ansatz“: Das bedeutet, dass CANCOM Unternehmen über den gesamten AI-Lebenszyklus hinweg begleitet. Dazu gehört auch die Unterstützung beim Aufbau umfangreicher AI-Governance-Strukturen – so der IT-Konzern.

Die Leistungen von CANCOM beinhalten in diesem Kontext:

• eine umfangreiche Beratung zum Thema AI im Allgemeinen und AI-Governance im Speziellen – unter anderem im Rahmen des CANCOM AI Discovery Workshops
• die Auswahl passender Lösungen wie IBM watsonx.governance
• die Integration in bestehende IT- und Compliance-Umgebungen
• die Definition von Verantwortlichkeiten, gemeinsam mit dem Kunden
• Schulungen und Change Management-Maßnahmen.

Sie wünschen nähere Informationen bzw. eine unverbindliche Beratung zum Thema AI-Governance und dessen Umsetzung?

Dann kontaktieren Sie gerne die Experten von CANCOM.