Bild: © CANCOM
Immer mehr AI-Anwendungen und -Agenten werden in Unternehmen entwickelt. CIOs weltweit haben jedoch große Schwierigkeiten, die Kontrolle über den AI-Einsatz zu behalten. Das geht aus einer aktuellen Umfrage von Dataiku unter 685 CIOs in acht Ländern hervor.
Demnach geben 84 Prozent der CIOs weltweit an, dass Mitarbeiter AI-Agenten und -Anwendungen schneller erstellen, als die IT sie steuern kann (Deutschland: 81 Prozent, USA: 94 Prozent). Weiterhin geben 81 Prozent an, dass ihnen die vollständige Übersicht über die im Unternehmen eingesetzten AI-Agenten fehlt – gerade, wenn diese außerhalb genehmigter Systeme oder an offiziellen Kanälen vorbei erstellt wurden (Shadow AI).
Steuerung von AI-Agenten immer entscheidender
Wie die Studie betont, kann diese Intransparenz erhebliche Folgen für Unternehmen haben: Selbst wenn ein AI-Agent technisch genau wie vorgesehen funktioniert, sei es möglich, dass er eine Entscheidung trifft, die gegen die Compliance-Richtlinien des Unternehmens verstößt. Auch lasse sich nicht ausschließen, dass durch diese Entscheidung Kunden, die Unternehmensfinanzen oder der komplette Geschäftsbetrieb empfindlichen Schaden nehmen.
Um solche Szenarien zu verhindern, muss die IT laut Studie einen vollständigen Überblick über alle eingesetzten AI-Anwendungen und -Agenten haben – und gleichzeitig in der Lage sein, sie zu kontrollieren und zur Not schnellstmöglich aus dem Verkehr zu ziehen. Außerdem müssten die konkreten Zuständigkeiten geklärt werden. In vielen Unternehmen sei eine Frage nämlich offen: Wer ist für die Entscheidungen, den Betrieb, die Kontrolle und auch die messbaren Ergebnisse der AI-Anwendungen und -Agenten letztendlich verantwortlich? Laut Studie fallen die Antworten darauf höchst unterschiedlich aus. Einige befragte CIOs sehen die Verantwortung bei mehreren Teams (27 Prozent), andere bei der IT (23 Prozent) und wieder andere bei den Prozessverantwortlichen (8 Prozent).
Messbare Ergebnisse werden zur Pflicht
Die Steuerung von AI-Agenten spielt jedoch nicht nur aus Security- und Compliance-Sicht eine immer wichtigere Rolle – so die Studie weiter. Sie werde auch für den wirtschaftlichen Nachweis des AI-Einsatzes zunehmend unverzichtbar. Und dieser Nachweis werde immer stärker eingefordert. Tatsächlich geben in der Studie 69 Prozent der deutschen CIOs an, dass sie ihre Position gefährdet sehen, wenn sie in Zukunft keine messbaren Ergebnisse liefern können.
Die Studienautoren sehen darin einen grundlegenden Wandel der CIO-Rolle. Wörtlich heißt es (aus dem Englischen übersetzt, Anm. d. Red.):
Die nächste Entwicklungsstufe von Enterprise-AI wird nicht danach beurteilt, wie viele AI-Agenten im Einsatz sind. Entscheidend wird vielmehr sein, ob sie einen konkreten Mehrwert liefern und gleichzeitig zuverlässig kontrolliert werden können. Für CIOs werden die Leistungsfähigkeit und die Governance agentischer AI künftig zu einem untrennbaren Bestandteil ihrer Verantwortung.
Vom Pilotprojekt zum messbaren Nutzen
Messbare Ergebnisse setzen allerdings voraus, dass AI-Lösungen überhaupt den Weg in den produktiven Betrieb finden. Genau hier hakt es gerade im deutschen Mittelstand. Das besagt die aktuelle Studie „AI zwischen Vision und Umsetzung – Wie der Mittelstand den Schritt von Pilotprojekten zur breiten Umsetzung schafft“, die techconsult im Auftrag von CANCOM und ServiceNow durchgeführt hat (CANCOM.info berichtete).
Demnach gelingt es bisher nur wenigen Unternehmen, AI-Lösungen von der Pilot- in die produktive Phase zu überführen. Woran das liegt und wie Firmen die AI-Integration erfolgreich umsetzen können, lesen Sie in der vollständigen Version der Studie. Hier geht es zum Download.