Artificial Intelligence

AI im Mittelstand: viel im Einsatz, wenig integriert

Drei von vier mittelständischen Unternehmen in Deutschland nutzen heute AI-Lösungen. Aber: Die Mehrheit kommt aktuell nicht über einzelne Pilotprojekte oder isolierte Anwendungsfälle hinaus. Das besagt die aktuelle Studie von techconsult im Auftrag von CANCOM und ServiceNow.

31. Juli 2026

|

ai-chip-mittelstand

Bild: © techconsult

Laut der Studie „AI zwischen Vision und Umsetzung – Wie der Mittelstand den Schritt von Pilotprojekten zur breiten Umsetzung schafft“ (hier geht es zum Download) betreiben aktuell 49 Prozent der mittelständischen Unternehmen AI-Lösungen ausschließlich in Silos – also in einzelnen Abteilungen oder Projekten. Nur jedes Vierte habe AI-Lösungen hingegen in seine Kernprozesse integriert. Für die Studie hat techconsult im Auftrag von CANCOM und ServiceNow insgesamt 218 IT- und AI-Verantwortliche sowie -Entscheider aus Unternehmen in Deutschland mit mindestens 500 Beschäftigten befragt.

Wie die Studie betont, ist das ein großes Problem: So könnten Unternehmen das Potenzial von AI nicht ausschöpfen. Denn dafür müssten sie die AI-Lösungen von der Pilot- in die produktive Phase überführen – was jedoch eine Integration in ihre Kernprozesse voraussetzt. 

Wörtlich heißt es: „AI scheitert selten an fehlenden Ideen, sondern an fehlenden strukturellen Voraussetzungen.“

Das sind die größten Hürden für die AI-Integration

Doch was hindert mittelständische Unternehmen nun konkret daran, AI-Lösungen in ihre Kernprozesse zu integrieren – und so die strukturellen Voraussetzungen zu schaffen? Die Studienautoren nennen eine Reihe von Gründen. Dazu zählen unter anderem: 

  • IT-Sicherheit und Risikomanagement
  • Kosten- und Budgetrestriktionen
  • Fehlendes Know-how
  • Fragen der Datensouveränität
  • Regulatorische Unsicherheiten

Dabei würden die Bereiche IT-Sicherheit und Risikomanagement die größte Hürde für die AI-Integration darstellen. Wie die Studie hervorhebt, haben Unternehmen insbesondere bei der Datensicherheit und der Absicherung von AI-Modellen Bedenken.

„Fehlen belastbare Sicherheitsarchitekturen und eindeutig definierte Verantwortlichkeiten, verbleiben AI-Initiativen häufig auf Pilotniveau und werden nicht in den Regelbetrieb überführt“, so die Studienautoren.

Erschwerend komme hinzu, dass 16 Prozent AI-Anwendungen im Einsatz hätten, die von der IT nicht autorisiert wurden und deshalb ein potenzielles Sicherheitsrisiko darstellen („Schatten-AI“).

Die Zunahme von AI-Agenten verschärfe die Situation zusätzlich: Da diese in der Lage sind, Handlungen autonom zu planen und auszuführen, müssen sich Unternehmen laut Studie mehr denn je um Themen wie IT-Sicherheit, Transparenz, Verantwortlichkeiten und Compliance auseinandersetzen.

Unternehmen suchen externe Unterstützung

Um die Anforderungen zu erfüllen – und AI somit erfolgreich in die produktive Phase zu überführen – denken immer mehr Unternehmen darüber nach, externen Support in Anspruch zu nehmen. 

Wie aus der Studie hervorgeht, würden sie gezielt nach struktureller Unterstützung entlang der Architektur, Integration und der Befähigung der Beschäftigten suchen – anstatt nach punktuellen Lösungen. Entsprechend ginge es ihnen weniger darum, einzelne AI-Modelle zu implementieren, sondern diese mit externer Hilfe technisch und organisatorisch im Betrieb zu verankern.

Um einen geeigneten Dienstleister zu finden, verfolgen Unternehmen drei klare Kriterien – so die Studie weiter. Diese sind demnach: 

  • Technische Exzellenz und tiefes Verständnis für AI-Modelle und Architekturen 
  • Branchen- und Prozessverständnis 
  • Ganzheitlicher Ansatz für Integration von AI 

Nur IT-Dienstleister, die diese drei Kriterien erfüllen, hätten im Auswahlprozess eine reelle Chance.

Inwiefern CANCOM (mittelständische) Unternehmen dabei unterstützen kann, AI-Lösungen von der Pilot- in die produktive Phase zu überführen, führt CANCOM-Experte Daniel Kiehl (Director Competence Center Datacenter & Cloud bei CANCOM) im Gastbeitrag aus. 

Detaillierte Informationen zum Reifegrad des deutschen Mittelstands bei der AI-Integration – inklusive konkreter Hürden, Fazit und Handlungsempfehlungen – lesen Sie in der vollständigen Version der Studie. Außerdem erfahren Sie, in welchen Bereichen AI aktuell besonders häufig eingesetzt wird – und welche AI-Ziele der Mittelstand in den nächsten zwei Jahren verfolgt.

Hier geht es zum Download. 

Mehr zum Thema „Artificial Intelligence“

generative-ai-microsoft-copilot

Immer mehr Firmen setzen auf generative AI. Der gewünschte Erfolg bleibt jedoch oft aus. Doch woran liegt das – und wie kann der erfolgreiche Einsatz gelingen?

Artikel lesen
250402_aruba_nachhaltigkeit_ki_04

Ressourcenschonende IT-Infrastrukturen mit KI: Wie Unternehmen mit HPE Aruba Networking Energie sparen und langfristig effizienter wirtschaften können, lesen Sie hier.

Artikel lesen
240920_cc_info_samsung_galaxy_ai_Sprachbarrieren_abbauen

Die neue Galaxy AI-Serie von Samsung ist mit KI-Funktionen ausgestattet, die Sprachbarrieren im Business-Alltag überwinden sollen.

Artikel lesen