AI ganzheitlich denken: die Dell AI Factory

Artificial Intelligence (AI) hat in den letzten Jahren enorme Fortschritte gemacht und ist heute ein entscheidender Faktor für den Unternehmenserfolg. Doch AI-Lösungen stellen hohe Anforderungen an Unternehmen – und zwar nicht nur in Hinblick auf die Infrastruktur: AI-Lösungen zu entwickeln und zu betreiben ist ein langer Prozess mit einer Vielzahl von Disziplinen, die ein Unternehmen meistern muss. Dazu braucht es einen ganzheitlichen Ansatz – konkret ein Zusammenspiel aus professioneller Beratung, der richtigen Hard- und Software sowie wertvollen Partnerschaften. AI ist kein Einzelsport.

Genau hier setzt Dell Technologies mit der Dell AI Factory an. Dabei handelt es sich um ein ganzheitliches Framework, das Kunden helfen soll, AI-Modelle zu entwickeln und langfristig zu betreiben. Es umfasst neben dem Prozess der Datenverarbeitung die Beratung und Entwicklung von AI-Modellen sowie die Bereitstellung für konkrete AI Use Cases. Gerade Use Cases spielen im Kontext von AI eine zentrale Rolle: Sie sind es, die Unternehmen überhaupt erst dazu bewegen, in Richtung AI aktiv zu werden, da hier die Notwendigkeit und die Mehrwerte erkennbar werden.

Das nachfolgende Schaubild zeigt die einzelnen Bestandteile der Dell AI Factory in der Übersicht:

Bild: © Dell Technologies

CANCOM Assistant als typischer AI Use Case

Um die Dell AI Factory anschaulich zu erklären, wird im Folgenden beispielhaft ein AI Use Case von CANCOM verwendet: der CANCOM Assistant. So lässt sich dessen praktischer Einsatz mithilfe der Dell AI Factory realisieren.

Der CANCOM Assistant ist eine DSGVO-konforme Chatbot-Lösung. Um es im Wording von Dell Technologies auszudrücken, kann man ihn auch als Digital Assistant bezeichnen. Der CANCOM Assistant ist keine One-fits-all-Lösung, sondern kann verschiedene Ausprägungen haben. Zum Beispiel ist das Hosting sowohl On-Premises als auch in der Cloud möglich. Zudem kann die Lösung verschiedene Datenbanken anzapfen, das Internet durchforsten, von Grund auf trainiert werden oder ein vortrainiertes Large Language Modell (LLM) verwenden. Kein CANCOM Assistant gleicht dem anderen – und das ist auch gut so. Schließlich hat jedes Unternehmen andere Voraussetzungen.

Doch wie lässt sich der CANCOM Assistant nun konkret auf die Dell AI Factory übertragen? Grob gesagt, hat Dell Technologies in der Dell AI Factory eine Vielzahl von Lösungen und Services integriert, mit denen Unternehmen die einzelnen Schritte bis zur erfolgreichen Umsetzung von AI Use Cases – wie eben dem CANCOM Assistant – gehen können. 

Daten im Überfluss – wie wird man Herr über das Chaos?

Los geht es mit dem Thema Daten. Diese bilden die Grundlagen für jedes AI-Modell. Der CANCOM Assistant ist hier natürlich keine Ausnahme. Doch Daten haben gewisse Herausforderungen wie: 

• Verteilung: Die benötigten Daten liegen verteilt in der Cloud, im Rechenzentrum und am Edge.
• Vielfalt: Daten existieren in unterschiedlichen Formaten, wie strukturierte Datenbanken, Logs, Textdateien oder Sensordaten.
• Vorbereitung: Diese Rohdaten müssen für ein AI-Modell, wie das des CANCOM Assistants, gesammelt, bereinigt und harmonisiert werden.

Um diese Herausforderungen zu adressieren, bietet die Dell AI Factory ein hybrides Modell an, das als State-of-the-Art-Lösung gilt: ein sogenanntes Data Lakehouse. Eine solche Lösung kombiniert die Flexibilität eines Data Lakes – der als zentrales Repository große Mengen an strukturierten, semi-strukturierten und unstrukturierten Daten in ihrer Rohform abspeichern kann – mit den Analysefähigkeiten eines Data Warehouses. Zweiteres ist in der Lage, vorab transformierte und in ein festes Schema gegossene Daten aus verschiedenen Quellen zu speichern und zu analysieren.

Die wesentlichen Merkmale eines Data Lakehouses sind:

1. Flexible Datenformate: Unterstützt strukturierte, semi-strukturierte (JSON, XML) und unstrukturierte Daten (Bilder, Videos).
2. Schema-on-Read: Daten können in Rohform gespeichert und bei Bedarf in ein Schema transformiert werden.
3. Performance: Unterstützt Analysen ähnlich wie ein Data Warehouse, ohne auf Flexibilität zu verzichten.
4. Kosteneffizienz: Günstiger, da Daten in skalierbaren Speichersystemen (z. B. Cloud) abgelegt werden.

So können beispielsweise die für den CANCOM Assistant benötigten Daten effizient für das Training des AI-Modells aufbereitet werden – was eine solide Basis für den Trainingsprozess schafft. 

Services – von der Strategie zum Betrieb

Nachdem die Daten konform bereitgestellt sind, geht es anschließend um die Auswahl der passenden Services, um das jeweilige AI-Modell zu entwickeln. Hier hat Dell Technologies mit der Dell AI Factory eine Reihe von Services im Portfolio: von der strategischen Planung bis hin zum skalierbaren Betrieb. Beispielsweise gehören zu den Services die Formulierung der AI-Strategie, die Unterstützung bei der Einrichtung von AI-Plattformen, der Support bei der AI-Modellentwicklung oder die Umsetzung des AI-Projekts. Damit möchte Dell Technologies bestehende „Skill Gaps“ in Unternehmen schließen.

Bezogen auf den CANCOM Assistant, gleichen diese Leistungen indes der Orchestrator.AI von CANCOM. Dabei handelt es sich um ein konzeptionelles und technisches Framework, das Services für die Entwicklung individueller AI-Lösungen beinhaltet. Das Framework ist modular aufgebaut und basiert auf den Erfahrungen zahlreicher AI-Projekte. Kunden können aus verschiedenen Modulen genau diejenigen auswählen, die ihren Use Case am besten adressieren.

Ein mögliches Basis-Modul für den CANCOM Assistant ist zum Beispiel die Informationsextraktion. Dieses lässt sich auf Wunsch ergänzen, etwa mit den Core-Skills „Text“ sowie „Image & Video“. Welche Services im konkreten Einzelfall benötigt werden, ist Teil der Beratung bei CANCOM.

Offenes Ökosystem & leistungsfähige Infrastruktur – die Basis für erfolgreiche AI-Lösungen

Sind die passenden Services ausgewählt, steht die Entwicklung des konkreten AI-Modells auf der Agenda. Damit das gelingt, setzt die Dell AI Factory auf zwei Säulen: ein offenes Ökosystem und eine leistungsfähige Infrastruktur. Wie Dell Technologies betont, arbeiten beide Säulen Hand in Hand und ermöglichen nicht nur die Entwicklung, sondern auch den reibungslosen Betrieb sowie die Skalierbarkeit moderner AI-Modelle wie den CANCOM Assistant.

• Mit dem Ökosystem sind die Tools und Frameworks gemeint, um ein AI-Modell zu entwickeln – sozusagen der Werkzeugkasten zum Erstellen eines AI-Modells. Ein Ökosystem lebt vor allem von der Vielfalt der Anbieter, weswegen Dell Technologies sein Ökosystem als „offen“ bezeichnet: Das Unternehmen pflegt zahlreiche Partnerschaften mit namhaften Anbietern. Besonders die Partnerschaft zu NVIDIA wird im Zusammenhang mit der Dell AI Factory oft hervorgehoben. Grund hierfür ist der hohe Grad an Standardisierung und Support, den NVIDIA im Rahmen seiner Lösungen bietet.
• Seitens der Infrastruktur greift Dell AI Enterprise vor allem auf das integrierte Framework NVIDIA NeMo zurück. Dieses wurde speziell für die Erstellung, Feinabstimmung und Bereitstellung von LLMs entwickelt. Es bietet vortrainierte Sprachmodelle, die direkt genutzt oder durch Transfer Learning an spezifische Anwendungsfälle (z. B. FAQs, Benutzerinteraktionen) angepasst werden können. Neben Text kann NeMo auch mit Audio und anderen Modalitäten arbeiten – wodurch es beispielsweise möglich ist, den Funktionsumfang des CANCOM Assistant zu erweitern.

Ein gutes Beispiel für das Zusammenspiel des offenen Ökosystems mit der leistungsfähigen Infrastruktur sind die sogenannten Dell Validated Designs (DVDs). Die DVDs sind getestete Lösungsarchitekturen, die speziell für konkrete AI Use Cases wie Chatbots oder andere AI Use Cases entwickelt wurden. Theoretisch kann ein DVD als technischer Blueprint für den CANCOM Assistant verwendet werden.

DVDs nähern sich hier dem sogenannten „Full AI Stack“ an: Sie fungieren als Grundlage für Hard- und Software. Sie beschreiben sowohl die infrastrukturelle Architektur (also Server, Storage, Netzwerk) als auch die benötigten Softwarekomponenten, um die einzelnen Layer des Stacks zu betreiben (also Containerschicht, Softwarestack). Die DVDs gibt es derzeit auf Basis von NVIDIA, AMD und Intel.

Enge Partnerschaft – wie sich die Leistungen von CANCOM und Dell Technologies ergänzen

Das zeigt: Mit der Dell AI Factory bietet Dell Technologies einen ganzheitlichen Rahmen, um AI-Projekte erfolgreich umzusetzen. So können Unternehmen mit den darin integrierten Lösungen und Services AI-Modelle entwickeln und betreiben – auf Basis konkreter AI Use Cases wie den CANCOM Assistant.

CANCOM berät Unternehmen umfassend dazu. Darüber hinaus bietet der IT-Konzern Firmen mit dem eigenen One-4-All-Ansatz die Möglichkeit, die Lösungen und Services der Dell AI Factory durch zusätzliche CANCOM-Leistungen zu veredeln. Dazu gehören zum Beispiel die Bewertung der Governance bzw. Compliance, die Beratung zur passiven Infrastruktur – also wie die Infrastruktur verkabelt und gekühlt werden muss – sowie das Thema Change Management.

Die nachfolgende Grafik zeigt den One-4-All-Ansatz in der Übersicht:

Bild: © CANCOM

Die Bereiche Governance und Compliance werden insbesondere im Hinblick auf die europäische Verordnung des „AI Act“, die im August 2024 in Kraft getreten ist, immer wichtiger. Denn hieraus ergeben sich unterschiedliche Anforderungen – etwa hinsichtlich der Transparenz des AI-Modells, der Risikobewertung dieses Modells oder dessen Datenqualität. Wie CANCOM hervorhebt, kann der IT-Konzern hier nicht nur aus technischer Sicht unterstützen, sondern auch aus rechtlicher Sicht heraus beraten, welche Besonderheiten bestehen und wie Unternehmen diese berücksichtigen können.

Der Bereich Change Management wiederum ist die Grundvoraussetzung, um ein AI-Modell erfolgreich in den Betriebsalltag des jeweiligen Unternehmens zu integrieren. Damit ein AI-Modell zum Unternehmenserfolg beitragen kann, muss es von den Mitarbeitern genutzt werden. Häufig wird der Faktor Mensch jedoch vernachlässigt. Im schlimmsten Fall führt dies dazu, dass Unternehmen mehrere Millionen für ein funktionierendes AI-Modell ausgeben – das dann aber keiner verwendet. CANCOM unterstützt Kunden dabei, dies zu verhindern – indem das AI-Modell an die internen Prozesse angepasst wird.

Umgekehrt bietet Dell Technologies CANCOM mit ihren DVDs valide technische Grundlagen, die CANCOM auf die AI Use Cases der Kunden zuschneiden und mit eigenen Lösungen anreichern kann. Wie beide Unternehmen betonen, liegt genau hier die Stärke der Partnerschaft: Die AI-Angebote von CANCOM und Dell Technologies würden sich optimal ergänzen. Dank dieses ganzheitlichen Ansatzes ließe sich AI nahtlos in die Geschäftsprozesse der Kunden integrieren – wodurch nachhaltig ein geschäftsrelevanter Mehrwert entstünde.

Nähere Informationen zu den Lösungen von CANCOM im AI-Bereich finden Sie hier. Diese wurden indes jüngst ausgezeichnet: Auf dem Dell Technologies Forum am 10. Dezember 2024 in München erhielt CANCOM den Award für „Excellence in AI“. Dell Technologies hob dabei vor allem die führende Rolle von CANCOM im AI-Bereich sowie die enge Zusammenarbeit mit CANCOM hervor. Mehr dazu erfahren Sie in der offiziellen Pressemitteilung.