{"id":870433,"date":"2024-11-26T08:54:23","date_gmt":"2024-11-26T08:54:23","guid":{"rendered":"https:\/\/www.capgemini.com\/de-de\/?p=870433"},"modified":"2026-01-22T07:45:42","modified_gmt":"2026-01-22T07:45:42","slug":"gen-ai-erfolgreich-in-organisationen-skalieren-herausforderungen-und-loesungen-auf-basis-eines-cloud-target-operating-models","status":"publish","type":"post","link":"https:\/\/www.capgemini.com\/de-de\/insights\/blog\/gen-ai-erfolgreich-in-organisationen-skalieren-herausforderungen-und-loesungen-auf-basis-eines-cloud-target-operating-models\/","title":{"rendered":"Gen AI erfolgreich in Organisationen skalieren \u2013 Herausforderungen und L\u00f6sungen auf Basis eines Cloud Target Operating Models"},"content":{"rendered":"\n

Gen AI erfolgreich in Organisationen skalieren \u2013 Herausforderungen und L\u00f6sungen auf Basis eines Cloud Target Operating Models<\/h1><\/div><\/div><\/div><\/div>
\"\"<\/div>
Holger Kuprian<\/h5>
28.11.2024<\/h5><\/div><\/div>
\"capgemini-invent\"\/<\/div><\/div><\/div><\/div><\/header>\n\n\n\n
\n

Einf\u00fchrung und Motivation zu Cloud & Gen AI-Synergien<\/strong><\/h2>\n\n\n\n

Generative AI1 (GenAI) ver\u00e4ndert die Gesch\u00e4ftslandschaft rasant und bietet Unternehmen neue Chancen, Arbeitsprozesse zu transformieren und innovative L\u00f6sungen zu entwickeln. GenAI vollzieht einen n\u00e4chsten Schritt in der Evolution der k\u00fcnstlichen Intelligenz: Seit Jahrzehnten wird AI und Machine Learning genutzt, um von vorhandenen Daten zu lernen und Gelerntes auf neue Daten anzuwenden. Die Revolution von GenAI besteht in der F\u00e4higkeit, eigene Inhalte zu erstellen und damit neue Daten anhand von erlernten Mustern und Regeln zu generieren. Laut der aktuellen Studie \u201eIT-Trends 2024\u201c des Capgemini Research Institutes planen in den kommenden zwei Jahren fast 50% der Unternehmen eine Integration von GenAI in ihre Abl\u00e4ufe. Diese Entwicklung verspricht einen erheblichen Wettbewerbsvorteil \u2013 vorausgesetzt, GenAI wird strategisch und nachhaltig implementiert.<\/p>\n\n\n\n

Der Schl\u00fcssel zur erfolgreichen Nutzung von GenAI liegt fast immer in einer leistungsf\u00e4higen und flexiblen Cloud-Infrastruktur. Die Cloud bietet nicht nur die n\u00f6tige Skalierbarkeit, sondern auch die Werkzeuge, um die speziellen Herausforderungen der Technologie zu bew\u00e4ltigen. Themen wie Sicherheitsanforderungen, Governance und Kostenmanagement sind Kernfragen bei der Implementierung von GenAI und k\u00f6nnen mit einem effektiven Cloud Target Operating Model (CTOM) gezielt adressiert werden. Hyperscaler wie Amazon Web Services (AWS), Microsoft Azure und Google Cloud Platform (GCP) liefern daf\u00fcr leistungsstarke Bausteine, die in die IT-Strategie integriert werden k\u00f6nnen und wichtige Synergien zur Cloud schaffen.<\/p>\n\n\n\n

In diesem Blogartikel beleuchten wir, wie das CTOM Unternehmen dabei unterst\u00fctzt, GenAI effizient einzuf\u00fchren und zu betreiben. Wir beschreiben, welche neuen Kompetenzen und Rollen erforderlich sind, wie ein modernes IT Service Management (ITSM) die kontinuierliche Bereitstellung und \u00dcberwachung von GenAI-Services sicherstellt und wie Green FinOps zur effektiven Kostenkontrolle beitr\u00e4gt. Durch eine fokussierte, strategische Anwendung und ein darauf abgestimmtes CTOM wird GenAI zur tragf\u00e4higen Investition in die Zukunft. Eine \u00dcbersicht aller wichtigen CTOM-Dimensionen wurde in unserer vorherigen Blogserie<\/a> vorgestellt.<\/p>\n\n\n\n

Gen AI-Rollen & -Skills <\/h2>\n\n\n\n

Als innovative Technologie bringt GenAI neue Anforderungen an die Organisation und deren Mitarbeitende mit sich. Diese Anforderungen beziehen sich auf neuartige, spezifische Kenntnisse und F\u00e4higkeiten, die sich verschiedene Rollen aneignen m\u00fcssen, und auf ein allgemeines Verst\u00e4ndnis und Bewusstsein innerhalb der Organisation, wie mit GenAI umzugehen ist, und welche Achtungspunkte ber\u00fccksichtigt werden sollten. In der Organisation sollten folgende Aspekte klar kommuniziert bzw. gelehrt werden:<\/p>\n\n\n\n

Allgemeines Wissen<\/strong><\/p>\n\n\n\n

Mitarbeitende m\u00fcssen als Nutzer von GenAI ein Verst\u00e4ndnis erlangen, was GenAI ist und wie sie eingesetzt werden kann. Die genaue Funktionsweise und technischen Hintergrundprozesse stehen hier nicht im Vordergrund. Stattdessen sollte Klarheit geschaffen werden, wie GenAI im Tagesgesch\u00e4ft bedenkenlos genutzt werden kann. Oft helfen hier praktische Anwendungsf\u00e4lle aus der \u00d6ffentlichkeit oder Industrie.<\/p>\n\n\n\n

Potenzial und Grenzen<\/strong><\/p>\n\n\n\n

Die Potenziale von GenAI gilt es zu kennen und zu nutzen. Allerdings gibt es gleicherma\u00dfen auch Grenzen, derer sich Mitarbeitende bewusst sein sollten. Besonderes Augenmerk sollte in diesem Zusammenhang auf dem Output liegen, den GenAI liefert. Denn nicht alles, was auf den ersten Blick als korrekt und logisch erscheint, ist es auch. Deshalb sollte GenAI nicht als Universalwerkzeug betrachtet werden, und ihre Anwendung im Einzelkontext abgewogen werden, um potenzielle Risiken zu minimieren.<\/p>\n\n\n\n

Datenethik<\/strong><\/p>\n\n\n\n

GenAI-Modelle werden mithilfe extrem gro\u00dfer Datenmengen trainiert. Diese Daten und der daraus generierte Output k\u00f6nnen personenbezogene oder sensible Daten enthalten. Das Modell verarbeitet die Prompts der Nutzenden und lernt auf Basis dieser. Folglich m\u00fcssen Nutzende sensibilisiert werden, keine sensiblen Informationen durch ihre Prompts preiszugeben und den generierten Output auf solche Informationen zu pr\u00fcfen.<\/p>\n\n\n\n

Neben der klaren Kommunikation lohnt es sich auch, (Gen) AI in der Organisation abzubilden. Dies kann zum Beispiel durch die Etablierung eines AI Center of Excellence (AICoE<\/strong>) nach dem Hub and Spoke Modell <\/strong>geschehen. Die zentrale Aufgabe des AICoE ist es neue Praktiken und Verhaltensweisen in die Organisation zu tragen und als zentrale Anlaufstelle bei Fragen und Problemen zu agieren. So k\u00f6nnen Kernpraktiken zentral entwickelt und von Wissenstr\u00e4gern aus verschiedenen Organisationseinheiten, den sogenannten Spokes, in der Organisation verbreitet werden. Das AICoE kann zus\u00e4tzlich um eine AI Factory <\/strong>erweitert werden. Die AI Factory w\u00e4hlt vielversprechende Anwendungsf\u00e4lle aus, entwickelt und betreibt auf die Organisation abgestimmte L\u00f6sungen.<\/p>\n\n\n\n

Die Ver\u00e4nderungen in der Organisation wirken sich auch auf einzelne Rollen aus, die ihre bestehenden F\u00e4higkeiten ausbauen und erg\u00e4nzen m\u00fcssen, wenn sie im Tagesgesch\u00e4ft mit (Gen) AI arbeiten oder sogar AI basierte L\u00f6sungen entwickeln. Abbildung 1 veranschaulicht exemplarisch, wie bestehende Rollenprofile weiterentwickelt und f\u00fcr neue AI-spezifische Themenfelder bef\u00e4higt werden k\u00f6nnen.<\/p>\n\n\n\n

\"\"<\/figure>\n\n\n\n

Abbildung 1: Exemplarischer Einfluss von Gen AI auf die Weiterentwicklung ausgew\u00e4hlter Rollen<\/em><\/p>\n\n\n\n

Der Einfluss von GenAI verlangt von Organisationen nicht nur Fort- und Weiterbildung, sondern auch organisatorische Anpassung, unabh\u00e4ngig davon, ob es um allgemeines Wissen geht oder um den Wissensaufbau einer bestimmten Rolle. Die Bef\u00e4higung der Mitarbeitenden ist Voraussetzung f\u00fcr den richtigen Umgang und effizienten Einsatz von GenAI. Um diesen Zielzustand zu erreichen, unterst\u00fctzt das Skill Assessment von Capgemini: In einem ersten Schritt wird der Reifegrad der F\u00e4higkeiten der Organisation gemessen, um auf dieser Basis, die richtigen Ma\u00dfnahmen zur Schlie\u00dfung bestimmter F\u00e4higkeitsl\u00fccken einzuleiten und so das gesetzte Ziel zu erreichen.<\/p>\n\n\n\n

Integration von Gen AI-Services ins IT Service Management<\/h2>\n\n\n\n

Im Rahmen des Cloud Target Operating Models ist ein zukunftsf\u00e4higes IT Service Management (ITSM) entscheidend, um den Betrieb und die Verwaltung von IT-Services in einer Cloud-Umgebung optimal zu gestalten. Die Integration von GenAI Angeboten der Hyperscaler wie AWS, Microsoft Azure und Google Cloud stellt neue Anforderungen an ITSM-Strukturen, die weit \u00fcber die reine Bereitstellung dieser Services hinausgehen. Eine<\/p>\n\n\n\n

zentrale Rolle spielen dabei IT-Servicekataloge, die nicht nur die verf\u00fcgbaren Services beschreiben, sondern auch mit klaren SLAs, Nutzungsrichtlinien und Support-Prozessen verkn\u00fcpft sind. Die wachsende Bedeutung von GenAI erfordert zus\u00e4tzliche Anpassungen im ITSM-Bereich: GenAI-Services m\u00fcssen nicht nur im IT-Servicekatalog erfasst, sondern auch durch optimierte ITSM-Prozesse (wie z.B. Change-, Incident- und Problemmanagement) unterst\u00fctzt werden.<\/p>\n\n\n\n

So k\u00f6nnen spezifische Anforderungen, wie die Leistungs\u00fcberwachung und Sicherheit von GenAI-Services, proaktiv adressiert werden. Change-Management-Prozesse sind ebenfalls anzupassen, um flexibel auf die regelm\u00e4\u00dfigen Updates und Erweiterungen der Hyperscaler-L\u00f6sungen zu reagieren.<\/p>\n\n\n\n

Abh\u00e4ngig von den gew\u00e4hlten Einsatzbereichen \u2013 wie KI-gest\u00fctzte Produktivit\u00e4tsanwendungen, vortrainierte Modelle und APIs, Entwicklungsplattformen oder skalierbare Bereitstellungsm\u00f6glichkeiten \u2013 ergeben sich jeweils unterschiedliche ITSM-Anforderungen und Anpassungsbedarfe. Diese Unterschiede unterstreichen die Bedeutung einer gezielten Auswahl und Integration der Hyperscaler-Angebote in die IT-Strategie. Die folgende Tabelle gibt einen \u00dcberblick \u00fcber die wichtigsten GenAI-Dimensionen und die entsprechenden Angebote der f\u00fchrenden Hyperscaler.<\/p>\n\n\n\n

\"\"<\/figure>\n\n\n\n

Abbildung 2: \u00dcbersicht von Gen AI-Service-Dimensionen und Hyperscaler-Angeboten (Auszug)<\/em><\/p>\n\n\n\n

Im Folgenden wird n\u00e4her auf die erste, zweite und vierte Dimension eingegangen, da diese die wichtigsten Schnittstellen zu ITSM bieten und eine gezielte Anpassung f\u00fcr die Integration und Skalierbarkeit von Gen AI-Services erfordern.<\/p>\n\n\n\n

KI-gest\u00fctzte Produktivit\u00e4ts- und Automatisierungsanwendungen<\/strong><\/h4>\n\n\n\n

GenAI er\u00f6ffnet Unternehmen durch KI-gest\u00fctzte Produktivit\u00e4ts- und Automatisierungsanwendungen die M\u00f6glichkeit, ihre t\u00e4glichen Arbeitsabl\u00e4ufe effizienter zu gestalten und repetitive Aufgaben zu automatisieren. Die Hyperscaler bieten eine Vielzahl derartiger L\u00f6sungen, die direkt in g\u00e4ngige Arbeitsumgebungen integriert werden k\u00f6nnen. Diese Anwendungen erm\u00f6glichen es Mitarbeitenden, auf KI-unterst\u00fctzte Tools zuzugreifen, die ihre Produktivit\u00e4t steigern und ihnen mehr Zeit f\u00fcr wertsch\u00f6pfende T\u00e4tigkeiten verschaffen.<\/p>\n\n\n\n

So hat Microsoft beispielsweise mit Microsoft 365 Copilot eine leistungsstarke KI-L\u00f6sung entwickelt, die das Arbeiten in Office-Anwendungen wie Word und Excel vereinfacht. Microsoft 365 Copilot generiert Texte, analysiert Daten und automatisiert Aufgaben mit nahtloser Integration in die bekannten Office-Produkte.<\/p>\n\n\n\n

Vortrainierte Modelle und APIs f\u00fcr einen schnellen Einstieg<\/strong><\/h4>\n\n\n\n

Vortrainierte KI-Modelle, die \u00fcber APIs verf\u00fcgbar sind, bieten Unternehmen die M\u00f6glichkeit, GenAI schnell und ohne den Aufwand eines eigenen Modelltrainings zu nutzen. Diese sogenannten Foundation Models sind auf gro\u00dfen Datenmengen trainiert und vielseitig einsetzbar, da sie bereits ein breites Verst\u00e4ndnis f\u00fcr Sprache, Bilder oder andere Datenarten mitbringen. Hyperscaler stellen hierf\u00fcr eine Vielzahl an vortrainierten Modellen zur Verf\u00fcgung, die sich \u00fcber API-Schnittstellen problemlos anbinden lassen.<\/p>\n\n\n\n

Ein Beispiel daf\u00fcr ist Google Vertex AI, das Unternehmen den Zugang zu vortrainierten Foundation-Modellen wie Google Gemini erm\u00f6glicht und so einen schnellen Einstieg in Generative AI bietet. Vertex AI stellt vielseitige KI-Modelle f\u00fcr Aufgaben wie Textgenerierung und Sprachverarbeitung bereit, ohne dass Unternehmen eigene Modelle entwickeln m\u00fcssen. Ein konkreter Anwendungsfall ist der Einsatz von Vertex AI in der Kundenbetreuung: Mithilfe von Sprachverarbeitungsmodellen lassen sich KI-gest\u00fctzte Chatbots implementieren, die Kundenanfragen in nat\u00fcrlicher Sprache verstehen und beantworten und so die Effizienz in der Kundenkommunikation steigern.<\/p>\n\n\n\n

Entwicklungs- und Bereitstellungsplattformen f\u00fcr skalierbare Gen AI-Modelle<\/strong><\/h4>\n\n\n\n

Hyperscaler bieten umfassende Plattforml\u00f6sungen f\u00fcr GenAI, die den gesamten Lebenszyklus von GenAI-Applikationen unterst\u00fctzen \u2013 von der Entwicklung bis zur flexiblen Bereitstellung und Skalierung. Diese L\u00f6sungen erm\u00f6glichen Unternehmen, KI-Modelle effizient in der Cloud zu betreiben und dynamisch an den Bedarf anzupassen, wodurch eine bedarfsgerechte und kosteneffiziente Nutzung sichergestellt wird.<\/p>\n\n\n\n

Ein Beispiel f\u00fcr derartige L\u00f6sungen ist Amazon SageMaker, das neben Entwicklungswerkzeugen umfassende Deployment- und Management-Tools bietet. SageMaker erm\u00f6glicht es Unternehmen, KI-Modelle in der Cloud automatisiert zu verwalten und deren Performance kontinuierlich zu \u00fcberwachen, um den reibungslosen Betrieb sicherzustellen. Ein Anwendungsfall ist die Bereitstellung von GenAI-Modellen f\u00fcr personalisierte Kundenkommunikation, die flexibel auf Nachfrage skaliert werden k\u00f6nnen.<\/p>\n\n\n\n

Gen AI-Financials & Kostenbetrachtung <\/h2>\n\n\n\n

Wie oben bereits beschrieben, ben\u00f6tigt die Umsetzung von GenAI neue bzw. erweiterte IT-Services, welche durch eigene Mitarbeitende entwickelt oder u.A. durch Hyperscaler zur Verf\u00fcgung gestellt werden k\u00f6nnen. Die Skalierbarkeit von IT-Infrastruktur bietet viele Vorteile wie erh\u00f6hte Agilit\u00e4t und verk\u00fcrzte Time-to-Market. Dies macht die IT-Kosten aber auch deutlich dynamischer und komplexer zu kontrollieren \u2013 mit der aktuellen Verdopplung der On-Demand2 IT-Kosten alle vier bis f\u00fcnf Jahre stehen Unternehmen vor gewaltigen Herausforderungen3. GenAI-Technologien wie ChatGPT oder unternehmensspezifische KI-L\u00f6sungen versch\u00e4rfen diese Herausforderung durch ihre intensive Ressourcennutzung und komplexen Preisstrukturen noch weiter. Der Green-FinOps-Ansatz von Capgemini kombiniert FinOps- und GreenOps-Prinzipien, um GenAI, Cloud und SaaS-Kosten effektiv zu managen und zugleich Nachhaltigkeit und \u00f6kologische Verantwortung zu f\u00f6rdern. Der Ansatz kann in vier Kategorien aufgeteilt werden:<\/p>\n\n\n\n

1. Transparenz schaffen<\/strong><\/p>\n\n\n\n

Der Green-FinOps-Ansatz unterst\u00fctzt Unternehmen dabei, Kostentransparenz in ihrer On-Demand-IT zu schaffen, indem er auf verschiedene Hebel, Cloud Economics Prinzipien, und Tools setzt, die ein klares Verst\u00e4ndnis der On-Demand-IT-Nutzung innerhalb des Unternehmens erm\u00f6glichen. Ein Beispiel f\u00fcr die verwendeten Hebel sind Showback-Analysen und Dashboards, die detaillierte Einblicke in Kostenstrukturen bieten und so eine klare \u00dcbersicht \u00fcber die Ressourcennutzung und Ausgaben schaffen. Dies wird durch effiziente Datenaufnahme (Data Ingestion) und Datenaufbereitung (Data Mapping) unterst\u00fctzt, wodurch eine pr\u00e4zise und kontinuierliche Analyse der Kosten gew\u00e4hrleistet wird.<\/p>\n\n\n\n

2. Kosteneffizienz und -effektivit\u00e4t steigern<\/strong><\/p>\n\n\n\n

Um die Kosten bei der Nutzung von GenAI-Technologien nachhaltig zu optimieren, ist ein strukturierter Ansatz erforderlich, der sowohl die Effizienz als auch die Effektivit\u00e4t der Ressourcennutzung in den Mittelpunkt stellt. Da GenAI-Technologien durch ihre hohe Rechenleistung oft signifikante Kosten verursachen, setzt der Ansatz auf Ma\u00dfnahmen wie Multi-Cloud-Management, Commitment-basierte Rabatte und Lizenzoptimierung, um eine kosteneffiziente Nutzung sicherzustellen. Techniken wie Rightsizing, Scheduling und Autoscaling erm\u00f6glichen Anpassungen des Ressourcenverbrauchs an den tats\u00e4chlichen Bedarf der GenAI-Workloads. Durch diese Hebel k\u00f6nnen Unternehmen sicherstellen, dass GenAI-Kosten kontrolliert und effizient bleiben, ohne die Leistungsf\u00e4higkeit oder Skalierbarkeit ihrer KI-L\u00f6sungen zu beeintr\u00e4chtigen.<\/p>\n\n\n\n

3. Organisationsweites Engagement und gemeinsame Ziele f\u00f6rdern<\/strong><\/p>\n\n\n\n

IT- bzw. FinOps-Teams allein haben nur begrenzte Wirkung auf Technologien, die unternehmensweit genutzt und durch Business-Anforderungen beeinflusst werden. Eine durchg\u00e4ngige Ausrichtung aller Ebenen im Unternehmen ist entscheidend, um die Gen AI-Nutzung strategisch und nachhaltig zu gestalten. Abbildung 3 verdeutlicht die notwendige kontinuierliche Abstimmung zwischen Wertsch\u00f6pfung anhand der IT- bzw. Gen AI-Strategie sowie Kostenoptimierung und -kontrolle durch Governance-Prozesse. Strukturiertes Value Management und die Kombination aus kontinuierlicher Datenerfassung, Kostenzuordnung und strategischen Bewertungen schafft eine solide Basis f\u00fcr datenbasierte Entscheidungen. Regelm\u00e4\u00dfige Reviews und standardisiertes Reporting stellen sicher, dass Gen AI- Initiativen im Einklang mit den Unternehmenszielen bleiben. Dieser Ansatz f\u00f6rdert ein organisationsweites Engagement, das klare Verantwortlichkeiten definiert und die Balance zwischen Kostenoptimierung und Innovation wahrt.<\/p>\n\n\n\n

\"\"<\/figure>\n\n\n\n

Abbildung 3: Organisationsweiter Ansatz zur Wertsch\u00f6pfung und Kostenoptimierung mit Gen AI<\/em><\/p>\n\n\n\n

4. Green-FinOps-Strategien f\u00fcr eine umweltbewusste Gen AI-Nutzung etablieren<\/strong><\/p>\n\n\n\n

Im Rahmen des ganzheitlichen Green-FinOps-Ansatzes wird Nachhaltigkeit gezielt gef\u00f6rdert, um eine umweltbewusste und kosteneffiziente Nutzung von Gen AI-Ressourcen zu erm\u00f6glichen. Verschiedene Hebel wie Umweltanalysen und der Einsatz erneuerbarer Energien tragen dazu bei, den \u00f6kologischen Fu\u00dfabdruck von Gen AI-Workloads zu verstehen und zu verringern. Zus\u00e4tzlich sorgen Energiesparma\u00dfnahmen und eine optimierte Ressourcennutzung, beispielsweise durch effizientere Serverauslastung und das gezielte Abschalten nicht ben\u00f6tigter Ressourcen, f\u00fcr eine ressourcenschonende Cloud-Umgebung. Viele dieser Ma\u00dfnahmen bieten dabei einen doppelten Vorteil: Sie reduzieren nicht nur die Betriebskosten, sondern f\u00f6rdern auch eine nachhaltigere IT-Infrastruktur. Dieser integrierte Nachhaltigkeitsansatz erlaubt es Unternehmen, ihre Gen AI-Kosten zu kontrollieren und gleichzeitig einen positiven Beitrag zur Umwelt zu leisten.<\/p>\n\n\n\n

Fazit <\/h2>\n\n\n\n

Zusammenfassend bietet Gen AI den Unternehmen vielf\u00e4ltige Potenziale, erfordert jedoch eine strategische Integration und den gezielten Aufbau neuer Kompetenzen. Ein effektives Cloud Target Operating Model und nachhaltige Ans\u00e4tze wie Green FinOps erm\u00f6glichen es, wirtschaftliche und \u00f6kologische Ziele zu vereinen. Mit ganzheitlicher Planung, der Integration von Hyperscaler Services und verantwortungsvoller Nutzung wird Gen AI zum entscheidenden Treiber f\u00fcr langfristigen Erfolg.<\/p>\n\n\n\n

Vielen Dank an meine Co-Autoren Lucas Neumann, Korbinian Kn\u00f6ller, Svea Buttgereit, Tom Balow, Jonathan Brandt und David K\u00f6sters.<\/em><\/p>\n\n\n\n

\n\n\n\n