Technologieführer mit über 30 Jahren Erfahrung erklärt, wie der Wechsel von KI-Silos zu einem gesteuerten Betriebsmodell gelingt

Prem Kumar A S verfügt über mehr als 30 Jahre Erfahrung in der Leitung von IT- und Cloud-Infrastrukturprojekten. Derzeit ist er als VCTO bei The Preminent tätig.

Wir haben uns mit Prem zusammengesetzt, um zu verstehen, wie Unternehmen von vereinzelten KI-Anwendungen zu einem gesteuerten Betriebsmodell übergehen können. Das hat er uns erzählt.

Mehr als 30 Jahre Erfahrung

Ich verfüge über mehr als 30 Jahre Erfahrung in der Leitung von IT- und Cloud-Infrastrukturprojekten auf der ganzen Welt. Derzeit arbeite ich als VCTO und berate Vorstände und CXOs in den Bereichen Technologie, Cyberrisiken, Resilienz, Vertrauen und Governance im Zeitalter der KI. Mein Schwerpunkt liegt darauf, Führungsteams dabei zu unterstützen, klarere, fundiertere und zukunftsfähigere Entscheidungen zu treffen.

Daneben moderiere ich PREMINENT KONCLAVE by Power of Knowing Forum — eine wegweisende wöchentliche Podcast-Reihe zu Technologie, Cybersicherheit, Wachstum und Strategie mit mehr als 370 Gesprächen mit Führungskräften und einem wachsenden Expertennetzwerk.

Wie man von vereinzelten KI-Anwendungen zu einem gesteuerten Betriebsmodell übergeht

Wir sind von der Erprobung einzelner Tools zu einem gesteuerten Betriebsmodell übergegangen — und zwar durch die Einführung einer Prüfebene für KI-Governance und -Bereitstellung, bevor eine KI-gestützte Lösung produktiv eingesetzt werden durfte.

Zuvor wurde KI in einzelnen Bereichen erprobt — durch Copiloten, Automatisierungspiloten, Anwendungsfälle für Analysen und einige Experimente im Bereich Sicherheit. Das Problem war nicht der Wille, sondern die Fragmentierung. Unterschiedliche Teams konnten KI-gestützte Funktionen ohne ein gemeinsames Rahmenwerk für Datenklassifizierung und das Risiko der Offenlegung, Grenzen der Modellnutzung, Genehmigungen für KI-Tools von Drittanbietern, menschliche Überprüfung und Verantwortlichkeit oder die Messung von Geschäftsergebnissen bewerten oder sogar bereitstellen.

Einfach ausgedrückt begann KI schneller in die Umgebung einzudringen, als die Governance Schritt halten konnte. Das birgt für jedes ernstzunehmende Unternehmen drei Risiken:

1. Sicherheits- und Datenschutzrisiken: sensible Geschäfts- oder Kundendaten gelangen in nicht verwaltete KI-Workflows
2. Betriebliche Inkonsistenz: Teams verwenden unterschiedliche Tools, Eingabeaufforderungen und Prozesse ohne wiederholbare Standards
3. Risiken auf Vorstandsebene ohne Transparenz: Die Nutzung von KI nimmt zu, aber die Führung weiß nicht, wo die tatsächlichen Risiken oder der tatsächliche ROI liegen

Deshalb führten wir ein praxisnahes KI-Kontrollmodell ein, das daran ausgerichtet ist, wie Technologie entwickelt, bereitgestellt und gesteuert wird — nicht als theoretisches Richtliniendokument, sondern als betriebliche Disziplin. Dazu gehörten fünf konkrete Veränderungen:

1. KI-Anwendungsfälle mussten vor der Einführung klassifiziert werden. Jeder vorgeschlagene KI-Anwendungsfall wurde als risikoarme Produktivitätsanwendung, interne Entscheidungsunterstützung, kundenorientierte Anwendung oder als sensibler/regulierter/hochriskanter Anwendungsfall kategorisiert. Dadurch änderte sich das Gespräch sofort von „Können wir KI einsetzen?“ zu „Welches Maß an Governance erfordert dieser KI-Anwendungsfall?“
2. Für die Einführung von KI wurde ein obligatorischer Prüfpunkt eingerichtet. Bevor ein KI-gestütztes Tool, eine Automatisierung oder ein Workflow in den Produktivbetrieb übergehen konnte, musste eine Prüfung hinsichtlich Datenempfindlichkeit, Identitäts- und Zugriffskontrollen, Anbieter-/Modellrisiken, Umgang mit Eingaben und Ausgaben, Punkten zur menschlichen Genehmigung, Fallback-/Rollback-Mechanismen sowie Anforderungen an die Prüfprotokollierung bestanden werden. Dadurch wurde die Einführung von KI zu einem Bestandteil der Technologie-Governance und nicht nur zu einer Innovationsinszenierung.
3. Wir trennten Experimente vom Produktivbetrieb. Für Experimente mit KI wurde ein kontrolliertes Sandbox-Modell eingerichtet. Teams konnten Ideen schnell testen — für den Produktiveinsatz waren jedoch genehmigte Datensätze, genehmigte Tools/Modelle, klar definierte Verantwortliche, messbare Geschäftsergebnisse und, sofern erforderlich, eine Risikofreigabe nötig. Dies war ein bedeutender kultureller Wandel, da Innovation geschützt wurde, ohne dass Experimente unbemerkt zu einer Abhängigkeit des Unternehmens werden konnten.
4. Wir führten Regeln für den „Menschen im Prozess“ bei sensiblen Workflows ein. Für jeden KI-Anwendungsfall, der Kunden, Compliance, finanzielle Entscheidungen, Sicherheitsabläufe oder kritische Geschäftskommunikation betraf, verlangten wir vor der abschließenden Maßnahme eine menschliche Validierung. Dadurch wurde der klassische Fehler verhindert, KI-generierte Ausgaben allein deshalb automatisch als vertrauenswürdig zu betrachten, weil sie schnell erstellt wurden.
5. Wir begannen, KI nach ihrem operativen Nutzen und nicht nach der Begeisterung zu bewerten. Jede KI-Initiative musste folgende Fragen beantworten: Welcher manuelle Aufwand wird reduziert? Welche Durchlaufzeiten verbessern sich? Welche Risiken werden verringert? Wie verbessert sich die Entscheidungsqualität? Welcher Gewinn an Kosten, Produktivität oder Resilienz wird erwartet? Dadurch verlagerte sich die Diskussion über KI von einem Technologietrend zu einem Gespräch über das operative Geschäftsmodell.

Dies verschaffte uns eine bessere Kontrolle, ohne den Schwung zu bremsen. Governance wurde nicht mehr als Hindernis betrachtet. Durch die Schaffung eines klaren Weges — hier experimentieren, hier Governance anwenden, hier bereitstellen — arbeiteten die Teams schneller, mit weniger Verwirrung und weniger verborgenen Risiken.

Außerdem verringerte sich das Risiko von Schatten-KI. Wir erhielten einen deutlich besseren Einblick darin, welche Tools verwendet wurden, welche Teams sie nutzten, welche Daten in sie einflossen und welche Anwendungsfälle einen tatsächlichen Geschäftswert hatten. Das ist entscheidend, denn eine unkontrollierte Einführung von KI entwickelt sich schnell zur neuen Schatten-IT.

Wie man KI einführt, ohne Chaos zu verursachen

Hier sind einige Tipps für alle, die gerade anfangen — wenn ihr Chaos vermeiden möchtet:

1. Beginnt mit umfangreichen Workflows mit geringem Risiko. Beginnt nicht mit Entscheidungen zur Kernarchitektur oder autonomen Änderungen, die für den Produktivbetrieb kritisch sind. Startet mit Dokumentation, der Erstellung von Tests, der Triage interner Supportanfragen, der Zusammenfassung von Protokollen, dem Entwurf von Betriebsanleitungen oder der Erstellung von Versionshinweisen.
2. Legt Schutzvorkehrungen vor der Skalierung fest. Jede Einführung von KI im Engineering sollte genehmigte Tools, Richtlinien zur Nutzung von Prompts und Daten, Regeln für Code-Reviews, Anforderungen an Sicherheitsscans, Grenzen für menschliche Genehmigungen sowie Protokollierung und Nachvollziehbarkeit definieren.
3. Messt vorher und nachher. Erfasst die Durchlaufzeit, die Bereitstellungshäufigkeit, durchgerutschte Fehler, MTTR, die Rollback-Rate, den Zeitaufwand für sich wiederholende Aufgaben sowie Rückmeldungen zur Zufriedenheit und Produktivität der Entwickler.
4. Haltet Menschen verantwortlich. KI sollte Entwickler unterstützen und nicht die Verantwortung des Engineerings ersetzen. Das Modell kann Vorschläge machen. Das Team muss weiterhin entscheiden, validieren, absichern und die Verantwortung für das Ergebnis übernehmen.

Die besten technischen Anwendungsfälle für KI

Bei einer guten Umsetzung kann KI in technischen Workflows Geschwindigkeit, Transparenz, Produktivität und Entscheidungsqualität erheblich verbessern. Bei einer schlechten Umsetzung kann sie Fehler verstärken, das Betriebsrisiko erhöhen und in großem Maßstab ein falsches Sicherheitsgefühl erzeugen.

Hier sind die Anwendungsfälle und Vorteile, die ich beobachte:

Schnellerer Engineering-Durchsatz, wenn KI für die richtigen Aufgaben eingesetzt wird: Die größten Verbesserungen zeigen sich typischerweise bei Aufgaben mit geringer bis mittlerer Komplexität, etwa bei der Generierung von Standardcode, der Erstellung von Testfällen, dem Entwurf von Dokumentationen und Betriebsanleitungen, der Zusammenfassung von Protokollen und der Triage von Vorfällen, der Erstellung von Vorlagen für Infrastruktur-als-Code, der Klassifizierung von Tickets und Vorschlägen zur Fehlerbehebung auf der ersten Ebene. Zu den quantitativen Ergebnissen, die ich beobachte, gehören:

• 20–40 % Reduzierung der Zykluszeit bei wiederholbaren Engineering-Aufgaben
• 15–30 % höhere Entwicklerleistung bei klar abgegrenzten Aufgaben
• 25–50 % schnellere Triage von Vorfällen, wenn KI Protokolle, Warnungen und wahrscheinliche Grundursachen zusammenfasst
• 30–60 % weniger Dokumentationsaufwand für SOPs, Runbooks und Wissensartikel

Bessere Effizienz in DevOps und auf Plattformen: KI ist in DevOps-/SRE-/Infrastrukturabläufen besonders effektiv, wenn sie als Assistent für Analysen und nicht als autonomer Entscheidungsträger eingesetzt wird. So wird beispielsweise die protokollübergreifende Korrelation über verschiedene Tools hinweg beschleunigt, unübersichtliche Warnungen werden gruppiert und zusammengefasst, Bereitstellungsnotizen und Schritte für einen Rollback werden automatisch erstellt, Kapazitätsmuster werden früher erkannt und sich wiederholende Betriebskontrollen werden automatisiert. Zu den quantifizierbaren Verbesserungen gehören häufig:

• 20–35 % Verbesserung der MTTR in Umgebungen mit zahlreichen Vorfällen
• 10–25 % weniger Eskalationen an erfahrene Ingenieure bei bekannten Problemmustern
• 15–20 % höhere Erfolgsquote bei Änderungen, wenn KI zur Durchsetzung von Bereitstellungschecklisten, Versionshinweisen und Abhängigkeitsprüfungen eingesetzt wird
• Weniger Routineaufwand für L1-/L2-Support- und Betriebsteams, wodurch erfahrene Ingenieure für Architektur- und Resilienzaufgaben frei werden

Prem Kumar teilt

Bei guter Umsetzung kann KI in technischen Arbeitsabläufen Geschwindigkeit, Transparenz, Produktivität und die Qualität von Entscheidungen spürbar verbessern. Bei schlechter Umsetzung kann sie Fehler verstärken, das Betriebsrisiko erhöhen und in großem Maßstab ein falsches Sicherheitsgefühl erzeugen.

Verbesserte Testentwicklung und Qualitätsabdeckung: Eine der praktischsten Anwendungen ist KI-gestütztes Testen. Dazu gehören das Erstellen von Testfällen aus Anforderungen oder User Stories, das Erkennen von Szenarien für Grenzfälle, das Erstellen von Testdatenmustern und die Unterstützung von Teams bei der schnelleren Verbesserung der Regressionstestabdeckung. Positive Ergebnisse können folgendermaßen aussehen:

• 20–35 % schnelleres Erstellen von Testfällen
• Höhere Testabdeckung innerhalb desselben Sprintzeitraums
• Kürzere Vorbereitungszyklen für Regressionstests
• Bessere Fehlererkennung in einer früheren Phase des Lebenszyklus, wenn Prompts und Validierung sorgfältig gestaltet sind

Leistungsfähigeres Wissensmanagement und besseres Onboarding: KI wird in einem entscheidenden Bereich unterschätzt: bei der Erfassung von Erfahrungswissen. In vielen Engineering-Teams steckt ein großer Teil des betrieblichen Wissens in den Köpfen weniger Personen. KI hilft dabei, dieses Wissen in durchsuchbare Runbooks, Handbücher zur Fehlerbehebung, Architekturzusammenfassungen, Onboarding-Leitfäden und RCA-Zusammenfassungen umzuwandeln. Zu den typischen Vorteilen gehören:

• Schnelleres Onboarding neuer Ingenieure
• Weniger Abhängigkeit von einigen wenigen „Helden“
• Besserer Wissenstransfer zwischen Teams
• Weniger Zeitaufwand für die Suche in alten Tickets und Slack-/Teams-Unterhaltungen

Für wachsende KMU und mittelgroße Engineering-Organisationen kann dies zu den Anwendungen mit dem höchsten ROI gehören, da dadurch die Skalierbarkeit des Engineering-Wissens und nicht nur die Codeausgabe verbessert wird.

Die Nachteile von KI

Natürlich sind die Ergebnisse nicht ausschließlich positiv:

• Die Fehlerquote kann steigen, wenn KI zu schnell in die Produktion gebracht wird. Der größte Fehler, den wir beobachten, besteht darin, KI-generierten Code als „Entwicklerproduktivität“ zu betrachten, ohne Prüfung, Tests und Sicherheitsvalidierung zu verbessern.
• Sicherheits- und Compliance-Risiken nehmen ohne Leitplanken zu. Dies ist in regulierten oder sensiblen Umgebungen ein großes Problem.

• Teams können schneller, aber weniger sorgfältig werden. Ein subtiler Nachteil ist die kognitive Entlastung. KI sollte den mechanischen Aufwand reduzieren, nicht das technische Denken.
• Die Zykluszeit verbessert sich, aber die Qualität der Bereitstellung nicht. Dies ist eine der häufigsten Fallen für Führungskräfte: Teams feiern eine schnellere Codeausgabe, ignorieren aber, ob sich das Geschäftsergebnis verbessert hat. Der Erfolg von KI kann nicht nur daran gemessen werden, „wie viel schneller Entwickler Code eingeben“. Er muss anhand der Bereitstellungshäufigkeit, der Fehlerquote bei Änderungen, der Rate entkommener Fehler, der MTTR, der Sicherheitsfeststellungen, der Kosten pro Release und der eingesparten Engineering-Stunden im Vergleich zum dadurch erzeugten Nacharbeitsaufwand gemessen werden.

Was KI niemals berühren sollte

Dies sind die Bereiche, in denen KI das Denken unterstützen, aber niemals den verantwortlichen menschlichen Entscheidungsträger ersetzen sollte.

• Risikoakzeptanz. Keine KI sollte entscheiden, ob ein Sicherheitsrisiko akzeptiert, ob eine Sicherheitsaktualisierung verschoben, ob mit einer bekannten Kontrolllücke gearbeitet oder ob eine Bereitstellung mit ungelösten Problemen fortgesetzt werden soll. Diese Entscheidung liegt beim verantwortlichen Leiter, da sie finanzielle, rechtliche und reputationsbezogene Konsequenzen hat.
• Krisenführung. Bei einem größeren Ausfall, einem Cybervorfall, einer Datenschutzverletzung oder einer regulatorischen Eskalation kann KI bei Daten und Optionen unterstützen. Die Verantwortung für die Kommunikation mit Anspruchsgruppen, den Austausch mit Aufsichtsbehörden, Entscheidungen zum Kundenvertrauen, die Kommunikation der Führungsebene und die Leitung des Krisenstabs müssen jedoch beim Menschen liegen.
• Ethik, Datenschutz und geschäftliche Abwägungen. KI kann nicht die letzte Instanz dafür sein, ob die Datennutzung ethisch vertretbar ist, ob eine Entscheidung gegenüber Kunden oder Mitarbeitern fair ist, ob eine Überwachungs- oder Kontrollmaßnahme angemessen ist oder ob geschäftliche Bequemlichkeit Vorrang vor Vertrauensgrundsätzen haben sollte. Dies sind Führungsentscheidungen.

Warum es bei Architektur nicht mehr nur um Skalierung und Leistung geht

KI hat mich dazu gebracht, die Annahme zu überdenken, dass Architektur etwas ist, das man einmal entwirft und im Laufe der Zeit optimiert. Dieses Modell funktionierte, als sich Systeme schrittweise veränderten. Es scheitert, wenn KI-Agenten, Copiloten, Automatisierungsebenen und Datenpipelines beginnen, das Verhalten in der Produktion dynamisch zu beeinflussen.

Prem Kumar berichtet

Bei Architektur geht es nicht mehr nur um Skalierung und Leistung. Heute geht es um Anpassungsfähigkeit, Nachvollziehbarkeit, Resilienz und Steuerung.

Heute muss Architektur als lebendiges Kontrollsystem und nicht als feststehender Bauplan betrachtet werden. Das bedeutet:

• Systeme müssen für kontinuierliche Anpassung konzipiert sein.
• Die Beobachtbarkeit muss über die Infrastruktur hinaus auf das Verhalten der KI und die Qualität von Entscheidungen ausgeweitet werden.
• Sicherheit muss sich von der Perimeterverteidigung hin zu eingebettetem Vertrauen, eingebetteten Kontrollen und Resilienz entwickeln.

Mit anderen Worten: Bei Architektur geht es nicht mehr nur um Skalierung und Leistung. Heute geht es um Anpassungsfähigkeit, Nachvollziehbarkeit, Resilienz und Steuerung.

Ratschläge für CTOs

Mein Rat an CTOs ist einfach: Behandelt KI nicht nur als Technologiewettlauf — betrachtet sie als einen Moment geschäftlicher Führung. Derzeit verfolgen zu viele Unternehmen KI-Pilotprojekte, Werkzeuge und Anwendungsfälle, ohne zuerst die wichtigsten Fragen zu stellen: Welches Geschäftsproblem lösen wir? Welches Risiko führen wir ein? Welche Fähigkeit bauen wir langfristig auf?

CTOs müssen den KI-Wandel in fünf Bereichen vorantreiben:

1. Beginnen Sie mit dem Geschäftswert, nicht mit dem KI-Hype. Wenn KI nicht an Umsatzwachstum, Produktivität, Kundenerlebnis, Risikoreduzierung oder Umsetzungsgeschwindigkeit geknüpft ist, wird sie zu Experimenten ohne Wirkung.
2. Schaffen Sie eine solide Grundlage für KI. KI kann eine schwache Infrastruktur, fragmentierte Daten, eine mangelhafte Governance oder unklare Zuständigkeiten nicht ausgleichen. CTOs müssen zunächst sicherstellen, dass die Organisation über die richtige Datenkultur, Cloud-Bereitschaft, Cybersicherheitsvorkehrungen und Integrationsarchitektur verfügt. Andernfalls skaliert KI die Verwirrung schneller, als sie den Wert steigert.
3. Betrachten Sie Cybersicherheit, Datenschutz und Governance als Designprinzipien. Dies ist nicht der richtige Zeitpunkt, um Sicherheit nachträglich hinzuzufügen. KI bringt neue Risiken mit sich – Datenlecks, missbräuchliche Verwendung von Modellen, Verzerrungen, Halluzinationen, Compliance-Lücken und die Schattennutzung von KI in verschiedenen Teams. Die besten CTOs werden KI-Governance, Zugriffskontrollen, Datenschutz, Verantwortlichkeit für Modelle und menschliche Aufsicht von Anfang an in das Betriebsmodell integrieren.
4. Definieren Sie die Rolle der Technologieführung neu. In dieser Ära ist der CTO nicht mehr nur der Verwalter von Systemen. Der CTO muss zu einem Vermittler zwischen geschäftlichen Ambitionen und technischer Realität werden – und dem Vorstand sowie dem Führungsteam helfen zu verstehen, was KI wirklich leisten kann, wo sie scheitern kann und wie sie verantwortungsvoll eingesetzt wird. Dabei geht es ebenso sehr um Aufklärung, Priorisierung und den Aufbau von Vertrauen wie um Architektur.
5. Konzentrieren Sie sich vor der Automatisierung auf die Unterstützung der Mitarbeitenden. Die stärkste KI-Strategie lautet nicht: „Wie ersetzen wir Menschen?“ Sie lautet: „Wie machen wir unsere Mitarbeitenden schneller, präziser und effektiver?“ KI sollte Teams zunächst unterstützen – indem sie die Entscheidungsfindung verbessert, repetitive Arbeit reduziert, Analysen beschleunigt und Talente für wertschöpfendere Beiträge freisetzt. So entsteht Vertrauen, die Akzeptanz steigt und die Transformation wird nachhaltig.

Auf dem Laufenden bleiben

Sie können Prems Arbeit auf LinkedIn verfolgen. Und sehen Sie sich seinen Podcast PREMINENT KONCLAVE an.

Weitere Experteninterviews folgen im The CTO Club!