Technischer Leiter sagt, dass KI ein neues Governance-Modell benötigt

Tyrone Grandison

Technischer Leiter der Cornerstone Assurance Corporation

Tyrone Grandison

Tyrone Grandison erklärt, warum von KI erzeugter Code ein neues Governance-Modell erfordert, das auf risikobasierten Kontrollen, umfassenderen Tests und menschlicher Verantwortlichkeit basiert.

Key Takeaways

Governance: Von KI erzeugter Code erfordert menschliche Freigabe, umfassendere Tests und kontrollierten Zugriff auf Produktionssysteme, insbesondere in regulierten Branchen.

Engpass: KI beschleunigt das Programmieren, doch der Durchsatz der Entwicklung hängt davon ab, nachzuweisen, dass Software sicher, zuverlässig und für den Produktionseinsatz bereit ist.

Autonomie: Gewähren Sie der KI mehr Autonomie bei umkehrbaren und beobachtbaren Aufgaben; behalten Sie die menschliche Entscheidungsgewalt über folgenreiche Entscheidungen in Bezug auf Kunden, Sicherheit und Regulierung.

Führung: KI verändert die Führung durch technische Leiter: Statt Antworten bereitzustellen, geht es darum, Fragen zu formulieren, Zielkonflikte abzuwägen und eine effektive Zusammenarbeit zwischen Mensch und Maschine zu gestalten.

Strategie: Eine erfolgreiche Einführung von KI beginnt mit geschäftlichen Rahmenbedingungen, soliden technischen Grundlagen, praxisnaher Kompetenz und einer an das Risiko angepassten Governance.

Tyrone Grandison hatte in seiner 35-jährigen Karriere im Technologiebereich zahlreiche Positionen auf C-Level inne und ist derzeit CTO der Cornerstone Assurance Corporation. Außerdem ist er der Autor von The AI Revolution and Culture That Lasts.

Wir haben mit Tyrone darüber gesprochen, wie KI die Governance in Technologieorganisationen verändert. Das hat er uns erzählt.

35 Jahre im Technologiebereich

Ich leite eine schlanke Technologieorganisation, die ein wachsendes Versicherungs- und Finanzdienstleistungsunternehmen namens Cornerstone Assurance Corporation unterstützt. Besonders interessant an dieser Aufgabe ist, dass wir einen modernen Technologiestack aufbauen und gleichzeitig in einer Branche mit erheblichen regulatorischen Anforderungen, sensiblen Finanzdaten, komplexen Integrationen mit Versicherern und sehr geringer Fehlertoleranz tätig sind.

Ich begann meine Karriere als Informatiker, lange bevor KI zum Thema jedes Gesprächs in Vorstandsetagen und jeder Konferenz-Keynote wurde. Im Laufe der Jahre führte mich meine Arbeit vom Aufbau von Technologien hin zur Leitung von Organisationen, die sich mit den Auswirkungen dieser Technologien auseinandersetzten. Ich war als Chief Artificial Intelligence Officer, Chief Technology Officer, Chief Information Officer und Deputy Chief Data Officer tätig. Ich habe in Behörden, der Wissenschaft, Start-ups, der Beratung, gemeinnützigen Organisationen und großen Unternehmen gearbeitet.

Nach 35 Jahren im Technologiebereich hatte ich das Privileg, mitzuerleben, wie mehrere Dinge als „die Technologie, die alles verändern wird“ eingeführt wurden. Und einige davon haben es tatsächlich getan.

Jeder große Wandel zwingt Führungskräfte dazu, Entscheidungen zu treffen, bevor sie über perfekte Informationen verfügen. Er stellt Geschäftsmodelle, Betriebsmodelle, Kultur, Talente, Governance und manchmal unser Verständnis davon infrage, worin unsere eigenen Aufgaben eigentlich bestehen sollen. KI tut all das gleichzeitig.

Was diesen Moment für mich jedoch besonders faszinierend macht, ist, dass wir darüber hinausgegangen sind, KI lediglich zur Analyse von Informationen einzusetzen. Wir verfügen jetzt über Systeme, die Inhalte generieren, Schlussfolgerungen ziehen, planen, gestalten, Code schreiben, Werkzeuge nutzen und zunehmend selbstständig handeln können. Das verändert die Diskussion über Führung grundlegend.

Die Frage lautete früher: „Was kann KI leisten?“

Ich denke, dass dies schnell zur uninteressantesten Frage wird. Sogar zur falschen Frage.

Die weitaus wichtigeren Fragen lauten: Was sollten wir ihr erlauben? Wo bleibt menschliches Urteilsvermögen unverzichtbar? Wie gestalten wir Organisationen neu, wenn Erkenntnisse selbst im Überfluss vorhanden sind? Und wie können wir den außerordentlichen Nutzen dieser Technologie ausschöpfen, ohne Risiken zu schaffen, die wir nicht verstehen, oder Systeme, die wir nicht steuern können?

Hier liegt heute der Schwerpunkt meiner Arbeit. Ich unterstütze Führungskräfte und Organisationen dabei, das Wesentliche von der beträchtlichen Menge an Lärm rund um KI zu trennen, zu verstehen, was sich tatsächlich verändert, und dieses Verständnis in Strategie, Governance, Produkte und messbare Geschäftsergebnisse zu überführen.

Wie KI die Lebenszyklen der Softwareentwicklung verändert

Wie KI die Lebenszyklen der Softwareentwicklung verändert

Eine der größten Veränderungen, die ich bei der Cornerstone Assurance Corporation vorgenommen habe, bestand darin, unseren Softwareentwicklungslebenszyklus unter der Annahme neu zu gestalten, dass KI einen bedeutenden Anteil unseres Codes schreiben wird.

Vor dieser Veränderung folgten wir einem weitgehend traditionellen Entwicklungsablauf. Ein Entwickler übernahm eine Anforderung, entwarf die Lösung, schrieb den Code, erstellte Tests, reichte einen Pull Request ein, und ein anderer Entwickler überprüfte ihn. Natürlich nutzten wir Automatisierung, aber den größten Teil der Denkarbeit von der Anforderung bis zur Bereitstellung erledigten weiterhin Menschen.

KI veränderte die wirtschaftlichen Rahmenbedingungen dieses Modells grundlegend.

Also führten wir eine KI-gestützte Entwicklungspipeline ein, in der GitHub Copilot zur Codegenerierung und zum Refactoring, ChatGPT und Claude zur KI-gestützten Architekturerkundung, zur Zerlegung von Anforderungen, zur Fehlersuche und zur Generierung von Testfällen eingesetzt werden. Unsere regulären CI/CD- und Sicherheitstools stellen dabei die deterministischen Kontrollen für die von der KI erzeugten Arbeiten bereit.

Warum von KI generierter Code ein neues Governance-Modell erfordert

Die entscheidende Veränderung bestand jedoch nicht in der Aussage: „Hey zusammen, ihr habt jetzt Copilot.“ Wir änderten das Governance-Modell.

Genehmigungsschritte

Wir behandeln von der KI generierten Code inzwischen fast wie Code, der von einem sehr schnellen Juniorentwickler eingereicht wurde, der niemals schläft, eine absurd große Menge an Dokumentation gelesen hat und gelegentlich mit enormer Überzeugungskraft etwas völlig Falsches behauptet.

In der Versicherungs- und Finanzdienstleistungsbranche wird „Das Modell hielt dies für eine gute Idee“ niemals eine Governance-Strategie darstellen.

Tyrone GrandisonCTO der Cornerstone Assurance Corporation
Share This Quote on:

Das bedeutet, dass KI Code, Unit-Tests, API-Verträge, Dokumentation, Datenbankabfragen, Infrastrukturdefinitionen und Lösungsvorschläge generieren kann, aber weder ihre eigene Arbeit genehmigen noch einen unkontrollierten Weg in die Produktion haben darf.

Wir führten ausdrückliche menschliche Genehmigungsschritte für sicherheitsrelevante Änderungen, Authentifizierung und Autorisierung, den Umgang mit Kunden- und Finanzdaten, externe Integrationen und die Produktionsinfrastruktur ein.

Automatisierte Tests

Wir haben außerdem die automatisierten Tests und Codeüberprüfungen ausgeweitet, weil sich der Engpass verlagert hat. Wenn KI die Geschwindigkeit, mit der man Code erstellen kann, drastisch erhöht, liegt das Problem nicht mehr in der Codegenerierung. Das Problem besteht nun darin, nachzuweisen, dass der Code ausgeführt werden sollte.

Ein einfaches Beispiel ist die Erstellung von Tests. Früher implementierte ein Entwickler möglicherweise ein Feature und schrieb anschließend die naheliegenden Unit-Tests. Jetzt können wir KI zusätzlich bitten, Testszenarien für problematische Fälle zu generieren. Was passiert bei fehlerhaften Eingaben? Was passiert, wenn eine API eine unerwartete Antwort zurückgibt? Was passiert an einer Berechtigungsgrenze? Was passiert, wenn ein Kundendatensatz unvollständige Daten enthält?

Dadurch erhält der menschliche Entwickler eine andere Aufgabe. Anstatt seine gesamte Zeit mit der Erstellung von Artefakten zu verbringen, widmet er mehr Zeit dem Hinterfragen von Annahmen und der Validierung des Codeverhaltens.

Steuerung von KI

Wir haben auch geändert, wie wir die KI selbst steuern. Wir protokollieren KI-gestützte Aktivitäten, wo dies angemessen ist, halten sensible Kundeninformationen aus KI-Tools für Verbraucher heraus, kontrollieren, welche Modelle und Dienste auf Unternehmensdaten zugreifen können, und trennen Experimente vom Produktionszugriff. In der Versicherungs- und Finanzdienstleistungsbranche wird „Das Modell hielt dies für eine gute Idee“ niemals eine ausreichende Steuerungsstrategie darstellen.

Wie KI den Engpass in der Softwareentwicklung verlagert

Das größte Ergebnis, das ich bei der Integration von KI in unsere Entwicklungsabläufe beobachtet habe, ist die Geschwindigkeit. Ich füge dieser Antwort jedoch immer eine Einschränkung hinzu, denn Geschwindigkeit in die falsche Richtung ist keine Produktivität.

KI hat unseren Entwicklungszyklus drastisch verkürzt. Wir sehen, dass Aufgaben, die zuvor mehrere Tage eines Entwicklers in Anspruch nahmen, innerhalb von Stunden von der Anforderung bis zu einer testbaren Implementierung gelangen. Für das Prototyping würde ich schätzen, dass wir die Zykluszeit um etwa 50 bis 70 Prozent reduziert haben.

Und die Dokumentation hat wahrscheinlich den am wenigsten glamourösen, aber unmittelbarsten Effizienzgewinn gebracht. API-Dokumentation, Versionshinweise, Testdokumentation, Codeerklärungen und erste Entwürfe technischer Spezifikationen müssen nicht mehr mit einem blinkenden Cursor beginnen. KI erstellt die ersten 70 oder 80 Prozent, und mein Team verbringt seine Zeit mit Korrigieren und Verbessern, anstatt alles von Grund auf neu zu erstellen.

Aber es gibt auch einen Nachteil, und ich denke, Technologieführungskräfte müssen darüber mehr sprechen: KI macht es unglaublich kostengünstig, schnell schlechten Code zu produzieren.

Wir haben festgestellt, dass sich der begrenzende Faktor weiter nachgelagert verschiebt. Wenn ich fünfmal so viel Code generieren kann, Menschen ihn aber weiterhin verstehen, überprüfen, testen, absichern, bereitstellen, überwachen und warten müssen, habe ich den Systemdurchsatz nicht unbedingt erhöht. Möglicherweise habe ich nur einen Stau bei der Codeüberprüfung verursacht.

Das war wahrscheinlich die wertvollste Lektion für mich. Ich optimiere meine Entwicklungsorganisation nicht länger in erster Linie dafür, wie schnell wir Software schreiben können. Diesen Teil macht KI rapide zur Massenware. Ich optimiere dafür, wie schnell wir nachweisen können, dass Software für den Betrieb in der Produktion geeignet ist. Das ist eine ganz andere Entwicklungsorganisation.

Wo KI zu Wort kommt und wo sie mitentscheidet

Wo KI zu Wort kommt und wo sie mitentscheidet

Ich trenne inzwischen sehr bewusst zwei Dinge: wo KI zu Wort kommt und wo KI mitentscheidet. In unserer Organisation kommt KI mittlerweile in nahezu jeder Phase unseres Technologie-Lebenszyklus zu Wort. Bei jeder Entscheidung hat sie jedoch kein Mitspracherecht.

Einige Beispiele:

  • Architektur: Wir verwenden ChatGPT und Claude als architektonische Sparringspartner. Wenn wir einen neuen Dienst entwerfen, kann ich dem Modell unsere Anforderungen, Einschränkungen, bestehenden Schnittstellen, Sicherheitsgrenzen, erwarteten Transaktionsvolumen und Fehlerszenarien geben. Ich lasse es mehrere Architekturen vorschlagen, Zielkonflikte identifizieren, unsere Annahmen hinterfragen und sogar gegen seine eigene Empfehlung argumentieren. Was ich nicht tun werde, ist zu fragen: „Welche Architektur sollten wir verwenden?“ und dann einfach das umzusetzen, was dabei herauskommt. Die endgültige Architekturentscheidung bleibt beim Menschen, weil Architektur einen Kontext umfasst, der weit über technische Optimierung hinausgeht. Ich muss unsere Geschäftsstrategie, regulatorischen Verpflichtungen, operative Reife, Risikotoleranz, Kosten, technischen Schulden und das berücksichtigen, was mein Team um 2:00 Uhr morgens tatsächlich unterstützen kann.
  • Code: Hier geben wir der KI deutlich mehr Spielraum. Wir verwenden GitHub Copilot zur Codegenerierung, zum Refactoring, für Dokumentation und zur Erstellung von Unit-Tests. Außerdem nutzen wir ChatGPT und Claude, um Fehler zu beheben, Implementierungsansätze zu untersuchen und adversariale Testfälle zu generieren. KI kann eine erste Implementierung unglaublich schnell schreiben. Ein menschlicher Entwickler ist weiterhin für den Pull-Request verantwortlich und genehmigt, was letztendlich zusammengeführt wird.
  • Tests: Dieser Bereich hat sich wahrscheinlich am stärksten in Richtung KI verschoben. Ich verwende KI sehr gerne für die Frage: „Wie würdest du das kaputtmachen?“ Wir können Fälle finden, die ein Entwickler, der gerade zwei Tage mit der Erstellung der Funktion verbracht hat, unbewusst übersehen könnte. KI wird zu einem sehr kostengünstigen, äußerst hartnäckigen Gegenspieler.
  • Sicherheit: Hier kehre ich die Gleichung bewusst um. KI hilft uns dabei, Schwachstellen zu identifizieren, Codemuster zu untersuchen, Bedrohungen zu modellieren und Angriffsszenarien zu generieren, aber wie gesagt behalten Menschen die Entscheidungsgewalt über die Sicherheitsfreigabe, Identitäts- und Zugriffsentscheidungen, den Umgang mit sensiblen Daten und Ausnahmen. Prompt-Injection und die Offenlegung sensibler Informationen bleiben anerkannte Risiken in Anwendungen mit großen Sprachmodellen. Daher erfordert die Anbindung von KI an Unternehmenssysteme mehr Kontrollen, nicht weniger.
  • Reaktion auf Vorfälle: Dieser Bereich liegt irgendwo dazwischen. KI kann Protokolle aufnehmen, Ereignisse korrelieren, Tausende Zeilen an Telemetriedaten zusammenfassen, wahrscheinliche Grundursachen vorschlagen und Schritte zur Behebung empfehlen. Dadurch können die ersten 30 Minuten eines Vorfalls erheblich verkürzt werden. Wenn jedoch jemand einen Produktionsdienst deaktivieren, eine kritische Bereitstellung zurücksetzen, eine Sicherheitsrichtlinie ändern oder eine Maßnahme ergreifen möchte, die Kunden betrifft, trifft ein Mensch diese Entscheidung.
  • Priorisierung des Backlogs: Auch hier wende ich dieselbe Regel an. KI kann Supportanfragen, Entwicklungsaufwand, Abhängigkeiten, Produktnutzung und Geschäftsziele analysieren und sagen: „So würde ich diese 40 Dinge priorisieren, und das sind die Gründe dafür.“ Das ist äußerst hilfreich. Aber KI versteht unsere Strategie nicht besser als wir. Die Produkt- und Technologieleitung trifft die endgültige Priorisierungsentscheidung.

Meine Regel ist also ziemlich einfach: KI erhält mehr Autonomie, wenn die Maßnahme reversibel, beobachtbar, testbar und mit geringen Folgen verbunden ist. Die Entscheidungsgewalt des Menschen nimmt zu, je schwieriger eine Maßnahme rückgängig zu machen ist oder je größere Auswirkungen sie auf Kunden, Finanzen, Sicherheit, Regulierung oder den Ruf hat.

Ein praxisnaher Entwicklungsprozess

Hier ist ein Beispiel für einen Ablauf von der Anforderung bis zur Produktion mit KI-Unterstützung. Angenommen, wir müssen einem Agenten-Workflow eine neue Funktion hinzufügen, der Kunden- und Richtlinieninformationen abruft, eine Reihe von Geschäftsregeln anwendet und die passende nächste Maßnahme empfiehlt:

  1. Am Anfang steht die Anforderung. Anstatt dass ein Entwickler ein vage formuliertes Ticket erhält und sofort mit dem Programmieren beginnt, verwenden wir ChatGPT oder Claude, um die Anforderung zu hinterfragen. Wir geben dem Modell die User Story, Akzeptanzkriterien, relevanten Geschäftsregeln, API-Verträge und technischen Einschränkungen. Dann bitten wir es, Mehrdeutigkeiten, fehlende Randfälle, Abhängigkeiten, Sicherheitsbedenken und Fragen zu identifizieren, die wir beantworten sollten, bevor jemand Code schreibt. Das klingt einfach, aber dadurch wird überraschend viel kostspielige Unklarheit frühzeitig erkannt.
  2. Als Nächstes folgen Architektur und Aufgabenaufteilung. Wir verwenden Claude und ChatGPT, um Implementierungsoptionen zu untersuchen und die Anforderungen in Komponenten aufzuteilen. Das Modell könnte eine API-Änderung, eine Änderung des Datenmodells, eine Integrationsabhängigkeit, Autorisierungsanforderungen, Telemetrie und die erforderlichen Testfälle identifizieren. Wir bitten es außerdem, gegen seine vorgeschlagene Architektur zu argumentieren. Ein menschlicher Entwickler trifft die Architekturentscheidung. Die KI liefert Optionen. Wir tragen die Konsequenzen.
  3. Dann gehen wir zur Implementierung über. Wir verwenden GitHub Copilot innerhalb der Entwicklungsumgebung, um Standardcode zu generieren, klar definierte Funktionen zu implementieren, Code zu refaktorieren, API-Clients zu erstellen, unbekannte Bereiche der Codebasis zu erklären und Dokumentation zu erstellen. Der Entwickler wechselt vom Eingeben jeder einzelnen Zeile dazu, die Implementierung zu steuern, zu prüfen und zu verfeinern. Dieser Unterschied ist wichtig. Ich möchte nicht, dass Entwickler zu sehr teuren Autovervollständigungsbedienern werden. Ich möchte, dass sie über das System nachdenken.
  4. Dann geben wir ChatGPT oder Claude die Anforderung und die Implementierung und sagen im Grunde: „Großartig. Und jetzt mach sie kaputt.“ Die KI hilft dabei, adversariale Szenarien zu generieren, und Copilot hilft, daraus automatisierte Unit- und Integrationstests zu erstellen.
  5. Danach übernimmt die deterministische Maschinerie. Der Pull-Request gelangt in unsere CI/CD-Pipeline. Wir führen automatisierte Tests, statische Analysen sowie Prüfungen auf Abhängigkeiten und Schwachstellen durch und wenden unsere normalen Qualitätssicherungen an. Ein menschlicher Entwickler prüft den Pull-Request.
  6. Danach führen wir die Bereitstellung schrittweise durch. Die Änderung durchläuft Entwicklung und Staging, bevor sie in die Produktion gelangt. Wo es sinnvoll ist, verwenden wir Funktionsschalter oder kontrollierte Einführungsstrategien, damit wir die Reichweite begrenzen, das Verhalten beobachten und schnell zurücksetzen können.
  7. Und auch dann ist die Aufgabe der KI noch nicht beendet. Sobald die Funktion ausgeführt wird, wird die KI zu einer Assistenz für die Beobachtbarkeit. Wir verwenden sie, um Protokolle zusammenzufassen, Fehlermuster zu korrelieren, unerwartetes Verhalten zu analysieren und Entwicklern dabei zu helfen, viel schneller von „Etwas stimmt nicht“ zu einer plausiblen Grundursache zu gelangen.

Der Ingenieur geht davon aus, jede Zeile selbst zu tippen, und geht dazu über, die Implementierung zu steuern, zu überprüfen und zu verfeinern. Dieser Unterschied ist entscheidend. Ich möchte nicht, dass Entwickler zu sehr teuren Autovervollständigungsbedienern werden. Ich möchte, dass sie über das System nachdenken.

Tyrone GrandisonCTO der Cornerstone Assurance Corporation
Share This Quote on:

Wie sich das Verhalten in der Softwareentwicklung mit KI verändern lässt

Ich wünschte, ich hätte früher verstanden, dass es einfach ist, Ingenieuren KI-Tools zur Verfügung zu stellen. Das Verhalten in der Softwareentwicklung zu verändern, ist der schwierige Teil.

Als wir anfingen, Tools wie GitHub Copilot, ChatGPT und Claude zu verwenden, ging ich bei der Einführung so vor, wie es viele Technologieführungskräfte tun. Talentierten Ingenieuren leistungsstarke Tools geben, einige sinnvolle Leitplanken festlegen und darauf warten, dass die Produktivität steigt.

Das tat sie auch, aber nicht einheitlich und nicht immer auf die Weise, die ich erwartet hatte.

Als Erstes lernte ich, dass Zugang nicht gleich Nutzung ist und Nutzung nicht gleich Kompetenz.

Zwei Ingenieure können exakt dasselbe KI-Tool verwenden und völlig unterschiedliche Ergebnisse erzielen. Der eine behandelt KI wie eine Autovervollständigung und spart ein paar Tastenanschläge. Der andere lernt, wie man Kontext bereitstellt, Probleme zerlegt, Ergebnisse hinterfragt, Tests generiert, Alternativen untersucht und das Modell als technischen Sparringspartner einsetzt. Der Produktivitätsunterschied zwischen diesen beiden Personen kann enorm werden.

Ich hätte viel früher in KI-Kompetenz und Arbeitsweisen investiert. Nicht in „hier ist ein zweistündiger Kurs zum Prompt-Engineering“, sondern in praxisnahe Beispiele, die auf unserer tatsächlichen Arbeit in der Softwareentwicklung basieren.

Tyrone Grandison

Kommentare von Tyrone

Ich hätte viel früher in KI-Kompetenz und Arbeitsweisen investiert. Nicht in „hier ist ein zweistündiger Kurs zum Prompt-Engineering“, sondern in praxisnahe Beispiele, die auf unserer tatsächlichen Arbeit in der Softwareentwicklung basieren.

Wie KI die Führung in der Technologiebranche verändert

Wie KI die Führung in der Technologiebranche verändert

Wir verbringen viel Zeit damit, uns zu fragen, was KI mit Entwicklern, Architekten, Analysten und anderen technischen Rollen machen wird. Ich denke, CTOs müssen diese Frage umkehren und auf sich selbst richten.

Während des größten Teils meiner beruflichen Laufbahn wurde Führung in der Technologiebranche dadurch belohnt, Dinge zu wissen, die andere nicht wussten. Erfahrung vermittelte die Fähigkeit, Muster zu erkennen. Technische Fachkenntnis verlieh Autorität. Man konnte einen Raum betreten und eine Antwort geben, für deren Ermittlung jemand anderes vielleicht Tage gebraucht hätte.

Jetzt kann ich jedem ein unglaublich leistungsfähiges KI-System zur Verfügung stellen. Das verändert Führung.

Ich glaube nicht mehr, dass mein Wert als CTO darin liegt, die Antworten zu haben. Er liegt darin, bessere Fragen zu stellen, Kontext bereitzustellen, Abwägungen vorzunehmen, Urteilsvermögen einzusetzen und ein Umfeld zu schaffen, in dem Menschen und Maschinen einander besser machen.

Das erfordert Demut. KI wird manchmal einen Ansatz erkennen, den ich nicht bedacht habe. Ein Junior-Ingenieur mit hervorragenden KI-Kenntnissen kann eine Annahme infrage stellen, die jemand mit 25 Jahren Erfahrung für offensichtlich hält. Ich denke, hervorragende Technologieführungskräfte müssen das begrüßen.

Der CTO des KI-Zeitalters kann nicht einfach die technisch klügste Person im Raum sein. Wir müssen zu den Menschen werden, die den Raum gestalten. Wer bekommt eine Stimme? Was darf die KI entscheiden? Wo bleibt menschliches Urteilsvermögen unverzichtbar? Woher wissen wir, wann wir falschliegen?

Das ist die Veränderung in der Führung.

Warum CTOs bei Effizienzgewinnen vorsichtig sein sollten

Mein wichtigster Rat an CTOs lautet derzeit: Verwechselt schnelles Vorankommen nicht mit Fortschritt.

Auf Technologieführungskräften lastet enormer Druck, „etwas mit KI zu machen“. Die Aufsichtsräte fragen danach. Die CEOs fragen danach. Die Mitarbeiter verwenden sie bereits, unabhängig davon, ob Sie eine Richtlinie haben oder nicht. Jeder Anbieter hat plötzlich entdeckt, dass sein Produkt schon immer „KI-gestützt“ war.

Es ist sehr leicht, reaktiv zu werden. Aber ich denke, die Aufgabe des CTO besteht derzeit darin, inmitten dieses Lärms Klarheit zu schaffen.

  • Erstens: Nutzen Sie die Technologie selbst. Und ich meine: Nutzen Sie sie wirklich. Bauen Sie Ihre KI-Strategie nicht vollständig auf Analystenberichten und Anbieter-Demonstrationen auf. Ich nutze Tools wie ChatGPT, Claude und GitHub Copilot, weil ich aus erster Hand erfahren muss, worin sie außergewöhnlich sind, woran sie scheitern und wie schnell sich diese Grenzen verschieben. Sie können einen technologischen Wandel nicht effektiv anführen, wenn Sie ihn nur über PowerPoint erleben.
  • Zweitens: Beginnen Sie mit geschäftlichen Einschränkungen, nicht mit KI-Funktionen. Ich interessiere mich deutlich weniger für die Frage „Wo können wir generative KI einsetzen?“ als für die Frage „Wo sind wir langsam, teuer, inkonsistent oder kapazitätsbeschränkt, oder wo sorgen wir für frustrierte Kunden?“ Dann kann ich feststellen, ob KI tatsächlich Teil der Lösung sein sollte.
  • Drittens: Schaffen Sie eine solide Grundlage. KI wird schlechte Daten, schwache APIs, mangelnde Beobachtbarkeit, nicht vorhandene Dokumentation oder dysfunktionale Entwicklungspraktiken nicht retten. Oft wird sie diese sogar verstärken. KI wirkt als Verstärker der zugrunde liegenden Organisation und des technischen Systems.
  • Viertens: Richten Sie die Steuerung an Konsequenzen statt an Angst aus. Ich möchte keine 47-seitige KI-Richtlinie, die im Grunde sagt: „Bitte tun Sie nichts Interessantes.“ Ich möchte Kontrollen, die dem Risiko angemessen sind. Lassen Sie die Menschen dort beherzt experimentieren, wo Handlungen reversibel und folgenarm sind. Verstärken Sie die menschliche Aufsicht, sobald Entscheidungen sich auf Kundendaten, Geld, Sicherheit, regulatorische Verpflichtungen oder Produktivsysteme auswirken.
  • Fünftens – und das ist vielleicht der wichtigste Punkt – gestalten Sie die Arbeit neu, anstatt die Arbeit einfach um KI zu erweitern. Wenn mein Entwicklungsprozess zwölf Schritte umfasst und KI Schritt vier um 70 Prozent beschleunigt, habe ich die Entwicklung nicht transformiert. Ich habe Schritt vier beschleunigt.
  • Und schließlich: Schützen Sie das menschliche Urteilsvermögen und beseitigen Sie gleichzeitig konsequent menschliche Routinearbeit.

Mein wichtigster Ratschlag an CTOs lautet derzeit: Verwechseln Sie nicht, schnell voranzukommen, mit Fortschritt. Der Druck auf Technologieverantwortliche, „etwas mit KI zu tun“, ist enorm. Aufsichtsräte fragen danach. Es ist sehr leicht, reaktiv zu werden. Aber ich denke, die Aufgabe des CTO besteht derzeit darin, inmitten dieses Lärms für Klarheit zu sorgen.

Tyrone GrandisonCTO der Cornerstone Assurance Corporation
Share This Quote on:

Ich denke, CTOs haben derzeit eine seltene Chance. Fragen Sie nicht nur, wie KI Ihre derzeitige Organisation effizienter machen kann. Fragen Sie, welche Organisation Sie aufbauen würden, wenn Sie heute anfangen würden. Das ist die unbequemere Frage. Es ist auch die Frage, die Unternehmen voneinander unterscheiden wird, die KI lediglich nutzen, und Unternehmen, die sich durch KI tatsächlich transformieren.

Folgen Sie uns

Sie können Tyrone Grandisons Arbeit auf LinkedIn und auf seiner persönlichen Website verfolgen. Sie können sich auch seine Bücher Die KI-Revolution und Kultur, die Bestand hat ansehen.

Weitere Experteninterviews folgen im CTO Club!