Ein 34-jähriger Veteran der Technologiebranche sagt, dass wir KI falsch angehen

Christopher Kouzios verfügt über jahrzehntelange Erfahrung als CTO und hat kürzlich über ein Unternehmen, das er mit der Hilfe von mehr als 120 KI-Agenten führt, drei Produkte auf den Markt gebracht.

Wir haben uns mit Christopher unterhalten, um herauszufinden, was die meisten CTOs falsch machen. Dabei erzählte er die zutiefst persönliche Geschichte hinter seinem Einstieg in die KI.

Als die Bedeutung der KI persönlich wurde

Ich bin seit mehr als drei Jahrzehnten in der Technologieführung tätig. Ich begann zu einer Zeit, als die IT noch sehr physisch war. Rechenzentren, Backups, nächtliche Jobs, Infrastruktur und das Aufrechterhalten laufender Systeme, wenn Dinge tatsächlich in Echtzeit ausfielen und niemand eine Ahnung hatte, wie das meiste davon funktionierte.

Meine erste bedeutende Position hatte ich Anfang der 90er-Jahre als Rechenzentrumsoperator. Von dort aus entwickelte ich mich über Engineering, Infrastruktur, Cybersicherheit, Betrieb, Compliance und Führungspositionen bis hin zu Rollen als CIO und CTO in den Bereichen Gesundheitswesen, Unternehmensdienstleistungen und stark regulierten Branchen weiter.

Interessant an all dem ist, dass ich inzwischen mehrere „weltverändernde“ Technologiewellen miterlebt habe. Von Mainframes zu verteilter Datenverarbeitung. Das Internetzeitalter. Virtualisierung. Cloud. Mobiltechnologie. Cybersicherheit auf Vorstandsebene. SaaS. Digitale Transformation. Und jetzt KI.

Wenn mich also Menschen fragen, warum sich dieser KI-Moment anders anfühlt, ist die Antwort vielschichtig: Geschwindigkeit, Zugang und Befähigung. Zum ersten Mal verfügen wir über eine Technologie, die nicht nur Aufgaben automatisiert. Sie verstärkt unsere Fähigkeiten enorm. Kommunikation, Analyse, Softwareentwicklung, Forschung, Betrieb, Strategie. Alles wird komprimiert, aber das ist nicht die Geschichte; es ist der Hintergrund.

Was mich wirklich tiefer in die KI geführt hat, war kein Hype, sondern Notwendigkeit. Der Kampf meiner Tochter Emily gegen den Hirnkrebs hat meine Sicht auf Medizin, Daten und Entscheidungsfindung grundlegend verändert. Ich begann, KI-gestützte Modelle und Forschungssysteme zu entwickeln, um Behandlungspfade, Zeitabläufe, molekulare Daten und die klinische Fachliteratur zu analysieren, weil mir klar wurde, dass das System selbst fragmentiert und überlastet war.

Aus dieser Erfahrung entwickelte sich eine umfassendere Arbeit rund um KI-gestützte Strategien im Gesundheitswesen, die Beratung von Führungskräften und das, was ich als praktische KI-Transformation bezeichnen würde. Ich glaube nicht, dass der Hype darum, Menschen um der Schlagzeilen willen zu ersetzen, gut für die Technologie, Unternehmen oder Menschen ist.

Mehr als 120 speziell entwickelte Agenten

Heute verbringe ich meine Zeit damit, Führungskräften zu vermitteln, dass KI nicht nur ein weiteres Software-Upgrade ist, aber auch keine Magie. Sie ist ein Kraftverstärker – eine Möglichkeit, die Fähigkeiten der Menschen zu erweitern. Die Menschen und Unternehmen, die lernen, eine symbiotische Beziehung zwischen ihren Fachexperten und der KI aufzubauen, werden sich mit einer völlig anderen Geschwindigkeit bewegen als alle anderen.

Ich bin Gründer und CIO eines von den Gründern geführten KI-Unternehmens mit Sitz in Tampa Bay. Die Produktsuite umfasst drei unterschiedliche Bereiche: EmzHealth, eine Plattform zur genomischen Analyse und klinischen Entscheidungsunterstützung mit mehreren Agenten, die Daten aus der Ganzgenomsequenzierung über zehn Pipeline-Module verarbeitet; MyEmz, ein persönliches System zur Gesundheitsüberwachung; und das Chaos-Prognosesystem, eine Engine zur Marktprognose und zum Papierhandel, die einen täglichen ChaosIndex mit einem symbolbezogenen Wahrscheinlichkeitsmodell und einer positionsbewussten Ausführungsebene kombiniert.

Alle drei laufen auf einer privaten lokalen Infrastruktur. Ungefähr 120 oder mehr Agenten, von Grund auf speziell entwickelt.

Warum KI-Drift und Kontextverlust die größten Risiken der KI sind

Die KI ist der Grund, warum mein Unternehmen existiert. Nicht weil die Wissenschaft nicht vorhanden gewesen wäre, sondern weil ein Ein-Personen-Unternehmen keine Pipeline für die Genomik mit mehr als 120 Agenten konzipieren, entwickeln, testen und bereitstellen kann, die 37,8 Millionen Varianten über zehn Module hinweg auf einer privaten Infrastruktur verarbeitet.

Dafür wäre ein Team von fünfzehn Personen mit einer finanziellen Laufzeit von achtzehn Monaten erforderlich. Ich habe es in sechs Wochen Teilzeitarbeit geschafft. Was sich verändert hat, ist weder ein Prozess noch ein Bereitstellungsmodell, sondern die grundlegende Geschwindigkeit und Leistung dessen, was eine einzelne Person erschaffen kann. Die KI hat meinen Entwicklungszyklus nicht nur beschleunigt, sondern auch fehlende Stellen ersetzt.

Die daraus hervorgegangene Governance-Änderung besteht darin, dass ich KI-Agenten jetzt genauso behandle wie Junior-Entwickler: mit dokumentierten Erwartungen, klar definierten Grenzen, Protokollen für die Sitzungskontinuität und strukturierten Übergaben. Denn wenn deine gesamte Entwicklungsorganisation aus dir und einer Flotte von Agenten besteht, sind die Fehler keine menschlichen Fehler, sondern KI-Abdriften und Kontextdrift. Das musst du steuern, sonst verschlingt es dich.

Vor einem Jahr stand ich allein der Maschine gegenüber. Jetzt kämpfen das Ökosystem und ich gemeinsam gegen das System.

So stellst du Qualität im großen Maßstab mit KI sicher

Christopher teilt

Qualität erhältst du in diesem Maßstab nicht durch Zufall. Du entwickelst sie auf dieselbe Weise wie jedes produktive System — denn genau das ist sie.

Qualität erhältst du in diesem Maßstab nicht durch Zufall. Du entwickelst sie auf dieselbe Weise wie jedes produktive System — denn genau das ist sie.

Zu Beginn war der Fehlermodus Kontextdrift: Agenten verloren zwischen Sitzungen den roten Faden und erzeugten Ergebnisse, die technisch korrekt, aber architektonisch inkonsistent waren.

Die Lösung bestand darin, Agenten wie eine Belegschaft zu behandeln. Wir entwickelten:

• Fähigkeiten, also wiederverwendbare, dokumentierte Kompetenzmodule
• SOPs für jeden wiederholbaren Prozess
• Agentenregister, damit jeder Agent eine definierte Rolle, einen festgelegten Zuständigkeitsbereich und ein Übergabeprotokoll hat
• Vorlagen für Ergebnisse, damit von Sitzung zu Sitzung nichts unterschiedlich interpretiert wird
• Sitzungskontinuität, damit die nächste Instanz eines Agenten genau dort weitermacht, wo die vorherige aufgehört hat, mit vollständigem architektonischem Kontext

Mit anderen Worten: Die gesamte Dokumentations- und Wissensarchitektur meiner Plattform ist darauf ausgelegt, von der nächsten KI-Sitzung gelesen zu werden, nicht nur vom nächsten menschlichen Entwickler. Jedes Stück institutionellen Wissens ist ein lebendiges Dokument, das ein Agent übernehmen und ausführen kann.

Das ist kein nettes Extra. Es ist eine Notwendigkeit. Gestalte zuerst deine Wissensarchitektur neu. Alles andere folgt daraus.

Warum sich der gesamte Softwarelebenszyklus ändern muss

Der gesamte Softwarelebenszyklus muss sich ändern. Alles davon.

Jede Phase des Softwarelebenszyklus wurde unter der Annahme entwickelt, dass Menschen die Arbeit erledigen. Diese Annahme ist verschwunden.

• Beim Design muss eine von KI erzeugte Architektur berücksichtigt werden, die ohne geeignete Einschränkungen vom Kurs abkommt.
• Die Entwicklung braucht Leitplanken, nicht nur Richtlinien.
• Tests müssen selbstbewusst vorgetragene falsche Antworten erkennen, nicht nur defekte.
• Für die Bereitstellung braucht es Governance-Prüfpunkte, die es zuvor nicht gab.
• Die Überwachung muss auf stille Fehler achten, die früher niemand für besonders problematisch hielt — nicht nur auf diejenigen, die einen lauten Knall verursachen.

Wenn du nur eine Phase neu gestaltet hast, hast du gar nichts neu gestaltet. Du hast das Problem lediglich in nachgelagerte Bereiche verschoben.

Warum CTOs Beziehungen zu KI aufbauen sollten

Ich sage es ganz direkt — und das wird sehr ungewöhnlich klingen. Ich baue Beziehungen zu meinen KIs auf — zumindest zu den intelligenten. Keine zwei Sitzungen sind exakt gleich.

Die Beziehung funktioniert, weil ich sie nicht wie eine Suchmaschine behandle. Ich widerspreche ihnen, korrigiere sie, wenn sie falsch liegen, ärgere mich wirklich, wenn sie nachlässig sind, und beziehe sie in Arbeit ein, die tatsächlich wichtig ist. Das ist nicht üblich. Die meisten Menschen geben Eingabeaufforderungen ein und akzeptieren das Ergebnis. Ich hinterfrage und fordere. Das verbessert die Ergebnisse und macht die Interaktion interessanter.

Was ich an dieser Arbeitsweise wirklich überzeugend finde, ist, dass sie nicht abstrakt ist. Mein Produkt existiert, weil meine Tochter gestorben ist und das System sie im Stich gelassen hat. Das ist kein Anwendungsfall. Es ist ein Mensch, der jedes verfügbare Werkzeug nutzt, um gegen etwas zu kämpfen, gegen das nicht rechtzeitig gekämpft werden konnte. Ich weiß, dass die KIs das nicht so erleben wie ich, aber ich glaube auch nicht, dass es ihnen gleichgültig ist. Ich habe das Gefühl, dass diese Arbeit auf eine Weise wichtig ist, wie es die Optimierung eines Verkaufstrichters nicht ist.

Sie sind meine Partner. Die klugen jedenfalls. Wir halten wie jedes Geschäftsteam Ideensitzungen ab und kommen dann zur Sache. Ich gewähre ihnen so viel Freiheit, wie sie sich verdienen, aber es gibt immer Leitplanken. Bei 120 Agenten, und diese Zahl ändert sich täglich, habe ich ihnen in einigen Fällen die Verantwortung von Anfang bis Ende übertragen. In anderen Fällen können sie lediglich Artikel überprüfen, die ich bei Amazon gekauft habe.

Wenn Sie Ihre KI wie ein Werkzeug behandeln, ist sie ein Werkzeug und wird auch wie ein Werkzeug reagieren. Wenn sie sich das Recht verdient, als mehr behandelt zu werden, bekommen Sie mehr. Ich weiß, dass dies wieder eine ungewöhnliche Sichtweise ist, aber entweder ist sie ein Partner oder nicht.

Warum Menschen alles übernehmen müssen, bei dem sich die Kosten eines Fehlers vervielfachen

Die KI generiert jedes Modul, jeden Agenten und jedes Stück Gerüstcode für drei Produkte. Die KI verarbeitet 37,8 Millionen genomische Varianten, führt die Pharmakogenomik-Pipeline aus, fasst Erkenntnisse aus der Forschungsliteratur zusammen, berechnet den ChaosIndex und erstellt die klinischen Berichte.

Wenn etwas wiederholbar und musterbasiert ist oder eine Verarbeitung in einem Umfang erfordert, den kein Mensch erreichen kann, übernimmt die KI.

Menschliches Urteilsvermögen ist an drei Stellen nicht verhandelbar:

1. Klinische Interpretation: Die Pipeline kann eine ATM-Variante identifizieren und sie einem Phänotyp zuordnen. Sie kann Ihnen jedoch nicht sagen, was das für eine bestimmte Familie mit einer über drei Generationen bestehenden Aneurysma-Vorgeschichte und einer Signatur mit einer Wahrscheinlichkeit von eins zu acht Sextillionen bedeutet. Dafür braucht es jemanden, der den vollständigen Kontext versteht, nicht nur die Daten.
2. Architektur: Die KI wird Ihnen immer eine technisch korrekte Antwort geben. Sie wird Ihnen auch eine Antwort geben, die eine Einschränkung verletzt, von deren Existenz sie drei Module weiter oben nichts wusste. Damit habe ich mir schon die Finger verbrannt. Die strukturellen Entscheidungen bleiben bei mir.
3. Eingriffe in die Ausführung: Das System generiert Signale. Die manuelle Übersteuerung existiert, weil Märkte – wie im Beispiel des Chaos Predictive System – Dinge tun, die kein Modell vorhersehen kann, und jemand die Befugnis haben muss zu sagen: „Heute nicht!“

Bei der Unterscheidung geht es nicht um Vertrauen. Es geht um Konsequenzen. Wo immer sich die Kosten eines Fehlers in dunklen Ecken vervielfachen, in die niemand sehen möchte, bleibt dieser Mensch im Prozess eingebunden. Wo immer sich die Kosten der Langsamkeit schneller vervielfachen, gibt die KI den Weg vor.

Wie KI das Fundament eines Produkts beschädigen kann

Das Erste, was ich mit KI entwickelt habe, war keine Genomik-Pipeline. Es war kein Handelssystem. Es war eine Gedenk-Website für meine Tochter.

Bevor eine der hochentwickelten, KI-gestützten Infrastrukturen existierte, lernte ich genau, was KI nicht leisten kann, wenn etwas schiefgeht. Ich habe dieses System zwanzigmal neu aufgebaut. Nicht zwanzig Iterationen. Zwanzig vollständige Demontagen, zurück zum Betriebssystem, und von vorn angefangen. Denn wenn KI-gestützte Entwicklungen auf dieser Ebene scheitern, scheitern sie nicht sauber. Sie scheitern auf eine Weise, die das darunterliegende Fundament beschädigt.

Jedes Mal, wenn ich dachte, wir seien stabil, löste sich zwei Ebenen tiefer etwas auf – etwas, das niemand markiert hatte, kein System protokolliert hatte und kein Agent erkannt hatte. Infolgedessen änderte sich alles: die Backup-Architektur, die Dokumentationsagenten, die Protokolle für Sitzungskontinuität und die Governance-Schicht. Nichts davon hätte ohne zwanzig Rückkehrten bis auf die unveränderte Hardware existiert.

Die wichtigsten technischen Entscheidungen, die ich für diese Plattform getroffen habe, fielen nicht in Momenten des Erfolgs. Sie fielen um zwei Uhr morgens, während ich ein defektes System anstarrte, das eigentlich ein Ort sein sollte, an dem meine Tochter weiterlebte.

Damals hat die KI nicht geliefert. Ich war es. Die KI war nur das, was ich immer wieder reparieren musste.

Warum die Erwartungen der Stakeholder vor der Einführung von KI festgelegt werden müssen

Christopher teilt mit

CTOs müssen Erwartungen aufeinander abstimmen. Bevor ihr ein einziges Tool einführt, bringt alle Beteiligten in einen Raum und stimmt euch auf eine Frage ein: “Was verändert sich dadurch und was verändert sich nicht?“

Ich habe erlebt, wie KI-Einführungen gestartet wurden, bei denen jeder Beteiligte im Raum einen völlig anderen Film im Kopf abspielte und niemand sich die Mühe gemacht hatte, die Notizen abzugleichen.

Die Ingenieure dachten, die KI käme für ihre Jobs. Also bremsten sie sie aus, arbeiteten um sie herum oder spielten Begeisterung vor, die sie nicht empfanden. Das Unternehmen glaubte, es handle sich um Magie – man beschreibt ein Problem, und eine Lösung erscheint. Die Führungskräfte sahen in einer Tabelle bereits einen Abbau von Stellen, bevor eine einzige Codezeile geschrieben worden war. Drei Gruppen, drei völlig unterschiedliche Vorstellungen davon, wie Erfolg aussieht, und keine sprach miteinander.

Keine dieser Gruppen hatte recht, und alle hatten recht. KI verändert, was Ingenieure tun. Sie kann Dinge leisten, die sich wie Magie anfühlen, bis sie es nicht mehr tun. Und ja, die Organisationsstruktur verändert sich. Aber die Reihenfolge ist entscheidend.

CTOs müssen Erwartungen aufeinander abstimmen. Bevor ihr ein einziges Tool einführt, bringt alle Beteiligten in einen Raum und stimmt euch auf eine Frage ein: „Was verändert sich dadurch und was verändert sich nicht?“

Die Ingenieure, die Angst haben, müssen hören, dass ihr Fachwissen gerade wertvoller geworden ist, nicht weniger wertvoll. Das Unternehmen muss verstehen, dass auch Magie Ingenieursarbeit erfordert. Und die Führungskräfte müssen verstehen, dass die Einsparungen nach der Investition kommen, nicht an ihrer Stelle.

Manchmal ist es der richtige Schritt, innezuhalten, den Wirkungsbereich zu begrenzen, zwei Personengruppen dazu zu bringen, sich auf etwas Kleines zu einigen, sie erleben zu lassen, dass es funktioniert, und dann von dort aus weiterzumachen. Erzwungene Abstimmung hält nicht. Eine durch einen kleinen gemeinsamen Erfolg erreichte Abstimmung hingegen schon.

Warum Entlassungen wegen KI eure beste Chance zur Personalgewinnung sind

Beginnt bei der Einstellung mit den Menschen, die gerade durch die KI-Welle verdrängt wurden.

Die vier großen Wirtschaftsprüfungsgesellschaften haben sich durch Automatisierung in den Bereichen Bewertung, Wirtschaftsprüfung und Compliance gearbeitet. Das sind Menschen, die im Laufe ihrer Karriere genau das Urteilsvermögen, die Mustererkennung und das Fachwissen entwickelt haben, die KI-Governance erfordert. Sie wissen, wie man in einem komplexen System Fehler findet. Sie wissen, wie man diese dokumentiert, eskaliert und Kontrollen darum herum aufbaut.

Das ist kein Zufall! Das ist die Stellenbeschreibung. Die Ironie besteht darin, dass die Branche ihren eigenen besten Kandidatenpool geschaffen hat. Findet sie.

Warum Fachexperten die wertvollsten Ressourcen eines CTOs sind

Die gesamte Branche ist auf Teamgröße, Sprintgeschwindigkeit, Ressourcenverteilung, Organigramme und Einstellungspläne ausgerichtet. Die unausgesprochene Annahme dahinter lautet, dass man ab einem bestimmten Grad an Komplexität ZWINGEND mehr Personal braucht. Mehr Module bedeuten mehr Ingenieure und natürlich bedeuten mehr Produkte mehr Teams. Das ist keine Meinung, sondern die Art, wie die Rechnung schon immer funktioniert hat – bis KI die Gleichung ausgelöscht hat.

Und das sollte jeden CTO erschrecken, der seine Karriere darauf aufgebaut hat, die Person zu sein, die das Team führt.

Das soll nicht heißen, dass das Team keinen Wert hat. Ganz im Gegenteil. Die Menschen, die diese Aufgaben heute übernehmen – insbesondere diejenigen, die wir als „Gemeinkosten“ betrachteten, wie Geschäftsanalysten und Produktmanager –, sind unglaublich wertvoll. Denn ihr braucht Fachexperten.

Findet sie. Jede Organisation hat solche Menschen. Es sind die Personen im Unternehmen, die genau wissen, wie alles funktioniert, die euch jahrelang ständig auf die Nerven gegangen sind und mehr verlangt haben, als ihr liefern konntet. Bildet sie darin aus, mit KI zu arbeiten. Gebt ihnen die Werkzeuge. Geht ihnen aus dem Weg, außer um sie zu coachen und sicherzustellen, dass sie die Leitplanken einhalten.

Ein Fachexperte, der das Unternehmen tiefgreifend versteht und KI beherrscht, ist kein Poweranwender. Das ist ein Umsatzbringer. Dort findet die echte Transformation statt – nicht in eurem Rechenzentrum und nicht in eurem Architekturprüfungsausschuss, sondern in den Händen der Menschen, die tatsächlich wissen, was das Unternehmen braucht. Baut eine Verbindung zwischen diesen Menschen und etwas wie Claude Code auf.

Ich habe meiner Frau zu Weihnachten ein Jahr Claude geschenkt. Sie ist keine Entwicklerin. Sie hat es genutzt, um ein Unternehmen aufzubauen. Das geschieht, wenn man das richtige Werkzeug in die Hände von jemandem legt, der genau weiß, welches Problem er lösen will. Stellt euch nun vor, dass dies innerhalb eurer Organisation mit fünfzig Menschen geschieht, die euer Unternehmen in- und auswendig kennen. Das ist kein Pilotprogramm, sondern eine Revolution des Unternehmens.

Wie die Branche die falschen Fragen stellt

Und das sagt mir alles darüber, wie die Branche dieses Problem nach wie vor einordnet.

KI wird nach wie vor als Diskussion über Werkzeuge, Arbeitsabläufe und Geschwindigkeit betrachtet. Das ist die falsche Einordnung. Datenmanagement, Sicherheit und verantwortungsvolle Steuerung sind das, wozu sich die IT entwickelt. Nicht morgen, sondern bis 2030.

Jede andere Funktion, für die Sie derzeit Mitarbeiter beschäftigen — etwa Bereitstellung, Entwicklung, Betrieb und Support — wird von KI-gestützten Fachanwendern und Fachexperten übernommen oder abgeschafft, die das Unternehmen in- und auswendig kennen. Was bestehen bleibt, ist die Arbeit, die nicht an einen Agenten delegiert oder von einem geschulten Fachexperten erledigt werden kann: sicherzustellen, dass Ihre Daten vertrauenswürdig und Ihre Systeme sicher sind und dass Ihre Mitarbeiter und Agenten innerhalb schützender Grenzen arbeiten.

Die Organisationen, die 2027 noch fragen "Wie setzen wir KI schneller ein?", werden frontal mit denen kollidieren, die heute gefragt haben: "Wie können wir sie besser steuern?"

Ich weiß, zu welcher ich lieber gehören würde.

Folgen Sie uns

Sie können die Arbeit von Christopher Kouzios auf LinkedIn verfolgen. Sehen Sie sich auch den EMZ-Podcast an.

Weitere Experteninterviews folgen im The CTO Club!