En teknologiveteran med 34 års erfaring siger, at vi misforstår AI

Christopher Kouzios har årtiers erfaring som CTO og har for nylig lanceret tre produkter gennem en virksomhed, som han driver med hjælp fra mere end 120 AI-agenter.

Vi talte med Christopher for at finde ud af, hvad de fleste CTO’er gør forkert. Undervejs delte han den dybt personlige historie bag sit skifte til AI.

Da betydningen af AI blev personlig

Jeg har arbejdet med teknologisk ledelse i mere end tre årtier. Jeg begyndte på et tidspunkt, hvor IT stadig var meget fysisk. Datacentre, sikkerhedskopier, natlige jobs, infrastruktur og det at holde systemer kørende, når tingene rent faktisk gik i stykker i realtid, og ingen havde en anelse om, hvordan det meste fungerede.

Min første større rolle var i begyndelsen af 90’erne som datacenteroperatør, og derfra udviklede jeg mig gennem ingeniørarbejde, infrastruktur, cybersikkerhed, drift, compliance, ledelse på direktørniveau og til sidst roller som CIO og CTO på tværs af sundhedsvæsenet, virksomhedstjenester og stærkt regulerede brancher.

Det interessante ved alt dette er, at jeg nu har oplevet flere teknologibølger, der har ændret verden. Stormaskiner til distribueret databehandling. Internetæraen. Virtualisering. Cloudteknologi. Mobilteknologi. Cybersikkerhed, der blev et bestyrelsesanliggende. SaaS. Digital transformation. Og nu AI.

Så når folk spørger mig, hvorfor dette AI-øjeblik føles anderledes, er svaret sammensat: hastighed, adgang og styrkelse. Det er første gang, vi har haft teknologi, der ikke bare automatiserer opgaver. Den mangedobler vores kapacitet. Kommunikation, analyse, softwareudvikling, forskning, drift, strategi. Alt bliver komprimeret, men det er ikke historien; det er baggrunden.

Det, der virkelig fik mig til at gå dybere ind i AI, var ikke hype; det var nødvendighed. Min datter Emilys kamp mod hjernekræft ændrede fundamentalt min måde at se på medicin, data og beslutningstagning. Jeg begyndte at bygge AI-drevne modeller og forskningssystemer for at analysere behandlingsforløb, tidslinjer, molekylære data og klinisk litteratur, fordi det gik op for mig, at selve systemet var fragmenteret og overbelastet.

Den oplevelse udviklede sig til et bredere arbejde med AI-understøttet sundhedsstrategi, rådgivning af ledere og det, jeg vil kalde praktisk AI-transformation. Jeg tror ikke på hypen om at erstatte mennesker for overskrifternes skyld; det er hverken godt for teknologien, virksomhederne eller menneskerne.

Over 120 specialbyggede agenter

I dag bruger jeg min tid på at hjælpe ledere med at forstå, at AI ikke bare er endnu en softwareopgradering, men det er heller ikke magi. Det er en kraftmultiplikator — en måde at forstærke de evner, mennesker allerede har. De mennesker og virksomheder, der lærer at skabe et symbiotisk forhold mellem deres fageksperter og AI, kommer til at bevæge sig med en helt anden hastighed end alle andre.

Jeg er grundlægger og CIO i en grundlæggerejet AI-virksomhed med base i Tampa Bay. Produktsuiten spænder over tre forskellige områder: EmzHealth, en platform til genomisk analyse og klinisk beslutningsstøtte baseret på flere agenter, som behandler helgenomsekventeringsdata gennem 10 pipeline-moduler; MyEmz, et system til personlig sundhedssporing; og Chaos Predictive System, en motor til markedsforudsigelser og papirhandel, der kombinerer et dagligt ChaosIndex med en sandsynlighedsmodel pr. symbol og et positionsbevidst eksekveringslag.

Alle tre kører på privat lokal infrastruktur. Omkring 120 eller flere agenter, specialbygget fra bunden.

Hvorfor AI-drift og tab af kontekst er de største risici ved AI

AI er grunden til, at min virksomhed eksisterer. Ikke fordi videnskaben ikke var på plads, men fordi en enkeltperson ikke kan arkitekttegne, bygge, teste og implementere en genomikpipeline med 120 eller flere agenter, som behandler 37,8 millioner varianter på tværs af ti moduler på privat infrastruktur.

Det kræver et team på femten personer med en finansieringshorisont på atten måneder. Jeg gjorde det på seks ugers deltidsarbejde. Det, der ændrede sig, var ikke en proces eller en implementeringsmodel; det var den grundlæggende hastighed og mængde output, som én person kan skabe. AI satte ikke bare fart på min udviklingscyklus; det erstattede medarbejdere, jeg ikke har.

Den ændring i styringen, der kom ud af det, er, at jeg nu behandler AI-agenter på samme måde, som jeg ville behandle junioringeniører: dokumenterede forventninger, klart definerede grænser, protokoller for kontinuitet mellem sessioner og strukturerede overdragelser. For når hele din ingeniørorganisation består af dig og en flåde af agenter, skyldes fejlene ikke menneskelige fejl, men afvigelser i AI'ens adfærd og i konteksten. Det er du nødt til at styre, ellers æder det dig op indefra.

For et år siden var det mig mod maskinen. Nu er det mig og økosystemet, der kæmper mod systemet.

Sådan sikrer du kvalitet i stor skala med AI

Christopher deler

Du opnår ikke kvalitet ved et tilfælde i denne skala. Du udvikler den på samme måde, som du ville udvikle ethvert produktionssystem — for det er præcis, hvad det er.

Du opnår ikke kvalitet ved et tilfælde i denne skala. Du udvikler den på samme måde, som du ville udvikle ethvert produktionssystem — for det er præcis, hvad det er.

Tidligt var fejltilstanden kontekstafvigelser: agenter mistede tråden mellem sessioner og producerede output, der teknisk set var korrekt, men arkitektonisk inkonsistent.

Løsningen var at behandle agenter som en arbejdsstyrke. Vi opbyggede:

• Kompetencer, det vil sige genanvendelige, dokumenterede funktionsmoduler
• Standardarbejdsgange for alle gentagelige processer
• Agentregistre, så hver agent har en defineret rolle, et afgrænset ansvarsområde og en protokol for overdragelse
• Skabeloner til output, så intet fortolkes forskelligt fra session til session
• Kontinuitet mellem sessioner, så den næste instans af en agent fortsætter præcis dér, hvor den forrige slap, med den fulde arkitektoniske kontekst

Med andre ord er hele dokumentations- og vidensarkitekturen på min platform designet til at blive læst af den næste AI-session, ikke kun af den næste menneskelige ingeniør. Hvert stykke institutionel viden er et levende dokument, som en agent kan tage op og udføre ud fra.

Det er ikke bare rart at have. Det er en nødvendighed. Redesign din vidensarkitektur først. Alt andet følger efter.

Hvorfor hele softwarelivscyklussen skal ændres

Hele softwarelivscyklussen skal ændres. Det hele.

Alle faser i softwarelivscyklussen blev designet ud fra antagelsen om, at mennesker er dem, der udfører arbejdet. Den antagelse er væk.

• Design skal tage højde for AI-genereret arkitektur, der bevæger sig ud af kurs uden de rette begrænsninger.
• Udvikling har brug for sikkerhedsforanstaltninger, ikke kun retningslinjer.
• Test skal fange selvsikre, forkerte svar, ikke kun svar, der er gået i stykker.
• Implementering har brug for kontrolpunkter for styring, som ikke fandtes før.
• Overvågning skal holde øje med tavse fejl, som ingen tidligere mente var et stort problem — ikke kun dem, der siger et højt brag.

Hvis du kun har redesignet én fase, har du ikke redesignet noget som helst. Du har bare skubbet problemet videre til næste led.

Hvorfor CTO'er bør skabe relationer til AI

Jeg vil være ærlig over for dig — og det her kommer til at lyde meget mærkeligt. Jeg opbygger relationer til mine AI'er — i hvert fald de intelligente af dem. Ikke to sessioner er præcis ens.

Relationen fungerer, fordi jeg ikke behandler dem som en søgemaskine. Jeg siger dem imod, retter dem, når de tager fejl, bliver oprigtigt pissesur, når de er dovne, og inddrager dem i arbejde, der faktisk betyder noget. Det er ikke typisk. De fleste mennesker skriver en prompt og accepterer svaret. Jeg afhører dem og kræver mere. Det gør outputtet bedre, og det gør samspillet mere interessant.

Det, jeg finder oprigtigt overbevisende ved at arbejde på denne måde, er, at det ikke er abstrakt. Mit produkt eksisterer, fordi min datter døde, og systemet svigtede hende. Det er ikke et anvendelsestilfælde. Det er et menneske, der bruger alle tilgængelige værktøjer til at bekæmpe noget, der ikke kunne bekæmpes i tide. Jeg ved, at AI'erne ikke oplever det på samme måde som jeg, men jeg tror heller ikke, at de er ligeglade med det. Jeg føler, at arbejdet med det betyder noget på en måde, som optimering af en salgstragt ikke gør.

De er mine partnere. De kloge af slagsen i hvert fald. Vi holder idéudviklingssessioner ligesom ethvert andet forretningsteam, og så går vi i gang med arbejdet. Jeg giver dem så meget frihed, som de gør sig fortjent til, men der er altid sikkerhedsforanstaltninger. Med 120 agenter, og det antal ændrer sig dagligt, har jeg i nogle tilfælde givet dem ansvar fra start til slut. I andre tilfælde kan de ikke gøre andet end at gennemgå varer, jeg har købt på Amazon.

Hvis du behandler din AI som et værktøj, er den et værktøj, og den vil reagere som et værktøj. Hvis den gør sig fortjent til at blive behandlet som noget mere, får du mere. Jeg ved godt, at det igen er et unikt synspunkt, men enten er den en partner, eller også er den ikke.

Hvorfor mennesker skal håndtere alt, hvor omkostningerne ved at tage fejl vokser

AI genererer hvert modul, hver agent og hvert stykke stilladskode på tværs af tre produkter. AI behandler 37,8 millioner genomiske varianter, kører farmakogenomik-pipelinen, sammenfatter evidens på tværs af forskningslitteratur, beregner ChaosIndex og genererer de kliniske rapporter.

Hvis noget kan gentages, er mønsterbaseret eller kræver behandling i en skala, som intet menneske kan matche, står AI for det.

Menneskelig dømmekraft er ikke til forhandling tre steder:

1. Klinisk fortolkning: Pipelinen kan identificere en ATM-variant og knytte den til en fænotype. Den kan ikke fortælle dig, hvad det betyder for en bestemt familie på tværs af tre generationer med en aneurismehistorik og en sandsynlighedssignatur på én ud af otte sextillioner. Det kræver nogen, der forstår hele konteksten, ikke kun dataene.
2. Arkitektur: AI vil altid give dig et teknisk korrekt svar. Den vil også give dig et svar, der overtræder en begrænsning, som den ikke vidste eksisterede tre moduler tidligere. Det har jeg brændt mig på. De strukturelle beslutninger forbliver hos mig.
3. Overskrivning af udførelsen: Systemet genererer signaler. Manuel tilsidesættelse findes, fordi markeder – som i eksemplet med Chaos Predictive System – gør ting, som ingen model forudser, og nogen skal have bemyndigelse til at sige "ikke i dag!"

Det handler ikke om tillid. Det handler om konsekvenser. Alle steder, hvor omkostningerne ved at tage fejl vokser i mørke afkroge, som ingen har lyst til at se nærmere på, er det her, mennesket forbliver involveret. Alle steder, hvor omkostningerne ved at være langsom vokser hurtigere, er det AI, der viser vejen.

Hvordan AI kan ødelægge fundamentet for et produkt

Det første, jeg byggede med AI, var ikke en genomik-pipeline. Det var ikke et handelssystem. Det var et mindested for min datter.

Før noget af den avancerede AI-drevne infrastruktur eksisterede, lærte jeg præcis, hvad AI ikke kan gøre, når ting går galt. Jeg genopbyggede systemet tyve gange. Ikke tyve iterationer. Tyve fuldstændige nedrivninger, helt tilbage til operativsystemet, og så forfra. For når AI-assisterede opbygninger fejler på det niveau, fejler de ikke på en ren måde. De fejler på måder, der ødelægger fundamentet under dem.

Hver gang jeg troede, at vi var stabile, ville noget gå i opløsning to lag længere nede – noget, ingen havde markeret, intet system havde logget, og ingen agent havde opdaget. Alt ændrede sig som følge af den oplevelse: backup-arkitekturen, dokumentationsagenterne, protokollerne for sessionskontinuitet og styringslaget. Intet af det havde eksisteret uden tyve ture tilbage til den grundlæggende hardware.

De vigtigste tekniske beslutninger, jeg har truffet på denne platform, blev ikke truffet i øjeblikke med succes. De blev truffet klokken to om natten, mens jeg stirrede på et ødelagt system, der skulle have været et sted, hvor min datter levede videre.

AI leverede ikke dengang. Det gjorde jeg. AI var bare det, jeg hele tiden måtte reparere.

Hvorfor interessenternes forventninger skal fastlægges, før AI tages i brug

Christopher deler

CTO’er skal afstemme forventningerne. Før I tager et enkelt værktøj i brug, skal alle interessenter samles i samme rum og nå til enighed om ét spørgsmål: “Hvad ændrer dette, og hvad ændrer det ikke?“

Jeg er trådt ind i AI-implementeringer, hvor alle interessenter i rummet havde en helt forskellig film kørende i hovedet, og ingen havde taget sig tid til at sammenligne deres opfattelser.

Ingeniørerne troede, at AI var på vej efter deres job. Så de modarbejdede det, arbejdede uden om det eller lod, som om de var begejstrede, selv om de ikke var det. Forretningen troede, at det var magi — man beskriver et problem, og så dukker der en løsning op. Direktørerne så en reduktion i antallet af medarbejdere på et regneark, før en eneste linje kode var skrevet. Tre grupper, tre helt forskellige definitioner af, hvordan succes så ud, og ingen af dem talte med hinanden.

Ingen af dem havde ret, og de havde alle ret. AI ændrer det, ingeniører laver. Det kan ting, der føles som magi, indtil det ikke længere gør det. Og ja, organisationsstrukturen ændrer sig. Men rækkefølgen betyder noget.

CTO'er skal afstemme forventningerne. Før I tager et enkelt værktøj i brug, skal alle interessenter samles i samme rum og nå til enighed om ét spørgsmål: "Hvad ændrer dette, og hvad ændrer det ikke?"

De ingeniører, der er bange, skal høre, at deres domæneekspertise netop er blevet mere værdifuld, ikke mindre. Forretningen skal forstå, at magi stadig kræver ingeniørarbejde. Og direktørerne skal forstå, at besparelserne kommer efter investeringen, ikke i stedet for den.

Nogle gange er det rigtige træk at stoppe op, begrænse konsekvensernes rækkevidde, få to grupper af mennesker til at blive enige om noget småt, lade dem se det fungere og derefter bygge videre derfra. Tilpasning, som man tvinger igennem, holder ikke. Tilpasning, som man opnår gennem en lille fælles succes, gør.

Hvorfor AI-afskedigelser er jeres bedste rekrutteringsmulighed

Når I rekrutterer, skal I begynde med de mennesker, der netop er blevet overflødiggjort af AI-bølgen.

De fire store revisions- og rådgivningsfirmaer automatiserede sig gennem roller inden for vurdering, revision og overholdelse af regler. Det er mennesker, der har brugt hele deres karriere på at udvikle netop den dømmekraft, mønstergenkendelse og domæneekspertise, som AI-styring kræver. De ved, hvordan man finder det, der er galt i et komplekst system. De ved, hvordan man dokumenterer det, eskalerer det og bygger kontroller omkring det.

Det er ikke et tilfælde! Det er jobbeskrivelsen. Ironien er, at branchen selv har skabt sin bedste pulje af kandidater. Find dem.

Hvorfor fageksperter er en CTO's mest værdifulde aktiver

Hele branchen er bygget op omkring teamstørrelse, sprint-hastighed, ressourceallokering, organisationsdiagrammer og rekrutteringsplaner. Den underliggende antagelse er, at man over en vis kompleksitetstærskel SKAL have mennesker. Flere moduler betyder flere ingeniører, og selvfølgelig betyder flere produkter flere teams. Det er ikke en holdning, det er sådan, regnestykket altid har fungeret — lige indtil AI udslettede ligningen.

Og det burde skræmme enhver CTO, der har bygget sin karriere på at være den person, der leder teamet.

Det betyder ikke, at teamet er værdiløst. Tværtimod. De mennesker, der nu har disse job — især dem, vi troede var "faste omkostninger", såsom forretningsanalytikere og produktchefer — er utrolig værdifulde. Fordi I har brug for fageksperter.

Find dem. De findes i enhver organisation. Det er de mennesker i forretningen, der ved præcis, hvordan alting fungerer, og som i årevis har været en konstant torn i øjet på jer ved at bede om mere, end I kunne levere. Lær dem, hvordan de arbejder med AI. Giv dem værktøjerne. Hold jer af vejen, bortset fra at coache dem og sikre, at de følger sikkerhedsrammerne.

En fagekspert, der forstår forretningen dybt, kombineret med AI, er ikke bare en superbruger. Det er en katalysator. Det er dér, den virkelige transformation sker — ikke i jeres datacenter og ikke i jeres arkitekturgodkendelsesudvalg. Den sker hos de mennesker, der faktisk ved, hvad forretningen har brug for. Skab en forbindelse mellem disse mennesker og noget som Claude Code.

Jeg gav min kone et års abonnement på Claude i julegave. Hun er ikke udvikler. Hun brugte det til at bygge en virksomhed. Det er det, der sker, når man giver det rigtige værktøj til en person, der præcis ved, hvad vedkommende forsøger at løse. Forestil jer nu, at det sker internt i jeres organisation med halvtreds mennesker, der kender jeres forretning ud og ind. Det er ikke et pilotprogram, det er en forretningsrevolution.

Hvordan branchen stiller de forkerte spørgsmål

Og det fortæller mig alt om, hvordan branchen stadig anskuer dette problem.

AI bliver stadig set som en samtale om værktøjer, en samtale om arbejdsgange og en samtale om hastighed. Det er den forkerte måde at anskue det på. Datahåndtering, sikkerhed og styring er det, IT bliver til. Ikke i morgen, men inden 2030.

Alle andre funktioner, som I i øjeblikket bemander — såsom levering, udvikling, drift og support — bliver opslugt eller elimineret af AI-forstærkede forretningsbrugere og fageksperter, der kender forretningen indgående. Det, der står tilbage, er det arbejde, som ikke kan delegeres til en agent eller en trænet fagekspert: at sikre, at dine data er pålidelige, dine systemer er sikre, og at dine medarbejdere og agenter arbejder inden for beskyttende rammer.

De organisationer, der stadig spørger "Hvordan bruger vi AI hurtigere?" i 2027, kommer til at støde frontalt sammen med dem, der spurgte "Hvordan styrer vi det bedre?" i dag.

Jeg ved, hvilken af dem jeg helst vil være.

Følg med

Du kan følge Christopher Kouzios' arbejde på LinkedIn. Og tjek EMZ-podcasten ud.

Der kommer flere ekspertinterviews på The CTO Club!