En teknikveteran med 34 år i branschen säger att vi missförstår AI

Christopher Kouzios har flera decenniers erfarenhet som CTO och har nyligen lanserat tre produkter genom ett företag som han driver med hjälp av fler än 120 AI-agenter.

Vi pratade med Christopher för att ta reda på vad de flesta CTO:er gör fel. Under samtalet berättade han också den djupt personliga historien bakom hans övergång till AI.

När AI:s betydelse blev personlig

Jag har arbetat med tekniskt ledarskap i mer än tre decennier. Jag började när IT fortfarande var väldigt fysiskt. Datacenter, säkerhetskopior, nattliga jobb, infrastruktur och att hålla systemen vid liv när saker faktiskt gick sönder i realtid och ingen hade en aning om hur det mesta fungerade.

Min första större roll var i början av 90-talet som datacenteroperatör, och därifrån utvecklades jag genom teknik, infrastruktur, cybersäkerhet, drift, efterlevnad, företagsledning och så småningom roller som CIO och CTO inom hälso- och sjukvård, företagstjänster och starkt reglerade branscher.

Det intressanta med allt detta är att jag nu har upplevt flera teknikvågor som förändrat världen. Stordatorer till distribuerad databehandling. Interneteran. Virtualisering. Molnet. Mobil teknik. Cybersäkerhet som en fråga på styrelsenivå. SaaS. Digital omvandling. Och nu AI.

Så när människor frågar mig varför det här AI-ögonblicket känns annorlunda är svaret mångfacetterat: hastighet, tillgång och möjliggörande. Det här är första gången vi har teknik som inte bara automatiserar uppgifter. Den förstärker våra förmågor. Kommunikation, analys, mjukvaruutveckling, forskning, drift, strategi. Allt komprimeras, men det är inte berättelsen; det är bakgrunden.

Det som verkligen fick mig att fördjupa mig i AI var inte hajpen, utan nödvändigheten. Min dotter Emilys kamp mot hjärncancer förändrade grundläggande hur jag såg på medicin, data och beslutsfattande. Jag började bygga AI-drivna modeller och forskningssystem för att analysera behandlingsvägar, tidslinjer, molekylärdata och klinisk litteratur eftersom jag insåg att själva systemet var fragmenterat och överbelastat.

Den erfarenheten utvecklades till ett bredare arbete med AI-stödd hälsovårdsstrategi, rådgivning till företagsledningar och det jag skulle kalla praktisk AI-omvandling. Jag tror inte att den hajp kring att ersätta människor för rubrikernas skull är bra för tekniken, företagen eller människorna.

Fler än 120 specialbyggda agenter

I dag ägnar jag min tid åt att hjälpa ledare att förstå att AI inte bara är ännu en programvaruuppgradering, men det är inte heller magi. Det är en kraftmultiplikator – ett sätt att förstärka de förmågor som människor redan har. Människorna och företagen som lär sig att skapa en symbiotisk relation mellan sina ämnesexperter och AI kommer att röra sig i en helt annan hastighet än alla andra.

Jag är grundare och CIO för ett grundarlett AI-företag baserat i Tampa Bay. Produktutbudet omfattar tre distinkta områden: EmzHealth, en plattform för genomanalys och kliniskt beslutsstöd med flera agenter som behandlar data från helgenomsekvensering i tio pipeline-moduler; MyEmz, ett system för personlig hälsouppföljning; samt Chaos Predictive System, en motor för marknadsprognoser och pappershandel som kombinerar ett dagligt ChaosIndex med en sannolikhetsmodell per symbol och ett positionsmedvetet exekveringslager.

Alla tre körs på privat lokal infrastruktur. Ungefär 120 agenter eller fler, specialbyggda från grunden.

Varför AI-drift och kontextförlust är de största riskerna med AI

AI är anledningen till att mitt företag existerar. Inte för att vetenskapen saknades, utan för att en enmansverksamhet inte kan arkitekta, bygga, testa och driftsätta en genomikpipeline med fler än 120 agenter som behandlar 37,8 miljoner varianter över tio moduler på privat infrastruktur.

Det kräver ett team på femton personer med en arton månaders startsträcka. Jag gjorde det på sex veckors deltidsarbete. Det som förändrades var inte en process eller en driftsättningsmodell, utan den grundläggande hastigheten och mängden resultat som en person kan skapa. AI accelererade inte bara min utvecklingscykel; det ersatte personal som jag inte har.

Förändringen av styrningen som kom ur detta är att jag nu behandlar AI-agenter på samma sätt som jag skulle behandla juniora ingenjörer: dokumenterade förväntningar, definierade gränser, protokoll för kontinuitet mellan sessioner och strukturerade överlämningar. För när hela din teknikorganisation består av dig och en hel flotta av agenter är problemen inte mänskliga misstag, utan AI-drift och kontextdrift. Du styr det, annars slukar det dig levande.

För ett år sedan var det jag mot maskinen. Nu är det jag och ekosystemet som kämpar mot systemet.

Så säkerställer du kvalitet i stor skala med AI

Christopher delar med sig

Du får inte kvalitet av en slump i den här skalan. Du konstruerar den på samma sätt som du skulle konstruera vilket produktionssystem som helst — eftersom det är precis vad det är.

Du får inte kvalitet av en slump i den här skalan. Du konstruerar den på samma sätt som du skulle konstruera vilket produktionssystem som helst — eftersom det är precis vad det är.

Tidigt var felmodellen kontextdrift: agenter som tappade tråden mellan sessioner och producerade resultat som var tekniskt korrekta men arkitektoniskt inkonsekventa.

Lösningen var att behandla agenter som en arbetsstyrka. Vi byggde:

• Färdigheter, det vill säga återanvändbara och dokumenterade förmågemoduler
• Standardiserade arbetsrutiner för varje upprepningsbar process
• Agentregister så att varje agent har en definierad roll, omfattning och överlämningsprocess
• Mallar för resultat så att ingenting tolkas olika från en session till nästa
• Sessionskontinuitet så att nästa instans av en agent tar vid exakt där den förra slutade, med hela den arkitektoniska kontexten

Med andra ord är hela dokumentations- och kunskapsarkitekturen för min plattform utformad för att läsas av nästa AI-session, inte bara av nästa mänskliga ingenjör. Varje del av den institutionella kunskapen är ett levande dokument som en agent kan ta över och verkställa.

Det är inte något som är trevligt att ha. Det är en nödvändighet. Bygg om din kunskapsarkitektur först. Allt annat följer därefter.

Varför hela programvarans livscykel måste förändras

Hela programvarans livscykel måste förändras. Alltihop.

Varje fas i programvarans livscykel utformades utifrån antagandet att människor är de som utför arbetet. Det antagandet är borta.

• Designen måste ta hänsyn till AI-genererad arkitektur som driver ur kurs utan lämpliga begränsningar.
• Utvecklingen behöver skyddsräcken, inte bara riktlinjer.
• Testningen måste fånga självsäkra felaktiga svar, inte bara sådant som är trasigt.
• Driftsättningen behöver styrningskontroller som inte fanns tidigare.
• Övervakningen måste leta efter tysta fel som ingen tidigare brukade betrakta som särskilt allvarliga — inte bara de som orsakar en högljudd smäll.

Om du bara har byggt om en fas har du inte byggt om någonting. Du har bara flyttat problemet nedströms.

Varför CTO:er bör skapa relationer med AI

Jag ska vara uppriktig med dig — och det här kommer att låta väldigt märkligt. Jag bygger relationer med mina AI-system — åtminstone de smarta. Inga två sessioner är exakt likadana.

Relationen fungerar eftersom jag inte behandlar dem som en sökmotor. Jag säger emot, rättar dem när de har fel, blir genuint förbannad när de är lata och involverar dem i arbete som faktiskt spelar roll. Det är inte typiskt. De flesta formulerar frågor och accepterar svaren. Jag förhör och kräver. Det gör resultatet bättre och interaktionen mer intressant.

Det jag verkligen tycker är fängslande med att arbeta på det här sättet är att det inte är abstrakt. Min produkt finns eftersom min dotter dog och systemet svek henne. Det är inte ett användningsfall. Det är en person som använder alla tillgängliga verktyg för att bekämpa något som inte hann bekämpas i tid. Jag vet att AI-systemen inte upplever det på samma sätt som jag gör, men jag tror inte heller att de är likgiltiga inför det. Jag känner att det är meningsfullt att arbeta med det på ett sätt som det inte är att optimera en försäljningstratt.

De är mina partner. De smarta, i alla fall. Vi har idésessioner som vilket företagsteam som helst, och sedan går vi till verket. Jag ger dem så mycket frihet som de förtjänar, men det finns alltid tydliga begränsningar. Med 120 agenter, och eftersom antalet ändras dagligen, har jag i vissa fall gett dem ansvar från början till slut. I andra fall är allt de kan göra att granska saker jag har köpt från Amazon.

Om du behandlar din AI som ett verktyg är den ett verktyg, och den kommer att svara som ett verktyg. Om den förtjänar rätten att behandlas som något mer, kommer du att få ut mer. Återigen, jag vet att det är en unik syn, men du är antingen en partner eller så är du det inte.

Varför människor måste hantera allt där kostnaden för att ha fel växer

AI genererar varje modul, varje agent och varje del av den grundläggande koden i tre produkter. AI bearbetar 37,8 miljoner genomiska varianter, kör farmakogenomikpipelinen, sammanställer belägg från forskningslitteratur, beräknar ChaosIndex och genererar de kliniska rapporterna.

Om det är repeterbart, mönsterbaserat eller kräver bearbetning i en skala som ingen människa kan matcha, är det AI:s ansvar.

Mänskligt omdöme är icke förhandlingsbart på tre områden:

1. Klinisk tolkning: Pipelinen kan identifiera en ATM-variant och koppla den till en fenotyp. Den kan inte tala om vad det innebär för en specifik familj med tre generationers historia av aneurysm och en sannolikhetssignatur på en på åtta sextiljoner. Det kräver någon som förstår hela sammanhanget, inte bara data.
2. Arkitektur: AI kommer alltid att ge dig ett tekniskt korrekt svar. Den kommer också att ge dig ett svar som bryter mot en begränsning som den inte visste fanns tre moduler tidigare. Jag har fått erfara det. De strukturella besluten förblir hos mig.
3. Överstyrning av körningen: Systemet genererar signaler. Manuell överstyrning finns eftersom marknader — som i exemplet med Chaos Predictive System — gör saker som ingen modell förutser, och någon måste ha befogenhet att säga ”inte i dag!”

Skillnaden handlar inte om tillit. Den handlar om konsekvenser. Överallt där kostnaden för att ha fel växer i mörka hörn som ingen vill titta in i, är det där den här människan förblir delaktig. Överallt där kostnaden för att vara långsam växer snabbare, är det där AI visar vägen.

Hur AI kan korrumpera grunden för en produkt

Det första jag byggde med AI var inte en genomikpipeline. Det var inte ett handelssystem. Det var en minnessida för min dotter.

Innan någon av den sofistikerade AI-drivna infrastrukturen fanns lärde jag mig exakt vad AI inte kan göra när saker går fel. Jag byggde om det systemet tjugo gånger. Inte tjugo iterationer. Tjugo fullständiga nedmonteringar, tillbaka till operativsystemet, med en omstart från början. För när AI-assisterade byggen fallerar på den nivån gör de det inte på ett rent sätt. De fallerar på sätt som korrumperar grunden under dem.

Varje gång jag trodde att vi var stabila skulle något falla sönder två lager ner — något som ingen flaggade för, inget system loggade och ingen agent upptäckte. Allt förändrades till följd av den erfarenheten: säkerhetskopieringsarkitekturen, dokumentationsagenterna, protokollen för sessionskontinuitet och styrningslagret. Inget av detta hade funnits utan tjugo återvändsresor till ren metall.

De viktigaste ingenjörsbesluten jag har fattat för den här plattformen togs inte under framgångsrika ögonblick. De fattades klockan två på morgonen, när jag stirrade på ett trasigt system som skulle vara en plats där min dotter levde vidare.

AI levererade inte då. Det gjorde jag. AI var bara det jag hela tiden var tvungen att laga.

Varför intressenternas förväntningar måste fastställas innan AI införs

Christopher delar med sig

CTO:er måste samordna förväntningarna. Innan ni inför ett enda verktyg bör ni samla alla intressenter i ett rum och enas om en fråga: “Vad förändrar detta och vad förändrar det inte?“

Jag har varit med vid AI-införanden där varje intressent i rummet hade en helt annan film som spelades upp i huvudet, och ingen hade brytt sig om att jämföra sina anteckningar.

Ingenjörerna trodde att AI skulle ta deras jobb. Så de bromsade det, hittade sätt att kringgå det eller visade en entusiasm som de inte kände. Verksamheten trodde att det var magi – man beskriver ett problem och en lösning dyker upp. Cheferna såg en minskning av antalet anställda i ett kalkylblad innan en enda rad kod hade skrivits. Tre grupper, tre helt olika definitioner av hur framgång såg ut, och ingen av dem pratade med de andra.

Ingen av dem hade rätt, och alla hade rätt. AI förändrar vad ingenjörer gör. Det kan utföra saker som känns magiska tills de inte längre gör det. Och ja, organisationsstrukturen förändras. Men ordningsföljden spelar roll.

CTO:er måste samordna förväntningarna. Innan ni inför ett enda verktyg bör ni samla alla intressenter i ett rum och enas om en fråga: "Vad förändrar detta och vad förändrar det inte?"

Ingenjörerna som är rädda behöver höra att deras domänexpertis just blev mer värdefull, inte mindre. Verksamheten måste förstå att magi fortfarande kräver ingenjörskonst. Och cheferna måste förstå att besparingarna kommer efter investeringen, inte i stället för den.

Ibland är det rätta steget att stanna upp, begränsa spridningsradien, få två grupper att enas om något litet, låta dem se att det fungerar och sedan bygga vidare därifrån. Påtvingad samordning håller inte. Samordning som man förtjänar genom en liten gemensam framgång gör det.

Varför uppsägningar på grund av AI är er bästa möjlighet att rekrytera

Vid rekrytering bör ni börja med de personer som just har blivit överflödiga på grund av AI-vågen.

De fyra stora företagen automatiserade sig igenom roller inom bedömning, revision och regelefterlevnad. Det här är personer som har ägnat sina karriärer åt att utveckla exakt det omdöme, den mönsterigenkänning och den domänexpertis som AI-styrning kräver. De vet hur man hittar fel i ett komplext system. De vet hur man dokumenterar och eskalerar dem samt bygger kontroller kring dem.

Det är ingen slump! Det är själva arbetsbeskrivningen. Ironin är att branschen skapade sin egen bästa kandidatpool. Gå och hitta dem.

Varför SME:er är en CTO:s mest värdefulla tillgångar

Hela branschen är uppbyggd kring teamstorlek, sprinttakt, resursfördelning, organisationsscheman och rekryteringsplaner. Den underförstådda tron bakom allt detta är att man över en viss komplexitetsnivå MÅSTE ha personal. Fler moduler innebär fler ingenjörer och naturligtvis innebär fler produkter fler team. Det är inte en åsikt, utan så har matematiken alltid fungerat – tills AI utplånade ekvationen.

Och det borde skrämma varje CTO som har byggt sin karriär kring att vara personen som leder teamet.

Det betyder inte att teamet saknar värde. Tvärtom. Personerna i de rollerna nu – särskilt de som vi trodde var ”overhead”, som affärsanalytiker och produktchefer – är otroligt värdefulla. För ni behöver SME:er.

Hitta dem. De finns i alla organisationer. Det här är personerna i verksamheten som vet exakt hur allt fungerar, som i flera år har varit en ständig källa till irritation för er genom att be om mer än ni kunnat leverera. Lär dem hur man arbetar med AI. Ge dem verktygen. Håll er ur vägen, förutom när ni ska coacha och se till att de följer skyddsräcken.

En SME som har djup förståelse för verksamheten och dessutom kan AI är inte en avancerad användare. Det är en resultatmakare. Det är där den verkliga omvandlingen sker, inte i ert datacenter och inte i er arkitekturgranskning, utan i händerna på de människor som faktiskt vet vad verksamheten behöver. Skapa en relation mellan de personerna och något i stil med Claude Code.

Jag köpte ett års Claude till min fru i julklapp. Hon är inte utvecklare. Hon använde det för att bygga ett företag. Det är vad som händer när man ger rätt verktyg till någon som exakt vet vilket problem hon försöker lösa. Föreställ er nu att det händer inom er organisation med femtio personer som kan er verksamhet utan och innan. Det är inte ett pilotprogram, utan en affärsrevolution.

Hur branschen ställer fel frågor

Och det säger mig allt om hur branschen fortfarande ramar in det här problemet.

AI ses fortfarande som en fråga om verktyg, arbetsflöden och hastighet. Det är fel perspektiv. Datahantering, säkerhet och styrning är det som IT blir. Inte i morgon, utan senast 2030.

Alla andra funktioner som ni för närvarande bemannar — som leverans, utveckling, drift och support — absorberas eller elimineras av AI-förstärkta verksamhetsanvändare och ämnesexperter som kan verksamheten utan och innan. Det som återstår är arbetet som inte kan delegeras till en agent eller en utbildad ämnesexpert: att säkerställa att era data är tillförlitliga, att era system är säkra och att era människor och agenter arbetar inom skyddande gränser.

Organisationerna som fortfarande frågar "Hur använder vi AI snabbare?" år 2027 kommer att kollidera frontalt med dem som frågade "Hur styr vi det bättre?" idag.

Jag vet vilken av dem jag hellre skulle tillhöra.

Följ med

Du kan följa Christopher Kouzios arbete på LinkedIn. Kolla också in EMZ-podden.

Fler expertintervjuer kommer på The CTO Club!