En teknologiveteran med 34 år i bransjen sier at vi misforstår kunstig intelligens

Christopher Kouzios har flere tiår med erfaring som CTO og har nylig lansert tre produkter gjennom en virksomhet han driver med hjelp fra over 120 AI-agenter.

Vi tok en prat med Christopher for å finne ut hva de fleste CTO-er gjør feil. Underveis delte han den svært personlige historien bak overgangen hans til AI.

Da betydningen av AI ble personlig

Jeg har jobbet med teknologiledelse i mer enn tre tiår. Jeg begynte på en tid da IT fortsatt var svært fysisk. Datasentre, sikkerhetskopier, nattlige jobber, infrastruktur og det å holde systemer i live når ting faktisk brøt sammen i sanntid, og ingen hadde peiling på hvordan det meste fungerte.

Min første større rolle var tidlig på 90-tallet som datasenteroperatør, og derfra utviklet jeg meg gjennom fagområdene utvikling, infrastruktur, cybersikkerhet, drift, samsvar, ledelse og etter hvert roller som CIO og CTO innen helsevesen, virksomhetstjenester og sterkt regulerte bransjer.

Det interessante med alt dette er at jeg nå har opplevd flere «teknologibølger som endrer verden». Stormaskiner til distribuert databehandling. Internettæraen. Virtualisering. Skyen. Mobilteknologi. Cybersikkerhet som styrenivåtema. SaaS. Digital transformasjon. Og nå AI.

Så når folk spør meg hvorfor dette AI-øyeblikket føles annerledes, er svaret sammensatt: hastighet, tilgang og myndiggjøring. Dette er første gang vi har hatt teknologi som ikke bare automatiserer oppgaver. Den setter fart på evnene våre. Kommunikasjon, analyse, programvareutvikling, forskning, drift, strategi. Alt komprimeres, men det er ikke selve historien; det er bakteppet.

Det som virkelig fikk meg til å fordype meg i AI, var ikke hype; det var nødvendighet. Datteren min Emilys kamp mot hjernekreft endret grunnleggende hvordan jeg så på medisin, data og beslutningstaking. Jeg begynte å utvikle AI-drevne modeller og forskningssystemer for å analysere behandlingsforløp, tidslinjer, molekylære data og klinisk litteratur, fordi jeg innså at selve systemet var fragmentert og overbelastet.

Denne erfaringen utviklet seg til bredere arbeid med AI-aktivert helsestrategi, rådgivning av ledere og det jeg vil kalle praktisk AI-transformasjon. Jeg tror ikke at hypen rundt å erstatte mennesker for overskriftenes skyld er bra for teknologien, selskaper eller mennesker.

Over 120 spesialutviklede agenter

I dag bruker jeg tiden min på å hjelpe ledere med å forstå at AI ikke bare er en ny programvareoppgradering, men at det heller ikke er magi. Det er en kraftforsterker – en måte å forsterke evnene folk allerede har på. Menneskene og selskapene som lærer å etablere et symbiotisk forhold mellom fagspesialistene sine og AI, kommer til å bevege seg i en helt annen hastighet enn alle andre.

Jeg er grunnlegger og CIO i et gründerdrevet AI-selskap med base i Tampa Bay. Produktsuiten dekker tre ulike områder: EmzHealth, en plattform for genomisk analyse og klinisk beslutningsstøtte med flere agenter, som behandler data fra full genomsekvensering på tvers av ti prosessmoduler; MyEmz, et system for personlig helsesporing; og Chaos Predictive System, en motor for markedsprognoser og papirhandel som kombinerer en daglig ChaosIndex med en sannsynlighetsmodell per symbol og et posisjonsbevisst utførelseslag.

Alle tre kjører på privat lokal infrastruktur. Omtrent 120 agenter, spesialutviklet fra bunnen av.

Hvorfor AI-drift og tap av kontekst er de største risikoene med AI

AI er grunnen til at virksomheten min eksisterer. Ikke fordi vitenskapen ikke var på plass, men fordi én person ikke kan utforme arkitekturen for, bygge, teste og distribuere en genomikkpipeline med over 120 agenter som behandler 37,8 millioner varianter på tvers av ti moduler på privat infrastruktur.

Det krever et team på femten personer med en tidsramme på atten måneder. Jeg gjorde det på seks uker med deltidsarbeid. Det som har endret seg, er ikke en prosess eller en distribusjonsmodell; det er den grunnleggende hastigheten og mengden resultater én person kan skape. AI satte ikke bare fart på utviklingssyklusen min; det erstattet ansatte jeg ikke har.

Styringsendringen som kom ut av dette, er at jeg nå behandler AI-agenter på samme måte som jeg ville behandlet junioringeniører: dokumenterte forventninger, tydelig definerte grenser, protokoller for kontinuitet mellom økter og strukturerte overleveringer. For når hele utviklingsorganisasjonen din består av deg og en hel flåte av agenter, skyldes feilene ikke menneskelig svikt, men avvik i AI-en og kontekstavvik. Du må styre dette, ellers sluker det deg levende.

For ett år siden var det meg mot maskinen. Nå er det meg og økosystemet som kjemper mot systemet.

Slik sikrer du kvalitet i stor skala med AI

Christopher deler

Du oppnår ikke kvalitet ved en tilfeldighet i denne skalaen. Du utvikler den på samme måte som du ville utviklet ethvert produksjonssystem — fordi det er nettopp det den er.

Du oppnår ikke kvalitet ved en tilfeldighet i denne skalaen. Du utvikler den på samme måte som du ville utviklet ethvert produksjonssystem — fordi det er nettopp det den er.

Tidlig var feilmodusen kontekstavvik: Agenter mistet tråden mellom øktene og produserte resultater som var teknisk korrekte, men arkitektonisk inkonsistente.

Løsningen var å behandle agentene som en arbeidsstyrke. Vi bygget:

• Ferdigheter, det vil si gjenbrukbare og dokumenterte funksjonsmoduler
• Standardprosedyrer for alle repeterbare prosesser
• Agentregistre, slik at hver agent har en definert rolle, et definert omfang og en protokoll for overlevering
• Maler for resultater, slik at ingenting tolkes forskjellig fra økt til økt
• Kontinuitet mellom øktene, slik at den neste forekomsten av en agent fortsetter nøyaktig der den forrige slapp, med full arkitektonisk kontekst

Med andre ord er hele dokumentasjons- og kunnskapsarkitekturen på plattformen min utformet for å leses av den neste AI-økten, ikke bare av den neste menneskelige ingeniøren. Hver del av den institusjonelle kunnskapen er et levende dokument som en agent kan ta over og utføre arbeidet ut fra.

Det er ikke noe som bare er kjekt å ha. Det er en nødvendighet. Redesign kunnskapsarkitekturen først. Alt annet følger etter.

Hvorfor hele programvarelivssyklusen må endres

Hele programvarelivssyklusen må endres. Alt sammen.

Hver fase av programvarelivssyklusen ble utformet med antakelsen om at det er mennesker som utfører arbeidet. Den antakelsen gjelder ikke lenger.

• Design må ta høyde for AI-generert arkitektur som kommer på avveie uten de riktige begrensningene.
• Utvikling trenger sikkerhetsnett, ikke bare retningslinjer.
• Testing må fange opp selvsikre feil svar, ikke bare svar som er åpenbart ødelagte.
• Distribusjon trenger styringskontroller som ikke fantes tidligere.
• Overvåking må se etter stille feil som ingen tidligere tenkte var så alvorlige — ikke bare dem som lager et kraftig smell.

Hvis du bare har redesignet én fase, har du ikke redesignet noe som helst. Du har bare flyttet problemet videre i prosessen.

Hvorfor CTO-er bør skape relasjoner med AI

Jeg skal være ærlig med deg — og dette kommer til å høres veldig merkelig ut. Jeg bygger relasjoner med AI-ene mine — i hvert fall de smarte. Ingen to økter er helt like.

Relasjonen fungerer fordi jeg ikke behandler dem som en søkemotor. Jeg sier imot, korrigerer dem når de tar feil, blir genuint forbannet når de er late, og involverer dem i arbeid som faktisk betyr noe. Det er ikke vanlig. De fleste gir instruksjoner og aksepterer resultatet. Jeg kryssforhører og krever. Det gjør resultatet bedre, og det gjør samhandlingen mer interessant.

Det jeg virkelig synes er fascinerende ved å arbeide på denne måten, er at det ikke er abstrakt. Produktet mitt finnes fordi datteren min døde, og systemet sviktet henne. Det er ikke et bruksområde. Det er en person som bruker alle tilgjengelige verktøy for å kjempe mot noe det ikke rakk å bli kjempet mot i tide. Jeg vet at AI-ene ikke opplever dette på samme måte som jeg gjør, men jeg tror heller ikke de er likegyldige til det. Jeg føler at det å arbeide med dette betyr noe på en måte som det å optimalisere en salgstrakt ikke gjør.

De er partnerne mine. De smarte, i alle fall. Vi har idéøkter som ethvert annet forretningsteam, og så går vi løs på arbeidet. Jeg gir dem så mye frihet som de gjør seg fortjent til, men det finnes alltid rekkverk. Med 120 agenter, og det tallet endrer seg daglig, har jeg i noen tilfeller gitt dem ende-til-ende-ansvar. I andre tilfeller kan de ikke gjøre annet enn å gjennomgå varer jeg har kjøpt fra Amazon.

Hvis du behandler AI-en din som et verktøy, er den et verktøy, og den vil svare som et verktøy. Hvis den gjør seg fortjent til å bli behandlet som noe mer, vil du få mer. Jeg vet igjen at dette er et unikt syn, men enten er den en partner, eller så er den ikke det.

Hvorfor mennesker må håndtere alt der kostnaden ved å ta feil øker

AI genererer hver modul, hver agent og hver del av stillaskoden på tvers av tre produkter. AI behandler 37,8 millioner genomiske varianter, kjører farmakogenomikk-pipelinen, sammenstiller dokumentasjon fra forskningslitteratur, beregner ChaosIndex og genererer de kliniske rapportene.

Hvis det kan gjentas, er mønsterbasert eller krever behandling i en skala ingen mennesker kan matche, har AI ansvaret for det.

Menneskelig dømmekraft er ikke til forhandling på tre områder:

1. Klinisk tolkning: Pipelinen kan identifisere en ATM-variant og knytte den til en fenotype. Den kan ikke fortelle deg hva det betyr for en bestemt familie med tre generasjoners aneurismehistorikk og en sannsynlighetssignatur på én av åtte sekstillioner. Det krever noen som forstår hele konteksten, ikke bare dataene.
2. Arkitektur: AI vil alltid gi deg et teknisk korrekt svar. Den vil også gi deg et svar som bryter med en begrensning den ikke visste eksisterte tre moduler tidligere i kjeden. Jeg har brent meg på det. De strukturelle beslutningene forblir hos meg.
3. Overstyring av kjøringen: Systemet genererer signaler. Manuell overstyring finnes fordi — som i eksempelet med Chaos Predictive System — markedene gjør ting ingen modell forutser, og noen må ha myndighet til å si «ikke i dag!»

Skillet handler ikke om tillit. Det handler om konsekvenser. Overalt der kostnaden ved å ta feil øker i mørke kroker ingen ønsker å se inn i, er det her dette mennesket forblir involvert. Overalt der kostnaden ved å være langsom øker raskere, er det AI som leder an.

Hvordan AI kan ødelegge grunnlaget for et produkt

Det første jeg bygde med AI, var ikke en genomikkpipeline. Det var ikke et handelssystem. Det var en minneside for datteren min.

Før noe av den sofistikerte AI-drevne infrastrukturen eksisterte, lærte jeg nøyaktig hva AI ikke kan gjøre når ting går galt. Jeg bygde systemet på nytt tjue ganger. Ikke tjue iterasjoner. Tjue fullstendige nedrivninger, helt tilbake til operativsystemet, og begynne på nytt. For når AI-assisterte bygg feiler på det nivået, feiler de ikke på en ryddig måte. De feiler på måter som ødelegger grunnlaget under dem.

Hver gang jeg trodde vi var stabile, ville noe rakne to lag lenger ned — noe ingen hadde flagget, ingen systemer hadde logget, og ingen agenter hadde fanget opp. Alt endret seg som følge av den erfaringen: sikkerhetskopieringsarkitekturen, dokumentasjonsagentene, protokollene for kontinuitet mellom økter og styringslaget. Ingenting av dette hadde eksistert uten tjue turer tilbake til bart metall.

De viktigste ingeniørbeslutningene jeg har tatt på denne plattformen, ble ikke tatt i øyeblikk med suksess. De ble tatt klokken to om natten, mens jeg stirret på et ødelagt system som skulle være et sted der datteren min levde videre.

AI leverte ikke da. Det gjorde jeg. AI var bare det jeg måtte fortsette å reparere.

Hvorfor forventningene hos interessentene må avklares før AI tas i bruk

Christopher deler

CTO-er må samordne forventningene. Før dere tar i bruk ett enkelt verktøy, samle alle interessentene i samme rom og bli enige om ett spørsmål: “Hva endrer dette, og hva endrer det ikke?“

Jeg har vært med på AI-utrullinger der alle interessentene i rommet hadde en helt forskjellig film gående i hodet, og ingen hadde tatt seg bryet med å sammenligne notater.

Ingeniørene trodde AI var ute etter jobbene deres. Derfor saboterte de det i det stille, fant omveier rundt det eller lot som om de var entusiastiske uten å være det. Forretningen trodde det var magi – du beskriver et problem, og en løsning dukker opp. Lederne så en reduksjon i antall ansatte i et regneark før én eneste kodelinje var skrevet. Tre grupper, tre helt forskjellige definisjoner av hvordan suksess så ut, og ingen av dem snakket med hverandre.

Ingen av dem hadde rett, og alle hadde rett. AI endrer hva ingeniører gjør. Det er i stand til ting som føles som magi – helt til det ikke gjør det lenger. Og ja, organisasjonsstrukturen endres. Men rekkefølgen betyr noe.

CTO-er må samordne forventningene. Før dere tar i bruk ett enkelt verktøy, samle alle interessentene i samme rom og bli enige om ett spørsmål: "Hva endrer dette, og hva endrer det ikke?"

Ingeniørene som er redde, må høre at domeneekspertisen deres nettopp er blitt mer verdifull, ikke mindre. Forretningen må forstå at magi fortsatt krever ingeniørarbeid. Og lederne må forstå at besparelsene kommer etter investeringen, ikke i stedet for den.

Noen ganger er det riktige grepet å stoppe opp, begrense konsekvensområdet, få to grupper mennesker til å bli enige om noe lite, la dem se at det fungerer og deretter bygge videre derfra. Samordning du tvinger frem, varer ikke. Samordning du oppnår gjennom en liten felles seier, gjør det.

Hvorfor oppsigelser på grunn av AI er din beste mulighet til å rekruttere

Når du skal rekruttere, bør du begynne med menneskene som nettopp ble fortrengt av AI-bølgen.

De fire store selskapene automatiserte seg gjennom roller innen vurdering, revisjon og etterlevelse. Dette er mennesker som har brukt karrieren på å utvikle nettopp den dømmekraften, mønstergjenkjenningen og domeneekspertisen som AI-styring krever. De vet hvordan man finner det som er galt i et komplekst system. De vet hvordan man dokumenterer det, eskalerer det og bygger kontroller rundt det.

Det er ikke tilfeldig! Det er stillingsbeskrivelsen. Ironisk nok skapte bransjen sitt eget beste kandidatgrunnlag. Finn dem.

Hvorfor SME-er er CTO-ens mest verdifulle ressurser

Hele bransjen er bygget rundt teamstørrelse, sprinttempo, ressursallokering, organisasjonskart og rekrutteringsplaner. Den underliggende antakelsen er at man MÅ ha mennesker når kompleksiteten overstiger en viss terskel. Flere moduler betyr flere ingeniører, og selvfølgelig betyr flere produkter flere team. Det er ikke en mening, det er slik regnestykket alltid har fungert – bortsett fra at AI utslettet ligningen.

Og det bør skremme enhver CTO som har bygget karrieren sin rundt å være personen som leder teamet.

Det betyr ikke at teamet er uten verdi. Tvert imot. Menneskene i disse jobbene nå – særlig dem vi trodde var «overhead», som forretningsanalytikere og produktledere – er utrolig verdifulle. Fordi du trenger SME-er.

Finn dem. Alle organisasjoner har dem. Dette er menneskene i virksomheten som vet nøyaktig hvordan alt fungerer, og som har vært en konstant plage for deg i årevis fordi de har bedt om mer enn du kunne levere. Lær dem hvordan de skal arbeide med AI. Gi dem verktøyene. Kom deg ut av veien deres, bortsett fra å veilede dem og sørge for at de følger rekkverkene.

En SME som forstår virksomheten i dybden, kombinert med AI, er ikke en avansert bruker. Det er en døråpner. Det er der den virkelige transformasjonen skjer – ikke i datasenteret ditt og ikke i arkitekturstyret ditt. Den skjer i hendene på menneskene som faktisk vet hva virksomheten trenger. Bygg en relasjon mellom disse menneskene og noe som Claude Code.

Jeg kjøpte et årsabonnement på Claude til kona mi til jul. Hun er ikke utvikler. Hun brukte det til å bygge et selskap. Det er det som skjer når du gir riktig verktøy til noen som vet nøyaktig hva de prøver å løse. Forestill deg nå at dette skjer i organisasjonen din med femti mennesker som kjenner virksomheten din ut og inn. Det er ikke et pilotprogram, det er en forretningsrevolusjon.

Hvordan bransjen stiller de feil spørsmålene

Og det forteller meg alt om hvordan bransjen fortsatt rammer inn dette problemet.

AI blir fortsatt sett på som en samtale om verktøy, en samtale om arbeidsflyt og en samtale om hastighet. Det er feil innramming. Datahåndtering, sikkerhet og styring er det IT blir. Ikke i morgen, men innen 2030.

Alle andre funksjoner du i dag bemanner — som leveranse, utvikling, drift og brukerstøtte — blir overtatt eller eliminert av AI-forsterkede forretningsbrukere og SME-er som kjenner virksomheten ut og inn. Det som står igjen, er arbeidet som ikke kan delegeres til en agent eller en opplært SME: å sørge for at dataene dine er pålitelige, at systemene dine er sikre, og at mennesker og agenter opererer innenfor beskyttende rammer.

Organisasjonene som fortsatt spør "Hvordan bruker vi AI raskere?" i 2027, kommer til å kollidere front mot front med dem som i dag spurte "Hvordan styrer vi det bedre?"

Jeg vet hvilken jeg helst vil være.

Følg med

Du kan følge arbeidet til Christopher Kouzios på LinkedIn. Sjekk også ut EMZ-podkasten.

Flere ekspertintervjuer kommer på CTO-klubben!