Ikke alle problemer trenger kunstig intelligens

Abdulrhman AlOdhayb arbeider med teknologi og transformasjon i et komplekst institusjonelt miljø. Han er senior teknologirådgiver ved kontoret til forsvarsministeren i Saudi-Arabia.

Vi satte oss ned med Abdulrhman for å lære mer om mulighetene og fallgruvene ved innføring av KI i komplekse miljøer med mye på spill. Her er det han sa.

Teknologi er aldri den vanskelige delen

Jeg heter Abdulrhman Alodhayb og er leder innen teknologi og transformasjon, med 19 års ledererfaring fra et av de mest komplekse institusjonelle miljøene man kan forestille seg: nasjonalt forsvar. Jeg har tilbrakt nesten to tiår i Saudi-Arabias forsvarsdepartement, der jeg har ledet digital transformasjon innen helse, virksomhetsarkitektur og, senest, arbeidet som senior teknologirådgiver ved kontoret til forsvarsministeren.

Karrieren min har utspilt seg i et skjæringspunkt de fleste teknologiledere sjelden møter – der teknologiske beslutninger får konsekvenser for nasjonal sikkerhet, der interessentforankring innebærer å bygge bro mellom militære kommandostrukturer, kliniske systemer og virksomhetsplattformer, og der kostnaden ved en mislykket transformasjon måles ikke i tapte inntekter, men i institusjonell tillit og operativ beredskap.

Den røde tråden gjennom alt dette har vært én overbevisning: teknologi er aldri den vanskelige delen. Den vanskelige delen er å skape de organisatoriske forutsetningene som gjør at teknologien kan levere verdi. Jeg har utformet IKT-strategier for sykehus, bidratt til en ny utforming av en målmodell for drift i hele departementet sammen med BCG, og ledet digitale initiativer på tvers av virksomheten der det ganske enkelt ikke var mulig å mislykkes.

I dag, når kunstig intelligens beveger seg fra eksperimentering til kjernen av systemarkitektur, programvareutvikling og organisatorisk tilrettelegging, befinner jeg meg på det mest interessante tidspunktet i karrieren. Jeg er mest opptatt av spørsmål som ikke handler om selve teknologien, men om hvordan ledere bygger dømmekraft, styring og robuste arkitekturer som gjør det mulig for KI å fremskynde leveranser uten å svekke kvalitet eller sikkerhet.

Det er dette jeg skal snakke om.

Arbeid på strategisk nivå

Teknologilandskapet jeg arbeider på tvers av, er omfattende på alle områder. Vi drifter virksomhetsomfattende systemer som spenner over militærsykehus, kommando- og kontrollplattformer, enhetlig kommunikasjonsinfrastruktur og nasjonale datarammeverk for forsvaret. Arkitekturen er i seg selv hybrid: suverene lokale installasjoner der datalagring innenfor landets grenser og sikkerhetsklassifisering ikke er til forhandling, integrert med moderniserte plattformer der vi aktivt driver digital transformasjon.

Jeg arbeider på strategisk nivå, gir råd på departementsnivå, leder funksjoner for PMO og strategisk IT-styring og samordner teknologiske veikart på tvers av flere direktorater og organisatoriske enheter. Den menneskelige kompleksiteten kan måle seg med den tekniske. Å koordinere transformasjon på tvers av en flerlags militær og sivil arbeidsstyrke, der hver gruppe har ulik arbeidskultur og risikotoleranse, er i seg selv en disiplin.

Produktkompleksiteten her skiller seg fra kommersiell teknologi. Vi lanserer ikke funksjoner. Vi redesigner hvordan en nasjonal institusjon fungerer. Dette omfatter elektroniske pasientjournalsystemer for et nettverk av militærsykehus, virksomhetsplattformer for ressursstyring og, senest, bidrag til en målmodell for drift i hele departementet som tenker nytt om hvordan teknologien strukturerer og muliggjør hele forsvarsvirksomheten.

Distribusjonsmodellen er av nødvendighet suverenitetsorientert. Sikkerhet, klassifisering og nasjonal datastyring er ikke begrensninger vi omgår. De utgjør arkitekturen. Denne virkeligheten former hvordan jeg tenker om motstandsdyktighet, redundans og hva ansvarlig innføring av KI innebærer når det som står på spill, er nasjonalt snarere enn kommersielt.

Hvordan KI gjør det usynlige synlig

Abdulrhman deler

Vi endret selve styringslaget. Vi innførte KI-assistert analyse i prosessen for programgjennomganger … Dette erstattet ikke menneskelig dømmekraft. Det ga beslutningstakerne et rikere og raskere bilde av organisasjonens virkelighet …

Jeg innførte KI-informerte kontrollpunkter i gjennomgangssyklusen for teknologiprogrammene våre i fjor. Før denne endringen var programgjennomgangene rettet mot tradisjonelle leveranseindikatorer: å nå milepæler, følge opp budsjetter og loggføre risikoer. Prosessen var disiplinert, men så i hovedsak bakover. Vi målte det som allerede hadde skjedd, i stedet for å forutse hva som kunne gå galt.

Vendepunktet kom da jeg innså at flere virksomhetsprogrammer genererte enorme mengder strukturerte og ustrukturerte data — på tvers av prosjektdokumentasjon, leverandørkommunikasjon, endringsforespørsler og driftsrapporter — men at ingen sammenstilte dette signalet for å informere ledelsens beslutninger i sanntid. Vi behandlet denne informasjonen som et arkiv.

Vi endret selve styringslaget. Vi introduserte AI-støttet analyse i programgjennomgangen, ved å bruke språkmodellfunksjoner til å sammenstille dokumentasjon på tvers av programmer, avdekke avvik i leveransemønstre og generere tidlige varselsindikatorer før de ble eskaleringssaker. Dette erstattet ikke menneskelig dømmekraft. Det ga beslutningstakerne et rikere og raskere bilde av organisasjonens virkelighet, slik at de kunne bruke dømmekraften på riktig tidspunkt og på riktig nivå.

Resultatene var betydelige. Gjennomgangssyklusene ble mer fokuserte fordi ledelsen møtte forberedt med et forhåndssammenstilt bilde av hvor oppmerksomheten faktisk var nødvendig, i stedet for å bruke første halvdel av hvert møte på å rekonstruere status fra rårapporter. Enda viktigere var det at vi oppdaget to betydelige programrisikoer tidligere enn den tradisjonelle prosessen vår ville ha avdekket dem, slik at vi kunne gripe inn før påvirkningen inntraff, i stedet for å reagere i etterkant.

Denne erfaringen styrket et prinsipp jeg nå holder fast ved: AI transformerer ikke organisasjoner ved å erstatte prosesser. Den transformerer dem ved å gjøre det usynlige synlig og gi ledere klarheten de trenger for å handle presist, i stedet for å reagere med hastverk.

Hvor tekniske team bør bruke AI

Grensen mellom AI-informerte og menneskeeide beslutninger er ikke statisk. Den endres etter hvert som tillit opparbeides, funksjonaliteten modnes og konsekvensene av hvert beslutningsområde blir tydeligere.

I mitt miljø stoler jeg aktivt på AI for å informere om eller drive teknisk arbeid på flere områder. Ett område er sammenstilling av dokumentasjon og innsikt på tvers av programmer. I tillegg bruker jeg AI til å støtte analyse av arkitekturmønstre, nærmere bestemt til å vurdere om foreslåtte løsninger er i tråd med etablerte virksomhetsstandarder eller introduserer teknisk gjeld som vil vokse over tid. AI kan nå avdekke på noen timer det som tidligere tok en seniorarkitekt flere dager å gjennomgå — ikke som en endelig konklusjon, men som et strukturert innspill som skjerper den menneskelige gjennomgangen som følger.

Jeg bruker også AI mye i laget for strategisk planlegging: til å sammenstille vurderinger av teknologilandskapet, sammenligne med global bestepraksis og utarbeide det analytiske rammeverket for veikart og målmodeller for drift. Når mengden innspill er stor og tiden til sammenstilling er begrenset, gir AI uforholdsmessig stor verdi.

På sikkerhetssiden har AI-informert overvåking og avviksdeteksjon blitt en grunnleggende forventning, ikke en innovasjon. Mønstergjenkjenning i den hastigheten og skalaen som moderne trusselmiljøer krever, ligger ganske enkelt utenfor menneskets kapasitet uten hjelpemidler. Her stoler jeg på AI til å avdekke og flagge. Jeg stoler ikke på at den skal konkludere eller reagere.

Hvor oppgaver fortsatt bør utføres av mennesker

Alt som har institusjonelle konsekvenser, forblir uttrykkelig menneskelig. Arkitekturbeslutninger som vil forme organisasjonen i fem til ti år, forblir menneskers ansvar. AI-analyse informerer dem, men mennesker som forstår organisasjonskonteksten, den politiske dynamikken og de langsiktige konsekvensene, vurderer dem til syvende og sist på måter ingen modell foreløpig kan. Beslutninger ved hendelseshåndtering som påvirker driftskontinuiteten, særlig i et forsvarsmiljø, krever menneskelig kommandomyndighet. Ansvar kan ikke automatiseres.

Beslutninger om leverandører og partnerskap forblir menneskelige. Å vurdere tillit, samsvar i verdier og langsiktig organisatorisk egnethet krever menneskelig dømmekraft som går langt utover det AI pålitelig kan evaluere i dag.

Og selve styringen forblir menneskelig. Jeg er svært forsiktig med organisasjoner som lar AI styre AI. Mennesker som kan holdes ansvarlige for resultatene, må eie tilsynslaget, de etiske kontrollpunktene og beslutningene om hvor AI bør og ikke bør brukes.

Mitt operasjonelle prinsipp er dette: Jeg stoler på at AI utvider området for menneskelig dømmekraft, men aldri på at den skal erstatte selve dømmekraften. I det øyeblikket en organisasjon forveksler de to, har den ikke tatt i bruk AI på en god måte. Den har ganske enkelt satt bort ansvaret sitt.

De positive resultatene av å integrere AI

På den positive siden forbedret AI-integrasjon i arbeidsflytene våre mest merkbart effektiviteten i gjennomgangssyklusen for programmer. Etter at vi innførte AI-assistert syntese i styringsprosessen vår, brukte ledelsen omtrent 60 % mindre tid per gjennomgangssesjon på å rekonstruere prosjektstatus fra rå dokumentasjon. Det er ikke et ubetydelig tall i et miljø der beslutningstakere på høyt nivå arbeider med flere parallelle programmer samtidig. Vi ga i praksis tilbake flere timer med ledernes oppmerksomhet per syklus, og rettet den mot vurderinger og inngripen i stedet for statusrekonstruksjon.

Det andre målbare resultatet var risikodeteksjon. Som jeg nevnte tidligere, identifiserte vi to betydelige programrisikoer tidligere enn den tradisjonelle gjennomgangsprosessen vår ville ha gjort. I begge tilfellene ble tidsvinduet mellom tidlig oppdagelse og en vesentlig innvirkning på leveransen målt i uker. I et kommersielt miljø betyr dette kostnadsunngåelse. I et forsvarsmiljø betyr det operativ beredskap – et vanskeligere tall å kvantifisere, men et langt mer betydningsfullt tall.

Innen strategisk planlegging reduserte AI-integrasjon tiden det tok å utarbeide førstegangsutkast til teknologivurderinger og grunnstrukturen i veikart med omtrent 70 %. Det betyr ikke at det endelige resultatet krevde 70 % mindre innsats. Det betyr at den menneskelige innsatsen ble flyttet fra generering til vurdering, fra skriving til redigering, fra syntese til validering. Kvaliteten på resultatet ble bedre fordi erfarne fagpersoner brukte tiden sin på det som krevde deres ekspertise, i stedet for på det som var mekanisk.

De negative resultatene av AI-integrasjon

Abdulrhman deler

Den første utfordringen var innføring. Den andre utfordringen var konsistens i kvaliteten på resultatene. Den tredje og viktigste lærdommen handlet om forventninger…

Nå til en ærlig gjennomgang av det som har fungert dårligere enn forventet – fordi fagmiljøet for teknologiledelse blir dårlig tjent med historier som bare feirer seire.

Den første utfordringen var innføring. I et stort institusjonelt miljø med dypt forankrede arbeidskulturer er det å innføre AI i arbeidsflyter ikke et teknologiproblem. Det er et problem innen endringsledelse. Vi hadde programmer der vi distribuerte verktøyene, ga tilgang, og kapasiteten forble i stor grad ubrukt fordi vi ikke hadde redesignet de menneskelige systemene rundt den – insentivene, vanene og tilliten – slik at de kunne ta den i bruk. Teknologiadopsjon uten atferdsmessig adopsjon er bare dyr programvare som blir stående ubrukt.

Den andre utfordringen var konsistens i kvaliteten på resultatene. I tidlige utrullinger så vi betydelig variasjon i kvaliteten på AI-genererte analyser, avhengig av kvaliteten og strukturen på inndataene. Dårlige inndata gir dårlige utdata er ikke et nytt prinsipp, men AI får dårlige resultater til å se mer autoritative ut. En dårlig strukturert ledetekst som produserer et vel formatert, men analytisk svakt resultat, er på noen måter farligere enn en blank side fordi den skaper falsk trygghet. Vi lærte å investere tungt i disiplin rundt ledetekster og styring av inndata før vi stolte på resultatene i situasjoner med høy risiko.

Den tredje og viktigste lærdommen handlet om forventninger. Organisasjoner som rammer inn AI-integrasjon som et kostnadsbesparende tiltak, oppnår ofte skuffende resultater fordi de optimaliserer for feil resultat. Organisasjoner – inkludert våre egne programmer – som har oppnådd reell effekt, rammet inn AI som en kapasitetsforsterker . Spørsmålet var ikke: «Hvordan gjør vi det samme arbeidet med færre mennesker?» Det var: «Hvordan gjør vi arbeid som tidligere var umulig, eller utfører det på et kvalitetsnivå som tidligere ikke var mulig å oppnå med ressursene våre?»

Dette perspektivskiftet er forskjellen mellom AI som et effektiviseringsverktøy og AI som en drivkraft for transformasjon. Og etter min erfaring er det bare den andre varianten som gir resultater det er verdt å snakke om.

Hvorfor AI-integrasjon kommer til kort i komplekse miljøer

Avstanden mellom det AI lover i en presentasjon for styret, og det teknologien leverer i et komplekst institusjonelt miljø, er fortsatt betydelig, og det er en bjørnetjeneste for fagområdet å late som noe annet.

AI har tydeligst levert svakere enn forventet for oss når det gjelder intelligens for integrasjon på tvers av systemer. Med utgangspunkt i det teknologien hadde vist i kontrollerte miljøer, forventet vi med god grunn at AI kunne fungere som et intelligent orkestreringslag på tvers av plattformene våre, forstå relasjonene mellom systemene, identifisere integrasjonsfeil før de spredte seg, og anbefale korrigerende tiltak i sanntid.

Vi oppdaget at AI presterer usedvanlig godt innenfor veldefinerte og godt dokumenterte områder, og usedvanlig dårlig på tvers av de uoversiktlige, mangelfullt dokumenterte og politisk komplekse grensene mellom virksomhetssystemer i store institusjoner. Ingen dokumenter inneholder kunnskapen som kreves for å navigere disse grensene. Den finnes hos mennesker, i relasjoner og i institusjonell hukommelse som er opparbeidet over mange år. AI hadde ingen tilgang til denne kunnskapen og ingen pålitelig måte å tilegne seg den i det tempoet vi trengte.

AI har også levert svakere resultater enn forventet når det gjelder grensesnitt på naturlig språk for ikke-tekniske brukere. Teorien var overbevisende: Gi operativt personell og ledere på toppnivå et samtalebasert grensesnitt til virksomhetsdata, slik at avhengigheten av tekniske mellomledd for hver forespørsel og rapport elimineres. I praksis viste avstanden mellom hvordan ikke-tekniske brukere naturlig uttrykker intensjonene sine, og hvordan AI-systemer pålitelig tolker disse intensjonene, seg å være langt større enn forventet. Brukerne ble frustrerte når resultatene ikke samsvarte med forventningene, og frustrasjon i en stor institusjon fører ikke til tilbakemeldingssløyfer. Den fører til at løsningen blir forlatt. Vi endte opp med en funksjonalitet som fungerte godt for teknisk kyndige brukere og dårlig for den bredere befolkningen den var utformet for å betjene, noe som er det stikk motsatte av det en transformasjon krever.

Det tredje området er strategisk dokumentforståelse. Vi forventet at AI skulle kunne arbeide meningsfullt med de lange, svært kontekstavhengige og ofte tvetydige policy- og strategidokumentene som utgjør ryggraden i hvordan store offentlige institusjoner tar beslutninger. Vi fant at AI kan oppsummere disse dokumentene på en kompetent måte, men at den har problemer med å resonnere på tvers av dem, identifisere reelle motsetninger mellom en policy som er skrevet i én avdeling og en standard som er vedtatt i en annen, forstå den politiske betydningen bak en bestemt bestemmelse eller gjenkjenne når en teknisk korrekt anbefaling er institusjonelt umulig. Dette vurderingslaget, som gjør strategiske råd nyttige og ikke bare korrekte, forble påfallende menneskelig.

Til slutt vil jeg trekke frem noe som sjelden dukker opp i leverandørenes kundehistorier: AI har ikke levert den hastigheten i organisatorisk læring som vi forventet. Vi antok at organisasjonen ville utvikle kollektiv intelligens raskere etter hvert som den tok i bruk AI-verktøy, og at innsikter som AI avdekket i ett program, naturlig ville spre seg og forbedre beslutningstakingen i andre programmer. Det som skjedde, var at AI-innsiktene forble isolert i teamene som genererte dem, fordi organisasjonsstrukturer, mekanismer for kunnskapsdeling og kulturelle normer rundt dokumentasjon og åpenhet ikke hadde utviklet seg nok til å fange opp og distribuere det AI produserte. Teknologien genererte mer informasjon enn organisasjonen visste hvordan den skulle ta til seg.

Jeg deler ikke dette som en kritikk av AIs potensial, som jeg mener fortsatt er betydelig, men som en påminnelse om at hvert av gapene jeg nettopp beskrev, er et problem i menneskelige systemer iført et teknologisk kostyme.

En AI-arbeidsflyt for optimalisering av strategiske programevalueringer

Jeg skal ta deg gjennom en arbeidsflyt som er blant de mest verdifulle i min nåværende praksis: AI-forsterket strategisk programevaluering. Jeg vil beskrive den fra start til slutt, fordi verdien ikke ligger i ett enkelt trinn, men i hvordan trinnene henger sammen.

Denne arbeidsflyten utløses vanligvis når et program når en kritisk beslutningsport. I vårt miljø kan det være en større migrering av en virksomhetsplattform, utrulling av et digitalt helsesystem på tvers av et nettverk av militære sykehus eller en gjennomgang av virksomhetsarkitekturen knyttet til en redesign av en målmodell for drift. Dette er programmer der beslutningen får konsekvenser over flere år, og der grunnlaget er omfattende, heterogent og politisk ladet.

Arbeidsflyten begynner med strukturert sammenstilling av underlag. Før AI berører analysen, kuraterer teamet mitt underlaget bevisst: Vi samler programdokumentasjon, leverandørforslag, innsendte tekniske arkitekturer, funn fra tidligere gjennomganger, relevante policy-rammeverk og interessentenes posisjonspapirer i et strukturert korpus. Dette trinnet er fullstendig menneskelig og helt bevisst. Kvaliteten på AIs videre resultat står i direkte forhold til kvaliteten og strukturen på underlaget den får i forkant. Vi lærte dette på den harde måten i de tidlige utrullingene, og behandler nå styring av underlaget som en ufravikelig disiplin.

Deretter gjennomfører vi AI-assistert sammenstilling. Vi sender det kuraterte korpuset gjennom en språkmodell med en nøye utformet prompt-arkitektur som stiller konkrete analytiske spørsmål, ikke ber om en åpen oppsummering. Vi ber ikke modellen fortelle oss hva dokumentene sier. I stedet ber vi den identifisere motsetninger mellom uttalte mål og foreslåtte arkitekturer, synliggjøre antakelser som hevdes uten å være dokumentert, markere avhengigheter som finnes i ett dokument, men mangler i et annet, og fremheve risikomønstre som samsvarer med profiler vi har sett mislykkes i tidligere programmer. Resultatet er et strukturert analytisk notat, ikke en oppsummering.

Det tredje og mest menneskelige trinnet er kritisk gjennomgang og rekontekstualisering. En seniorrådgiver – i de fleste tilfeller jeg eller en betrodd teknisk leder – leser det AI-genererte notatet, ikke som en konklusjon, men som et utgangspunkt for utspørring. Vi spør: Hva synliggjorde modellen som vi ikke hadde formulert bevisst? Hva overså den som vi kjenner fra institusjonell erfaring? Hvor er den teknisk korrekt, men institusjonelt naiv? Her tilfører nitten år med arbeid i dette miljøet en verdi som ingen modell kan etterligne. AI-notatet skjerper spørsmålene. Menneskelig dømmekraft gir svarene.

Det fjerde trinnet innebærer forberedelse av beslutningen. Vi bruker den validerte innsikten fra den menneskelige gjennomgangen til å utarbeide beslutningsgrunnlaget for ledelsen: formulere beslutningen, skissere alternativer med deres reelle avveininger, beskrive risikoer med realistisk sannsynlighet og konsekvens, og presentere anbefalingen med de eksplisitte forutsetningene den bygger på. Fordi AI-syntesen håndterer det mekaniske arbeidet med å behandle materialet, er dette trinnet raskere og mer innholdsrikt enn en rent manuell prosess ville vært. Lederne kommer til beslutningspunktet med et klarere bilde og mer målrettede spørsmål.

Det femte trinnet er registrering av resultater, og her svikter de fleste organisasjoner. Etter at beslutningen er tatt og programmet går videre, dokumenterer vi ikke bare hva som ble besluttet, men også hva AI-analysen avdekket som viste seg å stemme, hva den overså, og hvilke forutsetninger den bygget på som viste seg å være feil. Denne tilbakemeldingen legges ikke i en mappe; i stedet føres den tilbake til promptarkitekturen vår og standardene for styring av inndata for neste program. Arbeidsflyten blir bedre for hver iterasjon fordi vi behandler hver gjennomføring som en læringsbegivenhet.

Denne arbeidsflyten har hatt en betydelig og målbar innvirkning. Den har redusert gjennomføringstiden for vurderinger av større programmer med omtrent 65 %. Den har forbedret dybden i risikoidentifiseringen ved å avdekke problemer tidligere i beslutningsprosessen i stedet for å oppdage dem under gjennomføringen. Og kanskje viktigst av alt: Den har hevet kvaliteten på ledelsens samtaler ved beslutningspunktene, fordi lederne bruker tiden på reelle skjønnsmessige vurderinger i stedet for å rekonstruere status fra råinformasjon.

Jeg vil understreke designfilosofien bak denne arbeidsflyten. AI tar ingen enkeltbeslutning; den behandler, sammenstiller og synliggjør. Enhver vurdering, enhver validering og enhver anbefaling forblir menneskelig.

Slik unngår du fallgruvene ved å ta i bruk AI

Abdulrhman deler

Jeg har lært at intellektuell ærlighet om usikkerhet i genuint nytt terreng ikke er en svakhet ved lederskap. Det er en forutsetning for å bygge tilliten som holder teamene sammen gjennom de uunngåelige øyeblikkene når veien viser seg å være vanskeligere enn planen forutså.

Organisasjonens immunforsvar er reelt, kraftig og aktiveres raskere enn noe AI-verktøy kan tas i bruk. Alle store institusjoner har gjennom år og tiår utviklet uformelle mekanismer som motsetter seg endringer som truer eksisterende maktstrukturer, etablerte arbeidsflyter og profesjonelle identiteter. Jeg forsto dette intellektuelt før vi begynte, men undervurderte hvor spesifikt og raskt disse mekanismene ville aktiveres som svar på AI.

Da folk merket at AI-verktøy endret ikke bare hvordan arbeidet ble utført, men også hvem som hadde verdi i organisasjonen, ble motstanden ikke uttrykt som opposisjon, men som etterlevelse uten faktisk bruk. Teamene fikk tilgang til verktøyene, men brukte dem ikke. De mottok resultater, men handlet ikke på grunnlag av dem. Prosessene ble nominelt oppdatert, men atferden forble uendret. Passiv motstand i en stor institusjon er nesten usynlig helt til man måler resultatene. Når målingene avdekker problemet, er måneder med fremdrift allerede tapt.

I den forbindelse skulle jeg ønske jeg hadde visst hvor mye innrammingen av utrullingen kom til å forme mottakelsen av den på permanent vis. I de tidlige implementeringene våre gjorde vi en kommunikasjonsfeil som jeg regner som en av initiativets mest konsekvensrike feil. For å skaffe støtte fra ledelsen og begrunne investeringen presenterte vi AI-verktøyene med effektivitet som utgangspunkt: raskere, slankere, mer produktive.

Denne innrammingen var presis i en snever teknisk forstand, men dypt kontraproduktiv i enhver menneskelig forstand. Når folk hører ordet effektivitet i forbindelse med et nytt verktøy som rulles ut i teamet deres, hører de nedbemanning. De hører at rollen deres vurderes med tanke på overflødighet. De forholder seg til verktøyet ikke som noe som vil gjøre arbeidet bedre, men som noe som kan gjøre stillingen deres unødvendig. Den defensive holdningen denne innrammingen skapte, tok måneder å demontere, og i deler av organisasjonen forsvant den aldri helt.

Og personlig vet jeg nå at jeg burde ha vært mer åpen med teamene mine om min egen usikkerhet. Jeg gikk inn i denne reisen med større tiltro til den strategiske overbevisningen min enn til den operative kunnskapen min om hvordan AI ville fungere i vår spesifikke institusjonelle kontekst. Jeg visste at destinasjonen var riktig. Jeg visste ikke fullt ut hvilken vei vi måtte ta. I forsøket på å utstråle den ledertryggheten som store programmer krever, kommuniserte jeg noen ganger en sikkerhet jeg ikke hadde, noe som skapte forventninger som virkeligheten deretter kompliserte. Jeg har lært at intellektuell ærlighet om usikkerhet i genuint nytt terreng ikke er en svakhet ved lederskap. Det er en forutsetning for å bygge tilliten som holder teamene sammen gjennom de uunngåelige øyeblikkene når veien viser seg å være vanskeligere enn planen forutså.

Hvorfor AI krever en ny type teknologileder

AI-æraen devaluerer systematisk en bestemt profil av teknologileder: eksperten som over år med disiplinert studium og praksis har opparbeidet seg dyp teknisk kunnskap, bygget autoritet gjennom mestring og ledet som den mest kunnskapsrike personen i rommet. Denne profilen dominerte teknologiledelse i flere tiår og skapte ekstraordinære resultater da kunnskap var flaskehalsen og ekspertise det konkurransefortrinnet man hadde. AI eliminerer ikke denne profilen over natten. Men den uthuler fundamentet raskere enn de fleste i denne profilen erkjenner, og institusjoner som er avhengige av denne profilen uten å utvikle dens etterfølger, akkumulerer en lederrisiko de ennå ikke har registrert.

Profilen AI-æraen krever, er grunnleggende annerledes. AI-æraen krever ledere som får autoritet ikke fra det de vet, men fra kvaliteten på spørsmålene sine. Ledere hvis viktigste intellektuelle bidrag ikke er syntese (fordi AI kan syntetisere), men dømmekraft. Ledere som behersker organisasjonsdynamikk, menneskelig psykologi og institusjonell makt, i tillegg til teknologi. Ledere som opprettholder ekte intellektuell ydmykhet i møte med et verktøy som konstant utstråler selvsikkerhet, og som har utviklet den indre stabiliteten som trengs for å si «Jeg vet ikke» og «Jeg trenger å tenke over dette» i miljøer som belønner besluttsomhet fremfor nesten alt annet.

Og kanskje viktigst av alt: AI-æraen krever ledere som tydelig og grundig besvarer et spørsmål tidligere generasjoner av teknologiledere sjelden trengte å stille: Hvilken menneskelig verdi tilfører jeg som AI ikke kan gjenskape, og investerer jeg i denne verdien med den samme disiplinen som jeg legger i min tekniske utvikling?

Jeg stiller meg selv dette spørsmålet jevnlig. Det er ikke et behagelig spørsmål. Det krever en ærlig selvvurdering av hvilke deler av min profesjonelle identitet som virkelig ikke kan erstattes, og hvilke deler jeg beskytter av vane snarere enn nødvendighet. Jeg tror at denne prosessen med ærlig selvransakelse er den grunnleggende lederpraksisen i AI-æraen. Ikke promptutvikling, ikke modelevaluering, ikke rammeverk for AI-styring — uansett hvor viktige de er. Det er viljen til å se klart på hva du tilfører som en modell ikke kan, og å investere bevisst og utrettelig i nettopp dette.

AI-æraen skaper kompleksitet i en hastighet og et omfang uten historisk sidestykke i teknologiyrket. Ledere som vil navigere godt i den, tar ikke i bruk AI raskest, distribuerer den mest ambisiøst eller snakker mest flytende om den fra scener som denne. De gjør det vanskeligere, stillere arbeidet med å utvikle de menneskelige egenskapene kompleksiteten krever: dømmekraft, ydmykhet, mot, institusjonell visdom og den klarheten i formålet som gjør dem i stand til å styre kraftige verktøy mot verdige mål.

Jeg mener teknologilederfellesskapet må ha denne samtalen med langt større hast enn det gjør i dag. Og det er grunnen til at jeg takket ja til dette intervjuet: ikke for å snakke om hva AI kan gjøre, men for å tenke grundig, offentlig, over hva vi som ledere må bli for å være verdige til å styre den.

Fem råd til CTO-er

Jeg ønsker å gi råd som er nyttige, snarere enn råd som høres bra ut fra en konferansescene, så la meg dele det jeg mener basert på nitten år med å lede transformasjon i et av de mest komplekse institusjonelle miljøene man kan forestille seg.

For det første, motstå presset om å ha en AI-strategi. Organisasjonen din trenger en forretningsstrategi som AI støtter. Jeg har sett altfor mange teknologiledere bruke enorme mengder energi på å utarbeide AI-veikart, etablere sentre for fremragende AI-kompetanse og kunngjøre AI-initiativer, samtidig som de lar det grunnleggende spørsmålet om hvilket problem de løser for institusjonen, stå ubesvart. AI uten strategisk klarhet er ikke transformasjon; det er sofistikert aktivitet som utgir seg for å være fremgang. Begynn med resultatet du er ansvarlig for å levere, og jobb bakover til hvor AI skaper størst effekt. Denne rekkefølgen har enorm betydning.

For det andre, se på innføring som den primære tekniske utfordringen, ikke integrasjon. Det vanskeligste problemet ved implementering av AI er ikke å koble modellen til systemene dine; det er å endre hvordan menneskene dine tenker, tar beslutninger og arbeider når de får hjelp av AI. Etter min erfaring underinvesterer organisasjoner i dette med en størrelsesorden. De fordeler 80 prosent av budsjettet til teknologi og 20 prosent til mennesker og prosessendringer, når forholdet som gir resultater, ligger nærmere det motsatte. Hvis AI-initiativet ditt ikke har en seriøs komponent for endringsledelse og kapasitetsbygging, bygger du på sand, uansett hvor sofistikert arkitekturen din er.

For det tredje må du beskytte dømmekraftslaget ditt kompromissløst. Etter hvert som KI blir mer kapabel og mer integrert i arbeidsflyter, vil det oppstå et konstant press, både subtilt og mindre subtilt, for å utvide myndigheten dens: å la den ikke bare informere beslutninger, men ta dem, ikke bare flagge risikoer, men håndtere dem, ikke bare utarbeide anbefalinger, men godkjenne dem. Motstå dette. Ikke fordi KI teknisk sett ikke kan være i stand til å gjøre slike ting på enkelte områder, men fordi organisasjonen din i det øyeblikket den mister vanen med menneskelig dømmekraft, mister noe som er usedvanlig vanskelig å bygge opp igjen. Dømmekraft er en muskel. Organisasjoner som slutter å trene den, forblir ikke statiske; de forvitrer. I et miljø med høy risiko koster denne forvitringen deg på det verst tenkelige tidspunktet.

For det fjerde må du vie suverene KI-økosystemer alvorlig oppmerksomhet, særlig hvis du opererer i eller i tilknytning til myndigheter, forsvar eller kritisk nasjonal infrastruktur. Sett spørsmålstegn ved antakelsen om at globale hyperskala-plattformer fortsatt vil være standardarkitekturen for KI i virksomheter. I Saudi-Arabia er vi vitne til fremveksten av genuint suveren KI-infrastruktur gjennom plattformer som HUMAIN ONE. Disse plattformene er bygget på arabisk-først-språkmodeller, driftet på nasjonal databehandlingsinfrastruktur og utformet spesifikt for styringskompleksiteten i store institusjoner. For teknologidirektører som opererer i regulerte eller sikkerhetssensitive miljøer, er spørsmålet om hvor KI-en din kjører, på hvis infrastruktur, under hvilken jurisdiksjon og trent på hvis data, ikke en avkrysningsboks for etterlevelse; det er en grunnleggende arkitekturbeslutning som vil definere organisasjonens KI-profil det neste tiåret.

For det femte og til slutt må du investere i din egen dømmekraft som leder med samme disiplin som du investerer i organisasjonens tekniske kapasitet. Dette er rådet jeg anser som viktigst og minst omtalt i teknologikretser. Teknologidirektørene som navigerer godt gjennom dette øyeblikket, forstår ikke nødvendigvis KI best i teknisk forstand. De kombinerer teknologisk kompetanse med institusjonell visdom, strategisk klarhet og moralsk mot til å ta beslutninger som er riktige for organisasjonene deres, selv når de er upopulære på kort sikt. KI vil fortsette å utvikle seg uansett hva noen av oss gjør. Variabelen er kvaliteten på den menneskelige ledelsen som styrer den.

Vi er ikke med i et kappløp om å ta i bruk KI raskest; vi er med i et kappløp om å ta den i bruk klokest. Etter min erfaring har visdom aldri vært en funksjon du kan installere.

Følg med

Du kan følge Abdulrhman AlOdhaybs arbeid på LinkedIn.

Flere ekspertintervjuer kommer på The CTO Club.