Yli 30 vuoden kokemuksen omaava teknologiajohtaja kertoo, miten tekoälysiiloista siirrytään hallittuun toimintamalliin

Prem Kumar A S:llä on yli 30 vuoden kokemus IT- ja pilvi-infrastruktuuriprojektien johtamisesta. Hän toimii tällä hetkellä VCTO:na The Preminentissä.

Haastattelimme Premia ymmärtääksemme, miten organisaatiot voivat siirtyä tekoälyn yksittäisistä käyttökohteista hallittuun toimintamalliin. Tässä hänen kertomansa.

Yli 30 vuoden kokemus

Minulla on yli 30 vuoden kokemus IT- ja pilvi-infrastruktuuriprojektien johtamisesta eri puolilla maailmaa. Työskentelen tällä hetkellä VCTO:na ja neuvon hallituksia sekä teknologia- ja liiketoimintajohtajia teknologiasta, kyberriskeistä, palautumiskyvystä, luottamuksesta ja tekoälyaikakauden hallinnasta. Keskityn auttamaan johtoryhmiä tekemään selkeämpiä, vahvempia ja paremmin tulevaisuuteen valmistavia päätöksiä.

Tämän ohella juonnan Power of Knowing Forumin PREMINENT KONCLAVE -ohjelmaa — viikoittaista lippulaivapodcast-sarjaa, joka käsittelee teknologiaa, kyberturvallisuutta, kasvua ja strategiaa ja jossa on käyty yli 370 johtotason keskustelua. Asiantuntijaverkosto kasvaa jatkuvasti.

Miten siirtyä tekoälyn yksittäisistä käyttökohteista hallittuun toimintamalliin

Siirryimme työkalujen kokeilusta hallittuun toimintamalliin ottamalla käyttöön tekoälyn hallinta- ja käyttöönottoarvioinnin ennen kuin mikään tekoälyä hyödyntävä ratkaisu voitiin ottaa tuotantokäyttöön.

Sitä ennen tekoälyä tutkittiin yksittäisissä käyttökohteissa — tekoälyavustajissa, automaation pilottihankkeissa, analytiikan käyttötapauksissa ja joissakin tietoturvakokeiluissa. Ongelma ei ollut tahtotila, vaan hajanaisuus. Eri tiimit saattoivat arvioida tai jopa ottaa käyttöön tekoälyä hyödyntäviä ominaisuuksia ilman yhteistä viitekehystä tietojen luokittelulle ja altistumisriskille, mallien käytön rajoille, kolmansien osapuolten tekoälytyökalujen hyväksynnälle, ihmisten suorittamalle tarkastelulle ja vastuunjaolle tai liiketoimintatulosten mittaamiselle.

Yksinkertaisesti sanottuna tekoäly alkoi tulla ympäristöömme nopeammin kuin hallinto pysyi kehityksessä mukana. Tämä aiheuttaa vakavalle organisaatiolle kolme riskiä:

1. Tietoturva- ja tietosuojariski: arkaluonteisia liiketoiminta- tai asiakastietoja päätyy hallitsemattomiin tekoälyprosesseihin
2. Toiminnan epäjohdonmukaisuus: tiimit käyttävät erilaisia työkaluja, kehotteita ja prosesseja ilman toistettavia standardeja
3. Hallitustason riski ilman näkyvyyttä: tekoälyn käyttö kasvaa, mutta johto ei tiedä, missä todellinen altistuminen tai sijoitetun pääoman tuotto sijaitsee

Siksi otimme käyttöön käytännöllisen tekoälyn valvontamallin, joka liittyy siihen, miten teknologiaa rakennetaan, otetaan käyttöön ja hallitaan — ei teoreettisena käytäntöasiakirjana, vaan osana toimintakuria. Tämä sisälsi viisi konkreettista muutosta:

1. Tekoälyn käyttötapaukset oli luokiteltava ennen käyttöönottoa. Jokainen ehdotettu tekoälyn käyttötapaus luokiteltiin vähäisen riskin tuottavuuden parantamiseen, sisäiseen päätöksenteon tukeen, asiakasrajapintaan tai arkaluonteiseen/säänneltyyn/korkean riskin toimintaan. Tämä muutti keskustelun välittömästi kysymyksestä ”Voimmeko käyttää tekoälyä?” kysymykseksi ”Minkä tason hallintaa tämä tekoälyn käyttötapaus edellyttää?”
2. Tekoälyn käyttöönotolle asetettiin pakollinen tarkistuspiste. Ennen kuin tekoälyä hyödyntävä työkalu, automaatio tai työnkulku voitiin siirtää tuotantoon, sen oli läpäistävä tarkistus, jossa arvioitiin tietojen arkaluonteisuus, identiteetin- ja käyttöoikeuksien hallinta, toimittaja- ja malliriskit, kehotteiden ja tulosteiden käsittely, ihmisen hyväksyntäpisteet, varamekanismit ja palautusmekanismit sekä auditointilokien vaatimukset. Näin tekoälyn käyttöönotosta tuli osa teknologian hallintaa eikä vain innovaatioihin liittyvää näytösluontoista toimintaa.
3. Erottelimme kokeilut tuotannosta. Tekoälykokeiluja varten luotiin hallittu hiekkalaatikkoympäristö. Tiimit saattoivat testata ideoita nopeasti — mutta tuotantokäyttö edellytti hyväksyttyjä aineistoja, hyväksyttyjä työkaluja ja malleja, määriteltyjä omistajia, mitattavia liiketoimintatuloksia ja tarvittaessa riskien hyväksyntää. Tämä oli merkittävä kulttuurinen muutos, koska se suojasi innovointia estämättä kokeiluja muuttumasta huomaamatta koko organisaation riippuvuudeksi.
4. Otimme käyttöön ihmisen osallistumista edellyttävät säännöt arkaluonteisissa työnkuluissa. Edellytimme ihmisen tekemää vahvistusta ennen lopullista toimenpidettä kaikissa tekoälyn käyttötapauksissa, jotka vaikuttivat asiakkaisiin, vaatimustenmukaisuuteen, taloudellisiin päätöksiin, turvallisuusoperaatioihin tai liiketoiminnan kriittiseen viestintään. Näin estettiin klassinen virhe, jossa tekoälyn tuottamaa tulosta pidetään automaattisesti luotettavana vain siksi, että se syntyi nopeasti.
5. Aloimme mitata tekoälyä toiminnallisen arvon, emme innostuksen perusteella. Jokaisen tekoälyhankkeen oli vastattava seuraaviin kysymyksiin: Mitä manuaalista työtä vähennetään? Mitkä läpimenoajat paranevat? Mitä riskejä vähennetään? Miten päätösten laatu paranee? Mitä kustannus-, tuottavuus- tai toimintavarmuushyötyä odotetaan? Näin tekoälyä koskeva keskustelu siirtyi teknologiatrendistä liiketoiminnan toimintamalliin.

Tämä antoi meille paremman hallinnan hidastamatta etenemistä. Hallintoa ei enää nähty esteenä. Luomalla selkeän polun — kokeile täällä, hallinnoi täällä, ota käyttöön täällä — tiimit etenivät nopeammin, ja hämmennystä sekä piileviä riskejä oli vähemmän.

Se vähensi myös hallitsemattoman tekoälyn käytön riskiä. Saimme huomattavasti paremman näkyvyyden siihen, mitä työkaluja käytettiin, mitkä tiimit niitä käyttivät, mitä tietoja niihin siirtyi ja millä käyttötapauksilla oli todellista liiketoiminta-arvoa. Tämä on ratkaisevan tärkeää, koska hallitsemattomasta tekoälyn käyttöönotosta on nopeasti tulossa uusi varjo-IT.

Näin otat tekoälyn käyttöön aiheuttamatta kaaosta

Tässä muutamia vinkkejä niille, jotka ovat vasta aloittamassa — jos haluat välttää kaaoksen:

1. Aloita suurivolyymisista ja vähäisen riskin työnkuluista. Älä aloita arkkitehtuurin ydintä koskevista päätöksistä tai tuotannon kriittisistä itsenäisistä muutoksista. Aloita dokumentoinnista, testien luomisesta, sisäisten tukipyyntöjen luokittelusta, lokien yhteenvedoista, käyttöohjeiden luonnostelusta tai julkaisutietojen tuottamisesta.
2. Luo suojakaiteet ennen laajentamista. Jokaisessa tekoälyä hyödyntävässä suunnittelun käyttöönotossa on määriteltävä hyväksytyt työkalut, kehotteiden ja tietojen käyttöä koskeva käytäntö, koodikatselmointia koskevat säännöt, tietoturvatarkistusten vaatimukset, ihmisen hyväksynnän rajat sekä lokitus ja auditointimahdollisuus.
3. Mittaa ennen ja jälkeen. Seuraa läpimenoaikaa, käyttöönottojen tiheyttä, tuotantoon päätyvien virheiden määrää, keskimääräistä palautumisaikaa, palautusten määrää, toistuvien tehtävien parissa käytettyä aikaa sekä insinöörien tyytyväisyyttä ja tuottavuutta koskevaa palautetta.
4. Säilytä ihmisten vastuu. Tekoälyn tulee tukea insinöörejä, ei korvata insinöörityön omistajuutta. Malli voi tehdä ehdotuksia. Tiimin on silti päätettävä, vahvistettava, suojattava ja kannettava vastuu lopputuloksesta.

Parhaat tekniset tekoälyn käyttötapaukset

Oikein toteutettuna tekoäly voi teknisissä työnkuluissa parantaa merkittävästi nopeutta, näkyvyyttä, tuottavuutta ja päätösten laatua. Huonosti toteutettuna se voi moninkertaistaa virheitä, lisätä toiminnallisia riskejä ja luoda laajamittaisesti perusteetonta varmuutta.

Tässä ovat näkemäni käyttötapaukset ja hyödyt:

Suurempi suunnittelun läpimeno, kun tekoälyä käytetään oikeanlaiseen työhön: Suurimmat hyödyt näkyvät yleensä vähäisen tai keskitasoisen vaativuuden tehtävissä, kuten vakiomuotoisen koodin tuottamisessa, testitapausten luomisessa, dokumentoinnin ja käyttöohjeiden luonnostelussa, lokien yhteenvedoissa ja häiriötilanteiden alustavassa luokittelussa, infrastruktuuri koodina -mallipohjien luomisessa, tikettien luokittelussa sekä ensimmäisen tason vianmääritysehdotuksissa. Näkemiäni määrällisiä tuloksia ovat muun muassa:

• 20–40 % lyhyempi toistettavien suunnittelutehtävien suoritusjakso
• 15–30 % parempi kehittäjien läpimeno hyvin rajatuissa tehtävissä
• 25–50 % nopeampi häiriöiden alustava selvitys, kun tekoäly tiivistää lokit, hälytykset ja todennäköiset juurisyyt
• 30–60 % vähemmän dokumentointityötä vakiotoimintamenettelyjen, käyttöohjeiden ja tietämysartikkeleiden parissa

Parempi DevOps- ja alustatehokkuus: Tekoäly on erityisen tehokas DevOps-, SRE- ja infrastruktuuritoiminnoissa, kun sitä käytetään analyysin apuna eikä itsenäisenä päätöksentekijänä. Esimerkiksi lokien korrelaatio eri työkalujen välillä nopeutuu, hälytyksiä ryhmitellään ja tiivistetään, käyttöönoton muistiot ja palautusvaiheet luodaan automaattisesti, kapasiteettimallit havaitaan aiemmin ja toistuvat operatiiviset tarkistukset automatisoidaan. Määrällisiä parannuksia ovat usein:

• 20–35 %:n parannus MTTR-ajassa häiriöpainotteisissa ympäristöissä
• 10–25 % vähemmän eskalointeja kokeneille insinööreille tunnettujen ongelmamallien yhteydessä
• 15–20 % parempi muutosten onnistumisaste, kun tekoälyä käytetään käyttöönoton tarkistuslistojen, julkaisutietojen ja riippuvuuksien validoinnin noudattamisen varmistamiseen
• L1- ja L2-tuen sekä operatiivisten tiimien rutiinityön väheneminen, mikä vapauttaa kokeneet insinöörit arkkitehtuuri- ja häiriönsietokyvyn kehittämiseen

Prem Kumar jakaa

Kun tekoäly otetaan hyvin käyttöön teknisissä työnkuluissa, se voi parantaa merkittävästi nopeutta, näkyvyyttä, tuottavuutta ja päätösten laatua. Huonosti toteutettuna se voi lisätä virheitä, kasvattaa operatiivisia riskejä ja luoda väärää luottamusta laajassa mittakaavassa.

Testauksen ja laadun kattavuuden parantaminen: Yksi käytännöllisimmistä käyttötapauksista on tekoälyavusteinen testaus. Siihen kuuluu testitapausten luominen vaatimuksista tai käyttäjätarinoista, reunatapausten tunnistaminen, testidatamallien luominen sekä tiimien auttaminen regressiotestauksen kattavuuden parantamisessa nopeammin. Myönteiset tulokset voivat näkyä esimerkiksi näin:

• 20–35 % nopeampi testitapausten luominen
• Parempi testikattavuus saman sprintin aikana
• Lyhyemmät regressiotestauksen valmistelusyklit
• Virheiden parempi havaitseminen aiemmin elinkaaren aikana, jos kehotteet ja validointi ovat laadukkaita

Vahvempi tiedonhallinta ja perehdytys: Tekoälyä hyödynnetään liian vähän yhdellä kriittisellä alueella: hiljaisen tiedon talteenotossa. Monissa insinööritiimeissä suuri osa operatiivisesta osaamisesta on vain muutamien ihmisten muistissa. Tekoäly auttaa muuttamaan tämän haettaviksi käyttöohjeiksi, vianmääritysoppaiksi, arkkitehtuuritiivistelmiksi, perehdytysoppaiksi ja juurisyyanalyysien tiivistelmiksi. Tyypillisiä hyötyjä ovat:

• Uusien insinöörien nopeampi perehdytys
• Riippuvuuden väheneminen muutamista “sankariyksilöistä”
• Parempi tiedonsiirto tiimien välillä
• Vähemmän aikaa vanhojen tikettien ja Slack-/Teams-keskustelujen läpikäyntiin

Kasvaville pk-yrityksille ja keskisuurille insinööriorganisaatioille tämä voi olla yksi parhaan sijoitetun pääoman tuoton käyttötapauksista, koska se parantaa insinööritiedon skaalautuvuutta eikä ainoastaan koodin tuotantoa.

Tekoälyn haittapuolet

Tietenkään kaikki tulokset eivät ole myönteisiä:

• Virheiden määrä voi kasvaa, jos tekoäly viedään tuotantoon liian nopeasti. Suurin näkemämme virhe on tekoälyn tuottaman koodin pitäminen “kehittäjien tuottavuutena” ilman katselmoinnin, testauksen ja tietoturvavalidoinnin vahvistamista.
• Tietoturva- ja vaatimustenmukaisuusriskit kasvavat ilman suojamekanismeja. Tämä on merkittävä huolenaihe säännellyissä tai arkaluonteisissa ympäristöissä.

• Tiimit voivat muuttua nopeammiksi mutta harkitsemattomammiksi. Yksi hienovarainen haittapuoli on ajattelun ulkoistaminen. Tekoälyn pitäisi vähentää mekaanista työtä, ei vähentää insinöörimäistä ajattelua.
• Suoritusjakso nopeutuu, mutta toimitusten laatu ei parane. Tämä on yksi yleisimmistä johtajien sudenkuopista: tiimit juhlivat nopeampaa koodin tuottamista mutta sivuuttavat sen, paraniko liiketoiminnan tulos. Tekoälyn onnistumista ei voi mitata pelkästään sillä, “kuinka paljon nopeammin kehittäjät kirjoittavat koodia”. Sitä on mitattava käyttöönottojen tiheyden, muutosten epäonnistumisasteen, tuotantoon karanneiden virheiden määrän, MTTR-ajan, tietoturvahavaintojen, julkaisukohtaisten kustannusten sekä säästyneiden insinöörityötuntien ja syntyneen uudelleentyön välisen suhteen perusteella.

Mitä tekoälyn ei pitäisi koskaan käsitellä

Näillä alueilla tekoälyn pitäisi tukea ajattelua, mutta se ei saa koskaan korvata vastuullista ihmispäättäjää.

• Riskin hyväksyminen. Mikään tekoäly ei saa päättää, hyväksytäänkö tietoturvariski, siirretäänkö korjauspäivitystä, toimitaanko tunnetun valvontapuutteen kanssa tai jatketaanko julkaisua ratkaisemattomista ongelmista huolimatta. Päätös kuuluu vastuulliselle johtajalle, koska sillä on taloudellisia, oikeudellisia ja maineeseen liittyviä seurauksia.
• Kriisijohtaminen. Laajan käyttökatkon, kyberhäiriön, tietomurron tai sääntelyviranomaisen eskalaation aikana tekoäly voi auttaa tietojen ja vaihtoehtojen kanssa. Ihmisten on kuitenkin vastattava sidosryhmäviestinnästä, yhteydenpidosta sääntelyviranomaisiin, asiakkaiden luottamukseen liittyvistä päätöksistä, johdon viestinnästä ja kriisijohtamisen suunnasta.
• Etiikka, yksityisyys ja liiketoiminnan kompromissit. Tekoäly ei voi olla lopullinen päätöksentekijä siinä, onko tietojen käyttö eettisesti hyväksyttävää, onko päätös oikeudenmukainen asiakkaita tai työntekijöitä kohtaan, onko valvonta- tai seurantatoimi oikeasuhtainen tai pitäisikö liiketoiminnan helppouden syrjäyttää luottamuksen periaatteet. Nämä ovat johtamiseen liittyviä päätöksiä.

Miksi arkkitehtuurissa ei ole enää kyse vain skaalautuvuudesta ja suorituskyvystä

Tekoäly sai minut arvioimaan uudelleen oletusta, jonka mukaan arkkitehtuuri suunnitellaan kerran ja sitä optimoidaan ajan mittaan. Tämä malli toimi silloin, kun järjestelmät muuttuivat vähitellen. Se ei toimi, kun tekoälyagentit, tekoälyavustajat, automaatiokerrokset ja tietoputket alkavat vaikuttaa tuotantokäyttäytymiseen dynaamisesti.

Prem Kumar kertoo

Arkkitehtuurissa ei ole enää kyse vain skaalautuvuudesta ja suorituskyvystä. Nyt siinä on kyse mukautuvuudesta, jäljitettävyydestä, häiriönsietokyvystä ja hallinnasta.

Nykyään arkkitehtuuria on käsiteltävä elävänä ohjausjärjestelmänä, ei kiinteänä suunnitelmana. Tämä tarkoittaa seuraavaa:

• Järjestelmät on suunniteltava jatkuvaa mukautumista varten.
• Havainnoitavuuden on ulotuttava infrastruktuurin ulkopuolelle tekoälyn toimintaan ja päätösten laatuun.
• Tietoturvan on siirryttävä reunapuolustuksesta sisäänrakennettuun luottamukseen, valvontaan ja häiriönsietokykyyn.

Toisin sanoen arkkitehtuurissa ei ole enää kyse vain skaalautuvuudesta ja suorituskyvystä. Nyt siinä on kyse mukautuvuudesta, jäljitettävyydestä, häiriönsietokyvystä ja hallinnasta.

Neuvoja teknologiajohtajille

Neuvoni teknologiajohtajille on yksinkertainen: älkää suhtautuko tekoälyyn pelkästään teknologisena kilpailuna — suhtautukaa siihen liiketoiminnan johtamisen mahdollisuutena. Tällä hetkellä liian monet organisaatiot tavoittelevat tekoälypilotteja, työkaluja ja käyttötapauksia kysymättä ensin tärkeimpiä kysymyksiä: Mitä liiketoimintaongelmaa olemme ratkaisemassa? Mitä riskiä olemme ottamassa käyttöön? Mitä pitkän aikavälin kyvykkyyttä olemme rakentamassa?

Teknologiajohtajien on johdettava tekoälyn muutosta viidellä rintamalla:

1. Aloita liiketoiminta-arvosta, älä tekoälyhypestä. Jos tekoäly ei liity liikevaihdon kasvuun, tuottavuuteen, asiakaskokemukseen, riskien vähentämiseen tai toteutuksen nopeuteen, siitä tulee vaikuttamatonta kokeilua.
2. Rakenna tekoäly vahvalle perustalle. Tekoäly ei pysty korjaamaan heikkoa infrastruktuuria, pirstaloitunutta dataa, puutteellista hallintoa tai epäselvää omistajuutta. CTO:iden on ensin varmistettava, että organisaatiolla on asianmukainen datakuri, pilvivalmius, kyberturvallisuuden suojamekanismit ja integraatioarkkitehtuuri. Ilman niitä tekoäly lisää epäselvyyttä nopeammin kuin se kasvattaa arvoa.
3. Tee kyberturvallisuudesta, yksityisyydestä ja hallinnosta suunnitteluperiaatteita. Nyt ei ole oikea aika lisätä turvallisuutta jälkikäteen. Tekoäly tuo mukanaan uusia riskejä — tietovuotoja, mallien väärinkäyttöä, vinoumia, hallusinaatioita, vaatimustenmukaisuuden puutteita ja tekoälyn luvatonta käyttöä eri tiimeissä. Parhaat CTO:t rakentavat tekoälyn hallinnan, pääsynvalvonnan, tietosuojan, mallien vastuullisuuden ja ihmisten valvonnan osaksi toimintamallia heti alusta alkaen.
4. Määrittele teknologiajohtajan rooli uudelleen. Tällä aikakaudella CTO ei ole enää vain järjestelmien ylläpitäjä. CTO:n on toimittava tulkkina liiketoiminnan tavoitteiden ja teknisen todellisuuden välillä — auttaen hallitusta ja johtoryhmää ymmärtämään, mitä tekoäly todella pystyy tekemään, missä se voi epäonnistua ja miten se voidaan ottaa käyttöön vastuullisesti. Tässä on yhtä paljon kyse kouluttamisesta, priorisoinnista ja luottamuksen rakentamisesta kuin arkkitehtuuristakin.
5. Keskity ensin työn tukemiseen, ennen kuin siirryt automaatioon. Vahvin tekoälystrategia ei ole ”Miten korvaamme ihmiset?” vaan ”Miten teemme ihmisistämme nopeampia, terävämpiä ja tehokkaampia?” Tekoälyn tulisi ensin tukea tiimejä — parantaa päätöksentekoa, vähentää toistuvaa työtä, nopeuttaa analysointia ja vapauttaa osaajat arvokkaampiin tehtäviin. Siitä luottamus rakentuu, käyttöönotto tehostuu ja muutoksesta tulee kestävää.

Seuraa mukana

Voit seurata Premin työtä LinkedInissä. Tutustu myös hänen podcastiinsa PREMINENT KONCLAVE.

Lisää asiantuntijahaastatteluja on tulossa The CTO Clubiin!