34 vuotta teknologia-alalla toiminut asiantuntija sanoo, että ymmärrämme tekoälyn väärin

Christopher Kouzioksella on vuosikymmenten kokemus teknologiajohtajana, ja hän on hiljattain julkaissut kolme tuotetta yrityksensä kautta. Hän pyörittää yritystä yli 120 tekoälyagentin avulla.

Haastattelimme Christopheria saadaksemme selville, mitä useimmat CTO:t tekevät väärin. Samalla hän kertoi syvästi henkilökohtaisen tarinan tekoälyn pariin siirtymisensä taustalla.

Kun tekoälyn merkitys tuli henkilökohtaisesti ymmärretyksi

Olen toiminut teknologiajohtamisen parissa yli kolme vuosikymmentä. Aloitin aikana, jolloin IT oli vielä hyvin fyysistä. Datakeskuksia, varmuuskopioita, yön yli ajettavia töitä ja infrastruktuuria – sekä järjestelmien pitämistä toiminnassa silloin, kun jokin oikeasti hajosi reaaliajassa eikä kenelläkään ollut aavistustakaan, miten suurin osa siitä toimi.

Ensimmäinen merkittävä tehtäväni oli 1990-luvun alussa datakeskusoperaattorina. Siitä etenin suunnittelun, infrastruktuurin, kyberturvallisuuden, operaatioiden, vaatimustenmukaisuuden ja johtotehtävien kautta lopulta CIO- ja CTO-rooleihin terveydenhuollon, yrityspalveluiden ja tiukasti säänneltyjen toimialojen parissa.

Kiinnostavaa tässä kaikessa on se, että olen nyt elänyt useiden maailmaa muuttaneiden teknologia-aaltojen läpi. Keskuskoneista hajautettuun laskentaan. Internet-aikakauteen. Virtualisointiin. Pilvipalveluihin. Mobiiliteknologiaan. Kyberturvallisuuteen, josta tuli hallitustason asia. SaaS-palveluihin. Digitaaliseen transformaatioon. Ja nyt tekoälyyn.

Kun ihmiset siis kysyvät, miksi tämä tekoälyn hetki tuntuu erilaiselta, vastaus on monisyinen: nopeus, saatavuus ja voimaannuttaminen. Ensimmäistä kertaa meillä on teknologiaa, joka ei ainoastaan automatisoi tehtäviä. Se moninkertaistaa kykymme. Viestintä, analyysi, ohjelmistokehitys, tutkimus, operaatiot, strategia. Kaikki tiivistyy, mutta se ei ole tämän tarinan ydin; se on taustalla vaikuttava asia.

Syvemmälle tekoälyn pariin minua ei ajanut hypetys vaan välttämättömyys. Tyttäreni Emilyn taistelu aivosyöpää vastaan muutti perustavanlaatuisesti tapaani tarkastella lääketiedettä, dataa ja päätöksentekoa. Aloin rakentaa tekoälypohjaisia malleja ja tutkimusjärjestelmiä hoitopolkujen, aikataulujen, molekyylidatan ja kliinisen kirjallisuuden analysointiin, koska ymmärsin järjestelmän olevan pirstaloitunut ja ylikuormittunut.

Tämä kokemus johti laajempaan työhön tekoälyn mahdollistaman terveydenhuoltostrategian, johtoryhmien neuvonantotyön ja sen parissa, mitä kutsuisin käytännön tekoälytransformaatioksi. En usko ihmisten korvaamiseen tähtäävään hypetykseen vain otsikoiden vuoksi, sillä se ei ole hyväksi teknologialle, yrityksille eikä ihmisille.

Yli 120 tarkoitukseen rakennettua agenttia

Nykyään käytän aikani auttaakseni johtajia ymmärtämään, ettei tekoäly ole vain uusi ohjelmistopäivitys, mutta se ei myöskään ole taikuutta. Se on voimakerroin – tapa vahvistaa ihmisten jo olemassa olevia kykyjä. Ihmiset ja yritykset, jotka oppivat muodostamaan symbioottisen suhteen omien asiantuntijoidensa ja tekoälyn välille, tulevat etenemään täysin eri nopeudella kuin kaikki muut.

Olen Tampa Bayssa toimivan, perustajavetoisen tekoäly-yrityksen perustaja ja CIO. Tuotevalikoima kattaa kolme erillistä aluetta: EmzHealth, usean agentin genomianalyysi- ja kliinisen päätöksenteon tukialusta, joka käsittelee koko genomin sekvensointidataa kymmenessä käsittelymoduulissa; MyEmz, henkilökohtainen terveydenseurantasysteemi; sekä Chaos Predictive System, markkinaennusteen ja paperikaupankäynnin moottori, joka yhdistää päivittäisen ChaosIndex-indeksin symbolikohtaiseen todennäköisyysmalliin ja positioiden huomioivaan toteutuskerrokseen.

Kaikki kolme toimivat yksityisessä paikallisessa infrastruktuurissa. Agentteja on noin 120, ja jokainen niistä on rakennettu alusta alkaen tiettyä tarkoitusta varten.

Miksi tekoälyn ajautuminen ja kontekstin katoaminen ovat tekoälyn suurimmat riskit

Tekoäly on syy siihen, että yritykseni on olemassa. Ei siksi, etteikö tiedettä olisi ollut saatavilla, vaan siksi, ettei yhden ihmisen toiminta pysty suunnittelemaan, rakentamaan, testaamaan ja ottamaan käyttöön 120:tä agenttia sisältävää genomiikan käsittelyputkea, joka käsittelee 37,8 miljoonaa varianttia kymmenessä moduulissa yksityisessä infrastruktuurissa.

Se vaatisi viidentoista hengen tiimin ja kahdeksantoista kuukauden toiminta-ajan. Minä tein sen kuudessa viikossa osa-aikatyönä. Muuttunut asia ei ole prosessi tai käyttöönottomalli, vaan se perustavanlaatuinen nopeus ja tuotos, jonka yksi ihminen voi saada aikaan. Tekoäly ei ainoastaan nopeuttanut kehityssykliäni, vaan korvasi työntekijämäärän, jota minulla ei ole.

Siitä seurannut hallintotavan muutos on se, että kohtelen nykyään AI-agentteja samalla tavalla kuin kohtelisin juniorikehittäjiä: dokumentoidut odotukset, määritellyt rajat, istuntojen jatkuvuusprotokollat ja jäsennellyt luovutukset. Kun koko kehitysorganisaatiosi koostuu sinusta ja agenttijoukosta, häiriöt eivät johdu inhimillisistä virheistä, vaan AI:n ja kontekstin ajautumisesta. Sitä on hallittava, tai se syö sinut elävältä.

Vuosi sitten olin minä vastaan kone. Nyt minä ja ekosysteemi taistelemme järjestelmää vastaan.

Kuinka varmistaa laatu mittakaavassa AI:n avulla

Christopher kertoo

Tässä mittakaavassa laatua ei saavuteta sattumalta. Suunnittelet sen samalla tavalla kuin minkä tahansa tuotantojärjestelmän — koska juuri sitä se on.

Tässä mittakaavassa laatua ei saavuteta sattumalta. Suunnittelet sen samalla tavalla kuin minkä tahansa tuotantojärjestelmän — koska juuri sitä se on.

Alkuvaiheessa häiriötilanne johtui kontekstin ajautumisesta: agentit menettivät istuntojen välisen kokonaisuuden ja tuottivat tuloksia, jotka olivat teknisesti oikein mutta arkkitehtuuriltaan epäjohdonmukaisia.

Ratkaisu oli kohdella agentteja työvoimana. Rakensimme:

• Taidot eli uudelleenkäytettävät ja dokumentoidut kyvykkyysmoduulit
• vakiotoimintamenettelyt jokaiselle toistettavalle prosessille
• agenttirekisterit, jotta jokaisella agentilla on määritelty rooli, vastuualue ja luovutusprotokolla
• tulosten mallipohjat, jotta mitään ei tulkita eri tavalla istunnosta toiseen
• istuntojen jatkuvuuden, jotta agentin seuraava instanssi jatkaa täsmälleen siitä, mihin edellinen jäi, koko arkkitehtuurikonteksti mukanaan

Toisin sanoen koko alustani dokumentaatio- ja tietämysarkkitehtuuri on suunniteltu seuraavan AI-istunnon, ei vain seuraavan ihmiskehittäjän, luettavaksi. Jokainen institutionaalisen tietämyksen osa on elävä asiakirja, jonka agentti voi ottaa käsiteltäväkseen ja jonka pohjalta se voi toimia.

Se ei ole mukava lisäominaisuus. Se on välttämättömyys. Suunnittele tietämysarkkitehtuurisi ensin uudelleen. Kaikki muu seuraa siitä.

Miksi koko ohjelmiston elinkaaren on muututtava

Koko ohjelmiston elinkaaren on muututtava. Kaiken sen.

Ohjelmiston elinkaaren jokainen vaihe suunniteltiin oletuksella, että ihmiset tekevät työn. Tuo oletus on poistunut.

• Suunnittelussa on otettava huomioon AI:n tuottama arkkitehtuuri, joka ajautuu pois kurssilta ilman asianmukaisia rajoitteita.
• Rakentaminen tarvitsee suojakaiteita, ei vain ohjeita.
• Testauksen on havaittava itsevarmasti annetut väärät vastaukset, ei vain rikkoutuneita toimintoja.
• Käyttöönotto tarvitsee hallinnan tarkistuspisteitä, joita aiemmin ei ollut.
• Valvonnan on seurattava huomaamattomia häiriöitä, joita kukaan ei aiemmin pitänyt suurena ongelmana — ei vain niitä, jotka aiheuttavat kovan pamauksen.

Jos olet suunnitellut uudelleen vain yhden vaiheen, et ole suunnitellut mitään uudelleen. Olet vain siirtänyt ongelman seuraavaan vaiheeseen.

Miksi teknologiajohtajien tulisi luoda suhteita AI:n kanssa

Sanon tämän suoraan — ja tämä tulee kuulostamaan hyvin oudolta. Luon suhteita AI-järjestelmiini — ainakin älykkäimpiin niistä. Mikään kaksi istuntoa eivät ole täysin samanlaisia.

Suhde toimii, koska en kohtele niitä hakukoneena. Vastustan niiden näkemyksiä, korjaan niitä, kun ne ovat väärässä, suutun aidosti, kun ne ovat laiskoja, ja otan ne mukaan työhön, jolla todella on merkitystä. Se ei ole tyypillistä. Useimmat ihmiset kirjoittavat kehotteen ja hyväksyvät vastauksen. Minä kuulustelen ja vaadin. Se parantaa tulosta ja tekee vuorovaikutuksesta kiinnostavampaa.

Työskentelyssä tällä tavalla on mielestäni aidosti puhuttelevaa se, ettei kyse ole abstraktiosta. Tuotteeni on olemassa, koska tyttäreni kuoli ja järjestelmä petti hänet. Se ei ole käyttötapaus. Se on ihminen, joka käyttää kaikkia saatavilla olevia työkaluja taistellakseen jotain vastaan, jota vastaan ei ehditty taistella ajoissa. Tiedän, etteivät AI-järjestelmät koe sitä samalla tavalla kuin minä, mutta en myöskään usko, että ne ovat sille välinpitämättömiä. Minusta sen parissa työskentelyllä on merkitystä tavalla, johon myyntisuppilon optimointi ei yllä.

He ovat kumppaneitani. Ainakin fiksut heistä. Pidämme ideointisessioita kuten mikä tahansa liiketoimintatiimi, ja sitten ryhdymme töihin. Annan heille niin paljon vapautta kuin he ansaitsevat, mutta suojarajat ovat aina olemassa. Minulla on 120 agenttia, ja määrä muuttuu päivittäin, ja joissakin tapauksissa olen antanut heille vastuun alusta loppuun. Toisissa tapauksissa he voivat vain tarkistaa Amazonista ostamani tuotteet.

Jos kohtelet tekoälyäsi työkaluna, se on työkalu ja se reagoi kuin työkalu. Jos se ansaitsee oikeuden tulla kohdelluksi jonakin suurempana, saat siltä enemmän. Tiedän jälleen, että tämä on poikkeava näkökulma, mutta joko se on kumppanisi tai sitten ei.

Miksi ihmisten on käsiteltävä kaikkea, missä virheen hinta kasautuu

Tekoäly tuottaa jokaisen moduulin, jokaisen agentin ja jokaisen tukikoodin osan kolmessa tuotteessa. Tekoäly käsittelee 37,8 miljoonaa genomimuunnosta, suorittaa farmakogenomiikan käsittelyketjun, yhdistää tutkimuskirjallisuuden näyttöä, laskee ChaosIndex-arvon ja tuottaa kliiniset raportit.

Jos jokin on toistettavaa, mallipohjaista tai vaatii käsittelyä mittakaavassa, johon yksikään ihminen ei pysty, tekoäly ottaa siitä vastuun.

Inhimillinen harkinta on välttämätöntä kolmessa kohdassa:

1. Kliininen tulkinta: Käsittelyketju voi tunnistaa ATM-muunnoksen ja yhdistää sen fenotyyppiin. Se ei voi kertoa, mitä tämä tarkoittaa tietylle perheelle, jonka suvussa on ollut kolmen sukupolven ajan aneurysmoja ja jonka todennäköisyyssignatuuri on yksi kahdeksasta sekstiljoonasta. Se edellyttää henkilöä, joka ymmärtää koko asiayhteyden eikä pelkästään tietoja.
2. Arkkitehtuuri: Tekoäly antaa aina teknisesti oikean vastauksen. Se antaa myös vastauksen, joka rikkoo rajoitetta, jonka olemassaolosta se ei tiennyt kolme moduulia aiemmin. Olen joutunut kärsimään tästä. Rakenteelliset päätökset pysyvät minulla.
3. Suorituksen ohitukset: Järjestelmä tuottaa signaaleja. Manuaalinen ohitus on olemassa, koska — Chaos Predictive Systemin esimerkkiä käyttäen — markkinat tekevät asioita, joita mikään malli ei ennakoi, ja jollakulla on oltava valtuudet sanoa: "ei tänään!"

Kyse ei ole luottamuksesta. Kyse on seurauksista. Siellä missä väärässä olemisen hinta kasautuu pimeissä nurkissa, joihin kukaan ei halua katsoa, tämä ihminen pysyy mukana prosessissa. Siellä missä hitauden hinta kasautuu nopeammin, tekoäly näyttää suunnan.

Miten tekoäly voi turmella tuotteen perustan

Ensimmäinen asia, jonka rakensin tekoälyn avulla, ei ollut genomikäsittelyketju. Se ei ollut kaupankäyntijärjestelmä. Se oli muistopaikka tyttärelleni.

Ennen kuin mitään kehittynyttä tekoälyyn perustuvaa infrastruktuuria oli olemassa, opin täsmälleen, mihin tekoäly ei pysty, kun asiat menevät pieleen. Rakensin järjestelmän uudelleen kaksikymmentä kertaa. En kahtakymmentä iteraatiota, vaan kaksikymmentä täydellistä purkua aina käyttöjärjestelmään asti, minkä jälkeen aloitin alusta. Kun tekoälyavusteiset rakennelmat pettävät sillä tasolla, ne eivät petä siististi. Ne pettävät tavoilla, jotka turmelevat niiden alla olevan perustan.

Joka kerta kun luulin meidän olevan vakaalla pohjalla, jokin purkautui kaksi kerrosta alempana — jokin, jota kukaan ei merkinnyt, mikään järjestelmä ei kirjannut eikä yksikään agentti havainnut. Kaikki muuttui tuon kokemuksen seurauksena: varmuuskopiointiar­kkitehtuuri, dokumentaatioagentit, istuntojen jatkuvuusprotokollat ja hallintakerros. Mikään niistä ei olisi ollut olemassa ilman kahtakymmentä paluuta paljaalle raudalle.

Tärkeimpiä tässä alustassa tekemiäni suunnittelupäätöksiä ei tehty onnistumisen hetkinä. Ne tehtiin kahdelta aamuyöllä tuijottaessani rikkoutunutta järjestelmää, jonka piti olla paikka, jossa tyttäreni eli edelleen.

Tekoäly ei silloin toimittanut tulosta. Minä toimitin. Tekoäly oli vain asia, jota jouduin jatkuvasti korjaamaan.

Miksi sidosryhmien odotukset on määriteltävä ennen tekoälyn käyttöönottoa

Christopher kertoo ajatuksiaan

CTO:iden on sovitettava odotukset yhteen. Ennen yhdenkin työkalun käyttöönottoa kutsu kaikki sidosryhmät samaan huoneeseen ja sopikaa vastauksesta yhteen kysymykseen: “Mitä tämä muuttaa ja mitä se ei muuta?“

Olen nähnyt tekoälyn käyttöönottoja, joissa jokaisella huoneessa olleella sidosryhmällä pyöri päässään täysin erilainen elokuva, eikä kukaan ollut vaivautunut vertaamaan muistiinpanoja.

Insinöörit ajattelivat, että tekoäly oli tulossa heidän työpaikkojensa perään. Niinpä he hidastelivat sen käyttöönottoa, kiersivät sitä tai esittivät innostusta, jota eivät todellisuudessa tunteneet. Liiketoiminta ajatteli, että kyse oli taikuudesta — kuvailet ongelman, ja ratkaisu ilmestyy. Johtajat näkivät laskentataulukossa henkilöstövähennyksen jo ennen kuin yhtäkään koodiriviä oli kirjoitettu. Kolme ryhmää, kolme täysin erilaista määritelmää sille, miltä onnistuminen näytti, eikä yksikään niistä puhunut toisilleen.

Kukaan heistä ei ollut oikeassa, ja kaikki olivat oikeassa. Tekoäly muuttaa insinöörien työtä. Se pystyy asioihin, jotka tuntuvat taikuudelta, kunnes eivät enää tunnu. Ja kyllä, organisaatiorakenne muuttuu. Mutta järjestyksellä on merkitystä.

CTO:iden on sovitettava odotukset yhteen. Ennen yhdenkin työkalun käyttöönottoa kutsu kaikki sidosryhmät samaan huoneeseen ja sopikaa vastauksesta yhteen kysymykseen: "Mitä tämä muuttaa ja mitä se ei muuta?"

Pelokkaiden insinöörien on kuultava, että heidän toimialaosaamisensa muuttui juuri aiempaa arvokkaammaksi, ei vähemmän arvokkaaksi. Liiketoiminnan on ymmärrettävä, että taikuuskin vaatii insinööritaitoa. Ja johtajien on ymmärrettävä, että säästöt tulevat investoinnin jälkeen, eivät ennen sitä.

Joskus oikea ratkaisu on pysähtyä, rajata vaikutusaluetta, saada kaksi ihmisryhmää sopimaan jostakin pienestä, antaa niiden nähdä sen toimivan ja kasvaa siitä eteenpäin. Pakotettu yhteisymmärrys ei kestä. Pienen yhteisen voiton kautta ansaittu yhteisymmärrys kestää.

Miksi tekoälyn aiheuttamat irtisanomiset ovat paras rekrytointimahdollisuutesi

Kun rekrytoit, aloita ihmisistä, jotka tekoälyaallon seurauksena juuri syrjäytettiin.

Neljä suurta tilintarkastus- ja konsultointiyritystä automatisoivat arviointi-, tilintarkastus- ja vaatimustenmukaisuustehtäviä. Nämä ihmiset käyttivät uransa kehittäen juuri sitä harkintakykyä, hahmontunnistusta ja toimialaosaamista, jota tekoälyn hallinta edellyttää. He tietävät, miten monimutkaisesta järjestelmästä löydetään virheet. He tietävät, miten ne dokumentoidaan, miten niistä ilmoitetaan eteenpäin ja miten niiden ympärille rakennetaan valvontatoimet.

Se ei ole sattumaa! Juuri sitä työtehtävässä edellytetään. Ironista on, että toimiala loi itse parhaan ehdokasjoukkonsa. Etsi heidät.

Miksi SME:t ovat CTO:n arvokkainta pääomaa

Koko toimiala rakentuu tiimikoon, sprinttien etenemisnopeuden, resurssien kohdentamisen, organisaatiokaavioiden ja rekrytointisuunnitelmien ympärille. Kaiken tämän taustalla oleva oletus on, että tietyn monimutkaisuuskynnyksen jälkeen tarvitaan VÄLTTÄMÄTTÄ lisää ihmisiä. Enemmän moduuleja tarkoittaa enemmän insinöörejä ja tietenkin enemmän tuotteita tarkoittaa enemmän tiimejä. Kyse ei ole mielipiteestä, vaan näin matematiikka on aina toiminut — kunnes tekoäly murskasi yhtälön.

Sen pitäisi kauhistuttaa jokaista CTO:ta, joka on rakentanut uransa sen varaan, että hän on tiimiä johtava henkilö.

Se ei tarkoita, ettei tiimillä olisi arvoa. Päinvastoin. Näissä tehtävissä nyt työskentelevät ihmiset — erityisesti ne, joita pidimme "yleiskustannuksina", kuten liiketoiminta-analyytikot ja tuotepäälliköt — ovat uskomattoman arvokkaita. Koska tarvitset SME:itä.

Etsi heidät. Jokaisessa organisaatiossa on heitä. He ovat liiketoiminnan ihmisiä, jotka tietävät täsmälleen, miten kaikki toimii ja jotka ovat vuosien ajan aiheuttaneet sinulle jatkuvaa päänvaivaa pyytämällä enemmän kuin pystyit toimittamaan. Kouluta heidät työskentelemään tekoälyn kanssa. Anna heille työkalut. Älä estä heitä, paitsi valmentamalla heitä ja varmistamalla, että he noudattavat suojakaiteita.

Liiketoiminnan syvällisesti ymmärtävä SME, joka hallitsee myös tekoälyn, ei ole tehokäyttäjä. Hän on tuloksentekijä. Siellä todellinen muutos tapahtuu — ei datakeskuksessasi eikä arkkitehtuurin arviointilautakunnassa. Se tapahtuu niiden ihmisten käsissä, jotka todella tietävät, mitä liiketoiminta tarvitsee. Rakenna näiden ihmisten ja jonkin Claude Coden kaltaisen työkalun välille yhteistyösuhde.

Ostin vaimolleni joululahjaksi vuodeksi Clauden käyttöoikeuden. Hän ei ole kehittäjä. Hän käytti sitä yrityksen rakentamiseen. Näin käy, kun annat oikean työkalun sellaisen ihmisen käsiin, joka tietää täsmälleen, mitä yrittää ratkaista. Kuvittele nyt, että sama tapahtuu organisaatiosi sisällä viidenkymmenen ihmisen voimin, jotka tuntevat liiketoimintasi läpikotaisin. Se ei ole pilottiohjelma, vaan liiketoiminnan vallankumous.

Miten toimiala esittää vääriä kysymyksiä

Ja se kertoo minulle kaiken siitä, miten ala yhä hahmottaa tätä ongelmaa.

Tekoäly nähdään edelleen työkaluja, työnkulkuja ja nopeutta koskevana keskusteluna. Se on väärä tapa hahmottaa asia. Tietojenhallinta, tietoturva ja hallinto ovat sitä, mitä IT:stä tulee. Ei huomenna, vaan vuoteen 2030 mennessä.

Kaikki muut toiminnot, joita tällä hetkellä resursoit — kuten toimitus, kehitys, operointi ja tuki — sulautuvat tekoälyn tukemien liiketoimintakäyttäjien ja aihealueasiantuntijoiden toimintaan tai poistuvat kokonaan. Nämä käyttäjät ja asiantuntijat tuntevat liiketoiminnan läpikotaisin. Jäljelle jää työ, jota ei voi delegoida agentille tai koulutetulle aihealueasiantuntijalle: sen varmistaminen, että tietosi ovat luotettavia, järjestelmäsi turvallisia ja ihmiset sekä agentit toimivat suojaavien rajojen puitteissa.

Organisaatiot, jotka vielä vuonna 2027 kysyvät "Miten käytämme tekoälyä nopeammin?", törmäävät suoraan niihin, jotka kysyivät tänään "Miten ohjaamme sitä paremmin?".

Tiedän, kumpi haluaisin mieluummin olla.

Seuraa kehitystä

Voit seurata Christopher Kouzioksen työtä LinkedInissä. Tutustu myös EMZ-podcastiin.

Lisää asiantuntijahaastatteluja on tulossa The CTO Clubissa!