Tekoälyn päättely: miksi data-alustasi tarvitsee uudistuksen

Viime aikoihin asti useimmat tekoälyä koskevat otsikot ovat pyörineet LLM-mallien ja muiden tekoälymallien kehittämiseen ja parantamiseen liittyvän kilpailun ympärillä sekä NVIDIAn nousussa suosituimmaksi tekoälyprosessoriksi. Tekoälyalan kypsyessä kaksi vuotta ChatGPT:n julkaisun jälkeen näemme nyt painopisteen siirtyvän kohti perimmäistä tavoitetta: tekoälyn ottamista käyttöön eli päättelyä. Useimpien yritysten IT-organisaatioiden on suunniteltava tiedonhallintansa uudelleen varmistaakseen tekoälyn päättelyn asianmukaisen tiedonhallinnan.

Katsotaanpa tarkemmin, miksi.

Tekoälyn päättelyn liiketoiminta-arvo

Tekoälyn päättely ei ole aina samanlaista. Jotkin tehtävät, kuten sosiaalisen median tekstien kirjoittaminen, voidaan hoitaa yksinkertaisesti avaamalla suosikkisi generatiivinen tekoälysovellus ja kirjoittamalla kehote. Yrityksille suurempi arvo syntyy kuitenkin sisäisen tiedon hyödyntämisestä tulosteiden mukauttamiseksi liiketoiminnan ja asiakkaiden tarpeisiin. Tekoälyn liiketoiminta-arvoa voi nähdä yrityksen tiedoissa.

Esimerkiksi asiakaspalvelukeskustelujen analysointi asiakkaiden mielialan ja tyytyväisyyden kehityssuuntien selvittämiseksi tai sairaalapotilaiden kohtaamisista laadittujen kliinisten muistiinpanojen syöttäminen tapausten tiivistämiseksi sekä sairauksien hoito- ja ehkäisysuuntausten löytämiseksi.

Miksi tekoälyn päättely edellyttää uutta data-arkkitehtuuria

Tekoälyn päättelystä on muodostumassa valtava markkina, jolla on merkittäviä seurauksia IT-infrastruktuurille. ”Useat lähteet, mukaan lukien teknologia-alan yritykset, kuten Amazon ja NVIDIA, arvioivat, että päättelyn kustannukset voivat laajasti käytetyissä järjestelmissä ylittää koulutuksen kustannukset ja että päättely muodostaa jopa 90 prosenttia käyttöön otettujen tekoälyjärjestelmien koneoppimiskustannuksista”, toteavat tutkijat Science Directissä julkaistussa tutkimuksessa.

Koska tekoälyn päättelyyn investoidaan niin paljon aikaa, rahaa ja energiaa, IT-johtajien kannattaa tarkastella huolellisesti sitä tukevaa teknologiakokonaisuutta – data-alustoista datakeskusinfrastruktuuriin, olipa se paikallisesti tai pilvessä – sekä kannettavia tietokoneita ja puhelimia, jotka optimoidaan tekoälyn käsittelyä varten. Heidän on mahdollisesti päivitettävä järjestelmiään tehokkuuden, suorituskyvyn ja kustannusten optimointia varten, jotta ne vastaavat tulevaisuuden tarpeisiin.

Uusien vaatimusten erittely

Vaikka tekoälyn päättely on mallien kehittämisen jälkeinen seuraava vaihe, tekoälyn päättelyn vaatimukset poikkeavat riittävästi, jotta se edellyttää uutta dataparadigmaa – erityisesti jäsentämättömän datan osalta:

• Yritysdatan rutiininomaisen käytön hallinta: Tarkastellaan ensin tekoälyn päättelyn taustalla olevaa korkean tason prosessia, kuten IBM Research sen selittää: ”Päättelyn aikana tekoälymalli käsittelee reaaliaikaista dataa ja vertaa käyttäjän kyselyä koulutuksen aikana käsiteltyihin ja sen painoarvoihin eli parametreihin tallennettuihin tietoihin. Mallin tuottama vastaus riippuu tehtävästä: tunnistetaanko roskapostia, muunnetaan puhetta tekstiksi vai tiivistetäänkö pitkä asiakirja keskeisiksi johtopäätöksiksi. Tekoälyn päättelyn tavoitteena on laskea ja tuottaa toimiva tulos.”  Toisin sanoen tekoälyn päättely ja sen käyttö edellyttävät, että organisaatiot täydentävät mallin koulutuksessa käytettyjä tietoja asiaankuuluvalla yritysdatalla. 
• Sen on oltava helppokäyttöinen kaikille työntekijöille, ei ainoastaan datatieteilijöille: Siinä missä mallien kehittäminen on datatieteilijöille suunnattu erittäin erikoistunut tekoälymarkkina, tekoälyn päättely on tarkoitettu kaikille käyttäjille, joten sen on oltava helposti käytettävissä ja käyttöönotettavissa. Miten voit helpottaa työntekijöiden oikean yritysdatan löytämistä ja syöttämistä oikeaan tekoälyprosessiin? Miten voit varmistaa, että datan työnkulku tallennetaan tarkastuksia varten? Tekoälymallin kouluttaminen muistuttaa voimalaitoksen rakentamista: vain harvoilla on tekoälymallien rakentamiseen tarvittava erikoisosaaminen ja resurssit. Tekoälyn päättelyn pitäisi kuitenkin olla yhtä helppoa kuin sähkön kuluttamisen. Jokaisen pitäisi voida kytkeä se tarkoituksiinsa päälle tai pois päältä.  
• Tarve hakea ja syöttää jäsentämätöntä dataa tekoälylle: Tekoälyn ja koneoppimisen yhteydessä on nykyään kyse ennen kaikkea jäsentämättömästä datasta – miljoonista tai miljardeista tiedostoista, kuten asiakirjoista, viesteistä, kuvista, videoista ja koneiden tuottamasta datasta, joita on hajallaan yrityksen hakemistoissa ja jaetuissa sijainneissa. Koska dataa on paljon ja se on jakautunut yrityksen lukuisiin datasiiloihin, sen siirtäminen yhteen järjestelmään ei ole kustannusten eikä siihen kuluvan ajan kannalta järkevää. Käyttäjät luottavat mieluummin lukuisiin tekoälytyökaluihin kuin yhteen valtavaan tietovarastoon. 
• Datan siirtäminen ensin ei enää toimi: Koska jäsentämätöntä dataa voi helposti olla petatavuja ja sen siirtäminen on kallista, perinteinen ETL-malli (extract, transform and load), jossa data siirretään ensin datajärveen tai datajärvitaloon ja sitä käsitellään vasta sen jälkeen, ei enää toimi. IT-tiimit tarvitsevat tavan käyttää ja hallita jäsentämätöntä dataa järjestelmällisesti siirtämättä sitä yhteen paikkaan. Ne tarvitsevat myös automatisoituja työkaluja datan valmistelemiseen – tarpeettoman datan suodattamiseen, kontekstin ja rakenteen lisäämiseen metatietojen rikastamisen avulla sekä suojattujen työnkulkujen luomiseen oikeiden datajoukkojen löytämiseksi ja siirtämiseksi oikeisiin työkaluihin. Yhtenäinen maailmanlaajuinen indeksi tarjoaa järkevän lähtökohdan datan näkyvyyden saavuttamiseen ja nopeaan hakuun hybridiympäristöissä. 
• Automatisoitu datan hallinta: Lisäksi tekoälydatan hallinnasta on tulossa datanhallinnan keskeinen ominaisuus. Arkaluonteisen datan vuotamisen tekoälytyökaluihin, virheellisten tulosten, hallusinaatioiden ja tekijänoikeusloukkauksista johtuvien oikeusjuttujen välttämiseksi organisaatiot tarvitsevat keinoja valvoa ja seurata datan siirtymistä tekoälytyökaluihin. Ne tarvitsevat automatisoituja menetelmiä arkaluonteisen datan, kuten henkilötietojen, paikantamiseen ja siirtämiseen sijainteihin, joissa työntekijät eivät voi käyttää sitä tekoälyä varten. Automatisoimalla käyttäjien työnkulut tekoälyn käyttöä varten voit varmistaa, että automaatio seuraa ja hallitsee datan hallintaa.
• Uusi tekoälyn datanhallintamalli: Jäsentämättömän datan kehittyvä ”tietokanta”-kerros on virtuaalinen eikä tosiasiassa tallenna kaikkea dataa. Näemme sen kehittyvän kattamaan edellä mainitut ominaisuudet ja paljon muuta. Sen on toimittava kaikissa tallennusteknologioissa ja -ympäristöissä – datakeskuksesta reunaan ja pilveen – sekä toimittava tehokkaasti petatavujen tiedosto- ja objektidatamäärien aiheuttamasta raskaasta kuormasta huolimatta.

Kriittiset kysymykset ennen käyttöönottoa

Ennen kuin sidosryhmät investoivat uuteen tekoälyteknologiaan, niiden on koottava voimansa yhteen määrittääkseen tärkeimmät tavoitteet ja rajoitukset, joiden avulla ne aikovat hallita riskejä. Seuraavassa on joitakin huomioitavia kysymyksiä:

1. Mitkä osastot ja/tai käyttötapaukset tuottavat nopeasti hyötyjä ja tarjoavat oppimismahdollisuuksia pienimmällä riskillä?
2. Mitkä ovat tekoälyn käytön tärkeimmät pitkän aikavälin tavoitteet ja odotetut tulokset, erityisesti yritysdatan käytössä tekoälyn kanssa?
3. Miten käyttäjien halutaan voivan olla vuorovaikutuksessa tekoälyjärjestelmien kanssa? Onko käytölle sallittu tiettyjä tekoälytyökaluja, vai voivatko käyttäjät päättää itse? 
4. Mitä sisäisiä käytäntöjä tekoälyn käyttö edellyttää ja miten niiden noudattaminen varmistetaan? Organisaatio voi esimerkiksi haluta määrittää, mitä tekoälytyökaluja työssä saa käyttää ja/tai minkä tyyppistä dataa järjestelmiin saa syöttää. Se voi esimerkiksi haluta rajoittaa johtoryhmän kokousten, tutkimus- ja tuotekehitystilaisuuksien tai tärkeimpien asiakkaiden kanssa käytyjen puheluiden muistiinpanojen käyttöä.
5. Mitä toimialan säädöksiä on noudatettava käytettäessä yritysdataa tekoälyn kanssa?
6. Miten tekoälyn tuottamien tulosten tai johdannaistuotteiden tarkkuus ja lainmukaisuus arvioidaan?
7. Miten johdannaistöitä voidaan hyödyntää sisäisesti tai ulkoisesti?
8. Millaista tekoälyn hallinta- ja tietoturvakehystä tarvitaan, ja mitkä tietoturvateknologian infrastruktuurin puutteet on täytettävä? 
9. Mitkä järjestelmät voivat toimia pilvessä ja mitkä pitäisi säilyttää paikallisina?
10. Miten käyttäjät hakevat, löytävät ja syöttävät yritysdataa tekoälylle?
11. Miten tekoälyn tulos säilytetään?

Oikein käytettynä tekoälyn päättely voi auttaa organisaatioita saavuttamaan merkittävää kilpailuetua. Se voi kuitenkin aiheuttaa myös datariskejä, sillä yrityksen dataa on altistettava. Tekoälyn päättely edellyttää uudenlaista data-arkkitehtuuria, koska perinteinen malli, jossa data ladataan tietovarastoon tai datajärveen ja sitä käsitellään yhdessä paikassa, ei enää toimi. Tekoälyn päättely edellyttää strukturoimattoman datan tehokasta indeksointia, hakua, kuratointia ja siirtämistä tekoälyn hyödynnettäväksi sekä automaattista auditointia ja seurantaa.

Tilaa The CTO Clubin uutiskirje saadaksesi lisää näkemyksiä datasta ja parhaita käytäntöjä.