Tekoälyn piilevän haasteen selvittäminen: tekninen velka – haastattelu Tony Leen kanssa

Tekninen velka viittaa ohjelmistokehityksessä käsitteeseen, jossa oikoteiden käyttäminen, helppojen tai nopeiden korjausten valitseminen tai optimaalista heikompien kehityskäytäntöjen hyödyntäminen lyhyellä aikavälillä voi johtaa lisätyöhön, komplikaatioihin ja kustannuksiin pitkällä aikavälillä. Tämä vertauskuvallinen ”velka” kertyy, kun projektissa asetetaan nopea toimitus täydellisen koodin edelle. 

CompTIAn äskettäisen, satoja IT-ammattilaisia käsittäneen kyselyn mukaan tekninen velka on haaste 74 prosentille organisaatioista. Huomionarvoista on, että 42 prosenttia näistä organisaatioista pitää sitä merkittävänä esteenä. 

Hypersciencen teknologiajohtaja Tony Lee painottaa, että tekninen velka ei ole vain sivutuote, vaan ratkaiseva voima, joka voi määrittää tekoälyinnovaatioiden tulevaisuuden onnistumisen tai epäonnistumisen. Sen sivuuttaminen on kuin rakentaisi hiekalle – epävarmaa ja kestämätöntä. 

Mitä muuta Tony ajattelee teknisestä velasta ja sen vaikutuksesta tekoälyyn? Äskettäisessä haastattelussa hän jakoi neuvoja teknisen velan hallintaan ja sen varmistamiseen, että tekoälyratkaisut säilyvät skaalautuvina ja ylläpidettävinä pitkällä aikavälillä.

1. Mitä ”tekninen velka” tarkoittaa tekoälyn nopean käyttöönoton yhteydessä, ja miksi se on merkittävä huolenaihe tekoälyn pariin siirtyville organisaatioille?

Ohjelmistoissa tekninen velka tarkoittaa yleensä kertyvää velkaa, jota syntyy ohjelmiston ikääntyessä käytännössä heti sen kirjoittamisesta lähtien. Se johtuu siitä, ettei tulevia tarpeita ole ennakoitu tai että on tietoisesti tehty lyhyen aikavälin päätöksiä nopeamman julkaisun saavuttamiseksi.

Vaikka tekninen velka ei ole luonnostaan kielteinen asia, sillä julkaistu koodi on usein arvokkaampaa kuin täydellinen koodi, joka ei koskaan pääse tuotantoon, se vaatii huolellista hallintaa. Jos se laiminlyödään, se voi hidastaa tulevia kehityshankkeita ja johtaa hankalasti hallittavaan koodiin, mikä saattaa aiheuttaa käyttökatkoja tai virheitä, jotka vaikuttavat haitallisesti asiakkaisiin.

Tekoälyn yhteydessä yksi teknisen velan keskeisistä ilmenemismuodoista on mallin ajautuminen. Tätä ilmiötä esiintyy, kun nykyinen toimintaympäristö poikkeaa merkittävästi siitä, jossa tekoälymalli alun perin koulutettiin.

Vaikka mallin ajautumista on monenlaista, tuore ja yksinkertainen esimerkki on COVID-19-pandemian vaikutus maailmanlaajuisiin liikennemalleihin. Ennen pandemiaa liikennevirtojen ennustamiseen kehitetyt mallit olisivat tuottaneet erittäin epätarkkoja ennusteita sulkutoimien aikana. Muut mallin ajautumisen muodot ovat paljon hienovaraisempia. Ne voivat johtaa tulosten hitaaseen heikkenemiseen ajan myötä ja kuluttaa vähitellen mallin tarkkuutta tavoilla, jotka eivät välttämättä näy käyttäjille heti. 

Toinen koneoppimisjärjestelmien tekniseen velkaan liittyvä näkökulma syntyy siitä, että jatkuvan laadunvalvonnan ja uudelleenkoulutusominaisuuksien integrointi jätetään huomiotta. Käyttöönoton yhteydessä on houkuttelevaa tehdä koneoppimisjärjestelmän ensimmäiset tarkkuustestit ja juhlia sitten tuloksia. Tämä lähestymistapa voi kuitenkin olla ongelmallinen, jos järjestelmän annetaan toimia ilman jatkuvaa seurantaa. Tällöin suorituskyky voi heikentyä vähitellen ja huomaamatta, koska järjestelmään ei ole rakennettu näkyvyyttä eikä ylläpitomekanismeja.

Kun kiinnostus ja investoinnit generatiiviseen tekoälyyn ovat kasvaneet räjähdysmäisesti, on olemassa riski, että jotkin organisaatiot investoivat hätiköidysti kalliisiin ratkaisuihin ilman perusteellista arviointia, mikä voi johtaa odottamattomaan mallin ajautumiseen.

Ennakointi

“Kun teknologiajohtajat suunnittelevat vuotta 2024, tämän asian asettaminen etusijalle on ratkaisevan tärkeää. Tilannetta vaikeuttaa entisestään se, ettei ole säännöksiä, jotka velvoittaisivat toimittajia ilmoittamaan koulutustietonsa tai noudattamaan tiettyjä standardeja. Siksi päätöksentekijöiden on ymmärrettävä, mitä oikeita kysymyksiä esittää, tunnistettava mallien epätarkkuuksien merkit ja erotettava investoinnit, jotka saattavat pitkällä aikavälillä osoittautua liian kalliiksi.”

2. Vastaavasti, miten tekoäly voi auttaa tunnistamaan tai hallitsemaan olemassa olevaa teknistä velkaa?

Generatiiviset tekoälymallit voivat torjua ohjelmistojen teknistä velkaa valvomalla ja ilmoittamalla, missä koodia on ehkä päivitettävä – ja tekemällä päivitykset jopa itsenäisesti. Vaikka ihmisen valvonta on edelleen välttämätöntä, generatiivisen tekoälyn hyödyntäminen vähentää teknisen velan käsittelyyn tarvittavaa aikaa ottamalla hoitaakseen yksinkertaisia mutta ratkaisevan tärkeitä tehtäviä, kuten tiedonhallintaa. 

3. Miten arvioitte ja hallitsette teknistä velkaa tekoälyprojekteissanne?

Olemme integroineet koneoppimisen laadunvarmistuksen (ML QA) ja uudelleenkoulutusominaisuudet suoraan alustallemme voidaksemme hallita tekoälyn teknistä velkaa tehokkaasti. On tärkeää tarjota läpinäkyvyyttä järjestelmän tarkkuudesta ja automaation tehokkuudesta ajan mittaan.

Tämä lähestymistapa antaa tiimilleni mahdollisuuden suorittaa jatkuvaa ML-laadunvarmistusta ja uudelleenkouluttaa mallia alustalla tarpeen mukaan.

Ota käyttöön jatkuvan valvonnan ja laadunvarmistuksen prosessit, jotta voit havaita ja lieventää ennakoivasti mahdollisesti syntyvää teknistä velkaa.

ML-laadunvarmistusta varten otamme otoksen mallin tuottamista tuloksista ja luomme laadunvarmistustehtäviä, joiden avulla käyttäjät voivat validoida tulokset konsensusmekanismin kautta. Jos virheitä havaitaan, nämä havainnot syötetään takaisin koulutusdataan, mikä parantaa mallin tarkkuutta ja luotettavuutta.

4. Miten organisaatiot voivat tasapainottaa markkinoillemenostrategioiden kiireellisyyden ja tekoälyratkaisuihin kertyvän teknisen velan mahdolliset riskit?

Organisaatioiden tulisi omaksua uudet tekoälyn edistysaskeleet luottavaisin mielin ratkaisuissaan ja löytää tasapaino oikea-aikaisen markkinoillemenon ja tehokkaan riskienhallinnan välillä. Datan ylläpidon ja säännöllisen valvonnan sisällyttäminen koko tuotteen elinkaaren ajalle voi merkittävästi vähentää teknisen velan kertymisen ja mallin ajautumisen riskiä. Tekoälyyn investoiminen voi toisinaan olla riskialtista, mutta se tulisi ottaa osaksi teknologiapinoja, sillä se voi johtaa innovaatioihin ja tuottavuuden kasvuun. Tällaiset investoinnit tulisi kuitenkin tehdä harkiten ja vastuullisesti optimaalisten tulosten varmistamiseksi.

5. Miten varmistatte tekoälyratkaisujenne skaalautuvuuden ja ylläpidettävyyden pitkällä aikavälillä, kun otetaan huomioon teknisen velan mahdollisuus?

Ratkaisun skaalautuvuuden ja ylläpidettävyyden varmistaminen edellyttää jatkuvaa tiimin tekemää ylläpitoa. Kalliin kokonaisuudistuksen välttämiseksi organisaatioiden tulisi luoda prosessi, jossa koulutusdataa ylläpidetään säännöllisesti ja mallin tarkkuutta valvotaan. Ihmisen valvonnan pitäminen keskeisenä osana jokaista tekoäly- ja liiketoimintastrategiaa on ratkaisevan tärkeää mallin ajautumisen ja sitä kautta teknisen velan lisääntymisen välttämiseksi.

6. Miten huomioitte teknisen velan käsittelyn kustannukset tekoälyprojektien budjetoinnissa?

Keskeistä on aloittaa perehtymällä perusteellisesti käyttötapauksen erityistarpeisiin ja rajoitteisiin sekä ML-teknisen velan mahdollisiin vaikutuksiin.

• Painetun tekstin ML-pohjaisen transkription kaltaisissa sovelluksissa saatatte todeta, että mallin ajautumisen todennäköisyys on suhteellisen pieni. Tällaisissa tapauksissa satunnaiset manuaaliset laatutarkistukset ilman usein suoritettavaa ML-laadunvarmistusta (QA) tai uudelleenkoulutusta voivat riittää.
• ML-mallien käyttäminen kriittisten päätösten, kuten röntgenkuvien tulkitsemisen lääketieteellistä hoitoa varten, tekemiseen edellyttää aktiivista ML-laadunvarmistusprosessia, johon kuuluu ihmisten tekemiä laatutarkistuksia ja uudelleenkoulutusta tarpeen mukaan.

Suosittelen aloittamaan käyttötapauksenne tarpeista, määrittelemään vaatimukset ja valitsemaan sitten näiden vaatimusten mukaisen ohjelmistoratkaisun, jotta tehokkuuden, tarkkuuden ja turvallisuuden välille löydetään oikea tasapaino.

7. Miten tekoälyn tekninen velka eroaa perinteisen ohjelmistokehityksen teknisestä velasta, ja miten mukautatte toimintaanne näihin eroihin? 

Aiemman keskustelun pohjalta tekoälyjärjestelmien tekninen velka ilmenee ensisijaisesti mallin ajautumisena. Näin tapahtuu, kun mallien oppimat koulutusaineistot sisältävät puolueellista tai virheellistä tietoa, mikä johtaa ei-toivottuihin tuloksiin.

Toisin kuin perinteinen tekninen velka, joka vaikuttaa ensisijaisesti järjestelmän nopeuteen ja luotettavuuteen, mallin ajautumisella voi olla vakavampia seurauksia, erityisesti jos koulutusdatan äärimmäisiin vinoumiin ei puututa. Tämä edellyttää organisaatioilta erilaista lähestymistapaa kuin perinteisen teknisen velan kohdalla, sillä uusimpiin säädöksiin on kiinnitettävä enemmän huomiota ja datan laatua on tarkasteltava perusteellisemmin. 

Toimenpiteiden käyttöönotto mallin ajautumisen torjumiseksi edellyttää perinteisen teknisen velan käsittelyä muistuttavaa ajattelutapaa.

Käytännöllinen toimenpide on varata osa tiimin viikoittaisesta työajasta — esimerkiksi 20 % — datan laadun ylläpitämiseen ja mallin ajautumisen riskin merkittävään vähentämiseen.

Asettamalla datan ylläpidon etusijalle ja varaamalla aikaa näihin toimiin voidaan merkittävästi pienentää todennäköisyyttä, että tekoälymallit tuottavat virheellisiä tuloksia.

8. Miten näette tekoälyn käyttöönoton ja teknisen velan välisen suhteen kehittyvän tulevaisuudessa?

Generatiivisten tekoälyratkaisujen viimeaikainen kehitys on vasta suhteemme teknologiaan alkuvaiheessa. Koska nopean kehityksen ennustetaan jatkuvan, teknologia-ala voi odottaa työskentelevänsä entistä parempien aineistojen kanssa malliensa kouluttamiseksi.

Järjestelmien monimutkaistuessa ja koulutukseen käytettävän datan määrän kasvaessa teknisen velan riski pienenee, kun koneet tuottavat tarkkoja ja skaalautuvia tuloksia. 

Lisäksi kun generatiiviset tekoälytyökalut ja -alustat kehittävät jatkuvasti koodausominaisuuksiaan, on todennäköistä, että koneet siirtyvät kohti suurempaa itsesääntelyä jonkinasteisessa ihmisen valvonnassa. Ihmisen osallistuminen on edelleen tarpeen koulutusdatan ja koodin tarkistamisessa. Rutiininomaisissa tarkistuksissa koneiden autonomiaan turvautumisesta odotetaan kuitenkin tulevan yhä tavanomaisempaa.

Tämä kehitys johtaa kustannusten alenemiseen, kun organisaatiot turvautuvat yhä enemmän huippuluokan tekoälyyn teknisen velan vähentämiseksi. Tämän onnistuminen riippuu monipuolisen datavalikoiman saatavuudesta, josta suuri osa ei ole vielä laajalti saatavilla.

Lyhyen aikavälin hyötyjen tasapainottaminen pitkän aikavälin kustannusten kanssa

Taloudellisen velan tavoin tekninen velka kerryttää ajan mittaan ”korkoa” — jos siihen ei puututa, se voi johtaa kasvaviin ylläpidon haasteisiin, koodin laadun heikkenemiseen sekä monimutkaisempiin päivityksiin tai korjauksiin tulevaisuudessa. Käsite korostaa ohjelmistokehityksessä ja -ylläpidossa tehtävää kompromissia lyhyen aikavälin hyötyjen ja pitkän aikavälin kustannusten välillä.

Haluatko lisää?

Jos haluat oppia lisää teknisestä velasta ja tekoälyn tulevaisuudesta, tilaa uutiskirjeemme ja pysy ajan tasalla teknologia-alan uusimmista näkemyksistä. 

Autamme sinua kasvattamaan liiketoimintaasi älykkäämmin ja johtamaan vahvemmin oppaiden, tekoälyresurssien ja alan huippuasiantuntijoiden strategioiden avulla!