Afsløring af AI’s skjulte udfordring: Teknisk gæld – et interview med Tony Lee

Teknisk gæld henviser til begrebet inden for softwareudvikling, hvor det at tage genveje, vælge nemme eller hurtige løsninger eller anvende suboptimale udviklingsmetoder på kort sigt kan føre til ekstra arbejde, komplikationer og omkostninger på lang sigt. Denne metaforiske "gæld" akkumuleres, når et projekt prioriterer hurtig levering frem for perfekt kode. 

Ifølge en nylig undersøgelse foretaget af CompTIA blandt hundredvis af it-professionelle udgør teknisk gæld en udfordring for 74 % af organisationerne. Bemærkelsesværdigt betragter 42 % af disse organisationer det som en væsentlig hindring. 

Hypersciences teknologidirektør Tony Lee hævder, at teknisk gæld ikke blot er et biprodukt; det er en afgørende kraft, der kan være udslagsgivende for fremtiden inden for AI-innovation. At ignorere den er som at bygge på et fundament af sand – usikkert og uholdbart. 

Hvilke andre tanker har Tony om teknisk gæld og dens indvirkning på kunstig intelligens? I et nyligt interview delte han råd om håndtering af teknisk gæld og om at sikre, at AI-løsninger forbliver skalerbare og vedligeholdelsesvenlige på lang sigt.

1. Hvad er "teknisk gæld" i forbindelse med den hurtige indførelse af AI, og hvorfor er det en væsentlig bekymring for organisationer, der begiver sig ind på AI-området?

Inden for software henviser teknisk gæld generelt til en akkumulerende gæld, man påtager sig, efterhånden som softwaren ældes, i praksis fra det øjeblik den skrives. Det skyldes, at man ikke forudser fremtidige behov eller træffer bevidste kortsigtede beslutninger for at kunne levere hurtigere.

Selvom teknisk gæld ikke i sig selv er negativ, eftersom implementeret kode ofte er mere værdifuld end perfekt kode, der aldrig ser dagens lys, kræver den omhyggelig håndtering. Hvis den forsømmes, kan den bremse fremtidige udviklingsindsatser og resultere i uhåndterlig kode, hvilket potentielt kan medføre driftsafbrydelser eller fejl, der påvirker kunderne negativt.

I AI-sammenhæng er modeldrift en central manifestation af teknisk gæld. Dette fænomen opstår, når det aktuelle miljø afviger markant fra det miljø, som AI-modellen oprindeligt blev trænet i.

Der findes forskellige former for modeldrift, men et nyere og enkelt eksempel er COVID-19-pandemiens indvirkning på de globale trafikmønstre. Modeller, der var udviklet til at forudsige trafikstrømme før pandemien, ville give meget unøjagtige forudsigelser under nedlukningerne. Andre former for modeldrift er langt mere nuancerede. De kan føre til en langsom forringelse af resultaterne over tid, hvor modellens nøjagtighed gradvist udhules på måder, der måske ikke umiddelbart er synlige for brugerne. 

Et yderligere aspekt af teknisk gæld i maskinlæringssystemer (ML-systemer) opstår, når man overser integrationen af kontinuerlig kvalitetsovervågning og muligheder for genindlæring. Det kan være fristende at gennemføre indledende nøjagtighedstests, når et ML-system implementeres, og derefter fejre resultaterne. Denne tilgang kan dog være problematisk, hvis systemet får lov til at fungere uden løbende kontrol, hvilket kan føre til et gradvist og ubemærket fald i ydeevnen på grund af manglende indbyggede mekanismer til observerbarhed og vedligeholdelse.

I betragtning af den eksplosive interesse for og investering i generativ AI er der risiko for, at nogle organisationer forhastet investerer i dyre løsninger uden en grundig evaluering, hvilket potentielt kan føre til uforudset modeldrift.

Et blik fremad

“Når teknologidirektører lægger strategier for 2024, er det afgørende at prioritere dette spørgsmål. Fraværet af regler, der pålægger leverandører at oplyse om deres træningsdata eller overholde specifikke standarder, gør situationen endnu mere kompleks. Derfor er beslutningstagere nødt til at forstå, hvilke spørgsmål de skal stille, genkende tegn på unøjagtige modeller og vurdere, hvilke investeringer der kan vise sig at blive uforholdsmæssigt dyre på lang sigt.”

2. Omvendt, hvordan kan AI hjælpe med at identificere eller håndtere eksisterende teknisk gæld?

Generative AI-modeller kan bekæmpe teknisk gæld i software ved at overvåge og markere, hvor kode muligvis skal opdateres – og endda udføre opdateringerne autonomt. Selvom menneskelig overvågning fortsat er uundværlig, vil anvendelsen af generativ AI reducere den tid, der kræves for at håndtere teknisk gæld, ved at overtage enkle, men afgørende opgaver såsom datahåndtering. 

3. Hvordan vurderer og håndterer I teknisk gæld i jeres AI-projekter?

Vi har integreret kvalitetssikring af maskinlæring (ML QA) og genindlæringsfunktioner direkte i vores platform for effektivt at håndtere teknisk gæld inden for AI. Det er vigtigt at skabe gennemsigtighed omkring systemets nøjagtighed og automatiseringseffektivitet over tid.

Denne tilgang gør det muligt for mit team løbende at udføre ML-kvalitetssikring og omtræne modellen på platformen efter behov.

Implementér løbende overvågnings- og kvalitetssikringsprocesser for proaktivt at opdage og afhjælpe enhver nyopstået teknisk gæld.

Til ML-kvalitetssikring udtager vi stikprøver af modellens output og opretter kvalitetssikringsopgaver, så brugerne kan validere resultaterne gennem en konsensusmekanisme. Hvis der identificeres fejl, føres denne indsigt tilbage til træningssættet, hvilket forbedrer modellens nøjagtighed og pålidelighed.

4. Hvordan kan organisationer afveje nødvendigheden af hurtige markedsintroduktionsstrategier mod de potentielle risici ved at opbygge teknisk gæld i AI-løsninger?

Organisationer bør med tillid tage nye AI-fremskridt til sig i deres løsninger og finde en balance mellem en rettidig markedsintroduktion og effektiv risikostyring. Ved at integrere datavedligeholdelse og regelmæssig overvågning gennem hele produktets livscyklus kan man i betydelig grad mindske risikoen for at opbygge teknisk gæld og opleve modeldrift. Investeringer i AI kan til tider være risikable, men bør indarbejdes i teknologistakken og kan føre til øget innovation og produktivitet. Sådanne investeringer bør dog foretages efter grundige overvejelser og med en ansvarlig tilgang for at sikre optimale resultater.

5. Hvordan sikrer I, at jeres AI-løsninger forbliver skalerbare og vedligeholdelige på lang sigt, når man tager højde for potentialet for teknisk gæld?

For at sikre, at en løsning forbliver skalerbar og vedligeholdelig, kræves der løbende vedligeholdelse fra teamets side. For at undgå en dyr gennemgribende ombygning bør organisationer etablere en proces med en fast kadence for vedligeholdelse af træningsdata, så modellens nøjagtighed kan overvåges. Det vil være afgørende at bevare menneskeligt tilsyn som en central del af enhver AI- og forretningsstrategi for at undgå modeldrift og dermed yderligere teknisk gæld.

6. Hvordan indregner I omkostningerne ved at håndtere teknisk gæld, når I lægger budget for AI-projekter?

Det afgørende er at begynde med en grundig forståelse af de specifikke behov og begrænsninger i jeres anvendelsestilfælde samt den potentielle indvirkning af teknisk ML-gæld.

• I applikationer som ML-baseret transskription af trykt tekst kan man vurdere, at sandsynligheden for modeldrift er relativt lav. I sådanne tilfælde kan det være tilstrækkeligt at basere sig på lejlighedsvise manuelle kvalitetstjek uden hyppig ML-kvalitetssikring (QA) eller omtræning.
• Brug af ML-modeller til missionskritiske beslutninger som aflæsning af røntgenbilleder i forbindelse med medicinsk behandling kræver en intensiv ML-kvalitetssikringsproces med menneskebaserede kvalitetstjek og omtræning efter behov.

Jeg vil anbefale at begynde med behovene i jeres anvendelsestilfælde, definere kravene og derefter vælge den softwareløsning, der stemmer overens med disse krav, for at sikre den rette balance mellem effektivitet, nøjagtighed og sikkerhed.

7. Hvordan adskiller den tekniske gæld i AI sig fra den i traditionel softwareudvikling, og hvordan tilpasser I jer disse forskelle? 

Som en videreførelse af den tidligere diskussion viser teknisk gæld i AI-systemer sig primært som modeldrift. Det sker, når de træningsdatasæt, som modellerne lærer af, indeholder forudindtaget eller unøjagtig information, hvilket skaber uønskede output.

I modsætning til traditionel teknisk gæld, som primært påvirker systemets hastighed og pålidelighed, kan modeldrift have mere alvorlige konsekvenser, især hvis ekstreme skævheder i træningsdataene ikke håndteres. Det kræver, at organisationer anlægger en anden tilgang end ved traditionel teknisk gæld, da det kræver større opmærksomhed på de nyeste regler og en grundigere kontrol af datakvaliteten. 

Vedtagelse af strategier til modvirkning af modeldrift indebærer en tankegang, der minder om tilgangen til traditionel teknisk gæld.

Et praktisk tiltag er at afsætte en del af teamets ugentlige arbejdstid — måske 20 % — til at fokusere på datahygiejne og dermed i væsentlig grad reducere risikoen for modeldrift.

Ved at prioritere datavedligeholdelse og afsætte tid til disse indsatser mindskes sandsynligheden for, at AI-modeller genererer fejlagtige output, betydeligt.

8. Hvordan ser I forholdet mellem implementering af AI og teknisk gæld udvikle sig i fremtiden?

Den seneste udvikling inden for generative AI-løsninger er kun begyndelsen på vores forhold til teknologien. Da den hurtige udvikling forventes at fortsætte, kan teknologibranchen forvente at arbejde med bedre datasæt til træning af deres modeller.

Efterhånden som systemerne bliver mere komplekse, og der bliver flere data tilgængelige til træning, vil risikoen for teknisk gæld falde, fordi maskinerne producerer nøjagtige og skalerbare output. 

Derudover vil et skift mod større selvregulering af maskiner, under en vis grad af menneskeligt opsyn, sandsynligvis finde sted, efterhånden som generative AI-værktøjer og -platforme fortsætter med at forbedre deres kodningsfunktioner. Menneskelig indgriben vil fortsat være nødvendig for at verificere træningsdata og kode. Det forventes dog, at man i stigende grad vil benytte maskinernes autonomi til rutinemæssige kontroller.

Denne udvikling vil føre til omkostningsreduktioner, efterhånden som organisationer i stigende grad gør brug af banebrydende AI til at afhjælpe teknisk gæld. Det afhænger af tilgængeligheden af en bred vifte af data, hvoraf meget endnu ikke er bredt tilgængeligt.

Afvejning af kortsigtede gevinster mod langsigtede omkostninger

Ligesom finansiel gæld påløber teknisk gæld "renter" over tid — hvis den ikke håndteres, kan det føre til større udfordringer med vedligeholdelse, forringet kodekvalitet og mere komplekse opgraderinger eller rettelser i fremtiden. Begrebet understreger afvejningen mellem kortsigtede fordele og langsigtede omkostninger ved udvikling og vedligeholdelse af software.

Vil du vide mere?

Hvis du er interesseret i at lære mere om teknisk gæld og kunstig intelligens' fremtid, kan du abonnere på vores nyhedsbrev for at få de seneste teknologiske indsigter. 

Vi hjælper dig med at skalere smartere og lede stærkere med vejledninger, AI-ressourcer og strategier fra førende eksperter!