Att reda ut AI’s dolda utmaning: teknisk skuld – en intervju med Tony Lee
Teknisk skuld syftar på konceptet inom programvaruutveckling där genvägar, enkla eller snabba lösningar eller suboptimala utvecklingsmetoder på kort sikt kan leda till merarbete, komplikationer och kostnader på lång sikt. Denna metaforiska ”skuld” ackumuleras när ett projekt prioriterar snabb leverans framför perfekt kod.
Enligt en nyligen genomförd undersökning av CompTIA, som omfattade hundratals IT-specialister, utgör teknisk skuld en utmaning för 74 % av organisationerna. Anmärkningsvärt nog anser 42 % av dessa organisationer att den utgör ett betydande hinder.
Hypersciences teknikchef Tony Lee hävdar att teknisk skuld inte bara är en biprodukt; den är en avgörande kraft som kan avgöra framtiden för AI-innovationer. Att ignorera den är som att bygga på en grund av sand – osäkert och ohållbart.
Continue Reading for Free
Create a free account to finish this article, plus get ongoing access to timely insights and practical resources.
Have an account? Log In
Vilka andra tankar har Tony om teknisk skuld och dess inverkan på artificiell intelligens? I en nyligen genomförd intervju delade han med sig av råd om hur man hanterar teknisk skuld och säkerställer att AI-lösningar förblir skalbara och underhållbara på lång sikt.
1. I samband med det snabba införandet av AI, vad är ”teknisk skuld” och varför är det en betydande oro för organisationer som satsar på AI?
Inom programvara syftar teknisk skuld vanligtvis på en skuld som ackumuleras när programvaran åldras, i princip från det ögonblick då den skrivs. Detta beror på att man inte förutser framtida behov eller fattar medvetna kortsiktiga beslut för att kunna leverera snabbare.
Även om teknisk skuld inte är något negativt i sig, eftersom driftsatt kod ofta är mer värdefull än perfekt kod som aldrig tas i bruk, kräver den noggrann hantering. Om den försummas kan den bromsa framtida utvecklingsinsatser och resultera i svårhanterlig kod, vilket potentiellt kan orsaka driftstopp eller defekter som påverkar kunderna negativt.
I AI-sammanhang är modellförskjutning ett viktigt uttryck för teknisk skuld. Detta fenomen uppstår när den aktuella miljön skiljer sig avsevärt från den miljö där AI-modellen ursprungligen tränades.
Det finns olika typer av modellförskjutning, men ett aktuellt och enkelt exempel är covid-19-pandemins påverkan på globala trafikmönster. Modeller som utvecklats för att prognostisera trafikflöden före pandemin skulle ha gett mycket inexakta förutsägelser under nedstängningarna. Andra former av modellförskjutning är betydligt mer subtila. De kan leda till en långsam försämring av resultaten över tid och gradvis urholka modellens noggrannhet på sätt som kanske inte omedelbart märks för användarna.
En ytterligare aspekt av teknisk skuld i system för maskininlärning (ML) uppstår när man förbiser integreringen av kontinuerlig kvalitetsövervakning och möjligheter till omträning. Det är frestande att genomföra inledande noggrannhetstester när ett ML-system tas i drift och sedan glädjas åt resultaten. Detta tillvägagångssätt kan dock vara problematiskt om systemet lämnas att fungera utan kontinuerlig granskning, vilket leder till en gradvis och oupptäckt försämring av prestandan på grund av avsaknaden av inbyggda mekanismer för observerbarhet och underhåll.
Med tanke på det explosionsartade intresset för och investeringarna i generativ AI finns det en risk att vissa organisationer gör förhastade investeringar i kostsamma lösningar utan grundlig utvärdering, vilket potentiellt kan leda till oförutsedd modellförskjutning.
2. Omvänt, hur kan AI hjälpa till att identifiera eller hantera befintlig teknisk skuld?
Generativa AI-modeller kan motverka teknisk skuld i programvara genom att övervaka och flagga kod som kan behöva uppdateras – och till och med utföra uppdateringarna autonomt. Även om mänsklig övervakning fortfarande är oumbärlig kommer användningen av generativ AI att minska den tid som krävs för att hantera teknisk skuld genom att ta över enkla men viktiga uppgifter, såsom datahantering.
3. Hur bedömer och hanterar ni teknisk skuld inom era AI-projekt?
Vi har integrerat kvalitetssäkring för maskininlärning (ML QA) och funktioner för omträning direkt i vår plattform för att effektivt hantera teknisk skuld inom AI. Det är viktigt att skapa transparens kring systemets noggrannhet och automatiseringseffektivitet över tid.
Detta tillvägagångssätt gör det möjligt för mitt team att kontinuerligt genomföra ML QA och träna om modellen inom plattformen vid behov.
Implementera kontinuerliga processer för övervakning och kvalitetssäkring för att proaktivt upptäcka och begränsa framväxande teknisk skuld.
För ML QA tar vi stickprov av modellens resultat och skapar QA-uppgifter, vilket gör det möjligt för användare att validera resultaten genom en konsensusmekanism. Om fel identifieras återförs dessa insikter till träningsmängden, vilket förbättrar modellens precision och tillförlitlighet.
4. Hur kan organisationer balansera brådskan i strategier för marknadslansering med de potentiella riskerna med att bygga upp teknisk skuld i AI-lösningar?
Organisationer bör med förtroende ta till sig nya AI-framsteg i sina lösningar och hitta en balans mellan en snabb marknadslansering och effektiv riskhantering. Genom att integrera dataunderhåll och regelbunden övervakning under hela produktlivscykeln kan risken för att teknisk skuld byggs upp och att modellförskjutning uppstår minskas avsevärt. Investeringar i AI kan visserligen vara riskfyllda ibland, men bör omfamnas i teknikstackar och kan leda till innovations- och produktivitetsvinster. Sådana investeringar bör dock göras efter noggrant övervägande och på ett ansvarsfullt sätt för att säkerställa optimala resultat.
5. Hur säkerställer ni att era AI-lösningar förblir skalbara och underhållsbara på lång sikt, med hänsyn till risken för teknisk skuld?
För att säkerställa att en lösning förblir skalbar och underhållbar krävs kontinuerligt underhåll av teamet. För att undvika en kostsam total översyn bör organisationer skapa en process med en regelbunden takt för underhåll av träningsdata, så att modellens precision kan övervakas. Att behålla mänsklig tillsyn som en central del av varje AI- och affärsstrategi kommer att vara avgörande för att undvika modellförskjutning och därmed ytterligare teknisk skuld.
6. Hur tar ni hänsyn till kostnaderna för att hantera teknisk skuld när ni budgeterar för AI-projekt?
Det viktiga är att börja med att noggrant förstå de specifika behoven och begränsningarna i ert användningsfall, tillsammans med den potentiella påverkan av teknisk skuld inom ML.
- I tillämpningar som ML-baserad transkribering av tryckt text kan ni komma fram till att sannolikheten för modellförskjutning är relativt låg. I sådana fall kan det räcka att förlita sig på manuella kvalitetskontroller då och då, utan frekvent ML-kvalitetssäkring (QA) eller omträning.
- Att använda ML-modeller för att fatta verksamhetskritiska beslut, som att tolka röntgenbilder för medicinsk behandling, kräver en aggressiv ML QA-process med människobaserade kvalitetskontroller och omträning vid behov.
Jag rekommenderar att ni börjar med behoven i ert användningsfall, definierar kraven och därefter väljer den programvarulösning som motsvarar dessa krav för att säkerställa rätt balans mellan effektivitet, precision och säkerhet.
7. Hur skiljer sig den tekniska skulden inom AI från den inom traditionell programvaruutveckling, och hur anpassar ni er till dessa skillnader?
Som en fortsättning på den tidigare diskussionen visar sig teknisk skuld i AI-system främst som modellförskjutning. Detta inträffar när de träningsdata som modellerna lär sig från innehåller partisk eller felaktig information, vilket skapar oönskade resultat.
Till skillnad från traditionell teknisk skuld, som främst påverkar systemets hastighet och tillförlitlighet, kan modellförskjutning få allvarligare konsekvenser, särskilt om extrema skevheter i träningsdata förblir obehandlade. Detta kräver att organisationer använder ett annat angreppssätt än vid traditionell teknisk skuld, eftersom det kräver större uppmärksamhet på de senaste regelverken och noggrann granskning av datakvaliteten.
Att införa strategier för att motverka modellförskjutning innebär ett tankesätt som liknar det vid hantering av traditionell teknisk skuld.
En praktisk åtgärd är att avsätta en del av teamets veckoschema — kanske 20 % — för att fokusera på datahygien och avsevärt minska risken för modellförskjutning.
Genom att prioritera dataunderhåll och avsätta tid för dessa insatser minimeras sannolikheten avsevärt för att AI-modeller genererar felaktiga resultat.
8. Hur ser ni på att relationen mellan AI-implementering och teknisk skuld kommer att utvecklas i framtiden?
Den senaste utvecklingen inom generativa AI-lösningar är bara början på vår relation till tekniken. Eftersom den snabba utvecklingen förväntas fortsätta kan teknikbranschen räkna med att arbeta med bättre datamängder för att träna sina modeller.
När systemen blir mer komplexa och mer data blir tillgänglig för träning kommer risken för teknisk skuld att minska, eftersom maskinerna producerar korrekta och skalbara resultat.
Dessutom är det sannolikt att en utveckling mot större självreglering av maskiner, under någon grad av mänsklig tillsyn, kommer att ske i takt med att generativa AI-verktyg och plattformar fortsätter att förbättra sin kodningsförmåga. Mänsklig inblandning kommer fortfarande att behövas för att verifiera träningsdata och kod. Beroendet av maskinell autonomi för rutinmässiga kontroller förväntas dock bli allt vanligare.
Denna utveckling kommer att leda till kostnadsminskningar när organisationer i allt högre grad förlitar sig på banbrytande AI för att hantera teknisk skuld. För att uppnå detta krävs tillgång till ett varierat utbud av data, varav mycket ännu inte är brett tillgängligt.
Att balansera kortsiktiga vinster med långsiktiga kostnader
Precis som finansiella skulder medför teknisk skuld "ränta" över tid — om den inte hanteras kan den leda till ökade underhållsutmaningar, försämrad kodkvalitet och mer komplexa uppgraderingar eller korrigeringar i framtiden. Begreppet belyser avvägningen mellan kortsiktiga fördelar och långsiktiga kostnader inom programvaruutveckling och underhåll.
Vill du veta mer?
Om du vill lära dig mer om teknisk skuld och framtiden för artificiell intelligens kan du prenumerera på vårt nyhetsbrev för de senaste teknikinsikterna.
Vi hjälper dig att växa smartare och leda starkare med guider, AI-resurser och strategier från ledande experter!
