De verborgen uitdaging van AI ontrafeld: technische schuld – een interview met Tony Lee
Technische schuld verwijst naar het concept in softwareontwikkeling waarbij het nemen van kortere routes, kiezen voor eenvoudige of snelle oplossingen of toepassen van suboptimale ontwikkelpraktijken op korte termijn kan leiden tot extra werk, complicaties en kosten op lange termijn. Deze metaforische ‘schuld’ stapelt zich op wanneer een project snelle oplevering verkiest boven perfecte code.
Volgens een recent onderzoek van CompTIA onder honderden IT-professionals vormt technische schuld een uitdaging voor 74% van de organisaties. Opvallend is dat 42% van deze organisaties dit als een aanzienlijke belemmering beschouwt.
Hyperscience-CTO Tony Lee stelt dat technische schuld niet slechts een bijproduct is; het is een bepalende kracht die de toekomst van AI-innovaties kan maken of breken. Het negeren ervan is alsof je bouwt op een fundament van zand – precair en onhoudbaar.
Want more from The CTO Club?
Create a free account to finish this piece and join a community of CTOs and engineering leaders sharing real-world frameworks, tools, and insights for designing, deploying, and scaling AI-driven technology.
Have an account? Log In
Welke andere gedachten heeft Tony over technische schuld en de impact ervan op kunstmatige intelligentie? In een recent interview deelde hij advies over het beheren van technische schuld en het waarborgen dat AI-oplossingen op lange termijn schaalbaar en onderhoudbaar blijven.
1. Wat is ‘technische schuld’ in de context van de snelle adoptie van AI, en waarom is dit een belangrijk aandachtspunt voor organisaties die zich op AI gaan richten?
In software verwijst technische schuld over het algemeen naar een schuld die zich opbouwt naarmate software ouder wordt, in wezen vanaf het moment waarop deze wordt geschreven. Dit ontstaat doordat er geen rekening wordt gehouden met toekomstige behoeften of doordat er bewust kortetermijnbeslissingen worden genomen om sneller te kunnen opleveren.
Hoewel technische schuld niet inherent negatief is, omdat geïmplementeerde code vaak waardevoller is dan perfecte code die nooit het daglicht ziet, vereist deze wel zorgvuldig beheer. Als technische schuld wordt verwaarloosd, kan dit toekomstige ontwikkelinspanningen vertragen en leiden tot onhandelbare code, wat mogelijk storingen of defecten veroorzaakt die klanten nadelig beïnvloeden.
In de context van AI is modelverschuiving een belangrijke uiting van technische schuld. Dit verschijnsel doet zich voor wanneer de huidige omgeving aanzienlijk afwijkt van de omgeving waarin het AI-model oorspronkelijk is getraind.
Hoewel er verschillende soorten modelverschuiving bestaan, is de impact van de COVID-19-pandemie op wereldwijde verkeerspatronen een recent en duidelijk voorbeeld. Modellen die vóór de pandemie waren ontwikkeld om verkeersstromen te voorspellen, zouden tijdens de lockdowns zeer onnauwkeurige voorspellingen opleveren. Andere vormen van modelverschuiving zijn veel subtieler. Ze kunnen in de loop der tijd leiden tot een geleidelijke verslechtering van de resultaten, waardoor de nauwkeurigheid van het model langzaam afneemt op manieren die gebruikers mogelijk niet direct opmerken.
Een ander aspect van technische schuld in machineleersystemen (ML) ontstaat doordat de integratie van continue kwaliteitsbewaking en mogelijkheden voor hertraining over het hoofd wordt gezien. Het is verleidelijk om bij de implementatie van een ML-systeem eenmalige nauwkeurigheidstests uit te voeren en deze resultaten vervolgens te vieren. Deze aanpak kan echter problematisch zijn wanneer het systeem zonder voortdurende controle blijft werken, waardoor de prestaties geleidelijk en onopgemerkt afnemen door het ontbreken van ingebouwde mechanismen voor observeerbaarheid en onderhoud.
Gezien de enorme belangstelling voor en investeringen in generatieve AI, bestaat het risico dat sommige organisaties overhaast investeren in kostbare oplossingen zonder grondige evaluatie, wat mogelijk leidt tot onvoorziene modelverschuiving.
2. Hoe kan AI daarentegen helpen bij het identificeren of beheren van bestaande technische schuld?
Generatieve AI-modellen kunnen technische schuld in software bestrijden door te bewaken en te signaleren waar code moet worden bijgewerkt – en de updates zelfs autonoom uit te voeren. Hoewel menselijk toezicht onmisbaar blijft, zal het gebruik van generatieve AI de tijd die nodig is om technische schuld aan te pakken verkorten door eenvoudige maar cruciale taken, zoals gegevensbeheer, over te nemen.
3. Hoe beoordeel en beheer je technische schuld binnen je AI-projecten?
We hebben kwaliteitsborging voor machine learning (ML QA) en mogelijkheden voor hertraining rechtstreeks in ons platform geïntegreerd om technische schuld in AI effectief te beheren. Het is belangrijk om in de loop der tijd transparantie te bieden over de nauwkeurigheid van het systeem en de efficiëntie van de automatisering.
Deze aanpak stelt mijn team in staat om voortdurend ML QA uit te voeren en het model indien nodig binnen het platform opnieuw te trainen.
Implementeer processen voor voortdurende monitoring en kwaliteitsborging om opkomende technische schuld proactief te detecteren en beperken.
Voor ML QA nemen we steekproeven van de modeluitvoer en maken we QA-taken aan, zodat gebruikers de resultaten via een consensusmechanisme kunnen valideren. Als er fouten worden vastgesteld, worden deze inzichten teruggevoerd naar de trainingsset, waardoor de nauwkeurigheid en betrouwbaarheid van het model verbeteren.
4. Hoe kunnen organisaties de urgentie van marktintroductiestrategieën in evenwicht brengen met de potentiële risico's van het opbouwen van technische schuld in AI-oplossingen?
Organisaties moeten nieuwe AI-ontwikkelingen vol vertrouwen in hun oplossingen omarmen en daarbij een balans vinden tussen een tijdige marktintroductie en effectief risicobeheer. Door gedurende de gehele levenscyclus van het product gegevensonderhoud en regelmatige monitoring op te nemen, kan het risico op het opbouwen van technische schuld en het optreden van modelverschuiving aanzienlijk worden verkleind. Investeren in AI brengt soms risico's met zich mee, maar moet in technologiestacks worden omarmd en kan leiden tot verbeteringen in innovatie en productiviteit. Dergelijke investeringen moeten echter weloverwogen en op verantwoorde wijze worden gedaan om optimale resultaten te garanderen.
5. Hoe zorgt u ervoor dat uw AI-oplossingen op de lange termijn schaalbaar en onderhoudbaar blijven, rekening houdend met de mogelijkheid van technische schuld?
Om ervoor te zorgen dat een oplossing schaalbaar en onderhoudbaar blijft, is voortdurend onderhoud door het team vereist. Om een kostbare herziening te voorkomen, moeten organisaties een proces opzetten met een vaste frequentie voor het onderhouden van trainingsgegevens, zodat de nauwkeurigheid van het model kan worden gecontroleerd. Menselijk toezicht als cruciaal onderdeel van elke AI- en bedrijfsstrategie behouden, is van essentieel belang om modelverschuiving en daarmee meer technische schuld te voorkomen.
6. Hoe houdt u bij het budgetteren van AI-projecten rekening met de kosten voor het aanpakken van technische schuld?
De sleutel is om te beginnen met een grondig begrip van de specifieke behoeften en beperkingen van uw gebruikssituatie, evenals van de mogelijke impact van technische ML-schuld.
- Bij toepassingen zoals ML-gebaseerde transcriptie van gedrukte tekst kunt u vaststellen dat de kans op modelverschuiving relatief klein is. In dergelijke gevallen kan het voldoende zijn om af en toe handmatige kwaliteitscontroles uit te voeren zonder frequente ML-kwaliteitsborging (QA) of bijscholing.
- Voor het gebruik van ML-modellen bij bedrijfskritieke beslissingen, zoals het lezen van röntgenfoto's voor medische behandelingen, is een intensief ML QA-proces met menselijke kwaliteitscontroles en waar nodig hertraining vereist.
Ik raad aan om te beginnen met de behoeften van uw gebruikssituatie, de vereisten vast te stellen en vervolgens de softwareoplossing te kiezen die daarop aansluit, om zo de juiste balans tussen efficiëntie, nauwkeurigheid en veiligheid te garanderen.
7. Hoe verschilt de technische schuld in AI van die in traditionele softwareontwikkeling, en hoe past u zich aan deze verschillen aan?
Voortbouwend op de eerdere bespreking manifesteert technische schuld in AI-systemen zich voornamelijk als modelverschuiving. Dit gebeurt wanneer de trainingsdatasets waarvan modellen leren bevooroordeelde of onnauwkeurige informatie bevatten, waardoor ongewenste uitvoer ontstaat.
In tegenstelling tot traditionele technische schuld, die voornamelijk de systeemsnelheid en betrouwbaarheid beïnvloedt, kan modelverschuiving ernstigere gevolgen hebben, vooral als extreme vooroordelen in de trainingsgegevens niet worden aangepakt. Dit vereist dat organisaties een andere aanpak hanteren dan bij traditionele technische schuld, omdat er strikter moet worden gelet op de nieuwste regelgeving en de kwaliteit van de gegevens.
Het toepassen van strategieën om modelverschuiving tegen te gaan, vereist een mentaliteit die vergelijkbaar is met de aanpak van traditionele technische schuld.
Een praktische maatregel is om een deel van de wekelijkse werktijd van het team — bijvoorbeeld 20% — toe te wijzen aan gegevenshygiëne, om het risico op modelverschuiving aanzienlijk te verkleinen.
Door prioriteit te geven aan gegevensonderhoud en tijd aan deze inspanningen te besteden, wordt de kans aanzienlijk kleiner dat AI-modellen onjuiste uitvoer genereren.
8. Hoe ziet u de relatie tussen de implementatie van AI en technische schuld zich in de toekomst ontwikkelen?
De recente ontwikkelingen op het gebied van generatieve AI-oplossingen vormen nog maar het begin van onze relatie met deze technologie. Naar verwachting zal de snelle vooruitgang zich voortzetten, waardoor de technologiesector met betere datasets kan werken om modellen te trainen.
Naarmate systemen complexer worden en er meer gegevens beschikbaar komen voor training, zal het risico op technische schuld afnemen, omdat de machines nauwkeurige, schaalbare uitvoer produceren.
Bovendien is een verschuiving naar meer zelfregulering door machines, onder een bepaalde mate van menselijk toezicht, waarschijnlijk naarmate generatieve AI-tools en -platforms hun programmeermogelijkheden verder verfijnen. Menselijke tussenkomst blijft noodzakelijk voor het verifiëren van trainingsgegevens en code. Er wordt echter verwacht dat het steeds gebruikelijker wordt om voor routinematige controles te vertrouwen op machineautonomie.
Deze evolutie zal leiden tot kostenbesparingen, omdat organisaties steeds meer afhankelijk worden van geavanceerde AI om technische schuld te beperken. Om dit te bereiken, is de beschikbaarheid van een breed scala aan gegevens essentieel, waarvan een groot deel nog niet algemeen toegankelijk is.
Kortetermijnwinst afwegen tegen langetermijnkosten
Net als financiële schuld brengt technische schuld na verloop van tijd "rente" met zich mee — als deze niet wordt aangepakt, kan dit in de toekomst leiden tot grotere onderhoudsproblemen, een lagere codekwaliteit en complexere upgrades of reparaties. Het concept benadrukt de afweging tussen kortetermijnvoordelen en langetermijnkosten bij de ontwikkeling en het onderhoud van software.
Meer weten?
Als je meer wilt weten over technische schuld en de toekomst van kunstmatige intelligentie, abonneer je dan op onze nieuwsbrief voor de nieuwste technologische inzichten.
We helpen je slimmer op te schalen en sterker leiding te geven met handleidingen, AI-bronnen en strategieën van toonaangevende experts!
