Datakwaliteit versus datahoeveelheid bij toegepast machinaal leren

Het is cruciaal om een balans te vinden tussen de kwaliteit en de hoeveelheid gegevens. Dit zorgt ervoor dat bigdata-analyses hun doel dienen bij het stimuleren van innovatie, het voorspellen van markttrends en het informeren van strategische planning.

De nooit eindigende zoektocht naar gegevens: meer is altijd beter, toch? Fout! In de wereld van machinaal leren gaat kwaliteit elke keer boven kwantiteit.

Dit artikel onderzoekt twee kanten van de datamunt: waarom beide cruciaal zijn voor het bouwen van betrouwbare machinelearningmodellen en hoe je de perfecte balans vindt om krachtige inzichten te ontsluiten en misleidende resultaten te voorkomen.

Beste software voor machinaal leren

1. 

   Databricks

   This rating combines scores from multiple user review sites to reflect overall customer sentiment about the product.

   4.5

   Visit Website
2. 

   RapidMiner

   This rating combines scores from multiple user review sites to reflect overall customer sentiment about the product.

   4.6

   Visit Website
3. 

   Vertex AI

   This rating combines scores from multiple user review sites to reflect overall customer sentiment about the product.

   4.3

   Visit Website

Datakwaliteit versus datahoeveelheid: welke rol spelen ze bij machinaal leren?

Hoewel het eenvoudig is om kunstmatige intelligentie te zien als een toverstaf die problemen met datakwaliteit kan oplossen door ongestructureerde, niet-gestandaardiseerde en onvolledige gegevens te doorzoeken om ons de gewenste uitvoer te geven, is de werkelijkheid precies het tegenovergestelde.

Gegevens vormen de fundamentele basis voor modellen voor machinaal leren (ML). Deze modellen identificeren trends en patronen en gebruiken deze informatie vervolgens om voorspellingen te doen en beslissingen te nemen op basis van nieuwe, ongeziene gegevens. Hoe meer gegevens het model gebruikt tijdens de training, hoe nauwkeuriger het kan worden in het voorspellen van uitkomsten of het nemen van beslissingen.

Laat je echter niet misleiden: een aanzienlijke hoeveelheid gegevens is niet per se voldoende om een goed model te trainen. De uitdrukking ‘rommel erin, rommel eruit’ is bij ingenieurs op het gebied van machinaal leren dan ook een bekend concept. Deze benadrukt dat gebrekkige gegevensinvoer of onjuiste instructies uiteindelijk gebrekkige uitvoer oplevert.

Hoewel deze uitdrukking vaak wordt gebruikt, worden zorgen over datakwaliteit en -integriteit in toegepaste AI nog steeds vaak over het hoofd gezien. Het meeste lesmateriaal richt zich op de wiskundige basis van machinaal leren en maakt gebruik van schone, georganiseerde en vooraf gelabelde ‘speelgoeddatasets’.

In de meeste gebruikssituaties is het echter cruciaal om rekening te houden met een realistischer scenario: bij de implementatie van machinaal leren in een bepaald domein moet ervan worden uitgegaan dat gegevens uit de echte wereld gebrekkig zijn en dat slechte gegevens mogelijk zijn.

De meeste ML-ingenieurs of datawetenschappers die werken aan het in productie nemen van ML-modellen zijn hiermee goed vertrouwd, aangezien de meeste uitdagingen bij het creëren van ML-modellen die kwalitatief goede resultaten opleveren, verband houden met datawetenschap.

Waarom is datakwaliteit belangrijk?

Een kwalitatieve dataset voor machinaal leren moet het onderliggende probleem zo nauwkeurig mogelijk vertegenwoordigen. Gegevens van hoge kwaliteit zijn cruciaal voor het produceren van betrouwbare modellen voor machinaal leren. Verschillende aspecten dragen bij aan datakwaliteit.

• Nauwkeurigheid: Gegevens moeten vrij zijn van fouten, inconsistenties en onnauwkeurigheden. Onnauwkeurige gegevens kunnen leiden tot bevooroordeelde of misleidende modellen.
• Volledigheid: Gegevens moeten alle relevante informatie bevatten die nodig is voor de taak op het gebied van machinaal leren. 
• Consistentie tussen verschillende gegevensbronnen en in de loop der tijd: inconsistente gegevens kunnen leiden tot verwarring en fouten bij het trainen en evalueren van modellen.
• Relevantie voor het probleem dat door de taak op het gebied van machinaal leren wordt aangepakt: het opnemen van irrelevante kenmerken of duplicaten kan de complexiteit verhogen en de prestaties van het model verminderen.
• Actualiteit: Gegevens moeten actueel zijn en de meest recente observaties weerspiegelen voor bepaalde toepassingen, zoals realtimevoorspellingen of trendanalyses.

Het aanpakken van problemen met datakwaliteit omvat vaak voorbewerkingsstappen zoals gegevensopschoning, het invullen van ontbrekende waarden, normalisatie en kenmerkselectie. 

Beste software voor datakwaliteit

Opens new window

Visit WebsiteOpens new window

Opens new window

Price:

Pricing upon request

Trial:

Free trial + demo available

Visit WebsiteOpens new window

Datakwaliteit in de praktijk

Hoe ziet dit er in de praktijk eigenlijk uit? Wanneer je gegevens gaat verzamelen met als doel een machinelearningmodel te ontwikkelen, begin dan met jezelf de volgende vragen te stellen:

• Zijn de gegevens nauwkeurig en foutloos? Ontbreken er waarden of hebben we onjuiste waarden?
• Houden de gegevens verband met het probleem dat we proberen op te lossen?
• Bevatten de gegevens voldoende voorbeelden om het machinelearningmodel effectief te trainen?
• Bevatten de gegevens tegenstrijdige of contradictorische informatie?
• Weerspiegelen de gegevens een scenario uit de echte wereld?

De vereiste hoeveelheid gegevens hangt af van de complexiteit van het probleem dat je probeert op te lossen, maar als je dataset uit minder dan enkele duizenden vermeldingen bestaat, is een machinelearningmodel mogelijk geen goede oplossing voor jouw gebruikssituatie. Zou het probleem in plaats daarvan kunnen worden opgelost met een algoritme op basis van regels?

Kwalitatieve gegevens zijn essentieel voor de nauwkeurigheid en eerlijkheid van machinelearningmodellen. Plan om de gegevens zorgvuldig te selecteren, voor te bewerken en te valideren, zodat ze voldoen aan de noodzakelijke normen voor het op te lossen probleem.

Waarom is de hoeveelheid gegevens belangrijk?

De hoeveelheid gegevens verwijst naar de hoeveelheid gegevens die beschikbaar is voor analyse, doorgaans gemeten in volume of omvang. Geavanceerde technologieën zoals cloudcomputing, machinelearning en IoT-apparaten maken het eenvoudig om een grote hoeveelheid gegevens te verzamelen.

Een grote hoeveelheid gegevens kan bredere inzichten opleveren die beter onderbouwde besluitvorming mogelijk maken, gedragspatronen voorspellen of zelfs complexe algoritmen creëren. Deze enorme opeenhoping van gegevens is vaak te zien op gebieden zoals socialemediaplatforms, waar dagelijks honderden terabytes worden gegenereerd.

Toch is het belangrijk om te begrijpen dat een grotere hoeveelheid gegevens niet noodzakelijkerwijs betere resultaten oplevert. Een omvangrijke database kan vaak leiden tot redundantie, onnauwkeurigheden en ruis die analyses kunnen misleiden.

Daarom is het belangrijk om de kwaliteit van de verzamelde gegevens dubbel te controleren. Bij de ontwikkeling van SaaS kan een grote hoeveelheid gegevens van lage kwaliteit bijvoorbeeld leiden tot onjuiste inzichten die softwareontwikkelingsprocessen nadelig kunnen beïnvloeden.

De juiste praktijken voor gegevensbeheer, zoals het opschonen, integreren en valideren van gegevens, moeten worden toegepast om ervoor te zorgen dat het volume van de gegevens de kwaliteit ervan niet in gevaar brengt.

Welke invloed heeft datakwaliteit op besluitvorming?

De kwaliteit van gegevens speelt een cruciale rol bij besluitvorming. Ze is van groot belang bij het voorspellen, strategisch plannen en analyseren van de groeicijfers van elk bedrijf. Gegevens van goede kwaliteit bieden leidinggevenden een nauwkeurige basis om weloverwogen beslissingen te nemen, waardoor de kans op fouten en misleidende feiten wordt geëlimineerd. Gegevens van hoge kwaliteit elimineren inconsistenties die, als ze niet worden aangepakt, de werkelijkheid van bedrijfsprestaties en toekomstperspectieven kunnen vertekenen.

De impact van datakwaliteit op besluitvorming ligt in het vermogen ervan om een waarheidsgetrouwe weergave van de positie van het bedrijf te bieden. Correcte, volledige en betrouwbare gegevens stellen bedrijven in staat om hun sterke punten, zwakke punten, kansen en bedreigingen nauwkeurig vast te stellen. Onjuiste of onvolledige gegevens kunnen daarentegen leiden tot gebrekkige beslissingen, die vaak nadelige gevolgen hebben voor het bedrijf.

Gegevens, gegevens en nog meer gegevens

Laten we een stap terug doen en een belangrijke vraag onderzoeken: waarom hebben machinelearningmodellen veel gegevens nodig om betere beslissingen te nemen? Het is een goede vraag, maar een vraag die maar al te vaak over het hoofd wordt gezien.

 

Kort gezegd is een machinelearningmodel een combinatie van een gegevensset en het algoritme dat wordt gebruikt om op die specifieke gegevensset te trainen. Hetzelfde algoritme dat op verschillende gegevenssets wordt getraind, zal dus zeer uiteenlopende resultaten opleveren.

 

Een machinelearningmodel heeft een aanzienlijk aantal voorbeelden nodig om van te leren. Afhankelijk van de complexiteit van het probleem dat het probeert op te lossen, zijn hiervoor vaak verschillende hoeveelheden gegevens nodig, variërend van honderden gegevenspunten voor het modelleren van één gebruikersprofiel tot miljoenen gegevenspunten voor grote taalmodellen of computervisiemodellen.

 

Hoe complexer het probleem, hoe meer gegevens het model nodig heeft om te leren nauwkeurige zakelijke beslissingen te nemen. Bovendien kan het model meer gegevens nodig hebben om deze afwijkingen eruit te filteren als de gegevens ruis bevatten of veel uitschieters hebben.

 

Wanneer een model wordt getraind met een beperkte hoeveelheid gegevens, beschikt het mogelijk niet over voldoende voorbeelden om nauwkeurig te generaliseren naar nieuwe gegevens, wat resulteert in overfitting of underfitting. In feite leert het machinelearningmodel de gegevensset “uit het hoofd” of slaagt het er niet in de onderliggende patronen in de gegevens vast te leggen, waardoor de gegevensanalyse slechte resultaten oplevert.

Welke invloed heeft de hoeveelheid gegevens op besluitvorming?

De beoordeling van de impact van de hoeveelheid gegevens op besluitvorming berust sterk op de veronderstelling dat meer gegevens leiden tot nauwkeurigere en betrouwbaardere resultaten. Bij SaaS-ontwikkeling maakt de enorme hoeveelheid verwerkte gegevens een breder inzicht mogelijk in gebruikersgedrag, systematische patronen of afwijkingen.

Grote hoeveelheden gegevens kunnen leiden tot een grotere voorspellende nauwkeurigheid, waardoor datagestuurde beslissingen mogelijk worden die de efficiëntie en effectiviteit van bedrijfsactiviteiten aanzienlijk kunnen verbeteren.

Het monitoren van serverlogboeken kan bijvoorbeeld een enorme hoeveelheid gegevenspunten opleveren. Wanneer deze worden geanalyseerd, kunnen ze helpen potentiële infrastructuurproblemen te identificeren voordat ze een probleem worden.

Het waarderen van de hoeveelheid gegevens mag echter geen afbreuk doen aan de mogelijke problemen die ermee samenhangen. Hoewel een overvloed aan gegevens een grotere basis biedt voor betekenisvolle patronen en trends, brengt het verwerken van enorme gegevenssets bepaalde uitdagingen met zich mee.

Een van de belangrijkste uitdagingen is het waarborgen van de kosteneffectiviteit van gegevensopslag en -verwerking. Bovendien kan een grotere gegevensset de complexiteit van het extraheren van nuttige informatie vergroten, waardoor meer tijd en middelen nodig zijn.

Daarom moet inzicht in de rol van de hoeveelheid gegevens bij besluitvorming een evenwichtige afweging omvatten tussen de voordelen van uitgebreide inzichten en de gevolgen van het beheren van enorme hoeveelheden gegevens.

Oplossingen voor gegevensopslag

1. 

   MongoDB Atlas

   This rating combines scores from multiple user review sites to reflect overall customer sentiment about the product.

   4.5

   Visit Website
2. 

   Cloudian HyperStore

   This rating combines scores from multiple user review sites to reflect overall customer sentiment about the product.

   4.7

   Visit Website
3. 

   Snowflake

   This rating combines scores from multiple user review sites to reflect overall customer sentiment about the product.

   4.6

   Visit Website

Afwegingen tussen datakwaliteit en -hoeveelheid

Het verzamelen van enorme hoeveelheden gegevens is niet per se nuttig, tenzij de gegevens van hoge kwaliteit zijn en relevant zijn voor je onderzoek of bedrijfsbehoeften.

Hoewel diepgaande analyses en voorspellingen vaak grote hoeveelheden gegevens vereisen, is het voor machine learning minstens zo belangrijk, zo niet belangrijker, om ervoor te zorgen dat je gegevensvoorziening nauwkeurig, consistent en schoon is. Dit zorgt ervoor dat je organisatie haar besluitvormingsprocessen baseert op geloofwaardige, onbevooroordeelde informatie.

Een evenwicht vinden tussen datakwaliteit en -hoeveelheid betekent dan ook vaak dataverzamelingsstrategieën toepassen die uitgebreid en selectief zijn. Het gaat erom meer gegevensbronnen toe te laten, maar met een onwrikbare nadruk op de geloofwaardigheid, relevantie en waarde van de gegevens. Het toepassen van geavanceerde hulpmiddelen en technologieën om gegevens op te schonen, te sorteren en te analyseren helpt om het volledige potentieel van big data te benutten zonder aan kwaliteit in te boeten.

In werkelijkheid vindt er vaak een afweging plaats tussen de hoeveelheid en de kwaliteit van gegevens. Hoewel het waar is dat meer gegevens kunnen leiden tot betere prestaties van een machinelearningmodel, geldt dat alleen als de gegevens van hoge kwaliteit en correct zijn.

Een kleine hoeveelheid gegevens van hoge kwaliteit kan echter ook een bruikbaar machinelearningmodel opleveren, maar alleen als het model niet te complex is. In die gevallen kun je ook extrapolaties gebruiken om meer gegevens te genereren uit een kleine gegevensset van hoge kwaliteit.

Belangrijkste punten

Helaas bestaat er geen wondermiddel. Er zijn echter enkele aandachtspunten die centraal moeten staan wanneer je zoekt naar de juiste balans tussen de hoeveelheid en kwaliteit van gegevens, waaronder: 

1. Het verzamelen en labelen van een enorme hoeveelheid gegevens kan kostbaar en tijdrovend zijn.
2. Als de gegevens van lage kwaliteit zijn, kan dit leiden tot een model met een lage nauwkeurigheid.
3. Gegevens kunnen worden gevalideerd, opgeschoond en voorbewerkt om fouten te herstellen, zoals door slechte voorbeelden te verwijderen of ontbrekende waarden in te vullen.
4. Als je een enorme gegevensset hebt, hoef je niet alles ervan te gebruiken, omdat het trainen van een model met zo'n gegevensset duur is. Experimenten kunnen namelijk worden uitgevoerd door de omvang van de gegevensset te variëren om te meten hoeveel gegevens nodig zijn om optimale prestaties te bereiken.

Met dat in gedachten is het echter ook belangrijk om rekening te houden met de specifieke taak en context en om de juiste hoeveelheid en kwaliteit van gegevens te bepalen die nodig zijn voor het bouwen van een succesvol model voor machinaal leren.

Abonneer je op de nieuwsbrief van The CTO Club voor meer informatie over gegevenskwaliteit en gegevenskwantiteit.