Datatillid er blevet vigtigere end nogensinde i AI-æraen. Med den hastigt stigende afhængighed af data til at drive generativ AI og andre AI-applikationer skal organisationer evaluere strategier og rammeværk for datastyring for bedst muligt at understøtte dette nye og stadigt udviklende landskab.
Datatillid sikrer pålideligheden og nøjagtigheden af en organisations data. Det handler om mere end at investere i individuelle værktøjer til observerbarhed, katalogisering eller styring – det handler om at etablere et omfattende rammeværk, der garanterer pålidelige data gennem hele værdikæden.
En detailhandelsvirksomhed, der anvender AI til personaliseret markedsføring, skal eksempelvis sikre, at kundedataene er nøjagtige og opdaterede for at undgå at målrette forkerte demografiske grupper med upassende produkter.
Udfordringen ved ældre systemer
Den største udfordring er, at traditionelle teknologier ofte kommer til kort, når de skal håndtere omfanget og kompleksiteten i moderne dataøkosystemer. Disse ældre tilgange har vanskeligt ved at håndtere datakvalitet, observerbarhed, katalogisering og styring – kritiske aspekter, der ofte er opdelt i siloer og uden sammenhæng i ældre systemer. Denne fragmentering kan føre til inkonsistente data, udfordringer med styring og øget risiko.
En finansiel institution som Equifax, der anvender forældede systemer, kan for eksempel have vanskeligt ved at opretholde en ensartet datakvalitet på tværs af forskellige afdelinger, hvilket kan føre til fejl i rapportering af overholdelse eller finansielle prognoser.
Brian Weiss, teknologidirektør, Hyperscience
\u003cspan style=\u0022font-weight: 400;\u0022\u003e\u0022Etablering af datatillid er en af de største flaskehalse for AI-udvidelse. Størstedelen af virksomhedsdata er ustrukturerede og kan ikke anvendes umiddelbart af AI-systemer. Selvom adskillige værktøjer hævder at kunne løse dette problem, skal organisationer sikre datanøjagtigheden, før data integreres i AI-systemer. \u003c/span\u003e
\u0026nbsp;
\u003cspan style=\u0022font-weight: 400;\u0022\u003eForankringsmekanismer, såsom RAG-arkitekturer, kræver præcist mærkede data for at producere pålidelige og korrekte resultater. Brugen af ML til at skabe forbindelser mellem indlejrede data understreger yderligere nødvendigheden af data i høj kvalitet, eftersom dårlig datakvalitet kan have stor indvirkning på efterfølgende systemer. \u003c/span\u003e
\u0026nbsp;
\u003cspan style=\u0022font-weight: 400;\u0022\u003eJeg mener, at det er afgørende for at fremme udbredelsen og frigøre værdi at lære GenAI det specifikke sprog, der anvendes i virksomheden, baseret på sandhedsdata i virksomhedens kerne. Dette er især relevant, når organisationer går fra GenAI-eksperimenter til projekter, der skaber et reelt investeringsafkast.\u0022\u003c/span\u003e
Rammeværket for datatillidsmodenhed
For at løse disse udfordringer og skabe et solidt grundlag for AI-succes bør organisationer overveje at indføre et rammeværk for datatillidsmodenhed, som giver en køreplan for udviklingen fra de tidlige stadier af datastyring til et avanceret og skalerbart økosystem for datastyring.
Denne køreplan omfatter:
- Tidligt stadie Organisationer fokuserer på metadatahåndtering og manuel test af vigtige aktiver. Selvom dette stadie er reaktivt, er det afgørende for at skabe grundlaget for mere avancerede praksisser. En startupvirksomhed kan for eksempel begynde med manuelt at auditere sine kundedata for at sikre nøjagtigheden, før den lancerer sin AI-drevne anbefalingsmotor.
Du kan tilslutte dig den moderne datarevolution ved (1) at implementere kontroller, der hjælper med at sikre kvaliteten af kildedata, (2) at etablere værktøjer og processer til en fælles (semantisk) dataforståelse tidligt i din organisations dataflows og (3) at demokratisere dataarbejdet ved at tage værktøjer uden eller med meget lidt kodning samt generativ AI i brug til dataforbrug.
- Bevidstheds- og vækstfasen Her skifter organisationens fokus til en mere proaktiv tilgang, hvor der introduceres en forretningsordbog, dataafstamning spores, dataejerskab tildeles, og grundlæggende dataobserverbarhed implementeres (værktøjer til dataobserverbarhed tilbyder mange fordele i den forbindelse). Dette trin er afgørende for at opbygge et fælles datasprog og fremme samarbejdet mellem datateams og forretningsinteressenter. En mellemstor virksomhed kan begynde at implementere en forretningsordbog for at standardisere termer og definitioner på tværs af de forskellige afdelinger, så alle er enige, når salgsdata analyseres.
- Skaleringsfasen Introducerer avancerede praksisser såsom maskering af personhenførbare oplysninger, formelle styringsstrukturer, omfattende infrastrukturdækning, datakontrakter samt oprettelse af dataprodukter og domæner. På dette stadie behandles data som et produkt, der designes og vedligeholdes målrettet for at imødekomme brugernes behov. En stor virksomhed kan etablere formelle datastrukturer for styring af data for at håndtere følsomme kundeoplysninger på tværs af flere globale markeder, sikre overholdelse af lokale regler og styrke kundernes tillid.
Med udgangspunkt i min erfaring med at hjælpe føderale myndigheder og organisationer med bedre at administrere deres data både inden for og uden for konteksten af nye teknologier som AI, afhænger datasikkerhedens succes i AI-alderen af data af høj kvalitet, men det er en betydelig udfordring at opnå og opretholde denne kvalitet.
Implementering af en sådan samlet ramme for datasikkerhedens modenhed er afgørende for at overvinde begrænsningerne ved konventionelle teknologier og effektivt navigere i kompleksiteten ved AI og digital transformation. En sådan ramme bør omfatte flere indbyrdes forbundne komponenter:
- Dataopdagelse og metadatahåndtering
- Klassificering og prioritering af dataområder
- Dataobserverbarhed til overvågning af pålidelighed og ydeevne
- Styrket samarbejde og datakontrakter
- Strategier for datastyring
Ved at samle disse funktioner på én platform kan organisationer opnå problemfri integration, mindre afhængighed af leverandører og forbedret kommunikation på tværs af deres datalandskab.
En sundhedsorganisation, der bruger en samlet platform, kan effektivisere datadeling mellem forskellige afdelinger, reducere risikoen for databrud og forbedre patientresultaterne gennem bedre informerede kliniske beslutninger.
God dataindsamling bør foretages med omtanke. Hvilke centrale spørgsmål beder I AI om at hjælpe jer med at løse? Hvilke data er nødvendige for at besvare disse spørgsmål? Ved at designe forretningsprocesser, der er datadrevne fra start til slut, kan organisationer bidrage til at gøre dataindsamling til en mere rutinemæssig del af den daglige drift. Når slutbrugere anvender systemerne korrekt, er de data, de genererer, mere nøjagtige, og den indsigt, der genereres fra prædiktive modeller eller bruges til at forbedre prompts til LLM’er, kan faktisk skabe meningsfuld forretningsværdi.
I sidste ende er AI-modeller ikke meget mere end et videnskabeligt eksperiment, hvis deres resultater ikke bruges til at træffe bedre beslutninger. For at sikre, at det sker, skal organisationer prioritere at skabe tillid — og i sidste ende anvendelse — af disse værktøjer.
Overvindelse af GenAI-udfordringer
En af de mest betydelige udfordringer, som organisationer står over for i dag, er den stigende kompleksitet i GenAI-modeller. Disse modeller trænes ofte på enorme datasæt, hvilket gør det vanskeligt at forstå, hvordan de når frem til deres konklusioner. Denne mangel på gennemsigtighed kan gøre det svært at have tillid til resultaterne fra GenAI-modeller.
Mike Finley, CTO og medstifter af AnswerRocket, fremhæver denne udfordring: "Sprogmodeller introducerer en helt ny angrebsflade for politikker vedrørende datastyring. Ved at sende data til en model frigøres massiv værdi, men der eksponeres også nye trusler. Virksomheder er splittede i dette spørgsmål, hvor traditionelt konservative teams som IT og jura forsigtigt holder igen, mens strategiteams trykker speederen i bund."
Ud over udfordringerne med gennemsigtighed kan GenAI-modeller også være modtagelige for skævhed. Hvis de data, der bruges til at træne en GenAI-model, er skævvredne, vil modellen også være skævvridende. Det kan føre til urimelige eller diskriminerende resultater.
For at håndtere disse udfordringer skal organisationer være opmærksomme på begrænsningerne ved GenAI-modeller og tage skridt til at mindske risiciene. Det omfatter implementering af stærke praksisser for datastyring, sikring af, at data ikke er skævvredne, samt gennemsigtighed omkring GenAI-modellernes begrænsninger.
Blane Sims, produktchef, Truebit
“Dataintegritet, som ofte overses i samtalen om AI, er en afgørende bekymring. I takt med at AI-systemer i stigende grad påvirker kritiske beslutninger på tværs af brancher, er det afgørende at skabe tillid til de underliggende data. Gennemsigtige og verificerbare dataprocesser er det fundament, som vi kan bygge AI-systemer på, der ikke blot er kraftfulde, men også dokumenterbart pålidelige.
Ved at prioritere tillid til data kan organisationer sikre, at deres AI-initiativer leverer præcis indsigt, opretholder overholdelsen af lovgivningen og opnår interessenternes tillid. I denne nye æra ligger den sande konkurrencefordel ikke kun i at implementere AI, men i at implementere AI, man kan have tillid til.”
Det er dog vigtigt at bemærke, at implementering af en ramme for datatillid i lige så høj grad handler om intern kulturel forandring som om værktøjer og processer; det kræver tid, engagement og et ændret tankesæt i hele organisationen.
Som Ted Vial påpeger, begynder opbygningen af tillid til AI med de data, der bruges til at træne den.
AI er hurtigt ved at blive den nye søgemaskine, hvilket skaber en betydelig mulighed for spredning af falske oplysninger. AI-virksomheder skal opbygge tillid hos deres brugere, først og fremmest ved at fokusere på de data, de bruger til at generere svar.
Datatillid som en konkurrencefordel inden for AI
Efterhånden som den nye AI-æra fortsætter med at vokse og udvikle sig, er datatillid en hjørnesten i succesfulde AI-drevne strategier. Rejsen fra traditionelle systemer til et robust, skalerbart og pålideligt dataøkosystem kræver kulturelle ændringer, investeringer i datastyring og en fremsynet tilgang til teknologi.
I denne nye æra vil rene og pålidelige data adskille markedsledere fra resten. Organisationer, der sætter datatillid i centrum for deres AI-initiativer, vil være godt positioneret til at innovere hurtigere, levere mere personlige oplevelser og sikre langsigtet vækst. Ved at fokusere på datatillid i dag lægger du grundlaget for morgendagens AI-drevne succes.
Abonner på The CTO Club-nyhedsbrevet for at få flere indsigter om AI, datatillid og fremtidens teknologiledelse.
