Dataförtroendets avgörande roll för framgångsrik AI
Datatillit har blivit viktigare än någonsin i AI-eran. Med det snabbt ökande beroendet av data för att driva gen AI och andra AI-applikationer måste organisationer utvärdera strategier och ramverk för datahantering för att på bästa sätt stödja detta nya och föränderliga landskap.
Datatillit säkerställer tillförlitligheten och korrektheten i en organisations data. Det handlar om mer än att investera i enskilda verktyg för observerbarhet, katalogisering eller styrning – det handlar om att etablera ett heltäckande ramverk som garanterar tillförlitliga data genom hela värdekedjan.
Exempelvis måste ett detaljhandelsföretag som använder AI för personlig marknadsföring säkerställa att kunddata är korrekta och uppdaterade för att undvika att rikta olämpliga produkter till fel demografiska grupper.
Continue Reading for Free
Create a free account to finish this article, plus get ongoing access to timely insights and practical resources.
Have an account? Log In
Utmaningen med äldre system
Den främsta utmaningen är att traditionell teknik ofta inte räcker till när den ska hantera omfattningen och komplexiteten i moderna dataekosystem. Dessa äldre metoder har svårt att hantera datakvalitet, observerbarhet, katalogisering och styrning – kritiska aspekter som ofta är isolerade och osammanhängande i äldre system. Denna fragmentering kan leda till inkonsekvenser i data, styrningsutmaningar och ökad risk.
En finansiell institution som Equifax som använder föråldrade system kan exempelvis få problem med att upprätthålla en konsekvent datakvalitet mellan olika avdelningar, vilket kan leda till fel i rapportering av regelefterlevnad eller finansiella prognoser.
Mognadsramverket för datatillit
För att hantera dessa utmaningar och skapa en stabil grund för AI-framgång bör organisationer överväga att införa ett mognadsramverk för datatillit. Det ger en färdplan för att utvecklas från de tidiga stadierna av datahantering till ett sofistikerat och skalbart ekosystem för datastyrning.
Denna färdplan omfattar:
- Tidigt skede-organisationer fokuserar på metadatahantering och manuell testning av viktiga tillgångar. Även om detta skede är reaktivt är det avgörande för att lägga grunden för mer avancerade metoder. Ett startupföretag kan exempelvis börja med att manuellt granska sina kunddata för att säkerställa korrektheten innan det lanserar sin AI-drivna rekommendationsmotor.
Du kan delta i den moderna datarevolutionen genom att (1) införa kontroller för att säkerställa kvaliteten på källdata, (2) tidigt etablera verktyg och processer för en gemensam (semantisk) dataförståelse i organisationens dataflöden och (3) demokratisera dataarbete genom att införa verktyg med låg kodnivå/utan kod och generativa AI-verktyg för datakonsumtion.
- Medvetenhets- och tillväxtfasen Här övergår organisationens fokus till ett mer proaktivt arbetssätt, med införande av en affärsordlista, spårning av datahärkomst, tilldelning av dataägarskap och implementering av grundläggande dataobserverbarhet (verktyg för dataobserverbarhet erbjuder många fördelar för detta). Detta steg är avgörande för att bygga ett gemensamt dataspråk och främja samarbete mellan datateam och intressenter inom verksamheten. Ett medelstort företag kan börja implementera en affärsordlista för att standardisera termer och definitioner inom sina olika avdelningar och säkerställa att alla har samma förståelse när försäljningsdata analyseras.
- Skalningsfasen Introducerar avancerade metoder som maskering av personuppgifter, formella styrningsstrukturer, omfattande infrastrukturtäckning, datakontrakt samt skapande av dataprodukter och datadomäner. I detta skede behandlas data som en produkt, med avsiktlig utformning och underhåll som syftar till att uppfylla användarnas behov. Ett stort företag kan etablera formella datastrukturer för styrning för att hantera känslig kundinformation på flera globala marknader, säkerställa efterlevnad av lokala bestämmelser och stärka kundernas förtroende.
Utifrån min erfarenhet av att hjälpa federala myndigheter och organisationer att hantera sina data bättre, både inom och utanför ramen för framväxande teknik som AI, kan jag säga att framgångsrikt dataförtroende i AI-eran bygger på data av hög kvalitet, men att uppnå och upprätthålla denna kvalitet innebär betydande utmaningar.
Att implementera ett sådant enhetligt ramverk för dataförtroendets mognad är avgörande för att övervinna begränsningarna hos konventionell teknik och effektivt hantera komplexiteten i AI och digital transformation. Ett sådant ramverk bör omfatta flera sammanhängande komponenter:
- Dataupptäckt och metadatahantering
- Klassificering och prioritering av datadomäner
- Dataobserverbarhet för tillförlitlighets- och prestandaövervakning
- Förbättrat samarbete och datakontrakt
- Strategier för datastyrning
Genom att konsolidera dessa funktioner i en enda plattform kan organisationer dra nytta av sömlös integration, minskat leverantörsberoende och förbättrad kommunikation i hela sitt datalandskap.
En vårdorganisation som använder en enhetlig plattform kan effektivisera datadelningen mellan olika avdelningar, minska risken för dataintrång och förbättra patientresultaten genom mer välgrundade kliniska beslut.
God datainsamling bör ske med avsikt. Vilka är de viktigaste frågorna som ni ber AI att hjälpa er att lösa? Vilka data behövs för att besvara dessa frågor? Genom att utforma affärsprocesser som är datadrivna från början till slut kan organisationer bidra till att göra datainsamling till en mer rutinmässig del av den dagliga verksamheten. När slutanvändare använder systemen på rätt sätt blir de data som genereras mer korrekta, och de insikter som genereras från prediktiva modeller eller används för att förbättra uppmaningar till LLM:er kan faktiskt skapa meningsfullt affärsvärde.
I slutändan är AI-modeller inte mycket mer än ett vetenskapligt experiment om deras resultat inte används för att fatta bättre beslut. För att säkerställa detta måste organisationer prioritera att skapa förtroende – och i slutändan användning – för dessa verktyg.
Att övervinna utmaningar med GenAI
En av de mest betydande utmaningarna som organisationer står inför i dag är den ökande komplexiteten hos GenAI-modeller. Dessa modeller tränas ofta på enorma datamängder, vilket gör det svårt att förstå hur de kommer fram till sina slutsatser. Denna brist på transparens kan göra det svårt att lita på resultaten från GenAI-modeller.
Mike Finley, teknikchef och medgrundare av AnswerRocket, lyfter fram denna utmaning: "Språkmodeller introducerar en helt ny angreppsyta för policyer kring datastyrning. Att skicka data till en modell frigör ett enormt värde, men exponerar också nya hotvektorer. Företag är splittrade i denna fråga, där traditionellt försiktiga team som IT och juridik håller tillbaka med försiktighet, medan strategiteamen trycker på gasen."
Utöver utmaningarna med transparens kan GenAI-modeller också vara känsliga för partiskhet. Om de data som används för att träna en GenAI-modell är partiska kommer modellen också att bli partisk. Detta kan leda till orättvisa eller diskriminerande resultat.
För att hantera dessa utmaningar måste organisationer vara medvetna om begränsningarna hos GenAI-modeller och vidta åtgärder för att minska riskerna. Detta omfattar att införa starka metoder för datastyrning, säkerställa att data är opartiska och vara transparenta med begränsningarna hos GenAI-modeller.
Det är dock viktigt att notera att implementeringen av ett ramverk för dataförtroende handlar lika mycket om intern kulturell förändring som om verktyg och processer; det kräver tid, engagemang och ett förändrat tankesätt i hela organisationen.
Som Ted Vial påpekar börjar förtroende för AI med de data som används för att träna den.
AI håller snabbt på att bli den nya sökmotorn, vilket skapar en betydande möjlighet för spridning av falsk information. AI-företag måste bygga förtroende hos sina användare, först och främst genom de data de använder för att generera svar.
Dataförtroende som en konkurrensfördel inom AI
I takt med att den nya AI-eran fortsätter att växa och utvecklas är dataförtroende en hörnsten i framgångsrika AI-drivna strategier. Resan från traditionella system till ett robust, skalbart och tillförlitligt dataekosystem kräver kulturella förändringar, investeringar i styrning och ett framåtblickande förhållningssätt till teknik.
I denna nya era kommer rena, tillförlitliga data att skilja marknadsledarna från resten. Organisationer som sätter tillit till data i centrum för sina AI-initiativ kommer att ha ett bra utgångsläge för att innovera snabbare, erbjuda mer personliga upplevelser och säkra långsiktig tillväxt. Genom att fokusera på tillit till data i dag lägger du grunden för morgondagens AI-drivna framgång.
Prenumerera på nyhetsbrevet från The CTO Club för fler insikter om AI, tillit till data och framtidens tekniska ledarskap.
