Mange tekniske beslutninger indgår i understøttelsen af AI – lige fra hvilke LLM'er der skal bruges, hvor de skal implementeres, hvilken infrastruktur der kræves, og hvordan medarbejderne skal uddannes. For nylig spurgte vi beslutningstagere inden for IT i større virksomheder i USA, og næsten halvdelen (44 %) sagde, at etablering af en AI-klar datainfrastruktur er den vigtigste prioritet i dag. IT-organisationer specialtræner også eksisterende modeller (37 %), bruger cloudtjenester til AI (32 %), udvikler deres egne læringsmodeller (32 %), giver medarbejderne mulighed for at bruge kommercielt tilgængelige AI-modeller (29 %) og uddanner medarbejdere (33 %).
I denne artikel gennemgår jeg disse forskellige områder og kommer med nogle overvejelser for virksomheder, der opbygger deres såkaldte AI-klare infrastruktur. Som altid spiller budgettet en stor rolle i beslutninger om AI-teknologi, men det samme gælder sikkerhed, overholdelse af governance-krav og tilgængeligheden af IT-medarbejdere med de rette kompetencer inden for AI og ML.
Etablering af AI-klar datainfrastruktur
En AI-indsats i virksomheden kan kræve modeludvikling og træning, hvis I har brug for at opbygge jeres egen generative AI-model. Det begynder typisk med anskaffelse af tilstrækkelige computerressourcer med høj ydeevne – de dyre CPU'er, GPU'er og TPU'er, der kræves for at hoste maskinlæringsmodeller og behandle data med ekstrem hastighed. Selvom færdigkonfigureret infrastruktur, offentlige modeller og cloudtjenester giver fordele i form af lavere omkostninger og brugervenlighed, skal IT-organisationer også afveje fordelene ved at holde AI internt for at opnå bedre kontrol eller i stedet etablere en hybridmodel, der sikrer de rette niveauer af datastyring, gennemsigtighed og sikkerhed.
Den gennemsnitlige pris for en AI-server er $32,000. »Gartner-analytikeren John-David Lovelock påpeger, at et rack med AI-servere vil koste over $1 million.« Flashbaserede lagringsteknologier, der er udviklet til AI, kan også øge omkostningerne. Dertil kommer support og vedligeholdelse af alt dette udstyr, hvilket kræver fuldtidsansatte IT-medarbejdere og et topmoderne datacenter.
Have an account? Log In
Brug af virksomhedsdata med AI
Uanset om I bygger jeres egen model fra bunden eller, hvilket er mere sandsynligt, finjusterer og bruger forudbyggede modeller, har I brug for datastyring for at gøre de rigtige ustrukturerede data tilgængelige for AI. Styring af ustrukturerede data automatiserer AI-dataarbejdsgange og administrerer virksomhedens datastyring, især når det gælder følsomme data.
Ustrukturerede data, som ifølge IDC udgør 90 % af alle data, er typisk spredt på tværs af mange siloer, og det er en del af datastyringens rolle: at muliggøre hurtig søgning, mærkning og tilførsel af de rigtige data til AI-modeller.
Cloudtjenester til AI
De store cloududbydere har opbygget komplette tjenester til at understøtte AI for organisationer, der ikke kan eller ønsker at administrere teknologien internt. Komponenterne spænder fra hurtige lager- og computerressourcer til maskinlæring, GenAI og udviklingsværktøjer. Selvom cloudbaseret AI har klare omkostningsmæssige fordele – I behøver ikke købe servere eller lagerplads eller betale for det øgede energiforbrug, som vil øge jeres datacenters kapacitet – kan I nemt overprovisionere og bruge for mange penge i clouden. Der er også problemet med manglende cloudkompetencer.
En cloudbaseret AI-strategi kan være både succesfuld og omkostningseffektiv, hvis I kan administrere data korrekt. Hvis I for eksempel kopierer petabytes af ustrukturerede data til clouden og derefter forsøger at finde ud af, hvilke data der er nyttige til AI, vil regningen hurtigt blive meget stor.
I bør også undgå at tilføre en AI-applikation data, før I har ryddet op i datarod: De fleste organisationer har store mængder duplikerede, forældede eller zombiedata, som bør slettes. Sørg for, at jeres data er i god stand – klassificeret og organiseret – før I flytter dem, og flyt kun de data, som I ved, passer til projektets omfang. Det er også en god idé at overveje problemer med cloud-datastyring.
Vælg anvendelsesområder med et forudsigeligt ROI, og sørg for, at I senere kan måle resultaterne. Krav til sikkerhed og compliance kan udelukke muligheden for at hoste AI i clouden. Som minimum er det afgørende at forstå risiciene ved jeres data i enhver AI-tjeneste og vide, hvordan projekter kan revideres med henblik på datarisici, før et projekt påbegyndes.
Beslutninger om maskinlæringsmodeller
Populære maskinlæringsmodeller som GPT, Claude, Gemini, TensorFlow og PyTorch er afhængige af massive offentlige datasæt til træning. Men hvis AI skal være nyttig og troværdig i virksomhedsprojekter, der har til formål at forbedre driften, R&D eller kunderelationerne, vil I gerne træne en model med jeres egne proprietære data og holde den privat.
Træning og/eller udvikling af en model kræver kompetencer hos specialiserede dataforskere, der forstår førende programmeringssprog som Python og R, modellering og analyse af store datamængder, viden om maskinlæringsmodeller samt sikkerhed og cloudcomputing.
Et ambitiøst og vel finansieret analyse- og datavidenskabsteam kan endda vælge at udvikle en model fra bunden. Årsagerne til dette omfatter ønsket om fuld kontrol over arkitektur og sikkerhed og/eller ønsket om at understøtte et meget følsomt, konkurrencepræget projekt. Selvom der findes fællesskaber som Hugging Face og OpenAI, der hjælper med at vælge komponenterne og samarbejde med andre, er dette en enorm opgave. Det indebærer rensning og forberedelse af data, udvælgelse og træning af algoritmer samt finjustering af modellen med henblik på nøjagtighed og pålidelighed. Du skal ikke kun skaffe infrastrukturen, men også et team af ingeniører til at udføre arbejdet.
På grund af de begrænsede ressourcer i de fleste organisationer er brugen af forudtrænede proprietære ML-modeller eller ML-modeller med åben kildekode med virksomhedsdata sandsynligvis den mest almindelige vej til AI. AI-inferens er et meget større og bredere marked end AI-træning. Derfor investerer IT-organisationer i stigende grad i at skabe den rette datainfrastruktur til at finde, kuratere, revidere og tilføre virksomhedsdata til AI, samtidig med at datastyringen opretholdes.
More Articles
Fremkomsten af færdigkøbte AI-værktøjer
Komprises undersøgelse viste, at kun 30 % af organisationerne har afsat et budget til AI, hvilket indikerer, at 70 % stadig eksperimenterer med og undersøger teknologien. Og i dag betyder det sandsynligvis brug af billige applikationer som OpenAI ChatGPT, Anthropic Claude, Microsoft Copilot eller Google Gemini. Medarbejdere på tværs af afdelinger bruger disse værktøjer til at besvare spørgsmål, skrive tekst, skabe grafik og billeder eller skrive softwarekode – med lynets hastighed og tilstrækkeligt gode resultater.
Det, der mangler, er standarder og almindeligt anerkendte bedste praksisser. Hvilke projekter er sikre og egnede til GenAI? Hvilke data bør bruges, og hvilke bør beskyttes mod at blive indlæst? Hvordan bør værker, der er skabt med GenAI, evalueres med hensyn til nøjagtighed og legitimitet? Hvad sker der, hvis IP eller kundedata lækkes ind i en LLM til generelle formål? Hvordan kan en virksomhed beskytte sig mod retssager om ophavsret eller ærekrænkelse baseret på værker produceret med GenAI?
Begynd med at forstå jeres datalandskab med hensyn til dataegenskaber og mængden af følsomme data såsom PII og IP. Denne analyse vil hjælpe organisationen med at udvikle politikker for brugen af GenAI, der regulerer data og anvendelsesområder. Du får brug for et værktøj til at overvåge overholdelsen af reglerne og undersøge problemer, der opstår ved brug af GenAI, hvis og når de opstår.
Kan du spore, hvilke data der er blevet sendt ind i AI-værktøjet, og af hvilke brugere eller afdelinger? Kan du finde og flytte følsomme data ud af mapper, hvor de kan blive opdaget og hentet ind i et AI-værktøj? Nogle løsninger til håndtering af ustrukturerede data tilbyder denne funktionalitet; AI-datastyring er et område med stigende efterspørgsel for at forebygge negative konsekvenser fra AI, som kan skade kundernes tillid, loyalitet og virksomhedens troværdighed på markedet.
Behovet for GenAI-styring
I betragtning af de generelle bekymringer på markedet omkring AI, dens kendte evne til at skabe falske resultater og skadelige hallucinationer, risikoen for lækage af virksomhedsdata ind i LLM'er til generelle formål samt omkostningerne ved at udvikle og implementere AI-teknologier vil IT-ledere ønske sig en vandtæt plan og proces til at evaluere og implementere AI-stakken.
Vil du have flere AI-indsigter? Abonnér på The CTO Clubs nyhedsbrev for at få tips og værktøjer direkte i din indbakke!
