Bygga en AI-redo infrastruktur: En guide för företags-IT

Den genomsnittliga kostnaden för en AI-server är $32,000. ”Gartners framstående analytiker John-David Lovelock påpekar att ett rack med AI-servrar kommer att kosta över $1 miljon.” Flashbaserade lagringstekniker som är utformade för AI kan också öka kostnaderna. Dessutom tillkommer support och underhåll av all denna utrustning, vilket kräver heltidsanställd IT-personal och ett toppmodernt datacenter. 

De bästa AI-programmen!

1. 

   Robin Autonomous IT

   This rating combines scores from multiple user review sites to reflect overall customer sentiment about the product.

   4.5

   Visit Website
2. 

   SuperAnnotate

   This rating combines scores from multiple user review sites to reflect overall customer sentiment about the product.

   4.9

   Visit Website
3. 

   Nanonets

   This rating combines scores from multiple user review sites to reflect overall customer sentiment about the product.

   4.9

   Visit Website

Använda företagsdata med AI

Oavsett om ni bygger en egen modell från grunden eller, vilket är mer sannolikt, finjusterar och använder färdigbyggda modeller, behöver ni datahantering för att göra rätt ostrukturerade data tillgängliga för AI. Hantering av ostrukturerade data automatiserar AI-dataarbetsflöden och hanterar företagets datastyrning, särskilt när det gäller känsliga data. 

Ostrukturerade data, som enligt IDC står för 90 % av all data, är vanligtvis utspridda över många silor, och en del av datahanteringens roll är att möjliggöra snabb sökning, taggning och överföring av rätt data till AI-modeller.

Molntjänster för AI

De stora molnleverantörerna har byggt heltäckande tjänster för att stödja AI för organisationer som inte kan eller vill hantera tekniken internt. Komponenterna sträcker sig från snabba lagrings- och beräkningsresurser till maskininlärning, GenAI och utvecklingsverktyg. Även om molnbaserad AI har tydliga kostnadsfördelar – ni behöver inte köpa servrar eller lagring och inte heller betala för den ökade energiförbrukningen, som kommer att öka ert datacenters fotavtryck – kan ni lätt överprovisionera och spendera för mycket i molnet. Det finns även problem med kompetensbrister inom molnteknik.

En molnbaserad AI-strategi kan vara både framgångsrik och kostnadseffektiv om ni kan hantera data på rätt sätt. Om ni exempelvis kopierar petabyte av ostrukturerade data till molnet och sedan försöker ta reda på vilka data som är användbara för AI kan kostnaderna snabbt bli mycket höga.

Ni bör också undvika att mata en AI-applikation innan ni först har städat upp i data-oredan: de flesta organisationer har stora mängder duplicerade, föråldrade eller övergivna data som bör rensas bort. Se till att era data är i gott skick – klassificerade och organiserade – innan ni flyttar dem, och flytta endast de data som ni vet ryms inom projektets omfattning. Det är också en god idé att ta hänsyn till frågor kring datastyrning i molnet.

Välj användningsområden med förutsägbar avkastning på investeringen och se till att ni kan mäta resultaten senare. Krav på säkerhet och efterlevnad kan utesluta möjligheten att vara värd för AI i molnet. Som ett minimum är det avgörande att förstå riskerna med era data i alla AI-tjänster och att veta hur projekt ska granskas med avseende på datarisker innan något projekt påbörjas.

De bästa privata molnleverantörerna!

1. 

   Oracle

   This rating combines scores from multiple user review sites to reflect overall customer sentiment about the product.

   4.6

   Visit Website
2. 

   Red Hat

   This rating combines scores from multiple user review sites to reflect overall customer sentiment about the product.

   4.5

   Visit Website
3. 

   Kamatera

   This rating combines scores from multiple user review sites to reflect overall customer sentiment about the product.

   4.2

   Visit Website

Beslut kring maskininlärningsmodeller

Populära maskininlärningsmodeller, som GPT, Claude, Gemini, TensorFlow och PyTorch, förlitar sig på enorma offentliga datauppsättningar för träning. Men för att göra AI användbar och trovärdig i företagsprojekt som syftar till att förbättra verksamheten, forskning och utveckling eller kundrelationer bör ni träna en modell med era egna företagsinterna data och hålla den privat. 

Att träna och/eller utveckla en modell kräver kompetens hos specialiserade dataforskare som behärskar ledande programmeringsspråk som Python och R, modellering och analys av stordata, kunskap om maskininlärningsmodeller samt säkerhet och molnbaserad databehandling.

Ett ambitiöst och välfinansierat analys- och datavetenskapsteam kan till och med välja att utveckla en modell från grunden. Detta kan bland annat bero på en önskan om full kontroll över arkitektur och säkerhet och/eller på att stödja ett mycket känsligt och konkurrensutsatt projekt. Det finns visserligen gemenskaper som Hugging Face och OpenAI som hjälper till att välja komponenter och samarbeta med andra, men detta är ett enormt arbete. Det innebär att rensa och förbereda data, välja ut och träna algoritmer samt finjustera modellen för precision och tillförlitlighet. Du behöver inte bara skaffa infrastrukturen, utan även ett team av ingenjörer som utför arbetet.

På grund av resursbegränsningarna i de flesta organisationer är användning av förtränade proprietära ML-modeller eller ML-modeller med öppen källkod tillsammans med företagsdata sannolikt den vanligaste vägen till AI.  AI-inferens är en mycket större och bredare marknad än AI-träning. Därför investerar IT-organisationer i allt högre grad i att skapa lämplig datainfrastruktur för att hitta, kurera, granska och mata företagsdata till AI, samtidigt som de upprätthåller datastyrning.  

Framväxten av färdiga AI-verktyg  

Komprises undersökning visade att endast 30 % av organisationerna har avsatt en budget för AI, vilket innebär att 70 % fortfarande experimenterar med och undersöker tekniken. Och i dag innebär det sannolikt att man använder kostnadseffektiva applikationer som OpenAI ChatGPT, Anthropic Claude, Microsoft Copilot eller Google Gemini. Medarbetare på olika avdelningar använder dessa verktyg för att besvara frågor, skriva text, skapa grafik och bilder eller skriva programkod – blixtsnabbt och med tillräckligt bra resultat. 

Det som saknas är standarder och etablerade bästa praxis. Vilka projekt är säkra och lämpliga för GenAI? Vilka data bör användas och vilka bör skyddas från att matas in? Hur bör verk som skapats med GenAI utvärderas med avseende på precision och legitimitet? Vad händer om immateriella rättigheter eller kunddata läcker in i en LLM för allmän användning? Hur kan ett företag skydda sig mot upphovsrätts- eller ärekränkningsstämningar som grundar sig på GenAI-producerat material? 

Börja med att förstå ert datalandskap utifrån dataegenskaper och mängden känsliga data, såsom PII och IP. Den analysen hjälper organisationen att utveckla policyer för användning av GenAI som styr data och användningsfall. Ni behöver ett verktyg för att övervaka efterlevnaden och utreda problem som uppstår genom användning av GenAI, när och om sådana problem uppstår. 

Kan ni spåra vilka data som har skickats till AI-verktyget och av vilka användare eller avdelningar? Kan ni hitta och flytta känsliga data från kataloger där de kan upptäckas och hämtas in i ett AI-verktyg? Vissa lösningar för hantering av ostrukturerade data erbjuder denna funktionalitet; datastyrning för AI är ett växande behovsområde för att förhindra negativa följder av AI som kan skada kundernas förtroende, lojalitet och marknadens trovärdighet.

Behovet av GenAI-styrning

Med tanke på den allmänna marknadens oro kring AI, dess välkända förmåga att skapa falska resultat och skadliga hallucinationer, risken för att företagsdata läcker in i LLM:er för allmän användning samt kostnaden för att utveckla och implementera AI-teknik, kommer IT-ledare att vilja ha en vattentät plan och process för att utvärdera och implementera AI-stacken.

Vill du ha fler insikter om AI? Prenumerera på The CTO Clubs nyhetsbrev för tips och verktyg direkt i din inkorg!