Wspieranie sztucznej inteligencji wymaga podjęcia wielu decyzji technicznych — od wyboru używanych modeli LLM, przez miejsce wdrożenia i wymaganą infrastrukturę, po sposób szkolenia pracowników. Niedawno przeprowadziliśmy ankietę wśród osób podejmujących decyzje dotyczące IT w przedsiębiorstwach w Stanach Zjednoczonych i niemal połowa z nich (44%) stwierdziła, że tworzenie infrastruktury danych gotowej na potrzeby AI jest obecnie najważniejszym priorytetem. Organizacje IT również dostosowują istniejące modele do własnych potrzeb (37%), korzystają z usług chmurowych na potrzeby AI (32%), tworzą własne modele uczenia (32%), zezwalają pracownikom na korzystanie z komercyjnie dostępnych modeli AI (29%) oraz szkolą pracowników (33%).
W tym artykule omówię te różne obszary, przedstawiając kilka kwestii, które powinny rozważyć przedsiębiorstwa budujące tak zwaną infrastrukturę gotową na potrzeby AI. Jak zawsze, budżet ma duży wpływ na podejmowanie decyzji dotyczących technologii AI, ale znaczenie mają również bezpieczeństwo, zgodność z zasadami zarządzania oraz dostępność pracowników IT posiadających odpowiednie umiejętności w zakresie AI i ML.
Tworzenie infrastruktury danych gotowej na potrzeby AI
Uruchomienie inicjatywy AI w przedsiębiorstwie może wymagać opracowania i trenowania modelu, jeśli konieczne jest zbudowanie własnego modelu generatywnej AI. Zwykle zaczyna się to od pozyskania odpowiednich, wydajnych zasobów obliczeniowych — kosztownych procesorów CPU, GPU i TPU, które są wymagane do hostowania modeli uczenia maszynowego i przetwarzania danych z ogromną szybkością. Chociaż gotowa infrastruktura, modele publiczne i usługi chmurowe zapewniają korzyści w zakresie kosztów i łatwości użytkowania, organizacje IT muszą również rozważyć zalety utrzymywania AI we własnym środowisku w celu uzyskania lepszej kontroli lub ustanowienia modelu hybrydowego zapewniającego odpowiedni poziom zarządzania danymi, przejrzystości i bezpieczeństwa.
Średni koszt serwera AI wynosi $32,000. „John-David Lovelock, wyróżniony analityk firmy Gartner, wskazuje, że szafa serwerowa z serwerami AI będzie kosztować ponad $1 milion”. Oparte na pamięci flash technologie pamięci masowej zaprojektowane z myślą o AI mogą również zwiększyć koszty. Do tego dochodzi wsparcie i konserwacja całego sprzętu, co wymaga zatrudnienia pracowników IT w pełnym wymiarze godzin oraz centrum danych wyposażonego w najnowocześniejsze technologie.
Have an account? Log In
Wykorzystywanie danych firmowych z użyciem AI
Niezależnie od tego, czy tworzysz własny model od podstaw, czy — co bardziej prawdopodobne — dostrajasz i wykorzystujesz gotowe modele, potrzebujesz zarządzania danymi, aby dostarczać AI właściwe dane nieustrukturyzowane. Zarządzanie danymi nieustrukturyzowanymi automatyzuje przepływy pracy związane z danymi AI i zarządza ładem danych firmowych, szczególnie w przypadku danych wrażliwych.
Dane nieustrukturyzowane, które według IDC stanowią 90% wszystkich danych, są zazwyczaj rozproszone w wielu silosach, a jedną z funkcji zarządzania danymi jest ułatwianie szybkiego wyszukiwania, oznaczania i dostarczania właściwych danych do modeli AI.
Usługi chmurowe na potrzeby AI
Najwięksi dostawcy chmury stworzyli kompleksowe usługi wspierające AI dla organizacji, które nie mogą lub nie chcą zarządzać tą technologią we własnym środowisku. Ich komponenty obejmują szybkie zasoby pamięci masowej i obliczeniowe, a także zasoby uczenia maszynowego, GenAI i narzędzia programistyczne. Chociaż AI oparte na chmurze zapewnia wyraźne korzyści kosztowe — nie trzeba kupować serwerów ani pamięci masowej ani płacić za zwiększone zużycie energii, które powiększy obciążenie centrum danych — w chmurze można łatwo zamówić zbyt wiele zasobów i nadmiernie zwiększyć wydatki. Problemem jest również luka w umiejętnościach związanych z chmurą.
Strategia AI w chmurze może być zarówno skuteczna, jak i ekonomiczna, jeśli potrafisz odpowiednio zarządzać danymi. Na przykład skopiowanie petabajtów nieustrukturyzowanych danych do chmury, a następnie próba ustalenia, które z nich są przydatne dla AI, szybko wygenerowałaby ogromny rachunek.
Warto również unikać zasilania aplikacji AI danymi przed uporządkowaniem bałaganu w danych: większość organizacji posiada duże ilości zduplikowanych, przestarzałych lub „zombie” danych, które należy usunąć. Przed przeniesieniem danych upewnij się, że są one w dobrym stanie — sklasyfikowane i uporządkowane — oraz przenieś tylko te dane, o których wiesz, że mieszczą się w zakresie projektu. Dobrym pomysłem jest także uwzględnienie kwestii zarządzania danymi w chmurze.
Wybierz przypadki użycia o przewidywalnym zwrocie z inwestycji i upewnij się, że później będziesz w stanie zmierzyć rezultaty. Wymogi dotyczące bezpieczeństwa i zgodności mogą wykluczać możliwość hostowania AI w chmurze. Co najmniej zrozumienie ryzyka związanego z danymi w dowolnej usłudze AI oraz wiedza o tym, jak przeprowadzać audyty projektów pod kątem ryzyka dotyczącego danych, to kluczowe kroki przed rozpoczęciem każdego projektu.
Decyzje dotyczące modeli uczenia maszynowego
Popularne modele uczenia maszynowego, takie jak GPT, Claude, Gemini, TensorFlow i PyTorch, polegają podczas trenowania na ogromnych publicznych zbiorach danych. Aby jednak AI było użyteczne i wiarygodne w projektach przedsiębiorstw ukierunkowanych na usprawnienie operacji, działalności badawczo-rozwojowej lub relacji z klientami, warto trenować model na własnych, zastrzeżonych danych i zachować ich prywatność.
Trenowanie i/lub opracowywanie modelu wymaga umiejętności wyspecjalizowanych analityków danych, którzy znają najważniejsze języki programowania, takie jak Python i R, modelowanie i analizę dużych zbiorów danych, modele uczenia maszynowego, a także zagadnienia bezpieczeństwa i przetwarzania w chmurze.
Ambitny, dobrze finansowany zespół analityki i analityki danych może nawet zdecydować się na opracowanie modelu od podstaw. Powody takiej decyzji obejmują chęć uzyskania pełnej kontroli nad architekturą i bezpieczeństwem i/lub wsparcia wysoce wrażliwego, konkurencyjnego projektu. Chociaż istnieją społeczności takie jak Hugging Face i OpenAI, które pomagają w wyborze komponentów i współpracy z innymi, jest to ogromne przedsięwzięcie. Obejmuje ono czyszczenie i przygotowywanie danych, wybór i trenowanie algorytmów oraz dostrajanie modelu pod kątem dokładności i niezawodności. Trzeba będzie pozyskać nie tylko infrastrukturę, lecz także zespół inżynierów, który wykona tę pracę.
Ze względu na ograniczenia zasobów większości organizacji korzystanie z wstępnie wytrenowanych, zastrzeżonych lub otwartoźródłowych modeli ML z danymi firmowymi jest prawdopodobnie najczęściej wybieraną drogą do AI. Wnioskowanie AI to znacznie większy i szerszy rynek niż trenowanie AI. Dlatego organizacje IT coraz częściej inwestują w tworzenie odpowiedniej infrastruktury danych, aby wyszukiwać, selekcjonować, audytować i dostarczać dane firmowe do AI, jednocześnie utrzymując nadzór nad danymi.
More Articles
Rozwój gotowych narzędzi AI
Badanie Komprise wykazało, że tylko 30% organizacji przeznaczyło budżet na AI, co oznacza, że 70% wciąż eksperymentuje z tą technologią i prowadzi nad nią badania. Obecnie prawdopodobnie oznacza to korzystanie z niedrogich aplikacji, takich jak OpenAI ChatGPT, Anthropic Claude, Microsoft Copilot czy Google Gemini. Pracownicy różnych działów używają tych narzędzi do odpowiadania na pytania, pisania tekstów, tworzenia grafik i obrazów lub pisania kodu oprogramowania – z błyskawiczną szybkością i wystarczająco dobrymi rezultatami.
Brakuje standardów i powszechnie stosowanych najlepszych praktyk. Które projekty są bezpieczne i odpowiednie dla GenAI? Jakich danych należy używać, a które powinny być chronione przed wprowadzeniem? Jak należy oceniać dzieła wygenerowane przez GenAI pod kątem dokładności i wiarygodności? Co się stanie, jeśli własność intelektualna lub dane klientów wyciekną do LLM ogólnego przeznaczenia? Jak firma może chronić się przed pozwami dotyczącymi praw autorskich lub zniesławienia opartymi na dziełach wygenerowanych przez GenAI?
Zacznij od zrozumienia zasobów danych pod względem charakterystyki danych i ilości danych wrażliwych, takich jak PII i IP. Taka analiza pomoże organizacji opracować zasady korzystania z GenAI, które będą regulować dane i przypadki użycia. Potrzebne będzie narzędzie do monitorowania zgodności i badania problemów wynikających z korzystania z GenAI, gdy i jeśli się pojawią.
Czy możesz śledzić, które dane zostały przesłane do narzędzia AI przez poszczególnych użytkowników lub działy? Czy możesz znaleźć i przenieść dane wrażliwe poza katalogi, w których mogą zostać odkryte i pobrane przez narzędzie AI? Niektóre rozwiązania do zarządzania danymi nieustrukturyzowanymi zapewniają taką funkcjonalność; nadzór nad danymi AI to obszar rosnącego zapotrzebowania, mający zapobiegać negatywnym konsekwencjom AI, które mogą zaszkodzić zaufaniu klientów, ich lojalności i wiarygodności firmy na rynku.
Potrzeba nadzoru nad GenAI
Biorąc pod uwagę ogólne obawy rynku związane z AI, jej znaną zdolność do generowania fałszywych wyników i szkodliwych halucynacji, ryzyko wycieku danych firmowych do LLM ogólnego przeznaczenia oraz koszty opracowywania i wdrażania technologii AI, liderzy IT będą potrzebować solidnego planu i procesu oceny oraz wdrażania stosu AI.
Chcesz uzyskać więcej informacji na temat AI? Zapisz się do newslettera The CTO Club, aby otrzymywać wskazówki i narzędzia bezpośrednio do swojej skrzynki odbiorczej!