Do niedawna większość nagłówków dotyczących AI koncentrowała się na rywalizacji związanej z opracowywaniem i ulepszaniem LLM oraz innych modeli AI, a także na wzroście popularności firmy NVIDIA jako dostawcy preferowanych procesorów AI. W miarę jak branża AI dojrzewa dwa lata po uruchomieniu ChatGPT, obserwujemy obecnie zwrot w kierunku większego skupienia na celu końcowym: wykorzystywaniu AI – czyli wnioskowaniu. Większość organizacji IT przedsiębiorstw musi przeprojektować zarządzanie danymi, aby zapewnić odpowiednie zarządzanie danymi na potrzeby wnioskowania AI.
Przyjrzyjmy się bliżej przyczynom.
Wartość biznesowa wnioskowania AI
Wnioskowanie AI nie zawsze wygląda tak samo. Chociaż niektóre zadania, takie jak pisanie treści do mediów społecznościowych, można zrealizować po prostu, otwierając ulubioną aplikację generatywnej AI i wpisując polecenie, większą wartość dla przedsiębiorstw stanowi wykorzystanie danych wewnętrznych do dostosowania wyników do potrzeb firmy i klientów. Wartość biznesową AI można dostrzec w przypadku danych korporacyjnych.
Może to być na przykład analiza zapisów rozmów pod kątem nastrojów klientów i trendów dotyczących ich zadowolenia albo wprowadzanie notatek klinicznych z wizyt pacjentów w szpitalu w celu podsumowania przypadków oraz odkrywania trendów w leczeniu i zapobieganiu chorobom.
Dlaczego wnioskowanie AI wymaga nowej architektury danych
Wnioskowanie AI zapowiada się na ogromny rynek, który będzie miał ogromne konsekwencje dla infrastruktury IT. „Kilka źródeł, w tym firmy z sektora technologicznego, takie jak Amazon czy NVIDIA, szacuje, że wnioskowanie może przewyższyć koszt trenowania w systemach powszechnego zastosowania, a wnioskowanie stanowi do 90% kosztów uczenia maszynowego wdrożonych systemów AI” – twierdzą naukowcy, których badania opublikowano w serwisie Science Direct.
Przy tak dużych nakładach czasu, kosztów i energii na wnioskowanie AI liderzy IT będą chcieli dokładnie przeanalizować wspierający je stos technologiczny — od platform danych po infrastrukturę centrum danych, niezależnie od tego, czy znajduje się ona lokalnie, czy w chmurze — a także laptopy i telefony, które zostaną zoptymalizowane pod kątem przetwarzania AI. W przyszłości może być konieczne zmodernizowanie systemów pod kątem wydajności, sprawności i optymalizacji kosztów.
Omówienie nowych wymagań
Chociaż wnioskowanie AI jest kolejnym etapem po opracowaniu modelu, wymagania dotyczące wnioskowania AI są na tyle odmienne, że konieczne jest zastosowanie nowego paradygmatu danych – szczególnie w przypadku danych nieustrukturyzowanych:
- Zarządzanie rutynowym wykorzystaniem danych firmowych: Najpierw przyjrzyjmy się ogólnemu procesowi stojącemu za wnioskowaniem AI, wyjaśnionemu przez IBM Research: „Podczas wnioskowania model AI pracuje na danych w czasie rzeczywistym, porównując zapytanie użytkownika z informacjami przetworzonymi podczas trenowania i przechowywanymi w jego wagach lub parametrach. Odpowiedź zwracana przez model zależy od zadania — może nim być identyfikowanie spamu, konwertowanie mowy na tekst lub wyodrębnianie najważniejszych informacji z długiego dokumentu. Celem wnioskowania AI jest obliczenie i wygenerowanie wyniku, który można wykorzystać w praktyce.” Innymi słowy, wnioskowanie AI i jego wykorzystanie wymagają od organizacji uzupełnienia danych, na których model został wytrenowany, o odpowiednie dane firmowe.
- Musi być łatwe dla każdego pracownika, nie tylko dla analityków danych: O ile tworzenie modeli jest wysoce wyspecjalizowanym obszarem rynku AI przeznaczonym dla analityków danych, o tyle wnioskowanie AI jest skierowane do każdego użytkownika, a zatem musi być łatwe w użyciu i wdrażaniu. Jak ułatwić pracownikom znajdowanie właściwych danych firmowych i dostarczanie ich do odpowiedniego procesu AI? Jak zapewnić rejestrowanie przepływu danych na potrzeby audytów? Trenowanie modelu AI przypomina budowę elektrowni — bardzo niewiele osób dysponuje specjalistyczną wiedzą i zasobami niezbędnymi do tworzenia modeli AI. Wnioskowanie AI powinno jednak być równie łatwe jak korzystanie z energii elektrycznej. Każdy powinien móc włączać je i wyłączać zgodnie ze swoimi potrzebami.
- Konieczność wyszukiwania i dostarczania AI danych nieustrukturyzowanych: Obecnie, w przypadku AI i ML, wszystko koncentruje się na danych nieustrukturyzowanych — milionach lub miliardach plików, takich jak dokumenty, wiadomości, obrazy, nagrania wideo i dane maszynowe, rozproszonych w katalogach i udziałach w przedsiębiorstwie. Ze względu na ich dużą objętość i rozproszenie w wielu silosach danych w przedsiębiorstwie przeniesienie ich do jednego systemu jest nieopłacalne zarówno z perspektywy kosztów, jak i czasu, który byłby do tego potrzebny. Użytkownicy polegają na wielu narzędziach AI, a nie na jednym ogromnym magazynie danych.
- Przenoszenie danych w pierwszej kolejności już się nie sprawdza: Ponieważ dane nieustrukturyzowane z łatwością mogą osiągać rozmiar petabajtów, a ich przenoszenie jest kosztowne, tradycyjny model ekstrakcji, transformacji i ładowania (ETL), polegający na przenoszeniu danych najpierw do jeziora danych lub jeziora danych typu lakehouse, a następnie operowaniu na nich, już się nie sprawdza. Zespoły IT potrzebują sposobu na systematyczny dostęp do danych nieustrukturyzowanych i zarządzanie nimi bez przenoszenia ich w jedno miejsce. Potrzebują również zautomatyzowanych narzędzi do przygotowywania danych — od odfiltrowywania zbędnych danych, przez dodawanie kontekstu i struktury za pomocą wzbogacania metadanych, po tworzenie bezpiecznych przepływów pracy umożliwiających znajdowanie i przenoszenie właściwych zestawów danych do odpowiednich narzędzi. Ujednolicony indeks globalny stanowi rozsądny punkt wyjścia do uzyskania widoczności danych i szybkiego wyszukiwania w hybrydowych zasobach danych.
- Zautomatyzowane zarządzanie danymi: Ponadto zarządzanie danymi AI staje się kluczową funkcją zarządzania danymi. Aby uniknąć wycieku danych wrażliwych do narzędzi AI, fałszywych wyników, halucynacji i pozwów związanych z naruszeniem praw autorskich, organizacje będą potrzebować sposobów monitorowania i śledzenia przepływu danych do narzędzi AI. Potrzebują zautomatyzowanych metod lokalizowania danych wrażliwych, takich jak PII, oraz przenoszenia ich do lokalizacji, w których pracownicy nie będą mogli uzyskać do nich dostępu na potrzeby AI. Automatyzując przepływy pracy umożliwiające użytkownikom dostęp do AI, można zapewnić, że automatyzacja będzie śledzić przepływ danych i zarządzać ładem danych.
- Nowy model zarządzania danymi na potrzeby AI: Pojawiająca się warstwa „bazy danych” dla danych nieustrukturyzowanych jest wirtualna i w rzeczywistości nie przechowuje wszystkich danych. Będziemy obserwować jej rozwój obejmujący powyższe funkcje i kolejne możliwości. Będzie musiała działać we wszystkich technologiach i środowiskach pamięci masowej — od centrum danych, przez brzeg sieci, po chmurę — oraz wydajnie funkcjonować przy ogromnej skali petabajtów danych plikowych i obiektowych.
Kluczowe pytania, które należy zadać przed wdrożeniem
Przed zainwestowaniem w dowolną nową technologię AI interesariusze muszą wspólnie określić najważniejsze cele i ograniczenia, które przewidują w celu zarządzania ryzykiem. Oto kilka pytań, które warto rozważyć:
- Które działy i/lub przypadki użycia zapewnią szybkie korzyści i możliwości zdobywania doświadczenia przy najniższym ryzyku?
- Jakie są najważniejsze cele długoterminowe i oczekiwane rezultaty wykorzystania AI, zwłaszcza w zakresie używania danych firmowych z AI?
- W jaki sposób użytkownicy mają mieć możliwość interakcji z systemami AI? Czy będą istniały konkretne narzędzia AI dopuszczone do użytku, czy użytkownicy będą mogli decydować samodzielnie?
- Jakie wewnętrzne zasady będą wymagane w związku z korzystaniem z AI i jak będą egzekwowane? Na przykład organizacja może chcieć określić, z których narzędzi AI można korzystać w pracy i/lub jakie rodzaje danych można wprowadzać do systemów. Może chcieć ograniczyć na przykład dostęp do notatek ze spotkań zarządu, sesji R&D lub rozmów z najważniejszymi klientami.
- Jakich regulacji branżowych należy przestrzegać podczas korzystania z danych firmowych z AI?
- W jaki sposób wyniki lub dzieła pochodne wygenerowane przez AI będą oceniane pod kątem dokładności i zgodności z prawem?
- Jak można wykorzystywać dzieła pochodne wewnętrznie lub zewnętrznie?
- Jakie ramy zarządzania AI i bezpieczeństwa będą potrzebne oraz jakie luki w infrastrukturze technologii bezpieczeństwa trzeba będzie uzupełnić?
- Które systemy mogą działać w chmurze, a które powinny pozostać lokalnie?
- W jaki sposób użytkownicy będą wyszukiwać dane firmowe, znajdować je i dostarczać je do AI?
- W jaki sposób wynik działania AI jest utrwalany?
Przy prawidłowym zastosowaniu wnioskowanie za pomocą AI może pomóc organizacjom uzyskać znaczącą przewagę konkurencyjną. Może jednak również stwarzać ryzyko dla danych, ponieważ dane firmowe muszą zostać ujawnione. Wnioskowanie za pomocą AI wymaga nowej architektury danych, ponieważ tradycyjny model polegający na ładowaniu danych do hurtowni danych lub jeziora danych i przetwarzaniu ich w jednym miejscu przestaje działać. Wnioskowanie za pomocą AI wymaga wydajnego indeksowania, wyszukiwania, selekcjonowania i udostępniania danych nieustrukturyzowanych systemom AI, wraz z automatycznym audytowaniem i śledzeniem.
Subskrybuj newsletter The CTO Club, aby uzyskać więcej informacji dotyczących danych i najlepszych praktyk.
