Przyspieszanie projektów AI dzięki przygotowaniu danych

Discover how to deliver better software and systems in rapidly scaling environments. Join our Community

Organizacje rozpoczynające projekty AI stają przed wyzwaniem szybkiego uzyskania wysokiej jakości danych kontekstowych. Zamiast polegać na powolnych i kosztownych systemach opartych na chmurze, wiele z nich przenosi dane z powrotem do lokalnej pamięci masowej — proces ten nazywa się repatriacją danych. Ta zmiana pomaga obniżyć koszty i zapewnia modelom AI dostęp do najbardziej aktualnych danych.

data preparation featured image

Organizacje rozpoczynające projekty związane ze sztuczną inteligencją nie mogą czekać na długoterminowe projekty centralizacji danych. Muszą mieć możliwość jak najszybszej integracji wysokiej jakości danych, niezależnie od tego, gdzie się znajdują, aby ich narzędzia AI mogły generować trafne kontekstowo wyniki, wykorzystując informacje z najbardziej aktualnych danych.

Nieaktualne i uciążliwe wyodrębnianie danych z wielu źródeł oraz kopiowanie ich do centralnej lokalizacji w celu przetwarzania przez narzędzia AI jest niepotrzebne i pochłania znaczne zasoby techniczne oraz finansowe. 

Wzrost znaczenia repatriacji danych: przejście z chmury do infrastruktury lokalnej

W przypadku wielu organizacji przenoszenie danych z pamięci masowej opartej na chmurze do systemów lokalnych nabiera tempa. Zjawisko to nazywa się repatriacją danych. Wraz ze wzrostem ilości danych tworzonych i przetwarzanych przez organizacje rosną również koszty związane z zarządzaniem danymi. Nawet przy kilku centach za gigabajt koszty szybko się sumują.

Bill Burnham, dyrektor ds. technologii sektora publicznego w USA w firmie Hewlett Packard Enterprise, zauważa, że koszty mogą rosnąć „astronomicznie”, gdy organizacje zaczynają przetwarzać petabajty danych. Przeniesienie danych z powrotem do lokalnej pamięci masowej, szczególnie w zastosowaniach AI, w których nowe dane służą do udoskonalania i aktualizowania wyników, ma sens ekonomiczny. 

Z operacyjnego punktu widzenia najlepiej jest umieścić dane możliwie najbliżej miejsca, w którym będą wykorzystywane. Systemy oparte na chmurze oferują wiele korzyści, ale nie są rozwiązaniem każdego problemu. Podczas trenowania modeli AI niezwykle ważne jest, aby miały one dostęp do najbardziej aktualnych i dokładnych danych.

Ochrona danych AI i wyników

Badania firmy Gartner sugerują, że błędne konfiguracje usług chmurowych stanowią poważny problem, który może skutkować przetwarzaniem poufnych danych przez nieautoryzowane modele AI. Tak jak użytkownicy końcowi są ostrzegani, że przesyłane przez nich zapytania do publicznych usług generatywnej AI mogą zostać wykorzystane, tak samo dotyczy to wszelkich ujawnionych danych.

Systemy lokalne nie są odporne na naruszenia bezpieczeństwa danych, ale można ograniczyć ryzyko uzyskania przez nieautoryzowany model AI dostępu do danych firmowych, prowadzącego do wycieku własności intelektualnej.

Nieprawidłowe wyniki generowane przez modele AI nadal stanowią poważny problem. Niedawne przykłady, takie jak sugestia AI firmy Google, aby kucharze używali kleju, żeby ser utrzymywał się na pizzy, oraz jedzenie codziennie kamienia jako źródła witamin i minerałów, pokazują, jak ważne jest dostarczanie LLM odpowiednich danych uwzględniających kontekst. Wykorzystanie własnych danych i szybkie oraz opłacalne udostępnienie ich zmniejsza ryzyko wprowadzających w błąd lub błędnych wyników. 

Rola danych kontekstowych w dokładności AI

Nie sposób przecenić znaczenia informacji kontekstowych. Najlepsze dane, jakie organizacja może wykorzystywać w narzędziach AI, to dane odnoszące się konkretnie do jej działań.

W przypadku sprzedawców odzieży kluczowe znaczenie mają dane dotyczące obsługiwanych przez nich grup demograficznych. Sklep odzieżowy koncentrujący się na obsłudze kobiet w wieku od 16 do 25 lat potrzebuje innych danych wejściowych niż sklepy sprzedające garnitury mężczyznom w wieku od 35 do 50 lat.

Modele AI, które przetwarzają ogólne dane i nie rozumieją konkretnych potrzeb firmy, mogą generować wyniki prowadzące do złych decyzji. Choć przykłady takie jak przyklejanie sera do pizzy są zabawne, zamówienie przez kupca sieci handlowej tysięcy sztuk odzieży, która nie zostanie kupiona, może być kosztowne, a nawet katastrofalne. 

More Articles

Wdrożenie AI lokalnie

Umieszczenie danych możliwie najbliżej miejsca, w którym będą wykorzystywane przez AI, zmniejsza złożoność i koszty. Projekty AI są w dużym stopniu zależne od danych używanych do trenowania modelu. Posiadanie wysokiej jakości i aktualnych danych jest cenniejsze niż zatrudnienie większej liczby analityków danych. Organizacje muszą nadać priorytet danym wykorzystywanym przez ich modele i zapewnić do nich dostęp. 

Typowe podejście do zarządzania danymi na potrzeby zastosowań AI opiera się na kopiowaniu danych ze źródła, aby można było ich użyć do trenowania modeli. Gdy jednak najlepsze dane są rozproszone na wielu platformach, takich jak oparty na chmurze system CRM, lokalna platforma finansowa i internetowe narzędzia zwiększające produktywność, zapewnienie do nich dostępu może być trudne. Często skutkuje to wykorzystaniem danych, które najłatwiej scentralizować, podczas gdy pozostałe pozostawia się na czas, gdy pozwolą na to budżet i harmonogram.

Pytanie, które zespoły AI muszą sobie zadać, brzmi: jak mogą uzyskać dostęp do wszystkich potrzebnych danych bez konieczności czekania na kosztowne i czasochłonne projekty repatriacji danych. Potrzebują łatwego sposobu uzyskiwania dostępu do rozproszonych danych w wielu lokalizacjach oraz możliwości przekierowywania zapytań uzyskujących dostęp do tych danych w miarę ich przenoszenia.

Narzędzia do przygotowywania danych mogą dostosowywać dane do wykorzystania przez AI, jednocześnie minimalizując zakłócenia podczas repatriacji danych. Wykorzystując te nowe, najnowocześniejsze rozwiązania, projekty AI mogą znacznie przyspieszyć bez oczekiwania na migrację danych ani konieczności znacznej przebudowy systemów. Dane treningowe mogą być dostarczane do modeli AI i LLM-ów niemal w czasie rzeczywistym, w miarę ich tworzenia.

Przyspieszanie projektów AI dzięki lokalnym centrom danych

Rosnące koszty, obawy dotyczące wycieku własności intelektualnej oraz potrzeba większej elastyczności podczas opracowywania narzędzi AI napędzają przejście z platform chmurowych na infrastrukturę lokalną. AI i LLM-y wymagają dostępu do wysokiej jakości, kontekstowych i aktualnych danych, aby zapewniać użytkownikom najlepsze rezultaty. 

Centrum danych AI, będące pojedynczym, centralnym środowiskiem roboczym i strefą zarządzania dla wszystkich projektów związanych z AI i integracją danych, umożliwia przyspieszanie projektów AI równolegle z projektami repatriacji danych z chmury, dzięki czemu organizacje mogą szybko wykorzystywać swoje dane.

Jednocześnie mogą nadal zapewniać użytkownikom biznesowym lepszy wgląd w potrzeby klientów i zaawansowaną analitykę, aby zwiększać przychody i wyprzedzać konkurencję w niezwykle konkurencyjnym środowisku biznesowym.  

Zapisz się do newslettera The CTO Club, aby otrzymywać więcej informacji na temat AI i najlepszych praktyk.

Get regular tech leadership wisdom for delivering better software and systems.
Get Free Access

Have an account? Log In

Vinay Samuel
Vinay Samuel started his IT career decades ago at Teradata as a marketing data expert. His career has featured senior roles as Vice President Asia of Greenplum, CEO of GridMatics, and Vice President APJ for Hewlett-Packard. Vinay was a pioneer in “event based analytics” and parallel database technologies in the mid 90s, and went on to lead several disruptive data analytics companies, including where he is today -- at Zetaris. Zetaris enables instant analytics on decentralized data, finally solving some very real-world problems for data platform leaders and analytics leaders.
Follow the author: