Wdrażanie AI to wskaźnik próżności

Chris Garrett jest wiceprezesem ds. zarządzanej technologii i operacji bezpieczeństwa w Novatech, dostawcy usług zarządzanych. Jest także autorem książki „Skaluj albo sprzedaj”.

Usiedliśmy z Chrisem, aby dowiedzieć się więcej o jego procesach pracy z AI i zyskać obraz tego, jak AI wpływa na branżę. Oto, co miał do powiedzenia.

Przekładanie systemów na pieniądze

Zarządzam usługami IT i bezpieczeństwem w Novatech, dostawcy usług zarządzanych należącym do Perpetual Capital Partners. Tytuł mówi „wiceprezes”. Zakres pracy mówi coś prostszego. Odpowiadam za to, czy technologia przynosi firmie pieniądze, czy po cichu je odbiera.

Droga do tego miejsca nie przebiegała po prostej. Przeszedłem przez warstwę operacyjną, czyli miejsce, w którym systemy się psują i ktoś musi zająć się naprawą. Pracowałem w dziale pomocy technicznej, potem w infrastrukturze, a następnie w bezpieczeństwie. To właśnie tam różnica między tym, co obiecuje dostawca, a tym, co robi sieć, staje się twoim problemem o drugiej w nocy. To doświadczenie nauczyło mnie lekcji, która pozostaje aktualna do dziś. Technologia nie jest celem. Celem jest ochrona przychodów, właściwa wycena ryzyka i eliminowanie przestojów, zanim klient je odczuje.

Potem nauczyłem się tłumaczyć. Inżynierowie mówią językiem systemów, a kadra kierownicza językiem pieniędzy. Większość liderów technologicznych wybiera jeden z tych języków i traci kontakt z drugą grupą odbiorców. Zbudowałem karierę, działając na styku obu światów i przekładając opóźnienia, ekspozycję oraz architekturę na język marży i ciągłości działania: IT jako mnożnik, nigdy centrum kosztów. To ujęcie zmieniło rozmowy, w których uczestniczyłem, oraz decyzje, na które miałem wpływ.

Grunt znów się przesuwa. AI nie jest kolejnym narzędziem w stosie technologicznym. Zmienia znaczenie dźwigni, to, kto ją posiada, oraz tempo, w jakim narastają możliwości. Większość organizacji odpowiada na to chaosem. Uruchamiają programy pilotażowe, które niczego nie dowodzą, i tworzą zasady mające zarządzać niepokojem zamiast ryzykiem, podczas gdy dostawcy sprzedają nieuchronność nabywcom, którzy nie wykonali obliczeń.

Moje zainteresowanie jest węższe i trudniejsze do udawania. W którym miejscu AI zmienia rzeczywiste liczby? Co ujawnia jako już wcześniej kruche? Jakich kompetencji wymaga, których większość zespołów jeszcze nie posiada? Podchodzę do tego tak samo jak do wszystkiego innego: dowody zamiast szumu, rezultaty zamiast konsensusu, warstwa systemowa zamiast powierzchownej narracji.

Złożoność pracy

Novatech jest dostawcą usług zarządzanych należącym do Perpetual Capital Partners od września 2024 roku. Jesteśmy rentowną firmą usługową po przejęciu, której zadaniem jest zwiększanie marży i przychodów z bezpieczeństwa przy jednoczesnym utrzymaniu jakości dostarczania usług, która pozwoliła nam zdobyć obecną bazę klientów.

Dział działa obok usług zarządzanej technologii, zarządzanego biura i usług terenowych, wykonując pracę, która zapewnia ciągłość i ochronę operacji klientów. Mój zespół liczy 68 inżynierów i analityków pracujących w dziale pomocy technicznej, infrastrukturze oraz wyspecjalizowanym zespole bezpieczeństwa, wspierających 400 środowisk klientów.

Architektura nie jest pojedynczym produktem; jest wielodzierżawna. Obsługujemy dziesiątki odrębnych środowisk klientów, z których każde ma własną kombinację infrastruktury lokalnej, Microsoft 365, Azure, AWS i Google Cloud, a także sieci hybrydowych, których nie zawsze byliśmy projektantami, ale za które teraz odpowiadamy. Ta różnorodność tworzy złożoność. Rutynowa zmiana dla jednego klienta stanowi ryzyko produkcyjne dla innego. Dyscyplina polega na zarządzaniu tą flotą zgodnie z jednym standardem niezawodności i poziomu bezpieczeństwa, bez zmuszania każdego klienta do korzystania z tego samego rozwiązania.

Nasz model wdrażania jest zarządzany i oparty przede wszystkim na pracy zdalnej, a prace wymagające obecności na miejscu wspiera zespół wysyłany w teren. Nieustannie monitorujemy, instalujemy poprawki i chronimy systemy. Oceniamy siebie na podstawie dostępności, czasu reakcji oraz tego, jak szybko powstrzymujemy zdarzenia związane z bezpieczeństwem, zanim klienci ich doświadczą.

Jak AI przekształca procesy podejmowania decyzji technicznych — ale nie przejmuje nad nimi kontroli

Podstawą mojej filozofii jest „Otocz inżyniera AI”, aby uzyskać to, co najlepsze z obu światów. Nie chodzi o redukcję zatrudnienia; zamiast tego zespół wykonuje więcej i lepszej pracy dzięki narzędziom wspomagającym.

AI napędza teraz pracę na dużą skalę, w której człowiek zawsze stanowił wąskie gardło, ale nigdy nie był źródłem wartości. Na przykład wstępna analiza alertów bezpieczeństwa najpierw przechodzi przez warstwę AI, ponieważ analityk SOC, który ręcznie odczytuje dziesięć tysięcy zdarzeń o niskiej wartości informacyjnej, jest kosztowny i osiąga gorsze wyniki niż model.

Podobnie wykorzystujemy AI do analizy dzienników podczas dochodzeń, wstępnego tworzenia dokumentacji i instrukcji operacyjnych oraz podsumowywania środowiska klienta przed przeglądem. Dzięki temu inżynier przychodzi przygotowany, zamiast zaczynać od zera. We wszystkich tych przypadkach AI przyspiesza analizę; nie podejmuje decyzji.

Decyzja pozostaje po stronie człowieka i jest to celowe rozgraniczenie. Decyzje dotyczące architektury środowiska klienta nadal podejmuje człowiek, ponieważ model optymalizuje technicznie najczystszą odpowiedź. Prawdziwa decyzja uwzględnia budżet, tolerancję klienta na ryzyko oraz to, czym jego zespół rzeczywiście będzie potrafił zarządzać po naszym odejściu.

Reagowanie na incydenty pozostaje domeną ludzi na poziomie dowodzenia. AI może ujawnić, co się wydarzyło, ale decyzje dotyczące powstrzymania incydentu wiążą się z konsekwencjami biznesowymi, ryzykiem prawnym i zaufaniem klientów. Nie przekażę podejmowania decyzji pod presją narzędziu, którego nie można pociągnąć do odpowiedzialności za wynik. Z tego samego powodu ostateczny przegląd bezpieczeństwa przed zatwierdzeniem nadal przeprowadza człowiek. Model doskonale rozpoznaje znane wzorce, ale nie dostrzega nowych problemów, które naprawdę mają znaczenie.

Praktyczny proces triage'u alertów bezpieczeństwa

Przyjrzyjmy się bliżej triage'owi alertów bezpieczeństwa, ponieważ odbywa się on codziennie i wyraźnie pokazuje, gdzie sprawdza się AI, a gdzie przejmuje kontrolę człowiek.

Proces zaczyna się od ilości danych, których żaden człowiek nie jest w stanie ani nie powinien konsekwentnie przetwarzać ręcznie. W całej infrastrukturze klientów nasze systemy monitorowania generują dziesiątki tysięcy zdarzeń dziennie, z których większość to szum. Zanim wdrożyliśmy AI, analityk obsługiwał kolejkę, a rzeczywiste sygnały pozostawały ukryte pod nieudanymi logowaniami i nieszkodliwymi anomaliami. Ważne problemy otrzymywały uwagę z opóźnieniem, ponieważ analityk musiał przedzierać się przez szum, aby je znaleźć.

Warstwa AI najpierw przetwarza ten surowy strumień. Grupuje powiązane zdarzenia, eliminuje oczywiste fałszywe alarmy na podstawie znanych prawidłowych wzorców, koreluje aktywność w środowisku klienta, które człowiek uznałby za niepowiązane, a następnie szereguje pozostałe elementy według ich podobieństwa do rzeczywistego włamania. Analityk nie otrzymuje potoku danych. Zamiast tego dostaje krótką, uporządkowaną listę z dołączonym kontekstem, nazwami zaatakowanych systemów i jasno określonym powodem wyświetlenia każdego elementu. Model wykonuje wstępną analizę, ale nie podejmuje żadnych decyzji.

Analityk otwiera tę listę i rozpoczyna się praca człowieka. Bada podejrzany wątek, a AI ponownie pomaga, podsumowując odpowiednie dzienniki i oś czasu, dzięki czemu analityk może odtworzyć zdarzenia w ciągu kilku minut zamiast godziny. Decyzja pozostaje w rękach człowieka. Czy jest to rzeczywiste naruszenie, czy zatwierdzona zmiana, która wygląda podejrzanie? Czy wzorzec odpowiada czemuś nowemu, czego model nie oznaczyłby jako zagrożenia? Model przyspiesza przegląd dowodów, ale to analityk dokonuje oceny.

Gdy dochodzi do rzeczywistego zdarzenia, decyzja o powstrzymaniu incydentu pozostaje decyzją człowieka. Analityk lub starszy specjalista dyżurny w przypadku poważnych incydentów decyduje, czy odizolować hosta, wyłączyć konto lub odłączyć klienta od sieci. Decyzje te wiążą się z kosztami biznesowymi, ryzykiem prawnym i zaufaniem klientów, a żadnego narzędzia nie można pociągnąć do odpowiedzialności za te decyzje. AI może powiedzieć, co się wydarzyło, ale nie wybiera naszej reakcji pod presją.

Po powstrzymaniu incydentu AI tworzy projekt rejestru incydentu, osi czasu, podjętych działań i podsumowania dla klienta. Ten projekt pozwala zaoszczędzić znaczną ilość czasu w porównaniu z rozpoczynaniem pracy od pustej strony. Nie zostaje wysłany, dopóki inżynier go nie poprawi i nie zatwierdzi. Dopracowany, ale błędny raport jest gorszy niż brak raportu, a opracowana przez AI procedura ewidencji bez odpowiedzialnego za nią człowieka tworzy ryzyko, na które zdecydowaliśmy się nigdy nie pozwolić podczas naszej pracy.

Pętla zamyka się etapem, który pomija większość zespołów. Sprawdzamy próbkę tego, co AI odrzuciło, a nie tylko tego, co eskalowało, i przekazujemy te przeoczenia z powrotem do systemu, aby udoskonalić kolejne przejście. Taka dyscyplina próbkowania zapobiega utrwaleniu się uprzedzenia automatyzacji. Narzędzie, które przyspiesza pracę analityków, sprawia również, że stają się oni beztroscy, jeśli nikt nie sprawdza elementów, które odrzuca.

Dlaczego firmy muszą uporządkować uprawnienia przed integracją AI

Wdrożyłem również bramkę zarządzania dla Microsoft Copilot.

Wcześniej Copilot wydawał się ulepszeniem produktywności, a klienci traktowali go jak prosty przełącznik, który wystarczy włączyć. Problem polega na tym, że Copilot dziedziczy istniejące uprawnienia użytkownika. Większość naszych klientów miała za sobą lata niekontrolowanego rozrostu uprawnień: otwarte witryny SharePoint, udostępnione dyski, których nikt nie uporządkował, oraz pliki, do których można było technicznie uzyskać dostęp, ale które w praktyce pozostawały niewidoczne. W chwili, gdy dajesz pracownikowi narzędzie przeszukujące wszystko, do czego ma dostęp, niewidoczna treść staje się wynikiem wyszukiwania. Młodszy pracownik mógł zadać pytanie zwykłym językiem i uzyskać dane dotyczące wynagrodzeń lub prezentację zarządu, które nigdy nie były dla niego przeznaczone. Nikt nie zajął się uprawnieniami, ale ekspozycja była realna i istniała od lat.

Opracowałem obowiązkową ocenę gotowości, która jest przeprowadzana, zanim włączymy Copilot dla dowolnej osoby. Mapujemy faktyczny dostęp, wyszukujemy nadmiernie udostępnione treści i najpierw naprawiamy model uprawnień. Klient zatwierdza, do czego jego pracownicy mogą uzyskać dostęp, zanim uruchomimy choć jedną licencję AI. Zmieniliśmy prośbę o funkcję w kontrolowane wdrożenie z bezwzględnym warunkiem wstępnym.

Chris podkreśla

W chwili, gdy dajesz pracownikowi narzędzie przeszukujące wszystko, do czego ma dostęp, niewidoczna treść staje się wynikiem wyszukiwania.

Jak korzyści z AI wiążą się z kosztami dyscypliny

Po stronie bezpieczeństwa warstwa sortowania alertów zmniejszyła liczbę alertów, które analitycy muszą ręcznie obsługiwać, o około 70 procent. Średni czas potwierdzenia prawdziwego alertu skrócił się z godzin do minut w okresach poza szczytem, ponieważ analitycy nie muszą już przekopywać się przez szum, aby znaleźć ważne zdarzenia. To nasz najbardziej jednoznaczny sukces. Koszt pomyłki jest niski; człowiek i tak sprawdza krótką listę, a model świetnie radzi sobie z rozpoznawaniem wzorców, z czym ludzie z dnia na dzień radzą sobie słabo.

Prace nad gotowością do korzystania z CoPilot przyniosły innego rodzaju rezultat. W każdej przeprowadzonej przez nas ocenie znaleźliśmy ujawnione dane — problemy, które istniały jeszcze przed pojawieniem się AI i pozostałyby ukryte. To dobre dla bezpieczeństwa i dobre dla przychodów.

Sukcesy w tworzeniu wersji roboczych są realne, ale mniejsze, niż sugeruje szum medialny. Dokumentacja i wersje robocze procedur operacyjnych wspomagane przez AI skróciły czas potrzebny na przygotowanie pierwszej wersji o ponad połowę. Inżynier nadal musi poprawić tę pracę, więc oszczędność wynika z rozwiązania problemu pustej strony, a nie z otrzymania gotowego produktu.

Trybem awarii, który kosztował nas najwięcej, było uprzedzenie automatyzacji. Na początku kilku analityków zaczęło zbytnio ufać sortowaniu alertów przez AI i przepuszczało sprawy, które powinni byli otworzyć. Wychwyciliśmy to podczas przeglądu, ale nauczyło mnie to, że narzędzie przyspieszające pracę ludzi sprawia również, że stają się bardziej niedbali, jeśli im na to pozwolić, a rozwiązaniem były procesy, nie technologia. Teraz losowo sprawdzamy to, co AI odrzuca, a nie tylko to, co eskaluje.

Krótko mówiąc, AI kupiło nam szybkość wszędzie, ale nigdzie nie zastąpiło osądu. Każda korzyść wiązała się z kosztem dyscypliny, który trzeba było ponieść, aby ludzie nie ufali AI bardziej, niż na to zasłużyło.

Jak AI poprawia wyniki, ale nie zwiększa kompetencji

Oto coś, o czym nikt nie chce rozmawiać: AI nie sprawiło, że ludzie stali się bardziej kompetentni. Pozwoliło im wynająć pozory kompetencji i udawać, że są one rzeczywistością.

Nazwijmy to „wynajmowaniem głosu”. Człowiek tworzy rezultat, którego nie byłby w stanie stworzyć samodzielnie — na przykład kod, uzasadnienie architektury, politykę bezpieczeństwa lub analizę skierowaną do klienta — a rezultat brzmi płynnie i autorytatywnie. Płynność jest prawdziwa. Słowa czerpią z ukrytych za nimi kompetencji, które znikają w chwili, gdy model przestaje pisać. Człowiek jest właścicielem wyniku, ale nie rozumie go. Ta luka pozostaje niewidoczna, dopóki coś się nie zepsuje, a wtedy staje się najgłośniejszą rzeczą w pomieszczeniu.

Oto przykład: młodszy inżynier wdraża wygenerowaną przez AI poprawkę, która działa podczas demonstracji, ale trzy tygodnie później, podczas incydentu, nie potrafi jej wyjaśnić. W efekcie starszy inżynier odtwarza rozwiązanie, którego nikt w zespole nie stworzył. Szybkość uzyskana na początku doprowadziła do kosztów poniesionych później, a koszt był wyższy, ponieważ płynna powierzchowność opóźniła moment, w którym ktokolwiek sprawdził istotę rozwiązania.

Niespełnionym oczekiwaniem było zwielokrotnienie możliwości. Obietnica głosiła, że AI pomnoży możliwości wykwalifikowanych osób. W rzeczywistości zaciera widoczną różnicę między kimś, kto wie, a kimś, kto potrafi formułować polecenia, a to zatarcie jest kosztowne, ponieważ obie osoby tworzą pracę wyglądającą identycznie, ale pod obciążeniem osiągają skrajnie różne rezultaty.

Jedynym trwałym zastosowaniem AI jest więc sytuacja, w której osoba posiadająca już odpowiednie kompetencje używa AI, aby pracować szybciej, ponieważ potrafi rozpoznać, kiedy wynik jest błędny. Daj to samo narzędzie komuś, kto całkowicie zapożycza kompetencje, a nie zwiększysz możliwości zespołu. Dodasz jedynie pewny siebie wynik, za którym nie stoi nikt odpowiedzialny.

Dlaczego młodsi członkowie zespołu nadal są potrzebni w erze AI

Chris podkreśla

Jednym ze sposobów uniknięcia takiej sytuacji jest wprowadzanie AI w węższym zakresie, z uzyskiwaniem uprawnień poziom po poziomie. Te same korzyści bez cichego ograniczania ścieżki rozwoju, która kształci starszych specjalistów zapewniających bezpieczeństwo.

To model, który stosowałem przy budowie każdej organizacji usługowej, którą kiedykolwiek prowadziłem: ustawiaj młodszych pracowników pod nadzorem starszych, pozwól, aby praca związana z dużym wolumenem spływała do najtańszych kompetentnych rąk, i rozwijaj piramidę wraz ze wzrostem popytu.

AI zjadło podstawę piramidy. Praca, do której wcześniej przydzielałem młodszych pracowników — wstępne sortowanie alertów, czytanie logów, tworzenie wersji roboczych procedur operacyjnych, rutynowe zgłoszenia — to dokładnie ta praca, którą model wykonuje teraz szybciej i taniej niż osoba ucząca się w trakcie pracy. Kalkulacja zatrudnienia oparta na szerokiej podstawie niedrogiej pracy o dużym wolumenie przestała się sprawdzać, ponieważ ta praca nie wymaga już człowieka.

Ale poziom juniorski nigdy nie oznaczał wyłącznie taniej siły roboczej. Był poligonem szkoleniowym. Ludzie, na których polegam jako seniorach, stawali się nimi, przedzierając się przez tysiące zgłoszeń o niskim ryzyku i budując osąd, po jednym błędzie naraz. Usuń ten szczebel, a nie tylko zmienisz tegoroczną strukturę kosztów. Przestaniesz kształcić starszych inżynierów, których będziesz potrzebować za pięć lat, a tę lukę odczujesz dopiero wtedy, gdy jej naprawienie będzie kosztowne.

Jednym ze sposobów, by nie doprowadzić do takiej sytuacji, jest wprowadzanie węższych wdrożeń AI, zatwierdzanych szczebel po szczeblu. Te same korzyści bez cichego odcinania finansowania od ścieżki, która kształci seniorów zapewniających bezpieczeństwo.

Ja tego nie zrobiłem, więc odbudowuję teraz tę drabinę. Nadal zatrudniamy juniorów, ale nie po to, by obsługiwali wolumen, z którym model już sobie radzi. Są tu po to, by rozwijać jedną rzecz, której AI nie może im dać: osąd pozwalający rozpoznać, kiedy jego pewna siebie odpowiedź jest błędna. Oznacza to celowe zetknięcie z trudnymi problemami na wczesnym etapie, czas seniorów poświęcony na nauczanie zamiast delegowania oraz mniejszą, bardziej wyselekcjonowaną bazę, niż stworzyłaby dawna ekonomika.

Dlaczego adopcja jest wskaźnikiem próżności

Wdrożenie kończy się niepowodzeniem na poziomie ludzkim, a nie technologicznym. Musiałem wycofać się z niemal wszystkiego, ponieważ odwróciłem tę kolejność.

Potraktowałem uruchomienie jako problem związany z możliwościami. Wybrać narzędzia, udowodnić, że działają, zapewnić ludziom dostęp, zmierzyć adopcję. Adopcja rosła, a ja odczytywałem to jako sukces. W rzeczywistości obserwowałem, jak ludzie nabierają komfortu w ufaniu wynikom, których nie nauczyli się kwestionować, a komfort jest wczesnym objawem porażki, a nie dowodem sukcesu.

Skoro już o tym mowa, powinienem był odmówić mierzenia adopcji. To próżny wskaźnik, który skierował mnie w złym kierunku. Liczyło się to, czy ludzie weryfikowali wynik, zanim mu zaufali, a to trudniej policzyć, więc zamiast tego śledziłem łatwiejszą rzecz. Mierzenie wykorzystania nagradzało dokładnie zachowanie, które spowodowało chaos: ludzie polegali na narzędziu częściej i szybciej, poświęcając mniej uwagi na weryfikację.

Teraz mierzyłbym weryfikację i ponowną pracę, a już nigdy nie pozwoliłbym, by wykres wykorzystania zastępował dowód poprawy jakości pracy.

Dlaczego CTO muszą wiązać każdą decyzję dotyczącą AI z wynikami biznesowymi

Oto moja rada:

1. Najpierw zarządzanie. To nie jest ekscytujące i nie rozgrzeje entuzjastów FOMO tak jak najnowsze modele przełomowe, ale jest absolutną koniecznością. Zarządzaj całym obszarem, zanim go wdrożysz i rozszerzysz. Większość poważnych problemów, które widziałem, wynikała z działań CTO wdrażających AI dla zwiększenia szybkości, a dopiero potem tworzących zasady zarządzania. Odwróć tę kolejność.
2. Przestań kupować dojrzałość i zacznij kupować weryfikowalne możliwości. Połowa AI prezentowanego w ofertach dostawców to opakowane API, sprzedawane jako własne kompetencje. Zażądaj od każdego dostawcy pokazania działania rozwiązania na problemie spoza jego prezentacji demonstracyjnej i wymagaj tego samego od własnych zespołów.
3. Chroń ludzi, którzy już wiedzą. Dźwignia jest realna wyłącznie w rękach osoby, która potrafi rozpoznać, kiedy model się myli. Inwestuj w ten osąd, mierz go i nie pozwól, by biegłość w formułowaniu promptów zastępowała go w strukturze organizacyjnej.
4. Powiąż każdą decyzję dotyczącą AI z liczbą, na której już zależy firmie. Chroń przychody, wyceniaj ryzyko i zwracaj godziny ludziom wykonującym pracę, która ma znaczenie. CTO, którzy przedstawiają AI jako inicjatywę technologiczną, będą co kwartał walczyć o budżet. Ci, którzy przedstawią ją jako kwestię marży i ryzyka, będą proszeni o opinię w pomieszczeniach, w których wcześniej podejmowano decyzje bez ich udziału. Argument techniczny rzadko przekonuje kadrę zarządzającą; przekonuje ją rachunek zysków i strat.
5. Ćwicz dyscyplinę. Wdrażaj AI tam, gdzie człowiek nadal odpowiada za wynik, nie umieszczaj go na stanowisku, na którym wynik nie wybacza błędów, i kontroluj to, co AI pomija, a nie tylko to, co eskaluje. Rynek obecnie nagradza szybkość, a przez kilka najbliższych lat będzie na nowo wyceniał zespoły, które pomyliły biegłość z kompetencją. Buduj tak, aby nie znaleźć się wśród nich.

Śledź dalszy ciąg

Możesz śledzić pracę Chrisa Garretta na LinkedInie. Sprawdź również jego najnowszą książkę, Skaluj lub sprzedaj.

Więcej wywiadów z ekspertami już wkrótce w The CTO Club!