Nie każdy problem wymaga sztucznej inteligencji

Abdulrhman AlOdhayb zajmuje się technologią i transformacją w złożonym środowisku instytucjonalnym. Jest starszym doradcą ds. technologii w Biurze Ministra Obrony Arabii Saudyjskiej.

Spotkaliśmy się z Abdulrhmanem, aby dowiedzieć się więcej o możliwościach i zagrożeniach związanych z wdrażaniem sztucznej inteligencji w złożonych środowiskach o wysokiej stawce. Oto, co powiedział.

Technologia nigdy nie jest najtrudniejszą częścią

Nazywam się Abdulrhman Alodhayb i jestem menedżerem ds. technologii i transformacji z 19-letnim doświadczeniem na stanowiskach kierowniczych w jednym z najbardziej złożonych środowisk instytucjonalnych, jakie można sobie wyobrazić: w obronie narodowej. Od niemal dwóch dekad pracuję w Ministerstwie Obrony Arabii Saudyjskiej, kierując transformacją cyfrową w obszarze opieki zdrowotnej i architekturą korporacyjną, a ostatnio pełniąc funkcję starszego doradcy ds. technologii w Biurze Ministra Obrony.

Moja kariera rozwijała się na styku obszarów, z którymi większość liderów technologicznych rzadko ma do czynienia — tam, gdzie decyzje inżynieryjne mają znaczenie dla bezpieczeństwa narodowego, gdzie uzgodnienie stanowisk interesariuszy oznacza łączenie struktur dowodzenia wojskowego z systemami klinicznymi i platformami korporacyjnymi, a koszt nieudanej transformacji mierzy się nie utraconymi przychodami, lecz zaufaniem do instytucji i gotowością operacyjną.

Przez cały ten czas przyświecało mi jedno przekonanie: technologia nigdy nie jest najtrudniejszą częścią. Najtrudniejsze jest stworzenie warunków organizacyjnych, w których technologia może dostarczać wartość. Opracowywałem strategie ICT dla szpitali, uczestniczyłem wraz z BCG w przeprojektowaniu docelowego modelu operacyjnego całego ministerstwa oraz kierowałem ogólnokorporacyjnymi inicjatywami cyfrowymi, w których nie było miejsca na porażkę.

Dziś, gdy sztuczna inteligencja przechodzi od fazy eksperymentów do rdzenia architektury systemów, tworzenia oprogramowania i wzmacniania organizacji, znajduję się w najciekawszym momencie swojej kariery. Najbardziej zajmują mnie nie pytania dotyczące samej technologii, lecz tego, jak liderzy budują zdolność oceny sytuacji, ład zarządczy i odporne architektury, które pozwalają sztucznej inteligencji przyspieszać realizację projektów bez obniżania jakości ani poziomu bezpieczeństwa.

O tym właśnie chcę dziś opowiedzieć.

Praca na poziomie strategicznym

Środowisko technologiczne, za które odpowiadam, jest rozległe pod każdym względem. Obsługujemy ogólnokorporacyjne systemy obejmujące szpitale wojskowe, platformy dowodzenia i kontroli, infrastrukturę ujednoliconej komunikacji oraz krajowe ramy danych obronnych. Architektura ma z założenia charakter hybrydowy: obejmuje suwerenne wdrożenia lokalne, w przypadku których miejsce przechowywania danych i klasyfikacja bezpieczeństwa nie podlegają negocjacjom, zintegrowane ze zmodernizowanymi platformami, w ramach których aktywnie prowadzimy transformację cyfrową.

Pracuję na poziomie strategicznym, doradzając na szczeblu ministerialnym, kierując funkcjami PMO i strategicznego zarządzania IT oraz uzgadniając mapy drogowe technologii w wielu dyrekcjach i jednostkach organizacyjnych. Złożoność ludzka dorównuje złożoności technicznej. Koordynowanie transformacji w wielowarstwowej strukturze wojskowych i cywilnych pracowników, z których każdy ma inną kulturę operacyjną i inną tolerancję ryzyka, samo w sobie jest odrębną dziedziną.

Złożoność produktów różni się tutaj od tej znanej z technologii komercyjnych. Nie dostarczamy kolejnych funkcji. Przeprojektowujemy sposób działania instytucji państwowej. Obejmuje to systemy elektronicznej dokumentacji medycznej dla sieci szpitali wojskowych, platformy zasobów przedsiębiorstwa oraz, ostatnio, udział w opracowaniu docelowego modelu operacyjnego całego ministerstwa, który na nowo definiuje sposób, w jaki technologia organizuje i wspiera całe przedsiębiorstwo obronne.

Model wdrażania musi w pierwszej kolejności uwzględniać suwerenność. Bezpieczeństwo, klasyfikacja i krajowy ład zarządzania danymi nie są ograniczeniami, które omijamy. To one definiują architekturę. Ta rzeczywistość kształtuje moje podejście do odporności, nadmiarowości oraz odpowiedzialnego wdrażania sztucznej inteligencji, gdy stawką jest bezpieczeństwo narodowe, a nie wynik handlowy.

Jak sztuczna inteligencja ujawnia to, co niewidoczne

Abdulrhman opowiada

Zmieniliśmy samą warstwę zarządzania. Wprowadziliśmy analizę wspomaganą przez sztuczną inteligencję do procesu przeglądu programów… Nie zastąpiło to ludzkiej oceny. Zapewniło decydentom pełniejszy i szybszy obraz rzeczywistości organizacyjnej…

W ubiegłym roku wprowadziłem do naszego cyklu przeglądu programów technologicznych punkty kontrolne zarządzania oparte na analizie wspomaganej przez sztuczną inteligencję. Przed tą zmianą przeglądy programów koncentrowały się na tradycyjnych wskaźnikach realizacji: dotrzymywaniu terminów, monitorowaniu budżetów i rejestrowaniu ryzyk. Proces był zdyscyplinowany, ale z natury spoglądał wstecz. Mierzyliśmy to, co już się wydarzyło, zamiast przewidywać, co może pójść nie tak.

Przełom nastąpił, gdy zdałem sobie sprawę, że kilka programów korporacyjnych generuje ogromne ilości danych ustrukturyzowanych i nieustrukturyzowanych — w dokumentacji projektowej, komunikacji z dostawcami, zgłoszeniach zmian i raportach operacyjnych — ale nikt nie syntetyzował tych informacji, aby wspierać podejmowanie decyzji przez kierownictwo w czasie rzeczywistym. Traktowaliśmy te dane jako archiwum.

Zmieniliśmy samą warstwę zarządzania. Wprowadziliśmy analizę wspomaganą przez AI do procesu przeglądu programów, wykorzystując możliwości modeli językowych do syntezy dokumentacji międzyprogramowej, wykrywania anomalii we wzorcach realizacji oraz generowania wczesnych sygnałów ostrzegawczych, zanim stały się one kwestiami wymagającymi eskalacji. Nie zastąpiło to ludzkiego osądu. Zapewniło decydentom bogatszy i szybszy obraz rzeczywistości organizacyjnej, umożliwiając im stosowanie osądu we właściwym momencie i na właściwym poziomie.

Wyniki były znaczące. Cykle przeglądów stały się bardziej skoncentrowane, ponieważ kierownictwo przychodziło z wstępnie zsyntetyzowanym obrazem obszarów, które rzeczywiście wymagały uwagi, zamiast poświęcać pierwszą połowę każdej sesji na odtwarzanie statusu na podstawie surowych raportów. Co ważniejsze, wykryliśmy dwa istotne ryzyka programowe wcześniej, niż ujawniłby je nasz tradycyjny proces, co umożliwiło interwencję przed wystąpieniem skutków, a nie reakcję po fakcie.

To doświadczenie ugruntowało zasadę, którą dziś wyznaję: AI nie transformuje organizacji przez zastępowanie procesów. Transformuje je, uwidaczniając to, co niewidoczne, i zapewniając liderom jasność niezbędną do precyzyjnego działania zamiast reagowania pod presją pilności.

Gdzie zespoły techniczne powinny korzystać z AI

Granica między decyzjami podejmowanymi przy wsparciu AI a decyzjami należącymi do człowieka nie jest stała. Przesuwa się wraz ze zdobywaniem zaufania, dojrzewaniem możliwości oraz coraz lepszym rozumieniem znaczenia poszczególnych obszarów decyzyjnych.

W moim środowisku aktywnie polegam na AI przy wspieraniu lub realizacji prac technicznych w kilku obszarach. Jednym z nich jest synteza dokumentacji i analiza informacji międzyprogramowych. Ponadto korzystam z AI przy analizie wzorców architektonicznych, w szczególności przy ocenie tego, czy proponowane rozwiązania są zgodne z ustalonymi standardami korporacyjnymi, czy też wprowadzają dług techniczny, który z czasem będzie narastał. AI może obecnie w ciągu kilku godzin wskazać to, czego przegląd przez starszego architekta wymagał niegdyś kilku dni — nie jako ostateczny werdykt, lecz jako uporządkowany materiał wejściowy, który usprawnia następujący po nim przegląd człowieka.

Intensywnie wykorzystuję AI również na poziomie planowania strategicznego: do syntezy ocen krajobrazu technologicznego, porównywania działań z najlepszymi praktykami na świecie oraz tworzenia analitycznego szkieletu dla map drogowych i docelowych modeli operacyjnych. Tam, gdzie ilość danych wejściowych jest duża, a czas na syntezę ograniczony, AI zapewnia nieproporcjonalnie dużą wartość.

W obszarze bezpieczeństwa monitorowanie i wykrywanie anomalii wspomagane przez AI stało się podstawowym oczekiwaniem, a nie innowacją. Rozpoznawanie wzorców z szybkością i na skalę wymaganą przez współczesne środowiska zagrożeń po prostu przekracza możliwości człowieka działającego bez wsparcia. W tym obszarze ufam AI w zakresie wykrywania i oznaczania zagrożeń. Nie ufam jej w zakresie wyciągania wniosków ani reagowania.

Gdzie zadania powinny pozostać domeną człowieka

Wszystko, co ma konsekwencje dla instytucji, pozostaje wyraźnie domeną człowieka. Decyzje architektoniczne, które będą kształtować organizację przez pięć do dziesięciu lat, nadal należą do ludzi. Analiza AI dostarcza informacji pomocniczych, ale ostatecznie oceniają je osoby rozumiejące kontekst organizacyjny, dynamikę polityczną i długofalowe konsekwencje — w sposób, którego obecnie żaden model nie potrafi odtworzyć. Decyzje dotyczące reagowania na incydenty wpływające na ciągłość operacyjną, szczególnie w środowisku obronnym, wymagają ludzkich uprawnień dowódczych. Odpowiedzialności nie da się zautomatyzować.

Decyzje dotyczące dostawców i partnerstw nadal należą do ludzi. Ocena zaufania, zgodności wartości i długoterminowego dopasowania do organizacji wymaga ludzkiego osądu, który wykracza daleko poza to, co AI potrafi dziś wiarygodnie ocenić.

Samo zarządzanie również pozostaje domeną człowieka. Z dużą ostrożnością podchodzę do każdej organizacji, która pozwala AI zarządzać AI. Osoby, które mogą zostać pociągnięte do odpowiedzialności za skutki, muszą być właścicielami warstwy nadzoru, punktów kontrolnych dotyczących etyki oraz decyzji o tym, gdzie AI powinna, a gdzie nie powinna działać.

Moja zasada działania jest następująca: ufam AI w zakresie poszerzania obszaru ludzkiego osądu, ale nigdy w zakresie zastępowania samego osądu. W chwili, gdy organizacja myli te dwie kwestie, nie przyjęła AI. Po prostu zleciła na zewnątrz swoją odpowiedzialność.

Pozytywne rezultaty integracji AI

Z pozytywnej strony integracja AI z naszymi przepływami pracy najbardziej mierzalnie poprawiła efektywność cyklu przeglądu programów. Po wprowadzeniu syntezy wspomaganej przez AI do naszego procesu zarządzania kierownictwo spędzało około 60% mniej czasu na odtwarzaniu statusu projektu z surowej dokumentacji podczas każdej sesji przeglądowej. Nie jest to błaha liczba w środowisku, w którym osoby podejmujące decyzje na szczeblu kierowniczym jednocześnie działają w ramach wielu realizowanych programów. W praktyce odzyskaliśmy godziny uwagi kadry kierowniczej w każdym cyklu, kierując ją z powrotem ku ocenie i interwencji, a nie odtwarzaniu statusu.

Drugim mierzalnym rezultatem było wykrywanie ryzyka. Jak wspomniałem wcześniej, zidentyfikowaliśmy dwa istotne zagrożenia dla programów wcześniej, niż umożliwiłby to nasz tradycyjny proces przeglądu. W obu przypadkach odstęp między wczesnym wykryciem a znaczącym wpływem na realizację mierzono w tygodniach. W środowisku komercyjnym przekłada się to na uniknięcie kosztów. W środowisku obronnym przekłada się to na gotowość operacyjną — trudniejszą do wyrażenia liczbowo, ale mającą znacznie poważniejsze konsekwencje.

W planowaniu strategicznym integracja AI skróciła czas potrzebny na przygotowanie pierwszych wersji ocen technologii i zarysów planów rozwoju o około 70%. Nie oznacza to, że końcowy rezultat wymagał o 70% mniej pracy. Oznacza to, że wysiłek ludzi przesunął się od tworzenia do oceny, od pisania do redagowania, od syntezy do walidacji. Jakość rezultatów wzrosła, ponieważ doświadczeni specjaliści poświęcali czas na to, co wymagało ich wiedzy, zamiast na czynności mechaniczne.

Negatywne rezultaty integracji AI

Abdulrhman dzieli się

Pierwszym wyzwaniem było wdrożenie. Drugim wyzwaniem była spójność jakości rezultatów. Trzecia i najważniejsza lekcja dotyczyła oczekiwań…

A teraz szczere przedstawienie tego, co sprawdziło się gorzej, niż oczekiwano — ponieważ społeczność liderów technologicznych nie odnosi korzyści z opowieści, które celebrują wyłącznie sukcesy.

Pierwszym wyzwaniem było wdrożenie. W dużym środowisku instytucjonalnym, w którym głęboko zakorzeniły się kultury operacyjne, wprowadzanie AI do przepływów pracy nie jest problemem technologicznym. Jest problemem zarządzania zmianą. Mieliśmy programy, w których wdrożyliśmy narzędzia i przyznaliśmy do nich dostęp, lecz możliwości te w dużej mierze pozostawały niewykorzystane, ponieważ nie przeprojektowaliśmy otaczających ich systemów pracy ludzi — zachęt, nawyków i zaufania — tak, aby mogły je uwzględniać. Wdrożenie technologii bez zmiany zachowań to po prostu drogie oprogramowanie odłożone na półkę.

Drugim wyzwaniem była spójność jakości rezultatów. We wczesnych wdrożeniach obserwowaliśmy znaczące różnice w jakości analiz generowanych przez AI, zależnie od jakości i struktury danych wejściowych. Zasada „śmieci na wejściu, śmieci na wyjściu” nie jest nowa, ale AI sprawia, że śmieci wyglądają bardziej wiarygodnie. Źle skonstruowane polecenie generujące dobrze sformatowany, lecz analitycznie słaby rezultat jest pod pewnymi względami bardziej niebezpieczne niż pusta strona, ponieważ tworzy fałszywe poczucie pewności. Nauczyliśmy się intensywnie inwestować w dyscyplinę formułowania poleceń i zarządzanie danymi wejściowymi, zanim zaczęliśmy ufać rezultatom w kontekstach o wysokiej stawce.

Trzecia i najważniejsza lekcja dotyczyła oczekiwań. Organizacje, które przedstawiają integrację AI jako działanie mające na celu redukcję kosztów, zwykle osiągają rozczarowujące rezultaty, ponieważ optymalizują niewłaściwy wynik. Organizacje — w tym nasze własne programy — które odnotowały rzeczywisty wpływ, postrzegały AI jako wzmacniacz możliwości. Pytanie nie brzmiało: „Jak możemy wykonać tę samą pracę mniejszą liczbą osób?”. Brzmiało: „Jak możemy wykonywać pracę, która wcześniej była niemożliwa, albo realizować ją na poziomie jakości wcześniej nieosiągalnym przy wykorzystaniu naszych zasobów?”

Ta zmiana sposobu myślenia stanowi różnicę między AI jako narzędziem efektywności a AI jako dźwignią transformacji. Z mojego doświadczenia wynika, że tylko ta druga wersja przynosi rezultaty warte omówienia.

Dlaczego integracja AI nie spełnia oczekiwań w złożonych środowiskach

Rozbieżność między tym, co AI obiecuje podczas prezentacji w sali posiedzeń zarządu, a tym, co dostarcza w złożonym środowisku instytucjonalnym, nadal jest znacząca, a udawanie, że jest inaczej, szkodzi całej branży.

Najwyraźniej AI nie spełniło naszych oczekiwań w zakresie inteligencji integracji między systemami. Rozsądnie oczekiwaliśmy, opierając się na tym, co technologia demonstrowała w kontrolowanych środowiskach, że AI będzie pełnić funkcję inteligentnej warstwy orkiestracji między platformami przedsiębiorstwa, rozumieć zależności między systemami, identyfikować awarie integracji, zanim doprowadzą do kaskadowych problemów, oraz rekomendować działania naprawcze w czasie rzeczywistym.

Odkryliśmy, że AI działa wyjątkowo dobrze w dobrze zdefiniowanych i dobrze udokumentowanych obszarach, a wyjątkowo słabo na nieuporządkowanych, słabo udokumentowanych i politycznie złożonych granicach między systemami przedsiębiorstwa w dużych instytucjach. Żaden dokument nie zawiera wiedzy potrzebnej do poruszania się po tych granicach. Wiedza ta tkwi w ludziach, relacjach i pamięci instytucjonalnej gromadzonej przez lata. AI nie miało do niej dostępu ani niezawodnego sposobu zdobywania jej w tempie, którego potrzebowaliśmy.

AI również nie spełniła pokładanych w niej nadziei w zakresie interfejsów języka naturalnego dla użytkowników nietechnicznych. Teoria była przekonująca: zapewnić pracownikom operacyjnym i kadrze kierowniczej wyższego szczebla konwersacyjny interfejs do danych przedsiębiorstwa, eliminując zależność od pośredników technicznych przy każdym zapytaniu i raporcie. W praktyce przepaść między sposobem, w jaki użytkownicy nietechniczni naturalnie wyrażają swoje intencje, a sposobem, w jaki systemy AI niezawodnie je interpretują, okazała się znacznie większa, niż przewidywano. Użytkownicy byli sfrustrowani, gdy wyniki nie odpowiadały ich oczekiwaniom, a frustracja w dużej instytucji nie prowadzi do pętli informacji zwrotnej. Prowadzi do porzucenia rozwiązania. Ostatecznie otrzymaliśmy funkcję, która dobrze działała w przypadku użytkowników obeznanych technicznie, a słabo w przypadku szerszej grupy odbiorców, której miała służyć — dokładnie odwrotnie niż wymaga tego transformacja.

Trzeci obszar to strategiczne rozumowanie na podstawie dokumentów. Oczekiwaliśmy, że AI będzie skutecznie pracować z obszernymi, silnie kontekstowymi i często niejednoznacznymi dokumentami dotyczącymi polityk i strategii, które stanowią podstawę podejmowania decyzji przez duże instytucje rządowe. Odkryliśmy, że AI potrafi kompetentnie podsumowywać te dokumenty, ale ma trudności z rozumowaniem na ich podstawie, identyfikowaniem rzeczywistych sprzeczności między polityką opracowaną w jednym departamencie a standardem przyjętym w innym, rozumieniem politycznej wagi konkretnego zapisu czy rozpoznaniem, kiedy technicznie poprawna rekomendacja jest instytucjonalnie niemożliwa do wdrożenia. Ten poziom osądu, który sprawia, że porada strategiczna jest użyteczna, a nie tylko trafna, uparcie pozostawał domeną człowieka.

Na koniec chcę nazwać coś, co rzadko pojawia się w analizach przypadków dostawców: AI nie zapewniła oczekiwanego przez nas tempa uczenia się organizacji. Zakładaliśmy, że wraz z przyjmowaniem przez organizację narzędzi AI będzie ona szybciej rozwijać zbiorową inteligencję, a wnioski ujawnione przez AI w jednym programie będą naturalnie przenosić się do innych programów i usprawniać podejmowanie decyzji. Stało się jednak inaczej: wnioski generowane przez AI pozostały odizolowane w zespołach, które je wypracowały, ponieważ struktury organizacyjne, mechanizmy dzielenia się wiedzą oraz kulturowe normy dotyczące dokumentowania i przejrzystości nie ewoluowały w sposób umożliwiający gromadzenie i rozpowszechnianie tego, co tworzyła AI. Technologia generowała więcej sygnałów, niż organizacja potrafiła przyswoić.

Przedstawiam to wszystko nie jako krytykę potencjału AI, który moim zdaniem pozostaje ogromny, lecz jako przypomnienie, że każda z opisanych przeze mnie luk jest problemem ludzkiego systemu przebranym za problem technologiczny.

Proces pracy z AI służący optymalizacji ocen strategicznych programów

Przeprowadzę Cię przez proces pracy, który jest jednym z najbardziej wartościowych elementów mojej obecnej praktyki: ocenę strategicznego programu wspomaganą przez AI. Opiszę go od początku do końca, ponieważ jego wartość nie wynika z żadnego pojedynczego kroku, lecz ze sposobu, w jaki poszczególne kroki się łączą.

Ten proces pracy jest zwykle uruchamiany, gdy program dociera do kluczowego punktu decyzyjnego. W naszym środowisku może to oznaczać migrację dużej platformy przedsiębiorstwa, wdrożenie cyfrowego systemu opieki zdrowotnej w sieci szpitali wojskowych lub przegląd architektury przedsiębiorstwa związany z przeprojektowaniem docelowego modelu operacyjnego. Są to programy, w których decyzja niesie konsekwencje obejmujące wiele lat, a dane wejściowe są obszerne, różnorodne i obciążone politycznie.

Proces pracy rozpoczyna się od ustrukturyzowanego gromadzenia danych wejściowych. Zanim AI przystąpi do analizy, mój zespół świadomie selekcjonuje dane wejściowe: gromadzi dokumentację programu, oferty dostawców, zgłoszenia dotyczące architektury technicznej, wyniki wcześniejszych przeglądów, odpowiednie ramy polityk oraz dokumenty przedstawiające stanowiska interesariuszy, a następnie łączy je w uporządkowany korpus. Ten etap jest w całości ludzki i w całości zamierzony. Jakość późniejszych wyników AI jest wprost proporcjonalna do jakości i struktury danych wejściowych. Nauczyliśmy się tego na własnych błędach podczas pierwszych wdrożeń i obecnie traktujemy zarządzanie danymi wejściowymi jako dyscyplinę, od której nie ma wyjątków.

Następnie przeprowadzamy syntezę wspomaganą przez AI. Przepuszczamy wyselekcjonowany korpus przez model językowy z użyciem starannie zaprojektowanej architektury poleceń, która wymaga odpowiedzi na konkretne pytania analityczne, a nie otwartego podsumowania. Nie prosimy modelu, aby powiedział nam, co zawierają dokumenty. Zamiast tego prosimy go o identyfikację sprzeczności między określonymi celami a proponowanymi architekturami, ujawnienie założeń przedstawionych bez potwierdzenia dowodami, wskazanie zależności pojawiających się w jednym dokumencie, ale nieobecnych w innym, oraz wyróżnienie wzorców ryzyka odpowiadających profilom, w przypadku których wcześniejsze programy zakończyły się niepowodzeniem. Wynikiem jest ustrukturyzowany dokument analityczny, a nie podsumowanie.

Trzeci i najbardziej ludzki etap to krytyczny przegląd oraz ponowne osadzenie w kontekście. Starszy doradca — w większości przypadków ja lub zaufany lider techniczny — czyta dokument analityczny wygenerowany przez AI nie jako wniosek, lecz jako punkt wyjścia do dalszych dociekań. Pytamy: Co AI ujawniła, czego wcześniej świadomie nie sformułowaliśmy? Czego nie zauważyła, a co znamy z doświadczenia instytucjonalnego? Gdzie jest technicznie poprawna, ale instytucjonalnie naiwna? W tym miejscu dziewiętnaście lat pracy w tym środowisku wnosi wartość, której żaden model nie jest w stanie odtworzyć. Dokument analityczny AI wyostrza pytania. Ludzki osąd dostarcza odpowiedzi.

Czwarty krok obejmuje przygotowanie decyzji. Wykorzystujemy zweryfikowane wnioski z oceny dokonanej przez człowieka, aby stworzyć pakiet decyzyjny dla kadry kierowniczej: określić ramy decyzji, przedstawić opcje wraz z ich rzeczywistymi kompromisami, szczegółowo opisać ryzyka z realistycznym prawdopodobieństwem i wpływem oraz zaprezentować rekomendację wraz z jej wyraźnie wskazanymi założeniami. Ponieważ synteza AI zajmuje się mechaniczną pracą polegającą na przetwarzaniu całego zbioru materiałów, ten krok przebiega szybciej i dostarcza bogatszych rezultatów, niż byłoby to możliwe w procesie przeprowadzanym wyłącznie ręcznie. Liderzy docierają do punktu decyzyjnego z jaśniejszym obrazem sytuacji i bardziej ukierunkowanymi pytaniami.

Piąty krok to rejestrowanie rezultatów — obszar, w którym większość organizacji nie zdaje egzaminu. Po podjęciu decyzji i rozpoczęciu realizacji programu dokumentujemy nie tylko to, co zdecydowano, lecz także to, co ujawniła analiza AI i co okazało się trafne, czego nie wykryła oraz które przyjęte przez nią założenia okazały się błędne. Informacje zwrotne nie trafiają do folderu; zamiast tego wracają do naszej architektury poleceń oraz standardów zarządzania danymi wejściowymi na potrzeby kolejnego programu. Przepływ pracy doskonali się z każdą iteracją, ponieważ traktujemy każde uruchomienie jako okazję do nauki.

Ten przepływ pracy przyniósł znaczący i mierzalny wpływ. Skrócił czas cyklu ocen dla przeglądów najważniejszych programów o około 65%. Zwiększył szczegółowość identyfikacji ryzyka, ujawniając problemy wcześniej w procesie decyzyjnym, zamiast wykrywać je dopiero podczas realizacji. A być może co najważniejsze, podniósł jakość rozmów kadry kierowniczej w punktach decyzyjnych, ponieważ liderzy poświęcają czas na rzeczywiste decyzje wymagające osądu, zamiast odtwarzać stan sytuacji na podstawie nieprzetworzonych informacji.

Chcę podkreślić filozofię projektową tego przepływu pracy. AI nie podejmuje żadnej pojedynczej decyzji; przetwarza, syntetyzuje i wydobywa informacje. Każdy osąd, każda weryfikacja i każda rekomendacja pozostają domeną człowieka.

Jak unikać pułapek we wdrażaniu AI

Abdulrhman dzieli się

Nauczyłem się, że na naprawdę nowym terytorium intelektualna uczciwość wobec niepewności nie jest oznaką słabości przywództwa. Jest warunkiem koniecznym do zbudowania zaufania, które podtrzymuje zespoły w nieuniknionych momentach, gdy droga okazuje się trudniejsza, niż zakładał plan.

Organizacyjny układ odpornościowy jest realny, potężny i aktywuje się szybciej, niż jakiekolwiek narzędzie AI zostanie wdrożone. Każda duża instytucja przez lata i dekady wykształciła nieformalne mechanizmy opierające się zmianom, które zagrażają istniejącym strukturom władzy, utrwalonym sposobom pracy i tożsamościom zawodowym. Rozumiałem to intelektualnie, zanim rozpoczęliśmy działania, ale nie doceniłem, jak konkretnie i szybko mechanizmy te zareagują na AI.

Gdy ludzie zorientowali się, że narzędzia AI zmieniają nie tylko sposób wykonywania pracy, lecz także to, kto wnosi wartość do organizacji, opór nie przejawiał się w formie sprzeciwu, lecz jako stosowanie się do poleceń bez rzeczywistego wdrożenia. Zespoły uzyskiwały dostęp do narzędzi, ale z nich nie korzystały. Otrzymywały wyniki, lecz nie podejmowały na ich podstawie działań. Procesy były formalnie aktualizowane, ale zachowania pozostawały bez zmian. Bierny opór w dużej instytucji jest niemal niewidoczny, dopóki nie zacznie się mierzyć rezultatów. Zanim pomiary ujawnią problem, tracone są miesiące rozpędu.

W powiązanym temacie chciałbym wiedzieć wcześniej, jak bardzo sposób przedstawienia wdrożenia trwale wpłynie na jego odbiór. We wczesnych wdrożeniach popełniliśmy błąd komunikacyjny, który uważam za jeden z najbardziej brzemiennych w skutki błędów tej inicjatywy. Aby uzyskać poparcie kadry kierowniczej i uzasadnić inwestycję, przedstawialiśmy narzędzia AI językiem efektywności: szybciej, oszczędniej, produktywniej.

To ujęcie było trafne w wąskim sensie technicznym, ale głęboko szkodliwe z każdego ludzkiego punktu widzenia. Gdy ludzie słyszą o efektywności w kontekście nowego narzędzia wdrażanego w ich zespole, słyszą o liczbie etatów. Słyszą, że ich rola jest oceniana pod kątem zbędności. Korzystają z narzędzia nie jako z czegoś, co poprawi ich pracę, lecz jako z czegoś, co może sprawić, że ich stanowisko stanie się niepotrzebne. Postawa obronna wywołana takim sposobem przedstawienia wdrożenia wymagała miesięcy, by ją rozmontować, a w niektórych częściach organizacji nigdy nie zniknęła całkowicie.

Osobiście wiem już także, że powinienem był bardziej otwarcie mówić zespołom o własnej niepewności. Rozpoczynałem tę podróż z większą pewnością co do słuszności obranego kierunku niż co do operacyjnej wiedzy o tym, jak AI będzie działać w naszym konkretnym kontekście instytucjonalnym. Wiedziałem, że cel jest właściwy. Nie znałem jednak w pełni drogi. Próbując zaprezentować pewność siebie lidera, której wymagają duże programy, czasami komunikowałem pewność, której nie posiadałem, co stworzyło oczekiwania, które rzeczywistość następnie skomplikowała. Nauczyłem się, że na naprawdę nowym terytorium intelektualna uczciwość wobec niepewności nie jest oznaką słabości przywództwa. Jest warunkiem koniecznym do zbudowania zaufania, które podtrzymuje zespoły w nieuniknionych momentach, gdy droga okazuje się trudniejsza, niż zakładał plan.

Dlaczego AI wymaga nowego typu lidera technologicznego

Era sztucznej inteligencji systematycznie dewaluuje określony profil lidera technologicznego: eksperta, który przez lata zdyscyplinowanej nauki i praktyki zgromadził głęboką wiedzę techniczną, zbudował autorytet dzięki biegłości i przewodził jako najbardziej kompetentna osoba w pomieszczeniu. Ten profil przez dekady dominował w przywództwie technologicznym i przynosił niezwykłe rezultaty, gdy wiedza stanowiła wąskie gardło, a ekspertyza była przewagą konkurencyjną. AI nie eliminuje tego profilu z dnia na dzień. Jednak podważa jego fundamenty szybciej, niż większość osób o tym profilu jest gotowa przyznać, a instytucje zależne od tego profilu, które nie rozwijają jego następcy, gromadzą ryzyko przywódcze, którego jeszcze nie zarejestrowały.

Profil wymagany w erze AI jest zasadniczo inny. Era AI wymaga liderów, którzy czerpią autorytet nie z tego, co wiedzą, lecz z jakości zadawanych pytań. Liderów, których głównym wkładem intelektualnym nie jest synteza (ponieważ AI potrafi syntetyzować), lecz osąd. Liderów biegłych w dynamice organizacyjnej, psychologii człowieka i władzy instytucjonalnej, a także w technologii. Liderów, którzy zachowują autentyczną pokorę intelektualną w obliczu narzędzia nieustannie emanującego pewnością siebie i którzy wypracowali wewnętrzną stabilność pozwalającą im powiedzieć „nie wiem” oraz „muszę się nad tym zastanowić” w środowiskach, które nagradzają zdecydowanie ponad niemal wszystko inne.

I być może co najważniejsze, era AI wymaga liderów, którzy jasno i wyczerpująco odpowiadają na pytanie, którego poprzednie pokolenia liderów technologicznych rzadko musiały sobie zadawać: Jaką wartość ludzką wnoszę, której AI nie potrafi odtworzyć, i czy inwestuję w tę wartość z taką samą dyscypliną, z jaką rozwijam swoje kompetencje techniczne?

Regularnie zadaję sobie to pytanie. Nie jest ono wygodne. Wymaga uczciwej samooceny tego, które części mojej tożsamości zawodowej są rzeczywiście niezastępowalne, a które chronię z przyzwyczajenia, a nie z konieczności. Uważam, że ten proces uczciwego samobadania jest podstawową praktyką przywódczą ery AI. Nie inżynieria promptów, nie ocena modeli, nie ramy zarządzania AI — choć są one ważne. Chodzi o gotowość do jasnego spojrzenia na to, co wnosisz, a czego model nie potrafi, oraz do celowego i konsekwentnego inwestowania właśnie w to.

Era AI wytwarza złożoność w tempie i skali, dla których zawód technologa nie ma historycznego precedensu. Liderzy, którzy dobrze sobie z nią poradzą, nie przyjmują AI najszybciej, nie wdrażają jej najbardziej ambitnie ani nie mówią o niej najbardziej płynnie na scenach takich jak ta. Wykonują trudniejszą, cichszą pracę polegającą na rozwijaniu ludzkich cech, których wymaga złożoność: osądu, pokory, odwagi, mądrości instytucjonalnej oraz jasności celu, która pozwala kierować potężne narzędzia ku wartościowym celom.

Uważam, że społeczność liderów technologicznych musi podjąć tę rozmowę z dużo większą pilnością, niż robi to obecnie. I właśnie dlatego zgodziłem się na ten wywiad: nie po to, by mówić o tym, co AI potrafi, lecz by publicznie i uważnie zastanowić się nad tym, kim jako liderzy musimy się stać, aby zasługiwać na kierowanie nią.

Pięć porad dla dyrektorów technicznych

Chcę udzielać porad, które są użyteczne, a nie takich, które dobrze brzmią na scenie konferencyjnej, dlatego podzielę się tym, w co wierzę na podstawie dziewiętnastu lat kierowania transformacją w jednym z najbardziej złożonych środowisk instytucjonalnych, jakie można sobie wyobrazić.

Po pierwsze, oprzyj się presji posiadania strategii AI. Twoja organizacja potrzebuje strategii biznesowej, której służy AI. Obserwowałem zbyt wielu liderów technologicznych poświęcających ogromną energię na tworzenie planów rozwoju AI, powoływanie centrów doskonałości AI i ogłaszanie inicjatyw AI, podczas gdy pozostawiali bez odpowiedzi fundamentalne pytanie, jaki problem rozwiązują dla instytucji. AI bez jasności strategicznej nie jest transformacją; to wyrafinowana aktywność udająca postęp. Zacznij od rezultatu, za którego dostarczenie odpowiadasz, a następnie cofnij się, aby ustalić, gdzie AI zapewnia największą dźwignię. Ta kolejność ma ogromne znaczenie.

Po drugie, traktuj adopcję jako główne wyzwanie inżynieryjne, a nie integrację. Najtrudniejszym problemem we wdrażaniu AI nie jest połączenie modelu z systemami; jest nim zmiana sposobu, w jaki ludzie myślą, podejmują decyzje i pracują w obecności wsparcia AI. Z mojego doświadczenia wynika, że organizacje inwestują w to o rząd wielkości za mało. Przeznaczają 80 procent budżetu na technologię, a 20 procent na ludzi i zmianę procesów, podczas gdy proporcja przynosząca rezultaty jest bliższa odwrotnej. Jeśli Twoja inicjatywa AI nie obejmuje poważnego komponentu zarządzania zmianą i budowania kompetencji, budujesz na piasku, niezależnie od tego, jak wyrafinowana jest Twoja architektura.

Po trzecie, bezwzględnie chroń swoją warstwę osądu. W miarę jak AI staje się coraz bardziej zaawansowana i coraz głębiej osadzona w przepływach pracy, pojawi się stała presja — subtelna i całkiem jawna — aby rozszerzać jej zakres uprawnień: pozwalać jej nie tylko dostarczać informacji potrzebnych do podejmowania decyzji, lecz także je podejmować; nie tylko sygnalizować zagrożenia, lecz także je rozwiązywać; nie tylko przygotowywać rekomendacje, lecz także je zatwierdzać. Opieraj się temu. Nie dlatego, że AI nie może być technicznie zdolna do wykonywania takich zadań w określonych obszarach, lecz dlatego, że w momencie, gdy organizacja traci nawyk korzystania z ludzkiego osądu, traci coś niezwykle trudnego do odbudowania. Osąd jest jak mięsień. Organizacje, które przestają go ćwiczyć, nie pozostają niezmienione — ulegają atrofii. W środowisku o wysokiej stawce ta atrofia będzie kosztować cię w najgorszym możliwym momencie.

Po czwarte, przywiązuj dużą wagę do suwerennych ekosystemów AI, szczególnie jeśli działasz w sektorze rządowym, obronnym lub w obszarze krytycznej infrastruktury państwowej albo w jego otoczeniu. Zakwestionuj założenie, że globalne platformy hiperskalowe pozostaną domyślną architekturą dla AI w przedsiębiorstwach. W Arabii Saudyjskiej obserwujemy powstawanie prawdziwie suwerennej infrastruktury AI dzięki platformom takim jak HUMAIN ONE. Platformy te opierają się na modelach językowych tworzonych przede wszystkim z myślą o języku arabskim, są hostowane w ramach krajowej infrastruktury obliczeniowej i projektowane specjalnie z uwzględnieniem złożoności zarządzania dużymi instytucjami. Dla CTO działających w środowiskach regulowanych lub wrażliwych pod względem bezpieczeństwa pytanie o to, gdzie działa twoja AI, na czyjej infrastrukturze, pod czyją jurysdykcją i na czyich danych została wytrenowana, nie jest formalnością związaną ze zgodnością; jest fundamentalną decyzją architektoniczną, która określi podejście twojej organizacji do AI na następną dekadę.

Po piąte i wreszcie, inwestuj we własny osąd jako lider z taką samą dyscypliną, z jaką inwestujesz w możliwości techniczne swojej organizacji. To rada, którą uważam za najważniejszą i najmniej omawianą w kręgach technologicznych. CTO, którzy dobrze radzą sobie w tym momencie, niekoniecznie najlepiej rozumieją AI w sensie technicznym. Łączą kompetencje techniczne z mądrością instytucjonalną, jasnością strategiczną i moralną odwagą potrzebną do podejmowania decyzji właściwych dla ich organizacji, nawet jeśli w krótkiej perspektywie są one niepopularne. AI będzie się rozwijać niezależnie od tego, co którekolwiek z nas zrobi. Zmienną jest jakość ludzkiego przywództwa, które nią kieruje.

Nie uczestniczymy w wyścigu o to, kto najszybciej wdroży AI; uczestniczymy w wyścigu o to, kto wdroży ją najrozsądniej. Z mojego doświadczenia wynika, że mądrość nigdy nie była funkcją, którą można zainstalować.

Śledź nasze działania

Możesz śledzić działalność Abdulrhman AlOdhayb na LinkedIn.

Wkrótce opublikujemy kolejne wywiady z ekspertami na The CTO Club.