Dyrektor ds. technologii mówi, że AI powoduje poważne problemy ze stabilnością

David Ting jest dyrektorem ds. technologii w Bespin Global i od ponad dekady integruje sztuczną inteligencję z przepływami pracy. Jednak, jak twierdzi, w ciągu ostatniego roku sytuacja się zmieniła.

Spotkaliśmy się z Davidem, aby porozmawiać o korzyściach, które obserwuje. Powiedział, że nie wszystko sprowadza się do korzyści — stabilność stanowi poważny problem.

Tworzenie strategii transformacji opartej na sztucznej inteligencji

Przemyślenia Davida

\u003cstrong\u003eW ciągu ostatniego roku tempo innowacji jeszcze bardziej wzrosło.\u003c/strong\u003e

Aktywnie zajmuję się sztuczną inteligencją od ponad dekady. To dynamiczne środowisko, a w ciągu ostatniego roku tempo innowacji jeszcze bardziej wzrosło.

Obecnie jestem dyrektorem ds. technologii w Bespin Global, gdzie tworzę strategię transformacji opartej na sztucznej inteligencji — od usprawniania operacji po tworzenie nowych produktów i usług. Koncentrujemy się na odsprzedaży usług chmurowych i doradztwie, a na całym świecie zatrudniamy 1000 osób.

Rozpocząłem również prace nad dwoma wewnętrznymi produktami opartymi na sztucznej inteligencji i doprowadziłem do ich wdrożenia — narzędziem AI dla produkcji oraz narzędziem AI do obsługi bezpieczeństwa.

Codziennie poświęcam co najmniej 50% czasu na programowanie i automatyzowanie pracy oraz życia. Pomaga mi to być na bieżąco z najnowszymi osiągnięciami technicznymi. W rzeczywistości w ciągu ostatniego miesiąca napisałem przy wsparciu sztucznej inteligencji ponad 200 tys. wierszy kodu.

Dlaczego korzystanie z Claude Code powinno być obowiązkowe

Mamy setki programistów i wszyscy korzystają z Claude Code.

Proaktywnie monitorowaliśmy tempo pracy i odkryliśmy, że produktywność programistów może wzrosnąć ponad 10-krotnie. Osobiście przekonałem się, że 10-krotny wzrost nie jest granicą.

Nadal korzystamy z tradycyjnych zespołów programistycznych i QA oraz ze standardowego przepływu pracy opartego na specyfikacji. Zmiana dotyczy narzędzi.

Nawet zespół QA pisze więcej testów z wykorzystaniem sztucznej inteligencji — głównie testów Playwright oraz dodatkowych testów jednostkowych.

Zespół programistyczny korzysta również z innych narzędzi. Osobiście w większości przypadków używam narzędzi o otwartym kodzie źródłowym. Korzystam także z OpenAI, Codex, API Anthropic oraz Claude. Używam wszystkich tych narzędzi jednocześnie, za pośrednictwem wielu okien terminala.

Jak sztuczna inteligencja usprawnia kompleksowe przepływy pracy inżynieryjnej

Tworzymy specyfikację produktu przy użyciu sztucznej inteligencji, przeprowadzamy przeglądy architektury przy użyciu sztucznej inteligencji i piszemy kod przy użyciu sztucznej inteligencji.

Aby to zrobić, zaczynasz od bardzo szczegółowej specyfikacji projektu. Programiści korzystający ze sztucznej inteligencji opracują ją, uzupełnią szczegóły i dokładnie przeanalizują projekt, wykrywając problemy. Następnie agent zajmie się każdym zadaniem i je zrealizuje.

Po zakończeniu implementacji potrzebna jest weryfikacja przeprowadzona przez człowieka, aby upewnić się, że oprogramowanie działa zgodnie z projektem. Dołącz narzędzia do obserwowalności do stosu kodu, aby monitorować dzienniki i wskaźniki wydajności, a następnie wykorzystaj sztuczną inteligencję do optymalizacji lub naprawy błędów, wyznaczając bardzo konkretny cel.

Gdy to zrobisz, przekonasz się, że jeden programista może szybko wykonać pracę odpowiadającą pracy od 20 do 60 programistów. Dopracowanie produktu wymaga wskazówek eksperta, ale sztuczna inteligencja wykonuje większość pracy związanej z programowaniem.

Dlaczego sztuczna inteligencja przenosi uwagę z jakości kodu na wyniki

Nadal traktowałem jakość kodu jako śledzony przeze mnie wskaźnik, ale sztuczna inteligencja przeniosła moją uwagę na liczbę zaimplementowanych przypadków użycia i wierszy kodu.

Powód jest prosty: sztuczna inteligencja zwiększa wydajność. Dzięki temu iteracje przebiegają niezwykle szybko.

Nie refaktoryzujesz kodu. Pozwalasz, aby wyniki wskazywały, na co powinieneś poświęcić czas.

Dlaczego eksperci z dziedziny inżynierii nadal są potrzebni w procesach pracy

AI dotyka praktycznie wszystkiego, co robimy. W ciągu zaledwie ostatnich sześciu miesięcy znacznie się rozwinęła, ale eksperci nadal są niezbędni do kierowania rozwojem. Zapewniają, że kod działa prawidłowo i że projekt UX jest przejrzysty.

AI często halucynuje. Prowadzi to do głęboko zakorzenionych błędów. Potrzebujesz kogoś, kto doskonale zna najlepsze praktyki architektoniczne i potrafi je wykryć.

Dlatego zmierzamy w stronę mniejszych zespołów złożonych z najwyższej klasy ekspertów. Siła zespołu nie zależy już od jego wielkości.

Dlaczego AI zwiększa ilość pracy personelu dyżurnego

Integracja AI oczywiście przyniosła oszczędności. Nasza cyfrowa linia montażowa, oparta na AI wykorzystującej agentów, zmniejszyła zapotrzebowanie na personel o 75%, jednocześnie zwiększając szybkość realizacji.

W tym roku eksperymentuję również z automatyzacją ról w firmie za pomocą zespołu agentów i uzyskuję obiecujące wyniki.

Ale te korzyści nie wyczerpują tematu.

Jakość znacznie się różni, ponieważ kodowanie jest teraz niedeterministyczne. To samo polecenie daje różne wyniki, co może być frustrujące.

Zapobieganie przedostaniu się błędu do środowiska produkcyjnego wymaga dużej staranności — polecenia trzeba starannie konstruować, a kod dokładnie testować.

W związku z tym ludzie pracują również ciężej niż kiedykolwiek — szczególnie personel dyżurny.

Jak AI wpływa na dostępność środowiska produkcyjnego

Dodaliśmy rozbudowane monitorowanie i mechanizmy ochronne. Interfejs API Claude jest niestabilny w środowisku produkcyjnym, dlatego uzupełniliśmy go modelami o otwartym kodzie źródłowym, takimi jak Qwen.

Dostępność środowiska produkcyjnego to kolejny problem. Podczas godzin szczytowego użytkowania nasza aplikacja doświadcza znacznego pogorszenia jakości.

Planujemy uruchamiać te aplikacje na modelach LLM hostowanych we własnym zakresie jako mechanizm awaryjny.

Przemyślenia Davida

Dostępność środowiska produkcyjnego to kolejny problem. Podczas godzin szczytowego użytkowania nasza aplikacja doświadcza znacznego pogorszenia jakości.

Dlaczego praktyczne kodowanie jest ważniejsze od szkoleń podczas wdrażania AI

Kiedy wdrażałem te zmiany, ludzie prosili o szkolenia przed rozpoczęciem korzystania z narzędzi.

Od początku powinienem był wymagać od ludzi korzystania z AI podczas tworzenia kodu. Zamiast tego odbyli mnóstwo szkoleń i kursów.

AI zmienia się tak szybko, że materiały dezaktualizują się z tygodnia na tydzień. Jedynym sposobem nauki jest praktyka.

Dlaczego dodawanie programistów zwiększa obciążenie projektu

CTO powinni przeprojektowywać swoje organizacje. Teraz bowiem zespoły jednoosobowe osiągają maksymalną szybkość działania.

Produktywność zależy od dwóch rzeczy:

1. Jak dobrze definiujesz zadania dla AI
2. Jak dobrze weryfikujesz i poprawiasz pracę wykonaną przez AI

Zatrzymaj świetnych ludzi, którzy dobrze współpracują z AI. Dodawanie osób do projektu zwiększa jego obciążenie.

Dlaczego dyrektorzy techniczni powinni zakładać, że AI zawiedzie

Oto moja rada: wdrażajcie AI możliwie agresywnie, ale dokładnie je weryfikujcie.

Sukces będzie można osiągnąć wszędzie, ale doświadczycie niepowodzeń, jeśli zabraknie wam odpowiednich struktur weryfikacji i zarządzania.

Dyrektorzy techniczni powinni poświęcić znaczną ilość czasu na wdrożenie tych struktur — i uwzględnienie licznych mechanizmów zabezpieczających.

Załóżcie, że AI zawiedzie.

Śledź na bieżąco

Możesz śledzić pracę Davida Tinga na platformie LinkedIn.

Więcej wywiadów z ekspertami już wkrótce w The CTO Club!