Były dyrektor techniczny startupu Google opowiada, jak wykorzystuje AI do budowy swojej firmy od podstaw

Valliappa Lakshmanan jest współzałożycielem i dyrektorem technicznym Obin, firmy natywnej dla AI, która tworzy autonomicznych agentów do obsługi procesów finansowych. Wcześniej był dyrektorem ds. analityki i rozwiązań AI w Google Cloud. Ma również bogate doświadczenie w integracji AI.

Spotkaliśmy się z Lakiem, aby dowiedzieć się, jak buduje firmę natywną dla AI. Oto, co miał do powiedzenia.

Głęboka wiedza specjalistyczna w zakresie integracji AI

Jestem Lak, współzałożycielem i dyrektorem technicznym Obin. Tworzymy autonomicznych agentów AI, którzy realizują procesy finansowe od początku do końca.

Karierę rozpocząłem jako badacz uczenia maszynowego, koncentrując się na prognozowaniu gwałtownych zjawisk pogodowych. Byliśmy jedną z pierwszych branż, które tworzyły modele ML działające w czasie rzeczywistym i wdrażały je na środowiskach produkcyjnych. Następnie fala technologii głębokiego uczenia z 2014 roku skłoniła mnie do przejścia do sektora prywatnego.

Kierowałem zespołem ds. analityki i rozwiązań AI w Google Cloud, współpracując z wieloma klientami wdrażającymi AI na środowiskach produkcyjnych. Następnie przeszedłem do Silver Lake, firmy private equity, gdzie pomagałem tworzyć i realizować strategię AI dla spółek znajdujących się w jej portfelu.

Dzięki temu mam rozległą wiedzę zarówno na temat wdrażania AI na środowiskach produkcyjnych, jak i ponownego wyobrażania sobie sposobu, w jaki firmy dostosowują się do możliwości nowej technologii i je wykorzystują.

Działanie zgodnie z wysokimi standardami

Obin działa od mniej niż roku, ale nasz zespół szybko się rozrasta. Wyzwanie inżynieryjne związane z budowaniem autonomicznych agentów AI w finansach polega na odejściu od tworzenia chatbotów i asystentów — w przypadku których ludzie kontrolują każdy etap procesu — na rzecz trybu, w którym AI realizuje proces od początku do końca, a ludzie go sprawdzają i nadzorują.

Jest to bardzo podobne do sposobu, w jaki tworzymy oprogramowanie — agenci AI piszą większość kodu pod czujnym nadzorem naszych inżynierów.

Współpracujemy z jednymi z największych firm z sektora finansowego przy realizacji ich najważniejszych funkcji, dlatego standardy dotyczące realizacji zadań i dokładności są bardzo wysokie.

W rezultacie korzystamy z Robin — naszego środowiska agentowego, które upraszcza budowanie agentów dla branż podlegających regulacjom i zapewnia spełnienie wszystkich wymaganych kontroli zgodności oraz audytowalności.

Dlaczego firmy natywne dla AI mają przewagę

Valliappa dzieli się swoim doświadczeniem

Dopóki możemy zweryfikować działanie kodu i kod jest wystarczająco mały, jest on bardzo niezawodny.

Ponieważ firma jest stosunkowo młoda, mieliśmy szczęście od początku budować ją w sposób agentowy. Wszystkie nasze funkcje są w pełni natywne dla AI.

Przede wszystkim intensywnie wykorzystujemy AI w tworzeniu oprogramowania. Claude Code generuje niemal cały nasz kod początkowy. Dopóki możemy zweryfikować działanie kodu i kod jest wystarczająco mały, jest on bardzo niezawodny. Mamy również bota Claude do przeglądania kodu w naszym procesie CI/CD, który sprawdza każde zatwierdzenie i PR. „Szybkie wygrane” oraz problemy wskazywane przez naszego bota zmniejszyły obciążenie osób sprawdzających kod, umożliwiając nam szybszą pracę.

Kolejną zaletą jest to, że nie potrzebujemy już historyjek użytkownika ani dokumentów PRD do tworzenia oprogramowania. Teraz po prostu tworzymy prototypy i iterujemy.

AI generuje również dokumentację projektową na podstawie kodu, a my wykorzystujemy AI do ponownego formatowania tej dokumentacji dla różnych odbiorców (zespołów ds. bezpieczeństwa, architektów danych, inżynierów AI itp.). Możemy znacznie szybciej wybierać, wyróżniać i ponownie formatować dokumentację, niż zrobiłby to ręcznie człowiek.

Na koniec warto wspomnieć, że również za pomocą AI tworzymy prezentacje dla inwestorów i zespołów sprzedażowych.

Dlaczego zarządzanie pracownikami AI wiąże się z wyzwaniami

Każdy z naszych inżynierów jest w praktyce menedżerem zespołu inżynieryjnego nadzorującym grupę pracowników AI. Dzięki takiemu podejściu skróciliśmy czas wdrażania funkcji, a jakość kodu faktycznie się poprawiła dzięki lepszej obsłudze błędów.

Wyzwanie stanowiło jednak tempo wdrażania. Obecnie musimy starannie zarządzać środowiskami programistycznymi, aby umożliwić testowanie funkcji.

Dlaczego artefakty AI wymagają nowych procesów weryfikacji

Wraz ze wzrostem liczby artefaktów tworzonych przez AI — kodu, plików konfiguracyjnych, dokumentów, potoków itp. — liderzy technologiczni muszą zwiększać swoje możliwości w zakresie ich weryfikacji. Można i należy tworzyć kontrole poprawności dla każdego artefaktu.

Oto przykład: można porównać informacje zawarte w zawiadomieniu o przekazaniu środków z wcześniejszymi zawiadomieniami dotyczącymi tej samej transakcji, kredytobiorcy itp.

Lepiej przeprowadzać kontrole poprawności z wyprzedzeniem, niż odkryć problem z artefaktem wygenerowanym przez AI dopiero w czasie działania!

A następnie oczywiście stosować bramki weryfikacji przez człowieka.

Gdzie człowiek nadal musi być obecny w tworzeniu oprogramowania z wykorzystaniem AI

Jeśli chodzi o kod, istnieje wyraźny podział między tym, czym zajmuje się AI, a tym, czym zajmują się ludzie.

Obecnie wszystkie commity i PR-y przechodzą wstępną weryfikację przez AI. Ludzie natomiast wykonują końcowe scalanie PR-ów. Starszy inżynier nadal przegląda wszystkie PR-y pod kątem architektury.

Granica przebiega przy wszystkim, co wiąże się z kontekstem wykraczającym poza kod źródłowy. Oznacza to na przykład, że ludzie muszą zajmować się wszystkim, co dotyczy interesariuszy i złożoności regulacyjnej.

Dlaczego wiedza dziedzinowa ma znaczenie w integracji AI

AI działa najlepiej w obszarach, w których masz głęboką wiedzę. Ważne jest, aby wiedzieć, jak wygląda „dobry” rezultat, dzięki czemu można iteracyjnie pracować z modelem aż zacznie działać dobrze.

W obszarach, w których nie mamy odpowiedniej wiedzy, rezultaty AI były zazwyczaj powierzchowne.

Oto przykład. Bez dodatkowej konfiguracji AI nie sprawdzało się dobrze przy generowaniu podsumowań naszych transakcji. Nie potrafiło radzić sobie ze sprzecznymi informacjami w dokumentach źródłowych i często koncentrowało się na najbardziej skrajnych stwierdzeniach zamiast na tych najważniejszych. W przypadku informacji nieopartych na danych źródłowych AI nie zetknęło się z wystarczającą ilością informacji z rynku prywatnego, aby wychwytywać niuanse. Ponieważ sami nie byliśmy ekspertami w tej dziedzinie, trudno było nam odpowiednio je wdrożyć.

Valliappa dzieli się spostrzeżeniami

Ważne jest, aby wiedzieć, jak wygląda “dobry” rezultat, dzięki czemu można iteracyjnie pracować z modelem (AI), aż zacznie działać dobrze.

Dlaczego liderzy technologiczni muszą zachować ostrożność przy automatyzowaniu istniejących procesów

Jeśli chodzi o automatyzację, nie automatyzuj obecnych procesów. Zamiast tego użyj AI, aby pominąć etapy pośrednie i przejść bezpośrednio do końcowego rezultatu.

Rozważmy na przykład kroki podejmowane podczas tworzenia slajdu w programie PowerPoint. Kuszące może być polecenie AI, aby wykonało dokładnie te same kroki, ale slajd jest ostatecznie plikiem XML + obrazami. AI może go wygenerować bez wykonywania tych kroków. Ta idea ma również zastosowanie do procesów biznesowych — można utworzyć fakturę bez korzystania z obecnego systemu tworzenia faktur. Wystarczy wywołać odpowiednie interfejsy API zaplecza, aby uzyskać właściwe ceny i ilości.

Dlaczego AI może powodować przeciążenie poznawcze

Oto jedna z największych wad, jakie dostrzegam u liderów technologicznych: tempo działania narzędzi AI powoduje znaczne przeciążenie poznawcze.

Aby zmniejszyć to przeciążenie, wprowadziliśmy codziennie po południu dwugodzinny czas na „głębokie myślenie”. Jeśli chodzi o to, czy to pomoże, sprawa wciąż pozostaje otwarta.

Śledź nasze działania

Możesz śledzić Valliappę Lakshmanana na LinkedIn albo odwiedzić stronę Obin.

W The CTO Club pojawią się kolejne wywiady z ekspertami!