Dyrektor ds. inżynierii danych w chmurze opowiada, jak wykorzystuje niestandardowe GPT-y do wspierania inżynierów

Subash D'Souza jest dyrektorem ds. inżynierii danych w chmurze na California State University. Jest również założycielem Data Con LA i Data 4 Good. Zajmował także stanowiska kierownicze w Headspace i Warner Bros.

Spotkaliśmy się z Subashem, aby dowiedzieć się, jak wspiera inżynierów, jednocześnie utrzymując nadzór i procesy przeglądu. Oto, co powiedział.

Kariera w dziedzinie danych

Jestem założycielem Data Con LA i Data 4 Good, publiczno-prywatnego ośrodka analitycznego non-profit, który współpracuje z organizacjami nad rozwiązywaniem problemów społecznych przy użyciu danych, w tym takich kwestii jak bezdomność i równość cyfrowa, jednocześnie wspierając innowacje technologiczne, dane i analitykę oraz partnerstwa publiczno-prywatne.

Obecnie jestem również dyrektorem ds. inżynierii danych w chmurze w biurze kanclerza California State University. Zasiadam w Linux Foundation jako członek PMC ds. zarządzania danymi. Wcześniej byłem szefem inżynierii danych w Headspace oraz dyrektorem ds. dużych zbiorów danych i operacji w Warner Bros.

Kierowanie inżynierią danych i AI

Kieruję organizacją ds. inżynierii danych i AI/ML w biurze kanclerza California State University, wspierając inicjatywy związane z danymi w całym systemie CSU.

Badamy, jak AI może usprawnić drogę studenta od złożenia podania do ukończenia studiów. Wykorzystując istniejącą platformę danych i dane studentów, chcemy używać AI do identyfikowania wzorców, które poprawiają konwersję aplikacji, rozpoznawania studentów potrzebujących wcześniejszego wsparcia, a ostatecznie także do poprawy wskaźników utrzymania studentów i ukończenia studiów. Dzięki temu odchodzimy od prostego raportowania tego, co się wydarzyło, i zaczynamy proaktywnie wykorzystywać dane oraz AI, aby pomagać naszym kampusom w podejmowaniu lepszych i wcześniejszych decyzji wspierających sukces studentów.

Nasza architektura oparta na chmurze wykorzystuje AWS, Databricks, Snowflake i platformy analityczne do tworzenia skalowalnych potoków danych oraz produktów danych. Mój zespół wspiera złożone środowisko obejmujące wiele kampusów, w którym opracowujemy współdzielone rozwiązania, ustanawiamy standardy inżynieryjne i umożliwiamy kampusom tworzenie oraz wdrażanie własnych produktów danych za pośrednictwem naszego modelu Centrum Doskonałości ds. Danych.

Jak AI może wspierać inżynierów przy zachowaniu procesów przeglądu i nadzoru

Wprowadziłem AI bezpośrednio do naszego modelu wspierania inżynierów za pośrednictwem CSU Data COE CustomGPT.

Wcześniej deweloperzy polegali głównie na dokumentacji i liderach zespołów inżynieryjnych, jeśli chodzi o wskazówki i rozwiązywanie problemów. Stworzyliśmy mentora AI dostosowanego do CSU, opartego na naszych praktykach i dokumentacji dotyczącej inżynierii danych, aby pomagać deweloperom w zrozumieniu naszej architektury, standardów tworzenia oprogramowania i przepływów pracy.

Pomaga na trzy sposoby:

• W zakresie wiedzy CustomGPT zapewnia inżynierom natychmiastowy dostęp do wskazówek dotyczących architektury, standardów i procesów tworzenia oprogramowania specyficznych dla CSU, zamiast konieczności przeszukiwania dokumentacji lub czekania na eksperta.
• W zakresie tworzenia oprogramowania pomaga inżynierom zrozumieć ustalone wzorce oraz poruszać się po naszych przepływach pracy związanych z Databricks, Gitem, testowaniem i wdrażaniem.
• W zakresie rozwiązywania problemów inżynierowie mogą opisać błąd lub problem i wykorzystać AI do zidentyfikowania prawdopodobnych przyczyn oraz potencjalnych kolejnych kroków.

Dzięki temu zespoły szybciej uzyskały dostęp do spójnych wskazówek technicznych, zmniejszyła się zależność od pojedynczych ekspertów, a my mogliśmy skalować wiedzę z zakresu inżynierii danych w kampusach CSU, zachowując przy tym nasze ustalone procesy przeglądu i nadzoru.

Dlaczego AI przyspiesza pracę, a ludzie pozostają odpowiedzialni

Coraz częściej wykorzystujemy AI do wspierania takich działań jak tworzenie kodu, rozwiązywanie problemów, dokumentacja, wskazówki dotyczące testowania oraz pomaganie inżynierom w poruszaniu się po naszych standardach inżynierii danych CSU za pomocą narzędzi takich jak wspomniany przeze mnie CustomGPT.

AI nie zastąpiło jednak jeszcze ludzkiego osądu w złożonych decyzjach dotyczących architektury, bezpieczeństwa ani środowiska produkcyjnego. Odkryliśmy również, że AI ma trudności z pytaniami zależnymi od wysoce specyficznego kontekstu lub szybko zmieniającej się dokumentacji technicznej.

Może na przykład zasugerować technicznie poprawne podejście do problemu z wdrożeniem lub bezpieczeństwem, nie rozumiejąc w pełni naszych konkretnych wymagań dotyczących AWS, Databricks, Snowflake, kontroli dostępu ani zatwierdzeń.

Dlatego decyzje dotyczące architektury, wdrożeń produkcyjnych, bezpieczeństwa i dostępu, a także końcowe przeglądy kodu, pozostają wyraźnie po stronie ludzi. Nasz proces tworzenia oprogramowania wymaga wzajemnego przeglądu, testowania, walidacji kompleksowej oraz określonych zatwierdzeń, zanim kod będzie mógł trafić do środowiska produkcyjnego.

Wykorzystujemy AI do przyspieszania prac inżynieryjnych i poprawy spójności, podczas gdy ludzie pozostają odpowiedzialni za decyzje mające wpływ na bezpieczeństwo, architekturę, zarządzanie i systemy produkcyjne.

Dlaczego CTO muszą zbudować ład organizacyjny przed integracją AI

Każdy CTO powinien rozumieć, że transformacja AI nie jest przede wszystkim problemem technologicznym — to problem dotyczący ludzi, wiedzy i ładu organizacyjnego.

AI może znacznie przyspieszyć naukę, rozwój i rozwiązywanie problemów przez zespoły, ale jej wartość zależy od zaufanej wiedzy organizacyjnej oraz jasno określonej odpowiedzialności ludzi.

Szczerze mówiąc, chciałbym wcześniej zdać sobie sprawę, że wartość AI w dużej mierze zależy od jakości i uporządkowania wiedzy, która za nią stoi. Na przykład w przypadku naszego CustomGPT mogliśmy uniknąć części początkowych eksperymentów, wcześniej koncentrując się na gromadzeniu i porządkowaniu właściwej wiedzy, określeniu, w jakich obszarach AI należy ufać, a w jakich nie, oraz ustanowieniu jasnych punktów kontroli po stronie ludzi.

Najważniejsza lekcja, jaką z tego wyciągnąłem, jest taka, że nie należy po prostu wdrażać narzędzia AI. Najpierw trzeba zbudować wokół niego wiedzę, ład organizacyjny i odpowiedzialność ludzi.

Dlaczego CTO muszą inwestować zarówno w AI, jak i w swoich ludzi

Radziłbym CTO, aby traktowali AI jako akcelerator, a nie jako strategię zastępowania ludzi.

Zacznij od praktycznych zastosowań, w których AI usuwa przeszkody, zwiększa produktywność programistów i ułatwia dostęp do wiedzy organizacyjnej. Jednocześnie zachowaj odpowiedzialność ludzi za decyzje dotyczące architektury, bezpieczeństwa i środowiska produkcyjnego.

Równie ważne jest inwestowanie w ludzi. Nasze doświadczenia z CSU Data COE pokazują, że połączenie AI z praktyczną nauką i współpracą między zespołami buduje silniejsze kompetencje techniczne.

Organizacje, które odniosą sukces dzięki AI, połączą szybkie eksperymentowanie z wysokimi standardami inżynieryjnymi, ładem organizacyjnym i mierzalnymi rezultatami.

Śledź dalsze działania

Możesz śledzić działalność Subasha D'Souzy na LinkedInie. Sprawdź także Data Con LA oraz Data 4 Good.

Wkrótce kolejne wywiady z ekspertami w The CTO Club!