Il direttore dell’ingegneria dei dati cloud condivide come sta utilizzando i GPT personalizzati per supportare gli ingegneri

Subash D'Souza è il direttore dell'ingegneria dei dati cloud presso la California State University. È anche il fondatore di Data Con LA e Data 4 Good. Ha inoltre ricoperto ruoli di leadership presso Headspace e Warner Bros.

Abbiamo incontrato Subash per scoprire come abilita gli ingegneri mantenendo al contempo governance e revisioni. Ecco cosa ci ha raccontato.

Una carriera nel settore dei dati

Sono il fondatore di Data Con LA e Data 4 Good, un gruppo di riflessione senza scopo di lucro pubblico-privato che collabora con le organizzazioni per affrontare i problemi sociali utilizzando i dati, comprese questioni come i senzatetto e l'equità digitale, promuovendo al contempo l'innovazione tecnologica, i dati e l'analisi, nonché le partnership pubblico-private.

Attualmente sono anche direttore dell'ingegneria dei dati cloud presso l'Office of the Chancellor della California State University. Faccio parte della Linux Foundation in qualità di membro del PMC per la governance dei dati. In precedenza, sono stato responsabile dell'ingegneria dei dati presso Headspace e direttore dei Big Data e delle operazioni presso Warner Bros.

Guidare l'ingegneria dei dati e l'IA

Guido l'organizzazione di ingegneria dei dati e IA/ML all'interno dell'Office of the Chancellor della California State University, supportando le iniziative sui dati in tutto il sistema CSU.

Esploriamo come l'IA potrebbe migliorare il percorso degli studenti, dalla candidatura alla laurea. Basandoci sulla nostra piattaforma dati esistente e sui dati degli studenti, puntiamo a utilizzare l'IA per individuare modelli che migliorino la conversione delle candidature, riconoscere gli studenti che necessitano di un supporto tempestivo e, in ultima analisi, migliorare i tassi di permanenza e di laurea. Questo ci porta dal semplice reporting di ciò che è accaduto all'utilizzo proattivo di dati e IA per aiutare i nostri campus a prendere decisioni migliori e più tempestive a sostegno del successo degli studenti.

La nostra architettura basata sul cloud utilizza AWS, Databricks, Snowflake e piattaforme di analisi per creare pipeline e prodotti di dati scalabili. Il mio team supporta un ambiente complesso e articolato su più campus, nel quale sviluppiamo soluzioni condivise, definiamo standard di ingegneria e consentiamo ai campus di creare e distribuire i propri prodotti di dati attraverso il nostro modello del Centro di eccellenza dei dati.

Come l'IA può supportare gli ingegneri mantenendo revisione e governance

Ho introdotto l'IA direttamente nel nostro modello di supporto all'ingegneria attraverso il CustomGPT del CSU Data COE.

In precedenza, gli sviluppatori si affidavano principalmente alla documentazione e ai responsabili dell'ingegneria per ricevere indicazioni e risolvere i problemi. Abbiamo creato un mentore IA specifico per CSU, basato sulle nostre pratiche e sulla nostra documentazione di ingegneria dei dati, per aiutare gli sviluppatori a comprendere la nostra architettura, gli standard di sviluppo e i flussi di lavoro.

È utile in tre modi:

• Per la conoscenza, il CustomGPT offre agli ingegneri accesso immediato alle indicazioni specifiche di CSU sulla nostra architettura, sui nostri standard e sui processi di sviluppo, evitando di dover cercare nella documentazione o attendere un esperto.
• Per lo sviluppo, aiuta gli ingegneri a comprendere i modelli consolidati e a orientarsi nei nostri flussi di lavoro relativi a Databricks, Git, ai test e alla distribuzione.
• Per la risoluzione dei problemi, gli ingegneri possono descrivere un errore o un problema e utilizzare l'IA per individuare le cause probabili e i possibili passaggi successivi.

Questo ha dato ai team un accesso più rapido a indicazioni tecniche coerenti, ha ridotto la dipendenza dai singoli esperti e ci ha aiutato a diffondere la conoscenza dell'ingegneria dei dati nei campus CSU, mantenendo al contempo in vigore i nostri consolidati processi di revisione e governance.

Perché l'IA accelera il lavoro mentre gli esseri umani restano responsabili

Utilizziamo quindi sempre più l'IA per supportare attività come lo sviluppo del codice, la risoluzione dei problemi, la documentazione, le indicazioni sui test e per aiutare gli ingegneri a orientarsi tra gli standard di ingegneria dei dati CSU attraverso strumenti come il CustomGPT che ho menzionato sopra.

Tuttavia, l'IA non ha ancora sostituito il giudizio umano nelle decisioni complesse relative all'architettura, alla sicurezza o alla produzione. Abbiamo inoltre riscontrato che l'IA fatica con le domande che dipendono da un contesto altamente specifico o da una documentazione tecnica in rapida evoluzione.

Ad esempio, potrebbe suggerire un approccio tecnicamente valido a un problema di distribuzione o di sicurezza senza comprendere appieno i nostri requisiti specifici relativi ad AWS, Databricks, Snowflake, ai controlli degli accessi o alle approvazioni.

Per questo motivo, le decisioni sull'architettura, le distribuzioni in produzione, le decisioni relative alla sicurezza e agli accessi e le revisioni finali del codice restano esplicitamente di competenza umana. Il nostro processo di sviluppo richiede la revisione tra pari, i test, la convalida da un capo all'altro e approvazioni definite prima che il codice proceda verso la produzione.

Utilizziamo l'IA per accelerare l'ingegneria e migliorare la coerenza, mentre gli esseri umani restano responsabili delle decisioni che riguardano la sicurezza, l'architettura, la governance e i sistemi di produzione.

Perché i CTO devono creare una governance prima di integrare l'IA

Ogni CTO dovrebbe comprendere che la trasformazione basata sull'IA non è principalmente un problema tecnologico — è un problema di persone, conoscenze e governance.

L'IA può accelerare notevolmente il modo in cui i team apprendono, sviluppano e risolvono i problemi, ma il suo valore dipende da conoscenze organizzative affidabili e da una chiara responsabilità umana.

Onestamente, avrei voluto riconoscere prima che il valore dell'IA dipende fortemente dalla qualità e dall'organizzazione delle conoscenze alla base. Ad esempio, con il nostro CustomGPT avremmo potuto evitare alcune delle prime sperimentazioni concentrandoci prima sulla selezione delle conoscenze giuste, definendo dove l'IA dovrebbe e non dovrebbe essere considerata affidabile e stabilendo chiari punti di controllo umani.

La lezione più importante che ne ho tratto è che non bisogna semplicemente implementare uno strumento di IA. Prima di tutto, è necessario costruire intorno ad esso le conoscenze, la governance e la responsabilità umana.

Perché i CTO devono investire sia nell'IA sia nelle proprie persone

Consiglio ai CTO di considerare l'IA come un acceleratore, non come una strategia di sostituzione.

Iniziate da casi d'uso pratici in cui l'IA elimina gli ostacoli, migliora la produttività degli sviluppatori e rende più accessibili le conoscenze organizzative. Tuttavia, mantenete gli esseri umani responsabili delle decisioni relative all'architettura, alla sicurezza e alla produzione.

Altrettanto importante è investire nelle proprie persone. La nostra esperienza con il CSU Data COE dimostra che combinare l'IA con l'apprendimento pratico e la collaborazione tra team permette di sviluppare competenze tecniche più solide.

Le organizzazioni che avranno successo con l'IA abbineranno una sperimentazione rapida a una solida disciplina ingegneristica, a una governance efficace e a risultati misurabili.

Segui gli aggiornamenti

Puoi seguire il lavoro di Subash D'Souza su LinkedIn. Dai inoltre un'occhiata a Data Con LA e Data 4 Good.

Presto arriveranno altre interviste ad esperti su The CTO Club!