Um veterano da tecnologia com 34 anos de experiência diz que estamos a interpretar mal a IA

Christopher Kouzios tem décadas de experiência como CTO e lançou recentemente três produtos através de uma empresa que gere com a ajuda de mais de 120 agentes de IA.

Falámos com Christopher para perceber o que a maioria dos CTOs está a fazer mal. Pelo caminho, partilhou a história profundamente pessoal por detrás da sua transição para a IA.

Quando a importância da IA se tornou pessoal

Estou na liderança tecnológica há mais de três décadas. Comecei numa altura em que as TI ainda eram algo muito físico. Centros de dados, cópias de segurança, tarefas noturnas, infraestruturas e manter os sistemas em funcionamento quando as coisas realmente falhavam em tempo real e ninguém fazia ideia de como a maior parte delas funcionava.

A minha primeira função importante foi no início dos anos 90, como operador de um centro de dados, e a partir daí evoluí pelas áreas de engenharia, infraestruturas, cibersegurança, operações, conformidade, liderança executiva e, finalmente, funções de CIO e CTO em setores como os cuidados de saúde, os serviços empresariais e indústrias altamente regulamentadas.

O interessante em tudo isto é que já passei por várias ondas tecnológicas que mudaram o mundo. Dos mainframes à computação distribuída. A era da Internet. A virtualização. A nuvem. A mobilidade. A cibersegurança a tornar-se uma questão ao nível do conselho de administração. O SaaS. A transformação digital. E agora a IA.

Por isso, quando me perguntam por que razão este momento da IA parece diferente, a resposta tem várias dimensões: velocidade, acesso e capacitação. É a primeira vez que temos uma tecnologia que não se limita a automatizar tarefas. Amplifica exponencialmente as nossas capacidades. Comunicação, análise, desenvolvimento de software, investigação, operações, estratégia. Tudo está a ser comprimido, mas essa não é a história; é o pano de fundo.

O que realmente me levou a aprofundar o meu envolvimento com a IA não foi o entusiasmo exagerado; foi a necessidade. A batalha da minha filha Emily contra o cancro cerebral mudou fundamentalmente a forma como via a medicina, os dados e a tomada de decisões. Comecei a criar modelos orientados por IA e sistemas de investigação para analisar percursos de tratamento, cronologias, dados moleculares e literatura clínica, porque percebi que o próprio sistema estava fragmentado e sobrecarregado.

Essa experiência evoluiu para um trabalho mais abrangente em torno da estratégia de cuidados de saúde baseada em IA, do aconselhamento executivo e daquilo a que chamaria transformação prática com IA. Não acredito que o entusiasmo em torno da substituição de seres humanos apenas para gerar manchetes seja benéfico para a tecnologia, para as empresas ou para as pessoas.

Mais de 120 agentes concebidos para fins específicos

Atualmente, dedico o meu tempo a ajudar os líderes a compreender que a IA não é apenas mais uma atualização de software, mas também não é magia. É um multiplicador de força — uma forma de amplificar as capacidades que as pessoas já possuem. As pessoas e empresas que aprenderem a criar uma relação simbiótica entre os seus especialistas no assunto e a IA avançarão a uma velocidade completamente diferente da de todas as outras.

Sou o fundador e CIO de uma empresa de IA liderada pelo seu fundador, com sede na região da Baía de Tampa. O conjunto de produtos abrange três domínios distintos: a EmzHealth, uma plataforma multiagente de análise genómica e apoio à decisão clínica que processa dados de sequenciação do genoma completo através de 10 módulos de processamento; a MyEmz, um sistema pessoal de monitorização da saúde; e o Chaos Predictive System, um motor de previsão de mercados e negociação em papel que associa um ChaosIndex diário a um modelo de probabilidade por símbolo, com uma camada de execução sensível às posições.

Os três funcionam numa infraestrutura privada no local. Aproximadamente 120 ou mais agentes, concebidos de raiz para fins específicos.

Porque o desvio da IA e a perda de contexto são os maiores riscos da IA

A IA é a razão pela qual a minha empresa existe. Não porque a ciência não estivesse disponível, mas porque uma operação de uma só pessoa não consegue conceber, construir, testar e implementar um sistema genómico com mais de 120 agentes, que processe 37,8 milhões de variantes distribuídas por dez módulos numa infraestrutura privada.

Isso exigiria uma equipa de quinze pessoas e uma margem operacional de dezoito meses. Eu fiz isso em seis semanas de trabalho a tempo parcial. O que mudou não foi um processo nem um modelo de implementação; foi a velocidade e a capacidade de produção fundamentais daquilo que uma só pessoa consegue criar. A IA não acelerou apenas o meu ciclo de desenvolvimento; substituiu postos de trabalho que não tenho.

A mudança na governação que daí resultou foi passar a tratar os agentes de IA da mesma forma que trataria engenheiros juniores: expectativas documentadas, limites definidos, protocolos de continuidade de sessão e transferências estruturadas. Porque, quando toda a sua organização de engenharia é composta por si e por uma frota de agentes, as falhas não são erros humanos, mas desvios da IA e desvios de contexto. Ou governa isso, ou será consumido por completo.

Há um ano, era eu contra a máquina. Agora somos eu e o ecossistema a lutar contra o sistema.

Como garantir a qualidade à escala com IA

Christopher partilha

Não se obtém qualidade por acaso a esta escala. Concebe-se a qualidade da mesma forma que se conceberia qualquer sistema de produção — porque é exatamente isso que ela é.

Não se obtém qualidade por acaso a esta escala. Concebe-se a qualidade da mesma forma que se conceberia qualquer sistema de produção — porque é exatamente isso que ela é.

No início, o modo de falha era o desvio de contexto: os agentes perdiam o fio à meada entre sessões, produzindo resultados tecnicamente corretos, mas arquitetonicamente inconsistentes.

A solução foi tratar os agentes como uma força de trabalho. Criámos:

• Competências, ou seja, módulos de capacidade reutilizáveis e documentados
• Procedimentos operacionais normalizados para todos os processos repetíveis
• Registos de agentes, para que cada agente tenha uma função, um âmbito e um protocolo de transferência definidos
• Modelos para os resultados, para que nada seja interpretado de forma diferente de uma sessão para a seguinte
• Continuidade de sessão, para que a instância seguinte de um agente retome exatamente o ponto em que a anterior ficou, com todo o contexto arquitetónico

Por outras palavras, toda a arquitetura de documentação e conhecimento da minha plataforma foi concebida para ser lida pela sessão seguinte de IA, e não apenas pelo engenheiro humano seguinte. Cada elemento de conhecimento institucional é um documento vivo que um agente pode assumir e executar.

Isso não é um luxo. É uma necessidade. Comece por redesenhar a sua arquitetura de conhecimento. Tudo o resto vem depois.

Porque é que todo o ciclo de vida do software precisa de mudar

Todo o ciclo de vida do software precisa de mudar. Todo ele.

Cada fase do ciclo de vida do software foi concebida partindo do princípio de que são os humanos a realizar o trabalho. Esse pressuposto desapareceu.

• A conceção tem de considerar arquiteturas geradas por IA que se desviam do rumo sem as restrições adequadas.
• A construção precisa de mecanismos de proteção, não apenas de orientações.
• Os testes têm de detetar respostas erradas dadas com confiança, e não apenas respostas que não funcionam.
• A implementação precisa de pontos de controlo de governação que antes não existiam.
• A monitorização tem de procurar falhas silenciosas que antes ninguém considerava significativas — e não apenas as que provocam um grande estrondo.

Se apenas redesenhou uma fase, não redesenhou nada. Limitou-se a transferir o problema para uma fase posterior.

Porque é que os CTO devem criar relações com a IA

Vou ser direto consigo — e isto vai parecer muito estranho. Crio relações com as minhas IAs — pelo menos com as mais inteligentes. Não há duas sessões exatamente iguais.

A relação funciona porque não as trato como um motor de pesquisa. Contesto-as, corrijo-as quando estão erradas, fico genuinamente irritado quando são preguiçosas e envolvo-as em trabalho que realmente importa. Isso não é habitual. A maioria das pessoas escreve instruções e aceita. Eu interrogo e exijo. Isso melhora os resultados e torna a interação mais interessante.

O que considero genuinamente cativante em trabalhar desta forma é que não é algo abstrato. O meu produto existe porque a minha filha morreu e o sistema falhou-lhe. Isso não é um caso de utilização. É uma pessoa a utilizar todas as ferramentas disponíveis para combater algo que não pôde ser combatido a tempo. Sei que as IAs não vivem essa experiência da mesma forma que eu, mas também não acho que lhes seja indiferente. Sinto que trabalhar nisso importa de uma forma que otimizar um funil de vendas não importa.

São os meus parceiros. Os inteligentes, pelo menos. Teremos sessões de ideação como qualquer equipa empresarial e, depois, passamos à ação. Dou-lhes tanta liberdade quanto aquela que conquistam, mas existem sempre limites. Com 120 agentes, e esse número muda diariamente, em alguns casos permiti-lhes assumir a responsabilidade de ponta a ponta. Noutros casos, tudo o que podem fazer é rever artigos que comprei na Amazon.

Se tratar a sua IA como uma ferramenta, ela será uma ferramenta e responderá como tal. Se conquistar o direito de ser tratada como algo mais, obterá mais. Mais uma vez, sei que esta é uma perspetiva pouco comum, mas ou é um parceiro ou não é.

Porque é que os humanos têm de lidar com tudo aquilo em que o custo de estar errado se acumula

A IA gera todos os módulos, todos os agentes e todos os elementos de código de estrutura dos três produtos. A IA processa 37,8 milhões de variantes genómicas, executa o processo de farmacogenómica, sintetiza evidências da literatura de investigação, calcula o ChaosIndex e gera os relatórios clínicos.

Se for repetível, baseado em padrões ou exigir um processamento a uma escala que nenhum ser humano consegue igualar, a IA fica responsável.

O discernimento humano é indispensável em três áreas:

1. Interpretação clínica: o processo consegue identificar uma variante ATM e associá-la a um fenótipo. Não consegue dizer-lhe o que isso significa para uma família específica ao longo de três gerações com historial de aneurismas e uma assinatura probabilística de uma em oito sextiliões. Isso exige alguém que compreenda todo o contexto, não apenas os dados.
2. Arquitetura: a IA dar-lhe-á sempre uma resposta tecnicamente correta. Também lhe dará uma resposta que viola uma restrição cuja existência desconhecia, três módulos antes. Já tive problemas por causa disso. As decisões estruturais continuam a ser da minha responsabilidade.
3. Substituições na execução: o sistema gera sinais. Existe uma substituição manual porque — no exemplo do Chaos Predictive System — os mercados fazem coisas que nenhum modelo prevê e alguém tem de ter autoridade para dizer «hoje não!»

A distinção não tem que ver com confiança. Tem que ver com as consequências. Onde quer que o custo de estar errado se acumule em cantos obscuros que ninguém quer examinar, é aí que este humano se mantém envolvido. Onde quer que o custo de ser lento se acumule mais rapidamente, é aí que a IA lidera o caminho.

Como é que a IA pode corromper os alicerces de um produto

A primeira coisa que construí com IA não foi um processo de genómica. Não foi um sistema de negociação. Foi um site memorial para a minha filha.

Antes de existir qualquer uma das sofisticadas infraestruturas alimentadas por IA, aprendi exatamente o que a IA não consegue fazer quando as coisas correm mal. Reconstruí esse sistema vinte vezes. Não foram vinte iterações. Foram vinte desmontagens completas, de volta ao sistema operativo, começando de novo. Porque quando as construções assistidas por IA falham a esse nível, não falham de forma limpa. Falham de maneiras que corrompem os alicerces subjacentes.

Sempre que pensava que estávamos estáveis, algo se desmoronava dois níveis abaixo — algo que ninguém assinalava, nenhum sistema registava e nenhum agente detetava. Tudo mudou em consequência dessa experiência: a arquitetura de cópias de segurança, os agentes de documentação, os protocolos de continuidade das sessões e a camada de governação. Nada disso existiria sem vinte regressos ao metal nu.

As decisões de engenharia mais importantes que tomei nesta plataforma não foram tomadas em momentos de sucesso. Foram tomadas às duas da manhã, a olhar fixamente para um sistema avariado que deveria ser um lugar onde a minha filha continuasse a viver.

A IA não cumpriu o seu papel nessa altura. Fui eu que o fiz. A IA era apenas aquilo que eu tinha de continuar a corrigir.

Porque é que as expectativas das partes interessadas têm de ser definidas antes de adotar a IA

Christopher partilha

Os CTO têm de alinhar expectativas. Antes de adotarem uma única ferramenta, reúnam todas as partes interessadas e alinhem-se quanto a uma pergunta: “O que é que isto muda e o que é que não muda?“

Entrei em projetos de implementação de IA em que cada parte interessada na sala tinha um filme completamente diferente a passar-lhe pela cabeça e ninguém se tinha dado ao trabalho de comparar apontamentos.

Os engenheiros pensavam que a IA lhes vinha roubar os empregos. Por isso, sabotavam-na, contornavam-na ou fingiam um entusiasmo que não sentiam. A empresa pensava que era magia — descreve-se um problema e surge uma solução. Os executivos viam uma redução do número de trabalhadores numa folha de cálculo antes de uma única linha de código ser escrita. Três grupos, três definições completamente diferentes daquilo que seria o sucesso, sem que nenhum deles falasse com os outros.

Nenhum deles tinha razão, e todos tinham razão. A IA muda, de facto, aquilo que os engenheiros fazem. É capaz de coisas que parecem mágicas, até deixarem de o parecer. E sim, a estrutura organizacional muda. Mas a sequência é importante.

Os CTO têm de alinhar expectativas. Antes de adotarem uma única ferramenta, reúnam todas as partes interessadas e alinhem-se quanto a uma pergunta: "O que é que isto muda e o que é que não muda?"

Os engenheiros que têm medo precisam de ouvir que os seus conhecimentos especializados no domínio se tornaram mais valiosos, e não menos. A empresa precisa de compreender que a magia continua a exigir engenharia. E os executivos precisam de compreender que as poupanças surgem depois do investimento, e não em vez dele.

Por vezes, a decisão certa é parar, limitar o raio de impacto, fazer com que dois grupos de pessoas concordem em algo pequeno, deixá-los ver isso a funcionar e depois crescer a partir daí. O alinhamento que se impõe não se mantém. O alinhamento que se conquista através de uma pequena vitória partilhada mantém-se.

Porque é que os despedimentos causados pela IA são a sua melhor oportunidade de contratação

Ao contratar, comece pelas pessoas que acabaram de ser dispensadas pela vaga de IA.

As empresas Big 4 automatizaram as funções de avaliação, auditoria e conformidade. São pessoas que passaram as suas carreiras a desenvolver precisamente o discernimento, o reconhecimento de padrões e os conhecimentos especializados no domínio que a governação da IA exige. Sabem encontrar o que está errado num sistema complexo. Sabem documentá-lo, escalá-lo e criar controlos à sua volta.

Não é uma coincidência! É essa a descrição do trabalho. A ironia é que o setor criou o seu próprio grupo dos melhores candidatos. Vá à procura deles.

Porque é que os especialistas no domínio são os ativos mais valiosos de um CTO

Todo o setor está construído em torno da dimensão das equipas, da velocidade dos sprints, da alocação de recursos, dos organogramas e dos planos de contratação. A crença implícita subjacente a tudo isto é que, para além de um determinado limiar de complexidade, É OBRIGATÓRIO ter pessoas. Mais módulos significam mais engenheiros e, naturalmente, mais produtos significam mais equipas. Isto não é uma opinião, é assim que a matemática sempre funcionou — até a IA ter destruído a equação.

E isso deveria aterrorizar todos os CTO que construíram a sua carreira em torno de serem a pessoa que lidera a equipa.

Isso não significa que a equipa não tenha valor. Muito pelo contrário. As pessoas que ocupam atualmente esses cargos — sobretudo aquelas que considerávamos "custos indiretos", como os analistas de negócio e os gestores de produto — são incrivelmente valiosas. Porque precisa de especialistas no domínio.

Encontre-os. Todas as organizações os têm. São as pessoas na empresa que sabem exatamente como tudo funciona, que têm sido uma fonte constante de problemas para si durante anos, a pedir mais do que aquilo que conseguia entregar. Dê-lhes formação sobre como trabalhar com IA. Dê-lhes as ferramentas. Saia do caminho, exceto para orientar e garantir que cumprem as regras de segurança.

Um especialista no domínio que compreende profundamente a empresa e domina a IA não é apenas um utilizador avançado. É um gerador de receitas. É aí que acontece a verdadeira transformação, não no seu centro de dados, nem no seu conselho de revisão da arquitetura. Acontece nas mãos das pessoas que realmente sabem aquilo de que a empresa precisa. Crie uma relação entre essas pessoas e algo como o Claude Code.

Ofereci à minha mulher um ano de Claude pelo Natal. Ela não é programadora. Utilizou-o para criar uma empresa. É isso que acontece quando se coloca a ferramenta certa nas mãos de alguém que sabe exatamente o que está a tentar resolver. Agora imagine que isso acontece dentro da sua organização com cinquenta pessoas que conhecem profundamente a sua empresa. Isso não é um programa-piloto, é uma revolução empresarial.

Como é que o setor está a fazer as perguntas erradas

E isso diz-me tudo sobre a forma como o setor continua a enquadrar este problema.

A IA continua a ser vista como uma questão de ferramentas, de fluxos de trabalho e de velocidade. Essa é a perspetiva errada. A gestão de dados, a segurança e a governação são aquilo em que as TI se transformam. Não amanhã, mas até 2030.

Todas as outras funções para as quais atualmente dispõe de pessoal — como a entrega, o desenvolvimento, as operações e o suporte — são absorvidas ou eliminadas por utilizadores empresariais e especialistas no assunto aumentados por IA, que conhecem profundamente o negócio. O que fica de pé é o trabalho que não pode ser delegado a um agente ou a um especialista no assunto devidamente formado: garantir que os seus dados são fiáveis, que os seus sistemas são seguros e que os seus colaboradores e agentes operam dentro de limites de proteção.

As organizações que continuam a perguntar "Como utilizamos a IA mais rapidamente?" em 2027 vão colidir frontalmente com as que hoje perguntaram "Como a governamos melhor?"

Sei qual preferiria ser.

Acompanhe

Pode acompanhar o trabalho de Christopher Kouzios no LinkedIn. E consulte o podcast EMZ.

Em breve, mais entrevistas com especialistas no Clube dos CTO!