Como as organizações sabotam os seus investimentos em IA

A promessa da IA nunca foi tão grande. No entanto, a dura realidade é que a maioria das iniciativas de IA empresariais não consegue concretizar o valor prometido.

De acordo com a investigação mais recente do Boston Consulting Group, 74% das empresas não demonstraram um valor tangível resultante da utilização de IA. Apenas 4% desenvolveram capacidades de IA de vanguarda em várias funções que geram consistentemente um valor significativo, com outros 22% a começarem a obter ganhos substanciais.

O relatório sobre o estado da IA da McKinsey revela conclusões igualmente preocupantes: num inquérito realizado num mercado desenvolvido, apenas 1% dos executivos de empresas descreve as suas implementações de IA generativa como “maduras”. Apesar do investimento generalizado e do entusiasmo dos executivos, o impacto nos resultados a nível de toda a organização continua fora do alcance da maioria das empresas.

Talvez o dado mais revelador seja que menos de um terço das organizações segue práticas fundamentais de adoção e expansão, sendo que menos de uma em cada cinco acompanha indicadores-chave de desempenho bem definidos para as suas soluções de IA — a prática que apresenta a correlação mais forte com um impacto positivo no EBIT.

Os cinco pecados capitais da integração da IA

#1: Os meios antes dos fins

As organizações seduzidas pelo fascínio técnico da IA caem frequentemente na armadilha de pensar primeiro na solução — implementando capacidades sofisticadas de IA simplesmente porque podem, e não porque devem.

No ano passado, prestei consultoria a um retalhista que personificava esta desconexão. Tinha investido mais de $200,000 na implementação de assistentes de NLP nos canais de atendimento ao cliente. A tecnologia era impressionante — conseguia compreender consultas complexas e tinha sido treinada com anos de interações com clientes. Mas o problema era o seguinte: ninguém se tinha dado ao trabalho de identificar quais os problemas específicos dos clientes que iria resolver. Seis meses após o lançamento, a utilização mantinha-se desanimadoramente baixa, nos 15%. 

A empresa tinha efetivamente perguntado “como podemos implementar a IA?” em vez de “que problemas precisamos de resolver?”

#2: A integração ad hoc

Depois de confundir uma ferramenta com o seu objetivo final, o erro seguinte mais natural é tratar a integração como uma questão técnica a abordar apenas depois de selecionar uma solução de IA. As empresas deixam-se convencer pelas demonstrações elegantes dos fornecedores, nas quais tudo parece funcionar de forma integrada, sem nunca questionarem a realidade complexa de fazer com que a nova tecnologia comunique com os sistemas existentes.

Esta desconexão manifesta-se de formas subtis ao longo de todo o ciclo de vida do projeto. É possível identificar equipas de projeto que não conseguem explicar claramente a que APIs específicas precisarão de ter acesso ou como os dados fluirão entre sistemas. A documentação centra-se exclusivamente na funcionalidade de IA, mencionando muito pouco a forma como esta se integra nos fluxos de trabalho existentes. E o sinal mais revelador é, sem dúvida, a existência de calendários de implementação que deixam o trabalho de integração para uma fase final, depois de os componentes essenciais de IA já terem sido implementados.

Há um exemplo particularmente penoso que ainda hoje me ocorre. Uma empresa de serviços financeiros a que prestei aconselhamento tinha gasto quase um milhão de dólares num assistente de IA concebido para ajudar os consultores financeiros a prepararem-se para reuniões com clientes. A tecnologia funcionava exatamente como prometido — conseguia analisar as carteiras dos clientes e gerar recomendações sólidas. Mas existia num sistema isolado, completamente desligado do sistema de gestão de clientes.

Os consultores tinham de copiar manualmente as informações dos clientes para o sistema de IA e, depois, transferir as suas recomendações de volta para as ferramentas de fluxo de trabalho principais. O que deveria poupar tempo acabou por aumentar a sua carga de trabalho em 22%. Assisti à queda abrupta da adoção por parte dos utilizadores, à medida que os consultores criavam soluções alternativas para evitar utilizar o sistema por completo. Seis meses e $1.2 milhões mais tarde, a empresa encerrou o projeto.

#3: A desconexão dos dados

Os assistentes de IA são tão bons quanto os dados a que conseguem aceder. As organizações subestimam frequentemente a complexidade da preparação de dados, da governação e da gestão contínua necessárias para uma implementação eficaz da IA.

É possível detetar estes desastres de dados a formar-se desde as primeiras fases do projeto. As equipas discutem entusiasticamente arquiteturas de modelos e interfaces de utilizador, mas ficam visivelmente mais silenciosas quando lhes são colocadas perguntas específicas sobre os seus dados: Quem é responsável por manter a qualidade dos dados? Que percentagem dos seus registos tem campos em falta? Qual é o vosso processo para lidar com informações contraditórias entre sistemas?

O prestador de cuidados de saúde a que prestei consultoria aprendeu esta lição da forma mais difícil. A sua IA de documentação clínica parecia impressionante em demonstrações controladas, mas, na utilização real, tinha dificuldades com históricos de pacientes fragmentados dispersos por vários sistemas legados.

O sistema recomendava tratamentos com confiança, sem ter em conta alergias a medicamentos ou resultados de exames recentes que não tinham sido devidamente integrados. Assisti à rápida evaporação da confiança dos médicos. Um médico disse-me: “Passo mais tempo a verificar o trabalho do sistema do que passaria a fazer a documentação sozinho.” Outro admitiu ignorar completamente a IA: “Não posso confiar em algo que não tem a visão completa da situação.”

Após vários incidentes de quase-acidente terem suscitado sérias preocupações quanto ao risco clínico, o hospital reduziu drasticamente o âmbito do sistema. Uma iniciativa que prometia revolucionar a documentação clínica acabou relegada ao tratamento de tarefas administrativas básicas, proporcionando talvez 20% do valor previsto.

#4: Apostar na estratégia de implementação 

A sociedade de advogados tinha selecionado o seu modelo de implementação quase casualmente, dando prioridade aos custos iniciais mais baixos e ao prazo de implementação mais rápido de uma solução na nuvem. A decisão tinha sido incluída num documento de especificações técnicas que os sócios seniores aprovaram sem compreenderem totalmente as implicações. Ninguém tinha mapeado exaustivamente os fluxos de informação nem realizado uma avaliação de segurança adequada, tendo em conta a confidencialidade dos clientes. É assim que se veem estes desastres a ganhar força de formas subtis.

Para a sociedade de advogados, as consequências foram imediatas e graves. Vários clientes importantes opuseram-se firmemente ao processamento dos seus contratos confidenciais num ambiente de nuvem de terceiros, independentemente da encriptação ou das medidas de segurança implementadas. A sociedade teve de se apressar a desenvolver uma versão no local da mesma solução, começando essencialmente do zero com uma nova arquitetura.

O que deveria ter sido uma implementação de seis meses prolongou-se por quinze. Os custos mais do que duplicaram. A direção que tinha apoiado a iniciativa enfrentou fortes críticas internas e a credibilidade do departamento de TI sofreu um duro golpe.

A parte mais frustrante foi vê-los cometer os mesmos erros durante o esforço de recuperação. Oscilaram para o extremo oposto, insistindo numa solução inteiramente no local sem considerar uma abordagem híbrida que pudesse ter equilibrado as preocupações de segurança com a rapidez de implementação.

#5: O ponto cego do fator humano

Antes de mais, implementa-se a IA para as pessoas, e não o contrário. Esta é a realidade no terreno que os executivos raramente veem. As empresas atribuem habitualmente menos de 5% dos seus orçamentos de implementação de IA à formação e à gestão da mudança. Já analisei planos de projetos em que a formação dos utilizadores consiste numa única sessão genérica para todos os funcionários, independentemente das suas funções ou da forma diferente como poderão utilizar o sistema.

Os sinais de alerta estão sempre presentes, se os procurarmos. A formação surge nos planos de projeto como um evento único, em vez de um processo contínuo. As verbas destinadas ao apoio aos utilizadores são mínimas ou inexistentes. E, talvez o mais revelador, raramente existe uma forma estruturada de os utilizadores fornecerem comentários ou comunicarem problemas, como se a relação entre as pessoas e a tecnologia fosse inteiramente unidirecional.

Quadro de diagnóstico: avalie o risco da implementação de IA

Quão vulnerável está a sua organização a estas falhas de implementação? Avalie o seu nível de risco em cada uma destas dimensões:

Das armadilhas aos princípios

O caminho para o sucesso da IA exige medidas preventivas para as organizações que estão a iniciar o seu percurso e ações corretivas para as que já enfrentam dificuldades. Vamos explorar os princípios fundamentais que abordam cada um dos pecados mortais, com táticas de recuperação específicas para as organizações que precisam de corrigir o rumo.

Princípio 1: Liderado pelo negócio, possibilitado pela tecnologia

Comece com problemas empresariais específicos e fluxos de trabalho dos utilizadores e, em seguida, selecione tecnologias que respondam a esses desafios. Envolva as partes interessadas do negócio desde o primeiro dia e mantenha a sua liderança ao longo de toda a implementação.

Táticas de recuperação:

• Realizar uma avaliação retrospetiva do valor empresarial para identificar oportunidades perdidas
• Implementar uma estrutura de governação que exija a validação do caso de negócio para todas as funcionalidades de IA
• Criar um painel de impacto empresarial que acompanhe os resultados, e não as métricas técnicas
• Estabelecer revisões regulares com as partes interessadas do negócio, com autoridade para vetar prioridades técnicas

Princípio 2: Integração por conceção

Faça da integração um critério de seleção prioritário para qualquer solução de IA. Desenvolva uma estratégia de integração abrangente antes de selecionar a tecnologia, com prioridades claras baseadas no impacto no fluxo de trabalho.

Táticas de recuperação:

• Mapeie as atuais perturbações no fluxo de trabalho causadas por uma integração deficiente
• Desenvolva um roteiro de integração prioritário, centrado nos pontos de maior fricção para os utilizadores
• Implemente integrações de ganhos rápidos para reconstruir a confiança dos utilizadores
• Considere soluções de middleware ou plataformas de gestão de API para desafios de integração complexos

Princípio 3: Os dados como base

Trate a preparação dos dados como um pré-requisito para a implementação de IA. Invista na qualidade, na governação e na acessibilidade dos dados como base da sua estratégia de IA.

Táticas de recuperação:

• Realize uma avaliação formal da qualidade dos dados em todos os sistemas essenciais dependentes de IA
• Estabeleça estruturas claras de propriedade e governação dos dados, com responsabilização
• Desenvolva um plano faseado de correção para problemas relacionados com dados críticos
• Implemente uma monitorização contínua da qualidade dos dados com alertas para detetar regressões

Princípio 4: Implementação contextual

Selecione os modelos de implementação com base nos seus requisitos específicos de segurança, conformidade e operação, e não apenas no custo. Considere abordagens híbridas que otimizem diferentes níveis de sensibilidade dos dados.

Táticas de recuperação:

• Reavalie o seu modelo de implementação com base numa estrutura abrangente de segurança e conformidade
• Implemente uma classificação de dados que permita um processamento híbrido com base na sensibilidade
• Desenvolva políticas transparentes de tratamento de dados para utilizadores e partes interessadas
• Melhore a monitorização de problemas de segurança, desempenho e acessibilidade

Princípio 5: Implementação centrada nas pessoas

Invista em formação abrangente e gestão da mudança. Reconheça que a adoção da IA é tanto um desafio humano como técnico.

Táticas de recuperação:

• Recolha feedback dos utilizadores sobre os pontos problemáticos específicos e as necessidades de formação
• Desenvolva materiais de formação específicos para cada função, centrados na integração com o fluxo de trabalho
• Implemente um programa de embaixadores de IA com representantes de cada departamento
• Crie oportunidades de aprendizagem contínua associadas às atualizações e melhorias do sistema

Plano de recuperação de 30 dias

Se a sua implementação de IA já estiver a apresentar sinais de alerta, tome estas medidas específicas nos próximos 30 dias:

Semana 1: Faça uma avaliação honesta da sua implementação com base na estrutura dos cinco erros fatais. Identifique as suas principais áreas de vulnerabilidade.

Semana 2: Recolha feedback estruturado dos utilizadores sobre pontos problemáticos específicos e oportunidades perdidas. Concentre-se nos fluxos de trabalho, e não nas funcionalidades tecnológicas.

Semana 3: Desenvolva um plano de correção prioritário que responda às suas vulnerabilidades mais críticas. Inclua ganhos rápidos para recuperar o impulso e a confiança.

Semana 4: Reformule a sua estrutura de governação para garantir a titularidade contínua por parte da empresa e o feedback dos utilizadores ao longo de todo o ciclo de vida da IA.

Como uma empresa conseguiu fazer bem a integração da IA

Embora muitas organizações tenham dificuldades com a implementação da IA, existem histórias de sucesso. Trabalhámos com uma companhia de seguros de média dimensão que procurava reduzir o tempo de processamento de sinistros em 40% e melhorar a precisão em 15%.

 

Reunimo-nos para mapear os seus processos. Numa semana, identificámos o principal obstáculo: os peritos de sinistros passavam 60% do seu tempo na documentação, em vez de na investigação. Nas duas semanas seguintes, criámos um roteiro para a documentação assistida por IA.

 

Dois meses depois, estavam a testar a solução de IA. Seis meses após a entrada em produção, estavam praticamente a atingir os seus objetivos: uma redução de 38% no tempo dedicado à documentação e uma melhoria de 17% na precisão. A principal conclusão foi começar pelos problemas dos fluxos de trabalho, e não pelas capacidades da IA.

Melhore as suas probabilidades de sucesso

Como podemos ver, a diferença entre o sucesso e o fracasso raramente se resume à qualidade da própria tecnologia de IA. Em vez disso, é a abordagem de implementação que distingue os 26% de organizações que alcançam resultados positivos das restantes.

Cada um dos cinco pecados mortais que analisámos representa um ponto de decisão crítico no seu percurso de IA. Ao reconhecer estas armadilhas comuns e aplicar os princípios correspondentes, as organizações podem melhorar significativamente as suas probabilidades de sucesso:

1. Substitua o fascínio pela tecnologia por um foco no negócio
2. Eleve a integração de uma preocupação secundária a uma estratégia central
3. Considere a preparação dos dados como a base essencial
4. Selecione os modelos de implementação com base no contexto, não apenas no custo
5. Invista na componente humana da implementação da IA

Principais conclusões

O sucesso da integração da IA é um percurso contínuo, e não um projeto pontual. As organizações que encaram a IA como uma capacidade estratégica a desenvolver, em vez de uma solução técnica rápida, superam consistentemente os seus pares.

É agora o momento de criar esta vantagem de integração. O plano de recuperação de 30 dias apresentado neste guia oferece um ponto de partida, mas o verdadeiro trabalho exige um compromisso contínuo com os princípios que definimos.

As consequências dificilmente poderiam ser maiores: num mundo em que 74% das organizações têm dificuldades em extrair valor da IA, fazer parte dos 26% bem-sucedidos representa a oportunidade competitiva mais significativa da década.

Subscreva a newsletter do The CTO Club para obter mais informações sobre IA.