Hackear a Mente do Hacker e Revolucionar a Ciberdefesa

Key Takeaways

As ferramentas tradicionais não conseguem acompanhar o ritmo: Os defensores da cibersegurança têm dificuldades em enfrentar atacantes em evolução, uma vez que os métodos convencionais, como as firewalls, não conseguem adaptar-se a táticas sofisticadas, deixando os sistemas vulneráveis.

Os atacantes tornam-se criativos: Técnicas como «Viver da Terra» destacam a forma como os atacantes utilizam ferramentas legítimas para contornar os sistemas de deteção, salientando a necessidade de defesas mais adaptativas.

A defesa proativa é o futuro: Os defensores têm de passar de abordagens reativas para estratégias proativas, interrompendo os ataques na sua origem em vez de esperar que as vulnerabilidades sejam exploradas.

Está na hora de renovar a cibersegurança: A cibersegurança moderna exige soluções inovadoras capazes de antecipar e contrariar estratégias de ataque dinâmicas, ultrapassando métodos ultrapassados para proporcionar uma melhor proteção.

Ultrapassámos a linha que separa a cautela da crise na cibersegurança. Se ainda se apoia em firewalls obsoletas e verificações de assinaturas estáticas – adequadas contra ataques simples e previsíveis –, está a deixar a porta escancarada para atacantes modernos que utilizam táticas que mudam mais rapidamente do que consegue aplicar correções.

Por exemplo, as técnicas de exploração de recursos legítimos (Exploração de Recursos Legítimos, LOTL), nas quais os atacantes exploram ferramentas legítimas como o PowerShell ou o WMI, podem ser utilizadas para evitar a deteção pelos sistemas tradicionais. Esta rigidez deixa os defensores numa postura reativa, tratando as vulnerabilidades apenas depois de estas serem divulgadas ou exploradas, em vez de interromperem proativamente os ataques na sua origem.

Um dos pontos cegos da maioria das configurações de segurança consiste em esquecer que os atacantes, apesar de toda a sua competência, continuam a ser humanos – e estão tão sujeitos a preconceitos e atalhos mentais como todos nós. É aqui que surge a ideia de “invadir a mente do atacante”.

Explorar estas fragilidades cognitivas pode proporcionar uma forma mais flexível e proativa de neutralizar as ameaças antes que estas se agravem. Quando combina essa perceção com a deteção orientada por IA, já não está apenas a reagir; está a devolver às operações de segurança o controlo da situação.

Neste artigo, ficará a saber como invadir a mente do atacante através da Engenharia Cognitiva Adversarial (ACE), que pode inverter o jogo e permitir-lhe levar a melhor sobre os atacantes antes de estes conseguirem estabelecer uma presença.

Preconceitos cognitivos na cibersegurança

Proposta inicialmente por Chelsea K. Johnson e pelos seus colegas do Laboratório de Investigação Avançada em Cibersegurança, a ACE tira partido de princípios psicológicos bem documentados, como a Falácia do Custo Irrecuperável (SCF), para levar os atacantes a desperdiçar tempo e recursos.

Ao explorar estas vulnerabilidades cognitivas, a ACE muda as estratégias de defesa de reativas para proativas – atrasando os atacantes o tempo suficiente para que os defensores neutralizem as ameaças antes de estas se agravarem.

Os atacantes, independentemente da sua experiência, continuam a ser humanos. Baseiam-se em atalhos mentais ou heurísticas, especialmente sob pressão ou com limitações de tempo. A investigação demonstra que, em ambientes de elevada pressão, os atacantes estão sujeitos a erros de tomada de decisão que os defensores podem prever e explorar.

A ACE centra-se na compreensão e exploração das heurísticas nas quais os adversários se baseiam ao tomar estas decisões.

Get Free Access

Get regular tech leadership wisdom for delivering better software and systems.

Have an account? Log In

Uma nova abordagem à ciberdefesa

A investigação fundamental sobre a ACE foi realizada numa plataforma experimental denominada CYPHER, que simulava cenários de tomada de decisão relevantes para a cibersegurança. Mais concretamente, a investigação centrou-se na exploração da SCF.

No contexto dos ciberataques, um atacante pode concentrar-se numa via de exploração improdutiva simplesmente porque investiu uma quantidade significativa de tempo ou esforço, mesmo que exista uma oportunidade melhor noutro ponto da rede.

Estudos recentes identificaram vários preconceitos cognitivos que os atacantes manifestam durante a tomada de decisões, incluindo o preconceito do padrão predefinido, a heurística da disponibilidade e o preconceito da recência (Aggarwal et al., 2024; Ferguson-Walter et al., 2018; Pharmer et al., 2024). Estes preconceitos, que refletem erros sistemáticos e previsíveis na tomada de decisão dos atacantes, criam oportunidades significativas para que os defensores perturbem as operações dos atacantes.

Escolhas do Clube de CTOs para software de segurança!

Preconceitos que os defensores podem explorar

Para operacionalizar a ACE, os defensores podem aplicar as seguintes táticas, alinhando cada uma delas com preconceitos cognitivos específicos:

Implementar sistemas chamariz (falácia do custo irrecuperável): Os sistemas chamariz podem imitar ativos de elevado valor, simulando simultaneamente um progresso incremental, como conceder acesso faseado a ficheiros cada vez mais "sensíveis". Por exemplo, os atacantes podem ser levados a desencriptar ficheiros chamariz que, em última análise, não oferecem qualquer valor real, reforçando a sua sensação de compromisso com o alvo. Esta é uma manobra clássica de «hackear a mente do hacker»: quando um atacante sente que já investiu, é menos provável que recue — mesmo quando se trata de uma armadilha.
Introduzir caminhos predefinidos (enviesamento do padrão): Ao criar caminhos que parecem escolhas naturais ou óbvias, como uma lista visível de nomes de utilizador com chamarizes estrategicamente colocados no topo, os defensores podem conduzir os atacantes para sistemas monitorizados, protegendo simultaneamente os ativos críticos.
Apresentar sistemas chamariz (heurística da disponibilidade): Os sistemas chamariz devem parecer mais simples ou acessíveis do que os alvos de elevado valor, desviando os atacantes para estes ambientes isolados. Ferramentas como os tokens Canary ou pontos fracos simulados na rede podem funcionar como chamarizes eficazes.
Desorientação repetida (enviesamento da recência): Credenciais chamariz dinâmicas, URLs rotativos ou vulnerabilidades aparentes alteradas regularmente podem reforçar a dependência dos atacantes em métodos familiares, atraindo-os para becos sem saída repetidos.
Utilizar alertas enganadores (efeito da ambiguidade): Alertas ambíguos do sistema, como erros que sugerem uma deteção parcial, podem confundir os atacantes e atrasar a sua tomada de decisões. Por exemplo, mensagens de erro vagas podem fazer com que os atacantes hesitem, permitindo que os defensores monitorizem e respondam de forma mais eficaz.

Expandir a ACE com IA e GANs

À medida que as técnicas de engenharia cognitiva avançam, podem transformar profundamente a cibersegurança. Ao combinar estes métodos com sistemas orientados por IA — treinados com base nos comportamentos dos atacantes — os defensores podem automatizar táticas de ACE e aplicar pressão psicológica em grande escala, tudo sem necessitar de intervenção humana direta.

Para levar isto mais longe, as Redes Adversárias Generativas (GANs), um poderoso subconjunto da aprendizagem automática, oferecem oportunidades inovadoras para expandir as estratégias de ACE. Estes sistemas são constituídos por duas redes neuronais — o gerador, que cria resultados simulados, e o discriminador, que os avalia. Ao trabalharem em oposição, estas redes aperfeiçoam-se mutuamente, permitindo a simulação dinâmica dos comportamentos e das respostas dos atacantes.

Isto torna as GANs particularmente adequadas para gerar ambientes chamariz sensíveis ao contexto, que exploram enviesamentos cognitivos como a heurística da disponibilidade ou o enviesamento do padrão. Estes chamarizes podem adaptar-se em tempo real, alterando a sua apresentação ou complexidade à medida que os atacantes reagem, criando uma camada defensiva evolutiva que antecipa os movimentos dos atacantes.

Manipular os comportamentos dos atacantes em tempo real

Pronto para inverter os papéis com os atacantes? Acompanhe os seus movimentos em tempo real e explore os próprios enviesamentos que orientam as suas decisões, conduzindo-os para longe dos alvos sensíveis antes mesmo de perceberem o que está a acontecer.

Como fazê-lo:

Identificar a mudança de direção: Para além de simplesmente implementarem chamarizes, as defesas baseadas em IA podem detetar quando os atacantes se comprometem com uma determinada rota.
Aumentar os riscos: Depois de os prender, aumente a complexidade do seu chamariz. Incentive-os a investir ainda mais tempo e recursos e afaste-os dos alvos reais.
Manter a capacidade de adaptação: Não se trata apenas de reagir; trata-se de conduzir ativamente os atacantes para fora do percurso, obrigando-os a entrar em becos sem saída muito antes de alcançarem algo valioso.
Interromper a cadeia de tomada de decisões: Quando leva o combate ao nível cognitivo, não está apenas a bloquear ataques — está a destruir os atalhos mentais em que os atacantes confiam. Corte esses caminhos já muito percorridos e eles perderão tempo ou recuarão completamente.

IA em evolução

Os atacantes também estão a utilizar IA, e não demorará muito até que se adaptem até às armadilhas mais sofisticadas. No futuro, os defensores precisarão de modelos de IA totalmente adaptativos, que aprendam em tempo real, contrariem novos padrões e mudem de direção sem aguardarem pela aprovação humana. É a única forma de acompanhar adversários tão empenhados na inovação como você.

Defesa cibernética num cenário orientado por IA

A interação entre a IA ofensiva e defensiva irá provavelmente definir a próxima fronteira da cibersegurança. Para se manterem à frente dos adversários, as organizações devem:

Utilizar dados de simulações de equipas RED, exercícios de APT e incidentes reais para treinar modelos defensivos adaptativos.
Desenvolver KPIs para medir o sucesso das estratégias baseadas em ACE, como a redução do tempo de permanência dos atacantes ou o aumento do desperdício de recursos.
Abordar considerações éticas, garantindo que a IA defensiva permanece imparcial e resistente à exploração.

A Engenharia Cognitiva Adversarial apresenta uma nova forma de integrar a psicologia humana na tecnologia moderna, dando aos defensores uma vantagem sobre os atacantes. À medida que a prática amadurece, a utilização da ACE nos Centros de Operações de Segurança tornar-se-á essencial para manter um passo de avanço.

Da ciberdefesa reativa à proativa

A implementação de estratégias baseadas em ACE permite que os responsáveis pela cibersegurança equipem as suas equipas com as ferramentas necessárias para antecipar e manipular o comportamento dos atacantes.

A combinação da psicologia humana com sistemas orientados por IA desempenhará um papel fundamental na próxima era da ciberdefesa, garantindo que os defensores estejam sempre um passo à frente. Torne as suas defesas mais inteligentes e garanta que as suas operações de cibersegurança sejam ágeis, adaptáveis e capazes de neutralizar ameaças avançadas antes mesmo de estas surgirem.

Se está preparado para se manter à frente dos atacantes, comece por transformar os preconceitos deles no seu aliado mais poderoso — porque, por vezes, a melhor forma de piratear o sistema é piratear a mente que está por detrás dele.

Subscreva a newsletter do The CTO Club para obter mais informações, dicas e ferramentas sobre ciberdefesa.