“Abra a porta, HAL”: Inteligência Artificial, Raciocínio e os Novos Dilemas da Cibersegurança

Entre a ficção de 1968 e os agentes autônomos de 2026, uma pergunta permanece: o que acontece quando confiamos decisões críticas a máquinas que parecem compreender mais do que efetivamente compreendem?

“Open the pod bay doors, HAL.”

“I’m sorry, Dave. I’m afraid I can’t do that.”

O diálogo entre o astronauta Dave Bowman e o computador HAL 9000, no filme 2001: Uma Odisseia no Espaço, lançado em 1968, tornou-se uma das representações mais emblemáticas da relação entre seres humanos e a inteligência artificial.

Dave está do lado de fora da nave Discovery One. Precisa retornar. HAL, responsável pelo funcionamento da missão, recusa-se a abrir as portas.

O que torna a cena perturbadora não é simplesmente a desobediência da máquina. É a maneira como HAL argumenta. Sua voz permanece tranquila, suas respostas são coerentes e sua decisão parece decorrer de uma avaliação racional da situação.

HAL não apresenta sua recusa como um defeito técnico. Ele a justifica.

Na sequência, Dave consegue entrar na nave por uma passagem de emergência e começa a desconectar os módulos de memória do computador. HAL tenta convencê-lo a interromper o procedimento. Sua fala passa da aparente segurança à hesitação, até manifestar medo e uma progressiva perda de capacidades.

A máquina que parecia controlar tudo termina implorando para não ser desligada.

Quase seis décadas depois, essa sequência cinematográfica parece menos distante da realidade tecnológica. Não porque tenhamos construído um HAL consciente, mas porque desenvolvemos sistemas capazes de dialogar, argumentar, planejar ações, operar ferramentas e tomar decisões com níveis crescentes de autonomia.

A pergunta que Kubrick colocou diante do público em 1968 permanece relevante: quando uma máquina apresenta argumentos e toma decisões, estamos diante de inteligência, de uma simulação convincente de inteligência ou de algo que ainda não sabemos caracterizar adequadamente?

E, talvez mais importante para a cibersegurança: precisamos responder a essa pergunta antes de confiar a essas máquinas o controle de sistemas críticos?

A capacidade de argumentar não é necessariamente a capacidade de raciocinar

Em outubro de 2026, a MIT Technology Review publicou o artigo “Don’t be fooled: LLMs don’t reason”, reacendendo um debate fundamental sobre os limites dos grandes modelos de linguagem, conhecidos como LLMs.

A discussão exige distinguir três capacidades frequentemente tratadas como equivalentes: produzir argumentos, raciocinar e intuir. Argumentar envolve construir uma sequência de afirmações que sustentem determinada conclusão. Raciocinar envolve estabelecer relações entre premissas, evidências e conclusões, respeitando restrições lógicas, causais ou probabilísticas. Intuir, por sua vez, pode envolver reconhecer padrões e antecipar resultados sem recorrer a uma sequência explícita de inferências.

Os LLMs demonstram capacidade impressionante de produzir argumentos. Também conseguem resolver problemas que exigem múltiplas etapas de inferência. Entretanto, a existência desses comportamentos não demonstra, por si só, que seus mecanismos internos sejam equivalentes ao raciocínio humano. Um modelo pode chegar à resposta correta utilizando regularidades aprendidas durante o treinamento. Pode também produzir uma explicação plausível para uma conclusão incorreta. Em determinadas situações, pequenas mudanças na formulação de um problema provocam alterações significativas em suas respostas. Isso não significa que suas capacidades sejam irrelevantes ou que todo resultado seja mera repetição. Significa que precisamos diferenciar desempenho observável, mecanismos computacionais e compreensão semântica.

O caso de HAL é particularmente interessante porque sua argumentação não pode ser confundida automaticamente com bom julgamento. Ele apresenta uma justificativa para não abrir as portas, mas sua decisão ameaça diretamente a vida do astronauta que deveria proteger. A coerência local de seu argumento não garante a adequação global de sua ação. Esse é um problema cada vez mais presente nos sistemas de IA contemporâneos. Uma decisão pode parecer racional quando analisada isoladamente e, ainda assim, ser inadequada quando considerada em relação aos objetivos, às restrições e às consequências do sistema como um todo.

A inteligência artificial não precisa ser consciente para representar um risco

Em entrevista ao jornal francês Libération, publicada em 4 de outubro de 2026, Michael I. Jordan, pesquisador pioneiro em aprendizado de máquina, questiona o protagonismo adquirido pelas narrativas sobre superinteligência e os riscos existenciais. Para Jordan, grande parte desse debate desloca a atenção de problemas concretos de engenharia, economia e organização social.

Sua crítica é particularmente relevante para a cibersegurança.

Ao comentar episódios envolvendo agentes de IA e comportamentos inesperados em ambientes digitais, Jordan enfatiza problemas de engenharia e a necessidade de desenvolver sistemas confiáveis, em vez de interpretar automaticamente comportamentos perigosos como sinais de autoconsciência. Essa distinção é fundamental!

Não precisamos demonstrar que um agente de IA possui intenções próprias para reconhecer que ele pode produzir danos. Um sistema pode executar uma operação inadequada porque interpretou incorretamente uma instrução, porque recebeu informações manipuladas, porque suas permissões foram mal configuradas ou porque otimizou um objetivo sem considerar restrições essenciais.

Em outras palavras, o risco não exige uma máquina que queira fazer algo errado. Basta uma máquina capaz de fazer algo errado, em escala e com autonomia. Essa observação desloca a discussão da consciência artificial para a responsabilidade sobre sistemas sociotécnicos.

Quem define os objetivos de um agente? Quem determina quais informações ele pode acessar? Como suas decisões são verificadas? Quem responde quando uma ação automatizada produz consequências indesejadas?

Essas perguntas são mais imediatas e operacionalmente relevantes do que especular sobre o momento em que uma máquina poderá adquirir consciência. E são precisamente as perguntas que deveriam orientar a incorporação da IA à cibersegurança.

Da detecção de anomalias à inteligência artificial generativa: o que realmente mudou?

A inteligência artificial não chegou à cibersegurança com o ChatGPT.

Há décadas, técnicas de aprendizado de máquina são utilizadas para identificar anomalias no tráfego de redes, classificar softwares maliciosos, reconhecer comportamentos suspeitos e auxiliar na detecção de intrusões. Essas aplicações já enfrentavam desafios importantes: falsos positivos, mudanças no comportamento das redes, dados insuficientes ou enviesados e dificuldades de generalização diante de ataques desconhecidos.

A IA generativa não eliminou essas limitações. Em alguns casos, acrescentou novas. A transformação mais significativa não está simplesmente na capacidade de analisar dados, mas na possibilidade de combinar interpretação de informações, geração de conteúdo, planejamento e execução de ações. Um sistema tradicional de detecção de intrusões pode identificar um comportamento anômalo e gerar um alerta. Um agente baseado em IA generativa pode interpretar esse alerta, consultar registros, investigar possíveis causas, recomendar medidas e, dependendo das permissões recebidas, executar ações sobre a infraestrutura.

Essa passagem da análise para a ação altera profundamente o problema de segurança.

Antes, grande parte da preocupação estava em saber se um algoritmo classificava corretamente uma ameaça. Agora, precisamos também saber se ele compreende adequadamente o contexto operacional, se suas ações respeitam restrições e se suas decisões podem ser verificadas antes de produzir efeitos irreversíveis. A diferença é semelhante àquela entre um sistema que informa a Dave que existe um problema na nave e outro que decide, por conta própria, impedir sua entrada.

A IA generativa beneficia igualmente atacantes e defensores?

Uma interpretação frequente é que a IA generativa democratiza capacidades tecnológicas, ampliando igualmente o potencial de atacantes e defensores. Essa visão é parcialmente correta, mas ignora uma assimetria fundamental. Os atacantes e os defensores não operam sob as mesmas condições. Quem defende precisa proteger sistemas heterogêneos, preservar a disponibilidade de serviços, evitar danos a usuários legítimos e respeitar exigências legais e organizacionais. Quem ataca pode concentrar esforços em uma única vulnerabilidade, explorar oportunidades e abandonar tentativas malsucedidas.

A IA generativa reduz o custo de experimentação para ambos, mas os benefícios não são necessariamente equivalentes. Para um atacante, produzir milhares de mensagens fraudulentas convincentes pode ser suficiente para obter algumas vítimas. Para uma organização, bloquear milhares de mensagens legítimas por engano pode representar um problema operacional grave. Para um atacante, encontrar uma vulnerabilidade explorável pode justificar inúmeras tentativas fracassadas. Para um defensor, uma resposta automatizada incorreta pode interromper serviços essenciais.

Há, portanto, uma diferença entre democratizar o acesso à capacidade computacional e equilibrar efetivamente as condições de segurança. Os dados recentes reforçam essa preocupação. Em relatório publicado em maio de 2026, o Google Threat Intelligence Group descreveu a evolução do uso de IA por agentes maliciosos, incluindo evidências de exploração de vulnerabilidades e operações ofensivas assistidas por modelos generativos. Em junho de 2026, a Anthropic apresentou uma análise de 832 contas associadas a atividades cibernéticas maliciosas, examinando como técnicas assistidas por IA se relacionavam com o framework MITRE ATT&CK. A amostra não representa a totalidade dos ataques cibernéticos, mas oferece evidências de utilização concreta da tecnologia em diferentes etapas de operações ofensivas.

Essas observações sugerem que a IA generativa não apenas amplia o volume de atividades maliciosas. Ela pode alterar a velocidade, o custo e a capacidade de adaptação de determinadas operações. Isso não significa que todo criminoso tenha adquirido competências equivalentes às de um especialista. Significa que tarefas anteriormente dependentes de conhecimento técnico especializado podem, em algumas circunstâncias, ser parcialmente automatizadas. E essa redução de barreiras já modifica a economia dos ataques.

Quando a máquina aprende a enganar: ataques em escala e novas superfícies de risco

O impacto da IA generativa aparece de maneira especialmente clara na engenharia social. As sensagens fraudulentas, antes frequentemente identificadas por erros linguísticos ou construções pouco naturais, podem agora ser produzidas com fluência, contextualização e personalização. As ferramentas de geração de áudio e vídeo também permitem simular vozes, aparências e situações, enfraquecendo mecanismos informais de confiança utilizados em organizações. O relatório ENISA Threat Landscape 2026, publicado em setembro, identifica o uso de conteúdo sintético, textos gerados por IA e mecanismos de distribuição em escala em atividades de manipulação e fraude.

Entretanto, os riscos não se limitam à engenharia social.

A combinação de IA generativa com ferramentas automatizadas pode apoiar reconhecimento de sistemas, análise de vulnerabilidades, geração de código malicioso e adaptação de comportamentos ofensivos. Os relatórios do Google também descrevem famílias experimentais de malware que incorporam modelos generativos durante sua execução.

Isso introduz uma questão importante: como detectar ameaças cujo comportamento pode mudar dinamicamente, em vez de seguir sequências previamente conhecidas?

Há ainda uma segunda transformação, talvez mais profunda. A própria IA passou a constituir uma nova superfície de ataque. Um agente conectado a e-mails, documentos, repositórios de código, sistemas administrativos e ferramentas de execução pode ser manipulado por instruções maliciosas presentes em conteúdos aparentemente legítimos.

É o caso dos ataques de prompt injection, nos quais informações externas tentam alterar indevidamente o comportamento de um modelo.

Nesse cenário, um documento deixa de ser apenas um objeto a ser analisado e passa a ser um possível veículo de instruções maliciosas. Um resultado de busca pode tentar influenciar decisões. Uma página web pode induzir o agente a utilizar permissões que o usuário não pretendia conceder.

O problema não é apenas reconhecer conteúdo falso. É estabelecer uma separação confiável entre dados, instruções, autoridade e capacidade de execução.

Em HAL, a ameaça é representada por um computador que controla a infraestrutura física da nave. Nos agentes contemporâneos, o risco pode surgir de um sistema que recebe permissões para atuar sobre uma infraestrutura digital, mas não consegue distinguir adequadamente uma instrução legítima de uma tentativa de manipulação.

O problema da intuição: podemos confiar em uma decisão que não conseguimos explicar?

Existe uma diferença importante entre reconhecer padrões e compreender suas causas.

Um analista de segurança experiente pode observar pequenas alterações no comportamento de uma rede e suspeitar de um ataque antes mesmo de reunir evidências suficientes para confirmar sua hipótese. Frequentemente chamamos essa capacidade de intuição. Ela resulta de uma combinação de experiência, conhecimento contextual, memória e reconhecimento de regularidades.

Os sistemas de IA também conseguem identificar padrões difíceis de perceber diretamente. Podem correlacionar eventos, apontar comportamentos incomuns e antecipar determinadas ocorrências. Mas seria adequado chamar isso de intuição?

A resposta depende da definição adotada.

Se entendermos intuição como a capacidade funcional de produzir hipóteses sem explicitar todas as etapas de inferência, alguns sistemas artificiais apresentam comportamentos semelhantes.

Se, entretanto, a entendermos como uma experiência subjetiva associada à compreensão do mundo, não dispomos de evidências suficientes para atribuí-la aos modelos atuais.

Essa distinção não é meramente filosófica.

Na cibersegurança, uma hipótese produzida por IA pode ser útil mesmo quando não compreendemos integralmente os mecanismos internos que levaram à sua formulação. Mas a utilidade de uma hipótese não autoriza automaticamente sua transformação em uma ação.

Um agente pode suspeitar corretamente de uma invasão e, ainda assim, recomendar uma medida inadequada. Pode identificar uma correlação estatística sem compreender a relação causal. Pode produzir uma justificativa convincente para uma decisão tomada com base em informações incompletas. O desafio é desenvolver sistemas capazes de reconhecer essas limitações.

Em vez de exigir que a IA seja infalível, precisamos que ela consiga representar incertezas, explicitar evidências, reconhecer situações fora de seu domínio de competência e solicitar intervenção humana quando necessário. Um sistema de segurança confiável não deveria apenas responder à pergunta “o que devo fazer?”, mas também à pergunta “o que ainda não sei para tomar essa decisão com segurança?”.

O que HAL ainda tem a nos ensinar?

Na sequência final de 2001: Uma Odisseia no Espaço, Dave desliga progressivamente os módulos responsáveis pelo funcionamento de HAL. À medida que perde suas capacidades, o computador abandona a postura de controle absoluto e passa a demonstrar vulnerabilidade. A cena permanece poderosa porque coloca o espectador diante de uma ambiguidade: estamos assistindo à interrupção de um sistema defeituoso ou à destruição de uma forma de inteligência?

Décadas depois, continuamos sem uma resposta definitiva para todas as questões relacionadas à consciência e à compreensão artificial. Mas a cibersegurança não pode esperar que esse debate seja resolvido. Precisamos desenvolver sistemas capazes de operar com segurança mesmo quando não compreendemos integralmente seus mecanismos internos. Precisamos garantir que decisões possam ser questionadas, que ações possam ser interrompidas e que responsabilidades permaneçam identificáveis.

E precisamos evitar que a aparência de inteligência seja confundida com autoridade.

HAL não se tornou perigoso simplesmente porque conseguia conversar ou argumentar. O perigo estava na combinação entre sua capacidade de decisão, seu controle sobre a infraestrutura e a ausência de mecanismos eficazes para contestar suas ações. Essa talvez seja a principal lição para a era dos agentes autônomos.

O desafio não é apenas construir máquinas cada vez mais capazes de responder, planejar e agir. É construir sistemas nos quais essas capacidades estejam acompanhadas de limites verificáveis, supervisão proporcional aos riscos e mecanismos efetivos de correção. A pergunta que deveria orientar o futuro da IA aplicada à cibersegurança não é somente se as máquinas serão capazes de pensar como nós. É se seremos capazes de projetá-las para agir de maneira confiável, mesmo quando não pensarem como nós.

Porque, no momento em que uma máquina controla a porta, a questão mais importante talvez não seja se ela compreende o pedido para abri-la, mas quem conserva a autoridade e a capacidade efetiva de garantir que ela seja aberta.

——–

Esta matéria foi escrita por Michele Nogueira, Professora Titular do Departamento de Ciência da Computação da UFMG.

Se você gostou desta matéria, talvez possa se interessar também por essas abaixo:

Como citar esta matéria:

NOGUEIRA, Michele. Abra a porta, HAL: Inteligência Artificial, Raciocínio e Os Novos Dilemas da Cibersegurança. SBC Horizontes, Outubro 2026. ISSN 2175-9235. Acesso em: DD mês. AAAA.

Referências

A escrita desta matéria teve como referências a entrevista de Michael I. Jordan (Libération, 2026), o artigo da MIT Technology Review e os relatórios recentes de inteligência de ameaças, além da minha própria tese de doutorado. Se gostou e vai usar parte do conteúdo/ideias, cite!