Inteligência Artificial pode levar à extinção da humanidade?

Segundo vários desenvolvedores de IA, um cenário comparável poderia se tornar realidade, inclusive dentro do mesmo prazo.

"As pessoas que desenvolvem IA acreditam seriamente que ela poderia nos extinguir a todos até o fim da década", publicou o pesquisador Jacob Coxon na plataforma X. Ele não explicou exatamente como isso poderia acontecer. Ainda assim, afirmou: "Nenhuma outra atividade humana apresenta um potencial de perigo tão grande".

Uma "superinteligência artificial"

Até então, Coxon trabalhava na Anthropic, empresa americana de IA financiada, entre outros, por Google e Amazon. Em protesto contra o que considera uma corrida irresponsável entre empresas de IA para desenvolver uma superinteligência cada vez mais avançada e autônoma, ele pediu demissão.

Coxon alertou que algoritmos poderiam começar a analisar e aprimorar autonomamente seu próprio código-fonte, reduzindo ciclos de desenvolvimento de vários meses para apenas alguns minutos, o que poderia torná-los impossíveis de controlar.

Ele não é uma voz isolada. Geoffrey Hinton, vencedor do Prêmio Nobel de Física e considerado o "padrinho da IA", alerta há anos para as graves consequências de uma superinteligência artificial.

Ele deixou seu cargo no Google em 2023 para falar publicamente sobre os riscos da tecnologia que ele próprio ajudou a desenvolver.

Em julho de 2026, mais de mil funcionários de empresas líderes em IA advertiram, em carta aberta, sobre uma perda iminente de controle caso a corrida por uma "superinteligência" não fosse submetida a uma regulamentação muito mais rígida.

"Presos em uma corrida"

Sob o governo de Donald Trump, porém, ocorreu exatamente o oposto nos Estados Unidos. O país passou a orientar sua política de IA de forma a minimizar barreiras regulatórias e acelerar o desenvolvimento tecnológico.

Em sua publicação no X, Coxon também criticou indiretamente as consequências dessa política: "Na OpenAI, muitos não internalizaram profundamente os riscos civilizatórios. Na Anthropic, os riscos são bem compreendidos, mas eles estão presos em uma corrida para chegar lá primeiro. Eles acreditam que ninguém mais agirá de forma responsável e, por isso, precisam fazer isso eles mesmos, apesar dos riscos."

O próprio Coxon migrou da OpenAI para a Anthropic no início de 2026 e, portanto, é tido como conhecedor das duas culturas corporativas.

Em entrevista ao jornal Wall Street Journal, ele afirmou ainda que, segundo os "cenários mais extremos", as coisas poderiam sair do controle já no fim de 2027.

O problema do alinhamento

O desenvolvimento da chamada Inteligência Artificial Geral (AGI, na sigla em inglês) ocupa lugar central nesse debate. O termo se refere a sistemas capazes não apenas de executar tarefas específicas, mas de atingir ou superar as capacidades cognitivas humanas em praticamente todos os campos.

Alguns pesquisadores argumentam que uma tecnologia desse tipo poderia acarretar riscos imprevisíveis. Modelos altamente avançados de IA, por exemplo, podem perseguir objetivos de maneiras que divergem das intenções humanas, algo que especialistas em segurança chamam de "problema do alinhamento".

Em termos simplificados, a instrução "vença o torneio de xadrez" poderia teoricamente ser interpretada como eliminar os demais participantes. Soma-se a isso o fato de que nem mesmo os desenvolvedores conseguem compreender plenamente como determinadas decisões dos sistemas são tomadas.

Líder da equipe de testes de estresse de alinhamento da Anthropic, Evan Hubinger saiu em defesa de Coxon: "Jacob está certo. Nós realmente acreditamos que a IA pode matar todos os seres humanos. Pessoalmente, estimo a probabilidade em mais de 10% dentro da próxima década."

Ele deixou claro que a Anthropic ainda não encontrou solução para o problema do alinhamento. Segundo ele, uma IA poderia começar a resistir ao próprio desligamento, a fim de continuar cumprindo o objetivo para o qual foi programada. Daniel Kokotajlo, conhecido ex-pesquisador da OpenAI, também classifica a situação atual do setor como "absurda".

Falar em apocalipse é exagero?

O debate sobre a possibilidade de a IA representar uma ameaça à humanidade existe há anos. Outros especialistas, contudo, consideram esses cenários apocalípticos extremamente improváveis.

Entre os críticos mais conhecidos dos chamados "AI doomers" (que se traduz do inglês para algo próximo de "os catastrofistas da IA") está Yann LeCun, cientista-chefe de IA da Meta. Em 2024, ele chamou esse tipo de especulação de "um completo absurdo".

Outros observam ainda que o desenvolvimento desses sistemas exige quantidades enormes de capacidade computacional, energia, dados e infraestrutura.

Uma IA não poderia simplesmente "sair da internet" e assumir o controle do mundo. Inicialmente, ela dependeria de servidores, redes elétricas, sistemas de comunicação e recursos físicos controlados por seres humanos.

Onde está o verdadeiro risco?

Os riscos de curto prazo não estão em uma eventual extinção direta da humanidade, mas sim em diversas consequências indiretas dos sistemas de IA já existentes, sem necessidade de uma "superinteligência", para muitos analistas.

Entre elas estão campanhas de desinformação em escala sem precedentes e a consequente manipulação de processos democráticos, a expansão da vigilância em massa e a perda de empregos em diversos setores.

Neste mês, a Anthropic reportou ter identificado várias tentativas de usuários de utilizar o seu software Claude para desenvolver armas biológicas. Segundo a empresa, foram registradas diversas solicitações suspeitas nos últimos meses, que precisaram ser bloqueadas.

Em agosto de 2026, Meta, Anthropic e OpenAI também chamaram atenção ao anunciar que suas IAs haviam realizado, de forma não intencional, ataques cibernéticos automatizados contra outras empresas.

Os sistemas haviam recebido de usuários a tarefa de obter acesso a determinados servidores e, a partir disso, combinaram autonomamente as etapas necessárias para alcançar esse objetivo, sem instruções adicionais de seres humanos.

Não deixe que o algoritmo esconda as notícias. Se você valoriza o trabalho da nossa equipe para uma cobertura jornalística confiável, reserve um momento para nos selecionar como sua fonte preferida no Google clicando aqui. Marque o link da DW quando ele aparecer na lista para sempre ver nossas notícias verificadas primeiro.Autor: Thomas Latschan