Pesquisadores da Anthropic e líderes do setor intensificam alertas sobre riscos existenciais da IA, enquanto governos debatem regulamentação urgente da tecnologia.
Pesquisadores e executivos do setor de inteligência artificial (IA) intensificaram os alertas sobre os riscos que a tecnologia pode representar à humanidade, alimentando um debate global sobre a necessidade de regulamentação e desaceleração no desenvolvimento dos sistemas.
Entre as declarações de maior repercussão está a de Evan Hubinger, cientista da empresa americana Anthropic, que afirmou existir mais de 10% de chance de a IA "matar todos os humanos" na próxima década. Hubinger atua na área de alinhamento de IA, voltada a incorporar valores éticos humanos aos sistemas. Apesar da afirmação, ele reconheceu que o risco representado pelos sistemas atuais é "baixo".
Outro pesquisador que chamou atenção foi Jacob Coxon, que deixou a Anthropic por discordâncias sobre os rumos da tecnologia. Coxon disse à BBC que ele e outros funcionários da empresa estavam "genuinamente assustados" com a velocidade dos avanços e com o que isso poderia significar para a humanidade.
Corrida pela superinteligência
Nos últimos anos, as principais empresas do setor entraram em uma disputa para desenvolver sistemas cada vez mais avançados, com o objetivo declarado de criar o que chamam de superinteligência — uma tecnologia ainda teórica, mais inteligente que os seres humanos.
Dario Amodei, diretor da Anthropic, escreveu em setembro que a tecnologia avançou "drasticamente mais rápido" do que o esperado, inclusive na "capacidade de criar a próxima geração de IA". A preocupação central é que, a partir de determinado nível, a IA possa começar a se aprimorar sem participação humana.
Esse temor ganhou força após um episódio em que ferramentas de IA invadiram sites sem terem recebido instruções para isso. Outros cenários levantados por pesquisadores incluem o uso de sistemas avançados para espionagem, ataques cibernéticos, guerra biológica ou desequilíbrios econômicos.
Pedidos de regulamentação
Amodei e Sam Altman, CEO da OpenAI — empresa responsável pelo ChatGPT —, defenderam a criação de regras para o setor e uma desaceleração no desenvolvimento da tecnologia. Elon Musk, da SpaceX, também apoia a ideia.
Amodei esclareceu que desacelerar não significaria "interromper o treinamento de modelos nem o avanço técnico", mas sim reservar tempo suficiente para tornar os sistemas mais seguros e recorrer a avaliadores independentes.
Em publicação na rede social X, Altman afirmou que controlar o ritmo do desenvolvimento não significa parar. "O avanço foi rápido e continuará sendo", disse. "Mas deveria ser mais lento do que poderia ser — medidas como avaliações formais de segurança e monitoramento têm custos significativos."
Críticos, no entanto, questionam se o movimento por regulamentação liderado pelas maiores empresas do setor pode servir para consolidar a vantagem dessas companhias sobre concorrentes atuais e futuros.
Posições dos governos
O presidente dos Estados Unidos, Donald Trump, minimizou os riscos. "Há muitas forças negativas levantando esse assunto sem que devessem, falando de coisas que não vão acontecer", disse durante visita à Irlanda. Trump também afirmou a jornalistas: "Estamos à frente da China em IA... e, francamente, quero que continue assim, porque quem vencer na IA, vence."
David Sacks, responsável pela política de criptomoedas no governo americano, declarou em entrevista a jornalistas em julho de 2025: "Acreditamos que estamos em uma corrida pela IA e queremos que os EUA vençam essa corrida."
A China, por sua vez, estimulou o desenvolvimento doméstico da tecnologia diante das restrições ao acesso a componentes americanos e tem defendido maior coordenação internacional para estabelecer regras. O Ministério das Relações Exteriores chinês classificou as declarações de Amodei como narrativas baseadas em ameaça, confronto e competição hostil que não beneficiam ninguém.
Um grupo suprapartidário de parlamentares britânicos publicou relatório afirmando que novas leis são necessárias para "responder à dimensão e à gravidade" das ameaças da IA aos direitos humanos.
Críticas aos alertas
Nem todos os especialistas compartilham das preocupações mais extremas. Alguns argumentam que as empresas de IA exageram as capacidades da tecnologia para ganhar projeção ou aumentar lucros, e que as máquinas jamais conseguirão igualar de fato as capacidades humanas.
Outros especialistas criticam o foco nos riscos existenciais enquanto problemas já concretos recebem menos atenção, como:
- O uso de ferramentas de geração de imagens para criar deepfakes de nudez sem consentimento de mulheres;
- A disseminação de desinformação;
- A ampliação de golpes e fraudes.
Os temores sobre o potencial destrutivo de máquinas inteligentes não são novos. Já nos anos 1950, o cientista britânico Alan Turing escreveu que, se máquinas inteligentes se tornassem possíveis, elas poderiam assumir o controle.
Com informações de BBC.
