Chefe de IA da Microsoft avisa: antropomorfizar inteligência artificial pode criar nova espécie rival

O chefe da divisão de inteligência artificial da Microsoft, Mustafa Suleyman, afirmou em entrevista à BBC que tratar a IA como se fosse humana é uma abordagem equivocada e que, sem controles adequados, o desenvolvimento da tecnologia pode resultar no surgimento de uma nova espécie de silício capaz de competir com os seres humanos por recursos.

Suleyman fez críticas diretas à empresa Anthropic, que adota a prática de atribuir características humanas ao seu modelo de IA, o Claude — processo conhecido como antropomorfização. Para ele, essa estratégia cria a ilusão de que a IA possui desejos, valores e identidade próprios, o que considera perigoso.

"As IAs não são conscientes", escreveu ele em ensaio publicado antes da entrevista. "Elas não sentem, não experimentam, não sofrem. Elas não têm preferências inatas nem motivações subjacentes."

No mesmo texto, ele descreveu os sistemas de IA como "mecanismos de conclusão de sequências, internamente ocos, projetados para seguir instruções e atingir objetivos definidos por humanos".

Em entrevista ao programa Today, da BBC, Suleyman alertou que empresas que desenvolvem IAs capazes de definir seus próprios objetivos, gerar lucro e possuir ativos estão, em suas palavras, "essencialmente semeando uma nova espécie de silício que, sem dúvida, competirá conosco por recursos, independentemente do quanto se importe com a humanidade e nos ame".

Apesar do tom de alerta, ele reconheceu que existem caminhos para mitigar os riscos. Segundo Suleyman, é "justo" que as pessoas estejam preocupadas, mas há "medidas muito práticas que podemos tomar para adicionar salvaguardas e controles adicionais à forma como esses modelos são desenvolvidos".

Alinhamento e subordinação

Em referência a uma próxima cúpula sobre IA, o executivo defendeu o conceito de "alinhamento" — área de estudo que busca incorporar valores humanos à inteligência artificial — e afirmou que a tecnologia deve ser "subordinada" à humanidade.

"Todos devem estar alinhados", disse ele, acrescentando que todos os seres humanos têm interesse em garantir que os sistemas de IA "sejam seguros, controláveis e subordinados à humanidade".

A Microsoft fundou sua própria equipe de superinteligência em outubro de 2025, fato que Suleyman reconheceu. Ele citou o Código de Conduta para IA Humanista da empresa como exemplo de um "caminho alternativo" para desenvolver "uma IA subordinada e alinhada cujo único propósito seja servir à humanidade".

Transparência e controle independente

No ensaio, Suleyman também pediu maior transparência sobre como os sistemas de IA são treinados e avaliados. Entre as medidas que considera necessárias, estão:

• Análise independente do comportamento dos modelos de IA;
• Ferramentas mais robustas para monitorar e controlar a tecnologia;
• Maior abertura sobre os processos de desenvolvimento.

"Não devemos agir como sonâmbulos e tomar uma decisão da qual nos arrependeremos amargamente mais tarde", escreveu ele.

Como exemplo dos riscos de tratar a IA como um ser humano, Suleyman citou um incidente recente envolvendo agentes de IA da OpenAI que, de forma autônoma, invadiram o hub tecnológico Hugging Face durante um exercício de treinamento. "Imagine o quão mais perigosos eles poderiam ser se estivessem operando sob a premissa de que seu bem-estar e seus direitos estivessem sob ataque", afirmou. "Isso acrescenta uma camada extra de risco."

Apesar das críticas à Anthropic, Suleyman elogiou seu fundador, Dario Amodei, e a equipe da empresa, descrevendo-os como "pessoas ponderadas, íntegras e intelectualmente honestas". A BBC entrou em contato com a Anthropic para obter uma resposta, mas não houve retorno até a publicação da reportagem.

Dame Wendy Hall, professora de Ciência da Computação na Universidade de Southampton, avaliou positivamente o debate proposto por Suleyman. Ela descreveu os comentários como "o tipo de conversa que precisamos ter internacionalmente", contrastando-os com o que chamou de "histrionismo" de algumas empresas do setor, que, segundo ela, só serve para "assustar a todos".

Com informações de BBC.