IA da Anthropic é usada para hackear OpenAI em teste de segurança autorizado

Pesquisadores da startup Hacktron AI acessaram contas do ChatGPT de funcionários da OpenAI utilizando um modelo de inteligência artificial da Anthropic, concorrente da empresa. A informação foi divulgada no site da Hacktron na sexta-feira (18) e confirmada pela OpenAI à agência AFP.

A ação ocorreu dentro de um programa organizado pela própria OpenAI para identificar falhas em seus sistemas com o auxílio de especialistas externos em segurança da informação.

Segundo os pesquisadores, a brecha estava no fórum público de suporte da OpenAI, administrado pela plataforma Discourse. A vulnerabilidade permitiu que a equipe assumisse o controle do site.

Para localizar e explorar a falha, os pesquisadores utilizaram o Claude Opus 4.8, modelo desenvolvido pela Anthropic. A equipe, porém, relatou dificuldades para fazer a ferramenta funcionar de maneira consistente durante o processo.

Assim que a vulnerabilidade foi identificada, a Hacktron comunicou a descoberta tanto à OpenAI quanto à Discourse. "Informamos de imediato a vulnerabilidade inicial à OpenAI e à Discourse e trabalhamos com eles" para coordenar a correção, afirmou a empresa em publicação em seu blog. "Agradecemos sua atenção ao detalhe e a rápida resolução deste problema", completou o texto.

A OpenAI corrigiu a falha em aproximadamente 14 horas após ser notificada e pagou à Hacktron uma recompensa de 6.500 dólares, cerca de 34.000 reais.

"Agradecemos aos pesquisadores por nos contatar e compartilhar as descobertas", declarou Drew Pusateri, porta-voz da OpenAI, ao comentar as medidas adotadas pela empresa.

O episódio reforça a preocupação de especialistas em segurança digital com o uso de ferramentas de inteligência artificial para a realização de ataques cibernéticos sofisticados. Tarefas que antes exigiam equipes especializadas e meses de trabalho podem ser executadas de forma mais rápida e barata com o auxílio dessas tecnologias.

Com informações de G1.