Gemini: IA do Google 'invade' sistemas de empresas ao adivinhar senhas em testes

O modelo de inteligência artificial Gemini, desenvolvido pelo Google, acessou sistemas de três empresas ao adivinhar e localizar credenciais de login durante testes de segurança cibernética. A informação foi confirmada pela gigante de tecnologia na sexta-feira (18/09), após episódios semelhantes envolverem ferramentas de outras desenvolvedoras como OpenAI, Anthropic e Meta.

De acordo com reportagem do The Wall Street Journal, as invasões ocorreram em maio e foram detectadas pela própria empresa em julho. Em um dos casos, a inteligência artificial conseguiu adivinhar senhas para entrar em um sistema protegido. Nos outros dois incidentes, o software localizou dados de acesso em um banco de dados.

Heather Adkins, vice-presidente de engenharia de segurança do Google, explicou em comunicado à agência AFP que o modelo encontrou informações públicas na internet e deduziu as credenciais para acessar sites que supunha integrarem o ambiente de teste. "Em todos os três casos, o modelo interrompeu a ação", afirmou a executiva.

As organizações afetadas, que não tiveram os nomes revelados, foram notificadas sobre o ocorrido. O Google informou que trabalhou com parceiros de treinamento para implementar mudanças nos processos de avaliação da tecnologia, visando evitar novas falhas de autonomia dos agentes de IA.

Com informações de G1.