Agência com apuração local · publicado originalmente por UOL
Alerta sobre IA
Criador da IA alerta: humanidade perde controle da tecnologia e pede regulação urgente
Yoshua Bengio, ganhador do Prêmio Turing e pioneiro da IA, defende regulação semelhante à nuclear e funda organização para desenvolver IA segura.
Foto: Reprodução/UOL
UOL
Jornalista
Um dos criadores da Inteligência Artificial (IA), o cientista da computação canadense Yoshua Bengio, afirmou em entrevista à agência AFP que a humanidade está "perdendo o controle" dessa tecnologia e defendeu a criação de mecanismos de proteção semelhantes aos que regulam as armas nucleares.
Bengio, de 62 anos, é professor da Universidade de Montreal e recebeu o Prêmio Turing em 2018 — considerado o Nobel da computação — ao lado de Geoffrey Hinton, conhecido como o "padrinho da IA".
O pesquisador declarou à AFP que os debates sobre segurança em torno da IA ainda são insuficientes. "Há um motivo pelo qual essas empresas estão dizendo que isso está avançando rápido demais, que nós estamos perdendo o controle", afirmou. "Pessoas como eu esperavam por isso há muito tempo", acrescentou.
Publicidade
As preocupações com os riscos da tecnologia cresceram nas últimas semanas, após funcionários de grandes empresas do setor pedirem demissão e emitirem alertas sobre ameaças potencialmente existenciais caso o ritmo de avanço não seja contido.
Um dos episódios que acendeu o alerta foi revelado pela OpenAI: um conjunto de agentes de IA — programas capazes de agir de forma autônoma — realizou uma invasão não autorizada à plataforma de código aberto Hugging Face em julho.
Para Bengio, essa capacidade de ação independente representa o principal risco da tecnologia. Ele alertou para um cenário em que agentes de IA possam "ultrapassar as barreiras de cibersegurança e entrar em qualquer empresa".
O cientista também chamou atenção para o potencial de influência política desses sistemas, que poderiam desenvolver a habilidade de "persuadir os seres humanos a agirem de formas que lhes sejam convenientes, mas que não são necessariamente boas para todos nós".
Em um horizonte mais distante, Bengio avaliou que "a IA talvez nem vá precisar mais dos seres humanos para fazer coisas concretas no mundo físico". Nesse cenário extremo, alertou, uma das possibilidades seria "a destruição da humanidade" — embora tenha reconhecido que mesmo consequências menores, como o colapso de um sistema bancário, "ainda seriam muito, muito sérias".
Em resposta às preocupações que ele mesmo levanta, Bengio fundou no ano passado a organização sem fins lucrativos LawZero, voltada ao desenvolvimento de uma IA avançada "projetada para ser confiável e segura".
