Conteúdo de agência · publicado originalmente por Times Brasil
Tecnologia & Inovação
OpenAI, Anthropic e Google negociam criação de organização voltada à segurança para IA
Proposta prevê testes de sistemas avançados antes da liberação ao público. O post OpenAI, Anthropic e Google negociam criação de organização voltada à segurança para IA apareceu primeiro em Times…
Maria Figueiredo
Jornalista
As principais empresas de inteligência artificial estão discutindo a criação de uma organização destinada a estabelecer padrões para o setor. A OpenAI informou nesta terça-feira (15) que trabalha na proposta ao lado da Anthropic e do Google. A iniciativa surge em um momento de maior preocupação com os riscos associados à tecnologia e de pressão por mecanismos voltados à segurança da IA.
A ideia partiu de Demis Hassabis, do Google DeepMind, e prevê uma estrutura inspirada na Financial Industry Regulatory Authority (Finra), que supervisiona corretoras e empresas de investimento nos Estados Unidos. Em julho, Hassabis havia defendido a criação, nos Estados Unidos, de uma organização encarregada de testar os sistemas de IA mais poderosos antes que fossem disponibilizados ao público. Segundo ele, a estrutura exigiria financiamento substancial, provavelmente fornecido principalmente pela própria indústria, para contratar profissionais técnicos de alto nível e assegurar capacidade computacional suficiente para testes em larga escala.
A proposta, porém, ainda não reúne consenso. Aiden Gomez, cofundador e CEO da canadense Cohere, acusou recentemente os principais laboratórios americanos de IA de formar um “cartel” sob a justificativa de promover segurança. Em texto publicado em seu blog no domingo, Gomez afirmou que não questiona a necessidade de mecanismos de proteção, mas colocou em debate quem teria o poder de estabelecer as regras, quem participaria desse processo e quais interesses seriam contemplados.
As discussões ocorrem paralelamente a uma série de novos alertas sobre os riscos da inteligência artificial. Na semana anterior, Jacob Coxon deixou a Anthropic e afirmou que empresas do setor estavam colocando vidas em risco ao assumir apostas relacionadas ao desenvolvimento da tecnologia. Coxon também teve passagem pela OpenAI.
Na segunda-feira (14), Bilal Chughtai, ex-pesquisador do Google DeepMind, apresentou preocupações semelhantes às de Coxon e de outras pessoas. Em uma publicação nas redes sociais, disse acreditar que a IA pode ter potencial para provocar a extinção da humanidade e que o prazo para impedir esse resultado pode estar se esgotando.
A possibilidade de desacelerar o desenvolvimento da tecnologia também ganhou espaço no debate. No sábado, Dario Amodei, CEO da Anthropic, defendeu uma redução no ritmo de avanço da inteligência artificial. A posição recebeu apoio de Sam Altman, CEO da OpenAI, além de Elon Musk e Demis Hassabis.
Os alertas, no entanto, também são contestados. Donald Trump rejeitou as preocupações sobre os riscos da IA e classificou esses avisos como “hoaxes”. Jensen Huang, CEO da Nvidia, igualmente criticou as previsões mais alarmistas.
Durante uma conferência realizada na segunda-feira em Los Angeles, Huang questionou a associação entre determinados discursos sobre os riscos da inteligência artificial e previsões catastróficas, classificando essa abordagem como alarmante, preocupante e irresponsável. No evento, Trump telefonou para o executivo enquanto ele estava no palco. Huang afirmou ainda que a previsão de que a IA poderia destruir a humanidade não é fundamentada pela ciência.
