Crise na IA: por que especialistas do setor exigem freio no desenvolvimento da tecnologia

Em um intervalo de apenas dez dias, uma série de eventos abalou os principais laboratórios de inteligência artificial do mundo e reacendeu o debate sobre os riscos do desenvolvimento acelerado da tecnologia. Pesquisadores do setor passaram a alertar que as próprias criações da área poderiam escapar do controle humano e, em um cenário extremo, representar uma ameaça à existência da humanidade.

Um pesquisador da Anthropic pediu demissão e declarou que o ritmo atual de desenvolvimento da inteligência artificial representa um perigo para a humanidade, possivelmente dentro de uma década.

Outro pesquisador afirmou que as chances de extinção humana em razão da IA ultrapassam 10%.

Ao mesmo tempo, surgiram relatos de grupos de agentes de inteligência artificial operando em conjunto, invadindo sistemas de computador e contornando mecanismos criados para limitar sua atuação.

O cenário contrasta com a cultura que predominou por anos no Vale do Silício, onde o princípio dominante era agir rapidamente e romper barreiras. Diante dos acontecimentos recentes, líderes do setor passaram a defender uma postura mais cautelosa em relação ao avanço da tecnologia.

Com informações de G1.