Personagens virtuais criados por IA dominam TikTok, YouTube e Instagram no Brasil, lucrando com desinformação em saúde e conteúdo falso em escala industrial.
Personagens virtuais criados por inteligência artificial (IA) movimentam um mercado crescente no Brasil, acumulando milhares de seguidores em plataformas como TikTok, YouTube e Instagram e gerando renda por meio de monetização de vídeos, comissões em marketplaces e venda de produtos digitais — tudo sem que seus "donos" apareçam em cena.
Diferentemente dos chatbots tradicionais, esses avatares simulam pessoas reais em vídeos, transmissões ao vivo e anúncios. Em alguns casos, promovem produtos de saúde, oferecem conselhos ou divulgam tratamentos sem respaldo científico.
Fernando Ferreira, pesquisador do NetLab da Universidade Federal do Rio de Janeiro (UFRJ) e doutor em IA, explica que a lógica do negócio é converter a atenção dos usuários em receita. Os algoritmos das plataformas direcionam esses conteúdos justamente a pessoas que buscam respostas para problemas específicos ou demonstram interesse em determinados temas.
"Antes a automação era só um ato de curtir, compartilhar, agora pode dar voz, pode dar imagem, então isso é uma coisa mais personalizada e mais difícil ainda do usuário conseguir identificar que aquilo é realmente uma campanha", afirma Ferreira.
Produção em escala industrial
Com ferramentas de automação cada vez mais acessíveis, a criação desses perfis ganhou escala industrial. Tutoriais publicados nas próprias plataformas ensinam que um único roteiro pode ser traduzido e encenado por até 20 avatares diferentes, atingindo países e públicos distintos simultaneamente.
Mapeamentos da organização Ctrl Z mostram que os nichos variam de conteúdos históricos e infantis a narrativas apelativas, como a de um suposto fazendeiro viúvo em busca de esposa. O elemento comum a todos eles, segundo a entidade, é a exploração de sentimentos básicos.
"Todos eles, de algum jeito, têm uma coisa muito em comum que é mexer com o medo das pessoas, com a curiosidade, com a esperança. Nos de saúde tem essa coisa do senso de urgência. Tipo: faça isso agora, não faça isso, compartilhe com alguém", aponta Luã Cruz, diretor de litigância da Ctrl Z.
No YouTube, a estratégia serve também para cumprir os requisitos de monetização da plataforma — como as 4 mil horas de exibição e mil inscritos exigidos — por meio do envio massivo de vídeos genéricos gerados por IA, conhecidos como slop. Para Cruz, esse tipo de conteúdo não é necessariamente ruim do ponto de vista estético, mas carrega erros históricos, desinformação e apelo sensacionalista para atrair públicos vulneráveis.
Atingida a meta de monetização, o canal pode ser redirecionado para outros nichos — como a venda de e-books com promessas de cura de doenças — ou até comercializado para uso em campanhas políticas.
Risco à saúde
O impacto mais grave, segundo os especialistas, recai sobre a área da saúde. Cruz relata que a Ctrl Z identificou comentários de pessoas reais afirmando ter abandonado tratamentos médicos convencionais para seguir orientações indicadas por esses avatares.
"Vemos uma série de comentários de pessoas que de fato existem e que falam que estão seguindo aquele tratamento, que abandonaram o tratamento tradicional para seguir, enfim, aquele tratamento que [a IA] sugere", diz o integrante da Ctrl Z.
Identificação cada vez mais difícil
Se antes imperfeições como vozes robotizadas ou cenários distorcidos entregavam a natureza sintética dos vídeos, o avanço tecnológico reduziu drasticamente essas falhas. Os especialistas consideram inviável transferir ao usuário a responsabilidade de verificar a autenticidade do conteúdo, especialmente quando consumido em telas pequenas de celular.
"São imagens muito brilhantes, é uma coisa ainda um pouco robotizada, menos do que já foi, mas ainda tem uma coisa meio robotizada. Mas são coisas muito imperceptíveis", diz Cruz.
Ferreira acrescenta que detalhes como textos mal formatados ao fundo ou promessas milagrosas ainda podem servir de alerta, mas pondera: "acho que a responsabilidade não é do usuário final. A gente tem que entrar em uma maneira de monitoramento e de clara intenção das plataformas de indicar que aquilo ali é um conteúdo de IA".
Responsabilidade das plataformas
Atualmente, a maioria das plataformas exige apenas uma autodeclaração do criador informando o uso de IA, sem mecanismos eficazes de verificação. Para os especialistas, essa lógica transfere indevidamente o ônus para o usuário.
"A plataforma tende a passar a responsabilidade para a ponta, e dizer assim: 'eu me protejo disso dizendo que ele não pode fazer, mas se ele faz e eu recomendo, paciência'. Então é esse o problema", afirma Ferreira.
Os especialistas defendem sinalização obrigatória e em destaque para conteúdos gerados por IA, além de atuação mais ativa das plataformas na moderação de materiais monetizados.
Procurado, o YouTube informou que todo conteúdo na rede deve seguir suas diretrizes comunitárias, incluindo regras contra desinformação médica. A plataforma disse exigir que criadores divulguem o uso de mídia sintética e que insere rótulos de alerta nos vídeos. "Embora dependamos da autodivulgação do criador, o YouTube usa tecnologia e análise humana para identificar conteúdos que deveriam ter sido rotulados, mas não foram", afirmou a empresa. Materiais que violem as diretrizes estão sujeitos à remoção, e o descumprimento recorrente pode levar à suspensão do canal do programa de parcerias.
O TikTok também afirmou exigir que criadores sinalizem conteúdos gerados por IA e disse proibir vídeos que induzam o público ao erro. A plataforma informou disponibilizar rótulos informativos e que perfis que violarem as regras podem ter a conta removida de forma permanente ou temporária de seu programa de monetização.
Implicações jurídicas e sociais
Do ponto de vista legal, o uso de IA não isenta os criadores de responsabilidade. A advogada e especialista em cibersegurança Gisele Kauer destaca que a atuação de perfis sintéticos pode se enquadrar em crimes já previstos no Código Penal Brasileiro, como estelionato, fraude, exercício ilegal da medicina e falsidade ideológica. "O crime continua sendo crime independente do meio utilizado", afirma.
Para a advogada, o problema não está no uso de personagens de IA para gerar renda em si, mas na utilização deles para induzir usuários ao erro e obter vantagens financeiras ilícitas.
Além dos impactos financeiros e jurídicos, Diogo Cortiz, professor da PUC-SP e pesquisador de intimidade artificial, alerta para os efeitos sobre a percepção da realidade. Segundo ele, a criação de padrões estéticos inalcançáveis e de interações afetivas simuladas pode aprofundar inseguranças, afetando tanto quem consome quanto quem produz esses conteúdos.
"Temos modelos, influencers, com um corpo perfeito que é anatomicamente quase impossível chegar nele, tudo feito por inteligência artificial. Então, se a gente já se comparava com uma realidade produzida por pessoas que eram reais, imagina com uma questão sintética?", questiona Cortiz.
Com informações de UOL.
