Um dos casos identificados e denunciado à Polícia Federal ocorreu em Manaus
O presidente do TSE, ministro Alexandre de Moraes — Foto: Cristiano Mariz /Agência O Globo.
A temporada de fake news eleitoral já começou no país, mas com uma modalidade de conteúdo ainda mais difícil de ser identificado. Em ao menos três estados — Amazonas, Rio Grande do Sul e Sergipe —, a polícia investiga suspeitas de uso de inteligência artificial (IA) para criar áudios falsos de prefeitos que devem tentar a reeleição e de um deputado federal envolvido na pré-campanha da mulher chefe de executivo municipal, que também deve buscar a recondução ao cargo.
A técnica de adulteração de sons e de vídeos é conhecida como “deepfake’, no qual o tom, o timbre e até o jeito de alguém falar é recriado artificialmente. Assim, ao receber uma gravação pelo WhatsApp, o eleitor reconhece a voz do candidato e acredita que o político disse algo que, na verdade, não disse.
Um dos casos identificados ocorreu em Manaus, onde o prefeito David Almeida (Avante) denunciou à Polícia Federal (PF) ter sido alvo de deepfake no fim do ano passado. No áudio atribuído a ele, a voz do político, emulada por Inteligência Artificial, trata os professores da rede municipal de ensino de “vagabundos” e diz que os servidores “querem um dinheirinho de mão beijada”.
O episódio tem sido tratado como uma espécie de laboratório pela PF, que viu suspeitas de crime eleitoral e, por isso, assumiu as investigações. A ideia é usar o caso como modelo para eventuais apurações futuras relacionadas às disputas municipais deste ano. Desde que o inquérito foi instaurado, no último dia 22, dois suspeitos já foram ouvidos. Além disso, foi feita uma perícia no arquivo digital que constatou a manipulação no áudio.
CONTEÚDOS FALSOS
- Áudio Atribuído ao prefeito de Manaus: “O que mais tem é professor vagabundo que quer o dinheirinho de mão beijada. Eu não paguei o Fundeb, mas o povo esquece, tu vai ver”.
O áudio manipulado foi divulgado em meio ao protesto de profissionais pelo pagamento de abono oriundo de sobras do Fundeb. Almeida diz que o áudio é falso e tem o objetivo de criar indisposição com a categoria em ano eleitoral.
- Áudio manipulado do prefeito de Crissiumal (RS): “Vou falar do aumento ano que vem (2024) (…) Depois vamos levando na conversa, entendeu? Pessoal com pouco estudo, analfabeto, já ganha demais.”
Em áudio compartilhado, o prefeito xinga funcionários do parque de obras, espaço da prefeitura, e achincalha servidores. O prefeito diz que o caso é uma tentativa de retaliação da oposição na cidade e que visa o processo eleitoral deste ano, quando concorrerá à reeleição
- Falso áudio do deputado federal Gustinho Ribeiro (Republicanos), marido da prefeita de Lagarto (SE), Hilda Ribeiro: “Pode arrochar, bote pra f…, eles lá não têm poder nenhum, quem está no poder somos nós”
O parlamentar diz que foi alvo de montagem por inteligência artificial na gravação em que a voz atribuída a ele critica adversários políticos. Ribeiro denunciou o caso a autoridades para investigação.
BUSCA POR SOLUÇÕES
Câmara e Senado devem acelerar a tramitação do tema. Ainda não houve, porém, uma conversa entre as duas Casas para definir qual texto terá prioridade. O presidente da Câmara, Arthur Lira (PP-AL) pretende avançar com o tema logo após o recesso. Ele entende que é papel do Congresso tratar da regulação e não vê como positivo o fato de o TSE editar regras.
O TSE irá realizar audiências públicas este mês para editar uma resolução. A ideia é proibir a manipulação de voz e imagens com conteúdo falso, com previsão até mesmo de cassação do mandato. Segundo minuta, a responsabilidade da retirada do conteúdo do ar será das plataformas. O uso de IA, sem o propósito de gerar desinformação, também precisará ser rotulado.
O Ministério da Justiça e Segurança Pública acompanha e estuda as medidas em tramitação no Congresso e no TSE. Hoje, a responsável pela gestão é Estela Aranha, secretária de Direitos Digitais, que na semana passada se reuniu com representantes de empresas de softwares para discutir o assunto.
SEM TIPIFICAÇÃO
Em pesquisas locais, Almeida lidera a corrida para ser reeleito. Entre os seus principais concorrentes estão Coronel Menezes (PL), que tem o apoio do ex-presidente Jair Bolsonaro, e o deputado federal Amom Mandel (Cidadania).
— Não existe anonimato na internet e você pode ser responsabilizado. Esse caso deve servir de parâmetro para o restante do Brasil — disse o prefeito de Manaus.
Sem uma regulamentação, parte dos casos são tratados como difamação, crime de menor potencial ofensivo e sem consequências eleitorais. Foi o que aconteceu com a denúncia feita pelo prefeito de Crissiumal (RS), Marco Aurélio Nedel (PL), que afirmou ter sido vítima, no fim do ano passado, da prática de deepfake após um áudio com xingamentos e frases que denotavam menosprezo a servidores da cidade ser atribuído a ele. Segundo Nedel, sua voz foi manipulada por adversários políticos com a intenção de prejudicá-lo eleitoralmente. A investigação da Polícia Civil constatou que o conteúdo indicado pelo prefeito havia sido repassado entre vereadores.
— Achei que estava ficando famoso, só conhecia o caso de vídeo (feito por inteligência artificial) com (Barack) Obama (ex-presidente dos Estados Unidos). Acho que vem coisa muito pior pela frente. Por isso, é bom colocar o freio logo agora — afirmou o prefeito da cidade gaúcha.
Já em Lagarto, no interior de Sergipe, quem denunciou ter sido vítima de manipulação por IA foi o deputado federal Gustinho Ribeiro (Republicanos-SE). Sua mulher, Hilda Ribeiro (Solidariedade) é candidata a mais um mandato como prefeita da cidade, a quarta maior do estado.
Na gravação, a voz atribuída a Gustinho profere palavrões ao se referir a adversários políticos. O deputado, que presidiu a CPI das Americanas, diz também ter denunciado o caso à polícia. “Criminosos montaram um vídeo com minha imagem e um áudio fake, criado por inteligência artificial”, afirmou, em nota.
O assunto não preocupa apenas pré-candidatos. O presidente do Tribunal Superior Eleitoral (TSE), ministro Alexandre de Moraes, já declarou ser urgente a regulamentação do uso da inteligência artificial no país e indicou que políticos que forem pegos usando a tecnologia de forma irregular poderão ser cassados.
O TSE marcou para o próximo dia 25, audiência pública para discutir uma resolução que deve regulamentar como o tema deve ser tratado nas campanhas eleitorais. A sugestão da Corte é proibir qualquer manipulação de voz e imagens com conteúdo falso. Segundo minuta do tribunal, caberá às plataformas de redes sociais excluir vídeos e áudios após serem notificadas sobre os “fatos sabidamente inverídicos”.
O tema também mobiliza o Congresso e o governo. Desde o ano passado, o Ministério da Justiça debate internamente uma regulação sobre o tema. Já na Câmara, o presidente da Casa, Arthur Lira (PP-AL), pretende colocar em votação projetos sobre o assunto logo após o recesso. Ele entende que é papel do Congresso Nacional a regulamentação do uso da tecnologia e não vê como positivo o fato de o TSE editar regras.
— Esse movimento cibernético, de redes sociais, vai exigir de nós, congressistas, que algumas modificações aconteçam, para que a Constituição também abrace, acolha, proteja, os direitos individuais de uma vida que muda muito — disse Lira em entrevista no fim do ano passado.
Já o presidente do Senado, Rodrigo Pacheco (PSD-MG), apresentou em maio um projeto de lei que estabelece diretrizes gerais para o desenvolvimento, implementação e uso de sistemas de IA no Brasil.
PRECEDENTES
Apesar de novidade no Brasil, o uso de inteligência artificial já gerou polêmica em campanhas eleitorais de outros países. No ano passado, a disputa pela presidência da Argentina foi a primeira a usar a ferramenta em larga escala. A maior parte do conteúdo era de imagens manipuladas, mas também houve vídeos, como a gravação falsa que mostrava o candidato peronista, Sérgio Massa, cheirando cocaína. A gravação foi editada digitalmente para inserir o rosto do político em outro homem.
— O conteúdo em vídeo ainda é algo que requer uma elaboração maior — diz Fernando Ferreira, especialista em inteligência artificial do Netlab, da UFRJ.
Nos Estados Unidos, a ferramenta também já foi testada nas primárias. A campanha do republicano Ron DeSantis, por exemplo, divulgou uma imagem falsa gerada por IA do ex-presidente Donald Trump abraçando um desafeto.
Mas nem todos os usos da IA foram vistos como negativos. Na Coreia do Sul, em 2022, três candidatos a presidente utilizaram avatares criados pela tecnologia para se comunicarem com a população. O recurso permitia que os políticos atingissem o público mais jovem, respondendo a perguntas pré-estabelecidas (os chamados “chatbots”) e interagindo com um maior número de eleitores, que estavam cientes do uso da tecnologia.
— A utilização dessa tecnologia apresenta riscos, problemas, e tem um potencial também benéfico. Está todo mundo tentando se situar. Falando em termos de eleições, algum tipo de regulação precisa acontecer. A grande questão é a dose disso — disse André Gualtieri, fundador da Escola de Ética de Tecnologia (Technoethics).
Por Bruno Góes — Brasília
Publicado em O Globo.com