Um vídeo de uma suposta irregularidade, um documento com aparência oficial ou um áudio atribuído a um técnico podem parecer provas de fraude eleitoral. Com inteligência artificial, porém, esses materiais podem ser produzidos sem que o episódio retratado tenha acontecido. Às vésperas do primeiro turno, neste domingo, 4 de outubro, Marcos Custódio, especialista em tecnologia e CEO da Webpeak, defende que o debate sobre IA e urnas eletrônicas considere essa diferença: demonstrar uma invasão exige evidências técnicas; fabricar sua aparência pode exigir apenas ferramentas de geração de conteúdo.

Uma pesquisa publicada em agosto pelo Brennan Center for Justice, nos Estados Unidos, ajuda a dimensionar o problema. Nos testes, chatbots contestaram alegações falsas sobre eleições, enquanto ferramentas de geração produziram imagens enganosas, documentos falsificados e representações de autoridades. O estudo também encontrou dificuldades dos assistentes para identificar imagens geradas por IA. Os resultados dizem respeito às ferramentas e às condições avaliadas, não à ocorrência de fraude nas eleições brasileiras.

Para Custódio, essa contradição exige cuidado com a autoridade que se atribui à tecnologia. Uma resposta segura de um chatbot não equivale a uma perícia, assim como um vídeo convincente não comprova que um sistema tenha sido comprometido.

A distinção começa pelo funcionamento da urna. Segundo a Justiça Eleitoral, o equipamento opera sem conexão com a internet durante a votação e não recebe comandos remotos. Seus programas são preparados previamente, fiscalizados e lacrados.

“Uma IA não cria uma conexão remota onde essa conexão não existe”, afirma o especialista.

Isso não significa dispensar avaliações de segurança. Significa que uma hipótese de ataque precisa ser compatível com a arquitetura do equipamento. Seria necessário demonstrar como o acesso ocorreu, quais controles foram superados e que registros sustentam a alegação.

Uma falsificação audiovisual não precisa vencer essas mesmas barreiras. Pode apenas representar uma invasão, atribuir uma declaração inexistente a alguém ou apresentar um documento inventado como se fosse um registro técnico. Nesse cenário, a aparência de evidência pode chegar ao público antes de qualquer verificação.

O que transforma uma suspeita em evidência?

Na análise de Custódio, a pergunta decisiva diante de uma denúncia é o que pode ser verificado além do próprio conteúdo que circula. É possível localizar sua origem? O arquivo completo está disponível? Há registros independentes que confirmem o episódio? A explicação apresentada faz sentido diante do funcionamento do sistema?

Essas perguntas não servem para descartar denúncias antecipadamente. Servem para distinguir uma ocorrência que precisa ser investigada de uma narrativa cuja única sustentação é parecer verdadeira.

O especialista também defende que a evolução da IA seja incorporada aos testes de segurança, com cenários realistas e resultados verificáveis. A tecnologia pode apoiar a investigação de vulnerabilidades, mas cada falha apontada precisa ser validada. Nem a acusação nem a resposta a ela devem depender apenas da autoridade de quem fala.

“O avanço da inteligência artificial justifica intensificar a avaliação técnica. Não justifica transformar capacidade potencial em fraude presumida”, afirma.

Para Custódio, a reflexão vale especialmente para o eleitor que acredita estar protegido porque sabe que existem vídeos falsos. Reconhecer essa possibilidade é apenas o início. O desafio é exigir o mesmo nível de comprovação quando o conteúdo confirma aquilo em que ele já acredita.