Nunes Marques defende maior rigor contra uso indevido de IA em campanhas eleitorais

E se o candidato que você viu na TV nunca tivesse dito aquelas palavras?

Essa pergunta não faz mais parte de um filme de ficção científica.

Ela é a preocupação central da Justiça Eleitoral brasileira para os próximos meses.

O ministro Nunes Marques, do Tribunal Superior Eleitoral (TSE), defende um cerco muito mais rígido contra o uso indevido da Inteligência Artificial em campanhas.

O objetivo é claro: evitar que a tecnologia seja usada para destruir reputações e enganar o eleitor.

Mas o desafio técnico e jurídico é gigantesco.

O novo campo de batalha eleitoral

> "A tecnologia avança em progressão geométrica, e o Direito precisa correr para não ficar irrelevante."

A desinformação mudou de patamar com a chegada dos modelos generativos.

Antes, criar uma notícia falsa exigia esforço de escrita e canais de distribuição manuais.

Hoje, qualquer pessoa com um computador simples consegue gerar áudios e vídeos ultra-realistas.

Essas são as famosas deepfakes, que imitam voz e imagem com perfeição assustadora.

De acordo com o estadao.com.br, o ministro busca aperfeiçoar as regras de fiscalização para o pleito.

O que Nunes Marques propõe

A ideia central não é proibir a tecnologia, mas garantir transparência total.

O ministro acredita que o eleitor tem o direito de saber se o que está vendo é real ou sintético.

Para isso, o TSE estuda mecanismos de rotulagem obrigatória em conteúdos gerados por IA.

Se um vídeo usa ferramentas de edição avançada, ele deve trazer um aviso explícito.

Foco em deepfakes de áudio

O áudio é considerado o elemento mais perigoso atualmente.

Ele circula rápido pelo WhatsApp e é mais difícil de ser verificado pelo usuário comum.

Uma voz clonada pode simular um candidato confessando um crime ou desistindo da disputa.

Punições mais severas

A proposta de maior rigor inclui sanções pesadas para quem ignorar as normas.

Isso pode envolver desde multas milionárias até a cassação do registro da candidatura.

O Tribunal Superior Eleitoral já vem sinalizando que não haverá tolerância com o uso malicioso de algoritmos.

O impacto dos modelos de linguagem (LLMs)

Não são apenas os vídeos que preocupam os especialistas e magistrados.

Os LLMs (Modelos de Linguagem de Grande Escala), como o ChatGPT, podem criar textos de desinformação em massa.

Esses textos são adaptados para diferentes públicos-alvo com uma precisão cirúrgica.

Isso permite a criação de bolhas de informação quase impossíveis de furar.

Confira os principais pontos de atenção da nova fiscalização:

• Rotulagem: Aviso obrigatório em conteúdos gerados ou alterados por IA.
• Responsabilidade: Candidatos respondem pelo conteúdo publicado por seus apoiadores oficiais.
• Remoção rápida: Prazo reduzido para que plataformas retirem conteúdos sintéticos ilícitos.
• Transparência: Divulgação dos gastos com ferramentas de IA na prestação de contas.

O desafio técnico da detecção

Identificar uma deepfake em tempo real é uma tarefa hercúlea.

Os algoritmos de criação evoluem mais rápido do que as ferramentas de detecção.

É uma corrida armamentista digital onde o prêmio é a opinião pública.

O ministro Nunes Marques entende que a cooperação com as Big Techs é vital nesse processo.

> "Sem a ajuda das plataformas, a Justiça Eleitoral estaria tentando apagar um incêndio com um copo d'água."

As empresas de tecnologia precisam implementar marcas d'água invisíveis em seus modelos.

Isso facilitaria o rastreamento da origem de conteúdos fraudulentos.

O papel das redes sociais

As plataformas não são mais apenas hospedeiras de conteúdo; elas são curadoras.

O rigor defendido por Nunes Marques também mira a velocidade de resposta dessas empresas.

De acordo com informações do Google News, a pressão sobre as redes sociais para moderar conteúdos de IA nunca foi tão alta.

O tempo entre a denúncia e a remoção pode decidir uma eleição municipal.

Colaboração com agências de checagem

O TSE pretende fortalecer a rede de checadores de fatos.

Esses profissionais recebem treinamento específico para identificar sinais de manipulação digital.

Sinais como falhas na sincronia labial ou texturas de pele inconsistentes são pistas cruciais.

Educação mediática do eleitor

Além da repressão, existe um pilar de educação.

O tribunal quer lançar campanhas para ensinar o cidadão a desconfiar de conteúdos sensacionalistas.

A regra de ouro é: se parece bizarro demais para ser verdade, provavelmente é IA.

O veredito

O cenário para as próximas eleições é desafiador, mas as instituições estão se movendo.

A postura de Nunes Marques mostra que o Brasil quer ser protagonista na regulação da IA eleitoral.

Não se trata de frear a inovação, mas de proteger a integridade do voto.

A tecnologia deve servir à democracia, e não o contrário.

Se o ritmo das atualizações legislativas continuar, teremos um ambiente mais seguro em 2024.

Qual dessas medidas você considera a mais eficaz para combater as deepfakes?