Propaganda eleitoral: o que pode e o que não pode a partir de agora

“2024 será o ano da governança da IA.” Essa foi a afirmação de Anna Makanju, vice-presidente de Assuntos Globais da Open AI, em recente entrevista para podcast gravado para a Radio Davos.

De fato, desde o lançamento da versão 3 do Chat GPT pela Open AI, em 2022, modelo largo de linguagem capaz de produzir texto, imagem e som sintéticos, a preocupação com a governança da inteligência artificial (IA) tem avançado, assim como os aplicativos e versões dessa tecnologia.

Logo após a terceira versão, por exemplo, veio a carta do instituto “Future of Life”, assinada por figuras famosas e polêmicas como Yuval Noah Harari e  Elon Musk, pedindo a suspensão do desenvolvimento de IA por seis meses até que surgisse alguma regulamentação.

Esse movimento pró regulação tem ganhado fôlego e desde então as discussões sobre formas de controle, parâmetros de governança, meios de identificação de produtos da IA generativa e de inserção de selos de aviso do conteúdo gerado artificialmente cresceram.

Mundialmente, podem-se citar como exemplos os Estados Unidos, que publicou ordem executiva requerendo informaçōes e relatórios das agências e setores para colher subsídios para elaboração de uma futura regulação do tema, a China, que foi pioneira e elaborou regulação para IA generativa, que inclui proteção de mercado interno e controle de conteúdo, a União Europeia com o AI Act, legislação baseada em níveis de riscos para atribuição de deveres e responsabilidades, caminha a passos largos para aprovação final.

Mas, afinal, qual é a novidade?
No que a IA generativa pode afetar/ impacta as eleições?

As eleições atualmente são digitais. Isso significa que desde o surgimento da internet, em poucos anos, as campanhas eleitorais mudaram de forma significativa. Se antes importava, por exemplo, espaço em horário eleitoral em intervalos de programas de televisão e rádio, e a principal estratégia do marketing era a criação de um bom jingle, hoje a comunicação pública eleitoral e um bom marketing envolvem e passam pelo ambiente digital.

Isso compreende a criação de perfil adequado para cada candidato nas diversas redes sociais, a realização de lives, a compreensão de algoritmos das redes e perfil das redes sociais dos eleitores e o encaminhamento de mensagens em grupos de aplicativos como whatsapp ou telegram. Na sociedade em rede, descrita por Manuel Castells, as campanhas definitivamente ocorrem muito mais pelas plataformas do que pelo método tradicional de horário oficial eleitoral no audiovisual.

Tudo isso também modifica o tempo das campanhas. A viralização e a rapidez na velocidade de multiplicação de quaisquer materiais produzidos pelas equipes dos candidatos são desafio da sociedade moderna.

Junte-se a isso a novidade recente da IA generativa, cujos aplicativos diversos tornam a produção, reprodução, manipulação e instrumentalização de conteúdos criados por IA muito mais fáceis.

Os casos multiplicam-se e os exemplos já são vários. No segundo turno da campanha eleitoral das últimas eleições da Argentina, ambos os candidatos utilizaram IA em suas propagandas.

Nos Estados Unidos, a voz de Joe Biden foi gerada por IA para realizar ligaçōes para cidadãos democratas norte americanos de New Hampshire não votarem nas prévias eleitorais.

Em um mundo cada vez mais plataformizado, cujas relações humanas são cada vez mais intermediadas pelas redes sociais, a IA generativa entra como ingrediente que pode, portanto, gerar conteúdo enganoso, confundir eleitores, afetar e influenciar opiniões. Tudo isso em velocidade de propagação e de identificação que aumentam o desafio de controle das propagandas eleitorais.

As plataformas têm tomado medidas de controle desses conteúdos, mas o Estado, diante de uma eleição que envolve mais de 5 mil municípios e da ausência da regulação geral sobre IA, se viu obrigado a preparar-se para responder a esses desafios.

Resolução 23.732 do TSE - Preocupado e atento a todas essas discussōes, o TSE promoveu debates e audiências públicas com especialistas e publicou, recentemente, a Resolução 23.732/24 do TSE, que modificou vários trechos da Resolução n° 23.610/19 para dispor sobre propagandas eleitorais para inserir obrigações no que diz respeito ao uso de inteligência artificial para as campanhas de candidatos no ano de 2024.

As modificações na resolução em questão possuem vários objetivos e estão em inúmeros contextos, tal como responsabilidade de plataformas quanto a conteúdo falso, proteção de dados pessoais dos eleitores, entre outros. Na questão de inteligência artificial, que é o principal objeto desse artigo, as disposições têm como objeto “conteúdo sintético multimídia gerado por inteligência artificial” (artigo 9°-B), chatbots (artigo 9°-B, §3º), deepfakes (artigo 9°-C, §1º).

O artigo 9º-B tem como foco o uso dessas tecnologias com potencial de gerar ou alterar imagens, vídeos e sons independente do conteúdo a que elas se referem, ou seja, se as informações que são comunicadas correspondem a fatos ou que estejam no âmbito da manipulação através de fake news. O tribunal impõe uma obrigação de transparência para essas utilizações: as campanhas devem identificar através de marcas d’água ou audiodescrição a origem/modificações por IAs.

Considerando que a expressão “conteúdo sintético” é vaga, sem especificar o alcance do que seria considerado sintético, o próprio artigo, no parágrafo 2º, estabelece exceções para situações que não são aplicados, principalmente aquelas utilizações que já são comuns em práticas de comunicação digital: melhoria da qualidade de áudio/vídeo, geração de elementos gráficos que correspondem à identidade visual do candidato/campanha e montagens de candidatos com apoiadores.

Também há um banimento total do uso de IAs que simulam indivíduos reais para diálogos com apoiadores, como a hipótese de um canal para conversar diretamente com o candidato quando, na realidade, não é o indivíduo que está interagindo, mas um chatbot programado para agir como se o fosse.

Ocorre que na dinâmica de campanhas eleitorais, muitas vezes há o engajamento ativo de cidadãos que não estão diretamente relacionados com o núcleo estratégico e oficial da campanha e que, no caso de tecnologias acessíveis ao público em geral (como é o exemplo da plataforma DALL-E da OpenAI), acaba por criar um problema para os partidos e candidatos que não utilizarão essas tecnologias nas suas iniciativas, ou, então, tentarão utilizar de forma correta, uma vez que podem ser penalizados por conteúdos gerados por terceiros.

Importância de um framework para a observância das novas regras - Pensando nesse contexto de difícil controle e até mesmo fiscalização, surge para as campanhas a oportunidade de estruturar mecanismos internos de governança a fim de demonstrar um mínimo de organização interna no tema e que podem ser utilizados como meios de defesa em processos pela Justiça Eleitoral.

Para isso, é importante observar a literatura nacional e internacional sobre governança em IA, que já indica matrizes possíveis. Uma delas tem como foco a transparência do agente que emprega o uso da tecnologia que foi estruturada por Margot Kaminsky.

Segundo ela, essa prestação de informações (accountability) que vai além do aspecto técnico e é importante pois: os valores dos programadores que fazem as escolhas de design acompanham os algoritmos; a lei pode não ser ideal regular para tecnologias de caixa-preta, mas tem experiência com seres humanos e organizações, sendo mais fácil de regular esses elementos.

Diante dessa premissa de transparência como prestação de informações de uma tecnologia no sentido sociotécnico, Maranhão, Junquilho e Tasso ressaltam que, além da organização ser a emissora do conteúdo que se deve dar transparência, ela também é destinatária, principalmente aos próprios agentes internos, além dos externos.

Além da organização como agente interno, é preciso identificar o objeto de transparência (o que?), os destinatários da transparência (quem?), de maneira que seja determinado a relevância daquela informação (por que?), o conteúdo da informação com base nessa relação (o que?), além da forma de divulgação (como?) que deverá conter os canais (onde?) e o respectivo momento (quando?).

Essas linhas que orientam uma matriz de governança com ênfase em transparência possuem elementos internos que tornam o processo mais complexo e demanda um envolvimento de vários agentes que participam na campanha eleitoral e que, se implementadas e mantidas durante todo o período eleitoral, pode auxiliar na defesa judicial daqueles que porventura sejam objetos de denúncias por ações que não partiram do núcleo estratégico oficial.

Portanto, sendo esse o tema do ano eleitoral, os partidos devem estar preparados para os diversos desafios que se impõem e para compreender como pode haver uma implementação de mecanismos internos para evitar o descumprimento das regras eleitorais.

(*) Tainá Aguiar Junquilho é advogada e doutora em Direito pela Universidade de Brasília e professora de Direito, Inovação e Tecnologia no IDP.

(*) Alisson Possa é mestre em Direito pelo IDP, membro do grupo de pesquisa "Democracia Constitucional, Novos Autoritarismos e Constitucionalismo Digital" e da Fundação Peter Häberle e advogado especialista na área de tecnologia e proteção de dados.

Os artigos publicados com assinatura não traduzem a opinião do portal. A publicação tem como propósito estimular o debate e provocar a reflexão sobre os problemas brasileiros.