CURSO “COMBATENDO A DESINFORMAÇÃO EM TEMPOS DE IA” (ACADEMIA LUPA E KNIGHT CENTER):
Com Cristina Tardáguila e Raphael Kapa, da Agência Lupa.
MÓDULO 4:
– Não é que os desinformadores querem que uma mentira pareça real, a intenção é outra: a intenção é confundir tanto o público a ponto de poder fazer com que algo real se passe como falso.
– A IA generativa hoje em dia é mais acessível $, o que pode vir a ser perigoso. É uma ameaça em escala.
– O dividendo do mentiroso: quando figuras públicas alegam que evidências reais contra elas são deepfakes, o que gera uma desconfiança geral entre o público e enfraquece a coesão social.
– O nosso Tribunal Superior Eleitoral tem uma regulação de 2024 para o uso de IA nas eleições: a transparência é obrigatória, é preciso explicitar que foi usada IA para editar ou criar conteúdos eleitorais; há proibição absoluta do uso de deepfakes para favorecer ou prejudicar um candidato; há sanção máxima, risco de cassação, caso um candidato utilize essas táticas.
– Mídia sintética direcionada: ela é mais difundida (“principal vetor de desinformação”) por meio de aplicativos como o WhatsApp, pois a moderação desses ambientes é fraca (lá o checador não chega, né), há uma confiança no grupo (de WhatsApp mesmo) do qual você faz parte.
– As plataformas de redes sociais costumam remover sistematicamente os metadados dos conteúdos que são compartilhados [gennnnte, que sacanagem!!!: é proposital!!!]. Isso gera um obstáculo técnico, né, para a detecção desses conteúdos fakes, de onde veio e etc.
–

– Tática 1: Pornografia e armamento de gênero > desmoralizar.
– T2: Manufatura do escândalo > desmoralizar e distrair.
– T3: O sequestro da autoridade > distorcer.
– T4: Sátiras, memes e a zona cinzenta > distrair.

– O verdadeiro impacto da IA: o principal problema do uso da IA nesses contextos não é fazer o falso parecer real, mas, sim, permitir que o real seja percebido/tratado como falso.
– Políticos e juízes passaram a classificar montagens e edições amadoras como deepfakes, o que acabou esvaziando o termo e confundindo o sistema legal.
– IA e eleições de 2024:
– EUA: telemarketing anti-voto; contas falsas de empresas.
– Europa: áudios com declarações falsas; anúncios falsos em redes sociais.
– Ásia: divulgação de pesquisas falsas; campanhas artificiais; mortos pedindo votos; candidato 100% virtual.
– DFRLab.
– Pesquisa Beatriz Farrugia [aonde mesmo?]: usaram como metodologia o rastreamento das palavras “deepfake” (e todas as suas variações) e “inteligência artificial” (idem) para terem acesso à postagens em que as pessoas estivessem discutindo se aquele conteúdo era gerado por inteligência artificial ou não ou se era deepfake ou não, e tentarem entender se aquele conteúdo era falso ou não. Surgiram conclusões interessantes: os internautas ainda não sabiam exatamente o que era uma deepfake (confusão entre o termo deepfake e fake news); vários casos chegavam à justiça eleitoral e a própria justiça não sabia analisar corretamente, pelo fato de eles não saberem exatamente a definição do que é deepfake (faltava a definição do conceito; “temos uma resolução, mas ainda temos várias interpretações”); deepfakes mais recorrentes naquele ano (2024, no Brasil): de cunho pornográfico para atacar candidatas mulheres (violência política de gênero); as que sugeriam crimes/má-conduta de algum candidato; simulando figuras públicas para promover ou atacar a candidatura; deepfakes de candidatos importantes (Lula e Bolsonara); deepfake espalhando informações como data de votação e número de candidato errados; satírica ou humorística.
– “No meio da semana de uma eleição municipal altamente polarizada, um arquivo de áudio “bombástico” viraliza no WhatsApp. Nele, a voz de um candidato muito conhecido aparece confessando um esquema de corrupção. O arquivo não possui metadados e a fonte original é desconhecida. Pensando como um investigador de desinformação, qual deve ser a primeira estratégia metodológica para analisar a suspeita de uma clonagem de voz (deepfake)? Focar na análise dos “sintomas” periféricos, como inconsistências na textura da voz, padrões artificiais de respiração, ruídos de fundo e o comportamento coordenado de distribuição.”
~
– Dividendo do mentiroso?
– Táticas usadas no meio político?
– O principal problema da difusão do uso da IA?
– A questão da definição do conceito de deepfake.
~
–










