Texto em que o autor apresenta e defende suas ideias e opiniões, a partir da interpretação de fatos e dados.
Maria Rita e Elis Regina: dilemas éticos envolvendo IA estão só começando
Receba os novos posts desta coluna no seu e-mail
Em comemoração a seus 70 anos no Brasil, a Volkswagen lançou uma campanha reunindo as vozes da cantora Maria Rita e da mãe, Elis Regina, falecida há 41 anos. Enquanto cantam "Como Nossos Pais", uma composição de Belchior, elas guiam o velho e o novo modelo de Kombis da marca.
Assim, fez-se o caos nas redes sociais. Dos comovidos com a possibilidade de encontro entre mãe e filha via inteligência artificial aos que apontaram o envolvimento da empresa com a ditadura militar que Elis Regina tanto combateu, passando pelos que questionaram a interpretação de texto sobre a trilha da propaganda, feliz ou infelizmente, ninguém se calou.
Aqui em cima está escrito "coluna de opinião" e, por isso mesmo, não vou omitir que eu faria o mesmo que Maria Rita, em nome do enriquecimento lícito, com uma marca que tem investido bastante em reposicionamento político desde 2020. Acho que a minha mãe deixaria e a mãe dela também, mas acho importante, sobretudo, ver dinheiro circulando entre figuras públicas que acreditam em Terra redonda, ciência, democracia, cultura, esse tipo de coisa.
Fora isso, nunca saberemos o quanto as pessoas que cobram boicote à marca dizem "não" a produtos ou clientes com histórico semelhante durante a ditadura, avaliando como se portaram depois dela. "Dinheiro limpinho" é um conceito quase utópico, mas sempre podemos fazer uso honesto do vil metal que venha a cair no nosso bolso. Vai de cada um.
Independentemente do que eu ou você opinemos sobre a campanha, nada vai mudar a grande pergunta do dia: quem tem direito de manipular a imagem de alguém que já se foi em favor de uma ideia, campanha ou obra audiovisual de qualquer natureza?
Em termos práticos, os herdeiros têm — e, sobre isso, ainda não há margem de discussão. Em termos morais, o debate só tende a se adensar nos próximos anos. Apertem os cintos, com ou sem Kombi para dirigir.
Não é mero acaso que a nova temporada de "Black Mirror" comece com uma história meio pastelona sobre o uso de deepfake em uma série de streaming. Muito menos que os dilemas éticos desse elemento arrasem com a vida de uma ilustre desconhecida. Muito em breve, você poderá acompanhar algum litígio envolvendo IA no fórum do seu bairro.
Bom exemplo disso é o uso de deepfake sob demanda no pornô: qualquer pessoa já pode encomendar o encaixe de um rosto aleatório em roteiros que poderiam comprometer todo tipo de carreira e reputação. Aconteceu com atrizes como Emma Watson, Scarlett Johansson, Marina Ruy Barbosa e está acontecendo com gente anônima também.
Em nome do jornalismo, cliquei em um pornô deepfake da atriz e cantora norte-americana Zendaya e meu coração parou por alguns segundos. Não precisa ser vovonauta para acreditar que esses conteúdos são verídicos, tamanha é a perfeição do resultado. Mas fique tranquilo: você pode ter uma experiência menos traumática de contemplação desse recurso assistindo ao novo filme do Indiana Jones, por exemplo. Fato é que o uso de IA ainda vai provocar muita discussão aí na sua casa. Com sorte, pode até substituir a pauta da polarização política na ceia de Natal.
A polêmica do dia envolvendo a memória de Elis Regina tem sua razão de ser, e é importante que exista esse debate. O deepfake mexe com a nossa cognição, com a capacidade de fantasiar e, principalmente, com os nossos maiores medos. Como tudo o que acontece em tempos de saltos tecnológicos, é pra ter medo mesmo. Eles sempre trazem, no bojo das novas possibilidades, problemas inéditos.
Foi assim com a invenção de qualquer coisa no mundo — da penicilina ao avião — e não seria diferente com um recurso que poderia nos colocar em qualquer mídia de massa dizendo qualquer coisa ilícita, ilógica ou simplesmente conflitante com as nossas crenças pessoais.
É impossível prever os imbróglios que hão de chegar com o uso de IA pelo público geral, mas repensar a nossa relação com o direito de imagem é urgente. E planejar quem terá (ou se ninguém terá) esse poder de decisão póstuma sobre a nossa figura também.
Não que novas leis sejam capazes de blindar qualquer pessoa da confusão que já se avizinha nas redes sociais ou em plataformas de conteúdo duvidoso. É só que, em muito menos tempo do que se supõe, o deepfake não vai ser um problema exclusivo de gente célebre e poderosa. Se a gente pensar no uso em campanhas políticas ao redor do mundo, já não é.
O especialista Bruno Sartori lembra que a tecnologia de IA também recriou recentemente — e com menos protesto do público — as vozes de Ayrton Senna e de Michael Jackson, atualizando o ditado que diz algo como "os mitos não morrem jamais".
Para desespero de todos nós, parece que o descanso eterno também pode sair do controle dos reles mortais na era do deepfake — ou, como sugere o escritor Milan Kundera, que cantou essa bola em 1988, "o homem pode até pôr fim à sua própria vida, mas não à sua imortalidade".
ID: {{comments.info.id}}
URL: {{comments.info.url}}
Ocorreu um erro ao carregar os comentários.
Por favor, tente novamente mais tarde.
{{comments.total}} Comentário
{{comments.total}} Comentários
Seja o primeiro a comentar
Essa discussão está encerrada
Não é possivel enviar novos comentários.
Essa área é exclusiva para você, assinante, ler e comentar.
Só assinantes do UOL podem comentar
Ainda não é assinante? Assine já.
Se você já é assinante do UOL, faça seu login.
O autor da mensagem, e não o UOL, é o responsável pelo comentário. Reserve um tempo para ler as Regras de Uso para comentários.