Deepfakes são as nova fronteira das notícias falsas. Cada vez mais popular, técnica que usa inteligência artificial para produzir falsificações em vídeo desperta para o risco que representa ao jogo democrático
Começa sempre como uma brincadeira até que alguém tem a péssima ideia de levá-la a sério com interesses que não têm a menor graça. Este foi o roteiro percorrido pelas fake news e agora é repetido em uma nova fronteira, com potencial de estrago ainda maior: as deepfakes. A técnica que usa inteligência artificial para inserir rostos em personagens com o objetivo de criar uma falsificação em vídeo para alguém dizer algo que não disse começou a se popularizar em 2017, quando celebridades passaram a ter suas imagens inseridas em cenas de filmes pornográficos.
No Brasil, as montagens ficaram populares neste ano por obra do editor de vídeo, jornalista e estudante de Direito Bruno Sartori, que caiu nas graças da internet tirando sarro do presidente Jair Bolsonaro (PSL) e do ministro Sergio Moro (PSL) em “papéis” como o do Chapolin Colorado ou da cantora Kelly Key. A rapidez com que a técnica se desenvolve e fica acessível, entretanto, já acendeu o sinal de alerta de empresas de tecnologia como Facebook e Microsoft, que investem em pesquisas para o desenvolvimento de ferramentas para identificar as falsificações.
O Google também se mexe. O gigante das buscas disponibilizou no final de setembro um banco de dados público com milhares de imagens para serem utilizadas em pesquisas para detecção destas lorotas audiovisuais. “Acreditamos firmemente no apoio a uma comunidade de pesquisa próspera para mitigar os potenciais danos causados pelo uso indevido de mídia sintética”, afirmou a companhia em um comunicado.
A um ano das eleições municipais, o risco imediato é o uso das deepfakes para tumultuar o processo democrático com conteúdos feitos sob medida para prejudicar adversários — o que é proibido. “A falta de capacidade em compreender os conteúdos recebidos nas mídias sociais somada ao desejo de provar a corrupção de quem está do outro lado do espectro político em um ambiente polarizado faz com que o Brasil seja um cenário ideal para que esse tipo de conteúdo gere muita confusão”, avalia o advogado Carlos Affonso Souza, diretor do Instituto de Tecnologia e Sociedade (ITS).
Especialistas divergem sobre abrangência das leis atuais para deepfake. Alguns consideram que novas leis deveriam ser criadas, já outros, como Bruno Sartori, acreditam que as leis que existem já abrangem as deepfakes. E cabem ações como uso não autorizado de imagem, pornografia de vingança e estelionato”.
Na era das deepfakes e fake news, o principal desafio será criar nas pessoas uma nova cultura sobre como nos relacionamos com o conteúdo audiovisual. “É preciso gerar essa percepção, que está longe de estar disseminada na sociedade como um todo, de que o vídeo também pode ser facilmente manipulável”, a Sociedade vai ter que começar a duvidar até daquilo que vê e ouve.
