ThisPersonDoesNotExist.com usa AI para gerar rostos falsos
A capacidade da IA de gerar visuais falsos ainda não é um conhecimento comum, mas um novo site - ThisPersonDoesNotExist.com - oferece uma educação rápida e persuasiva.
O site é a criação de Philip Wang, um engenheiro de software da Uber, e usa a pesquisa lançada no ano passado pela designer de chips da Nvidia para criar um fluxo interminável de retratos falsos. O algorítmo por trás deles é treinado em um enorme conjunto de dados de imagens reais e, em seguida, usa um tipo de rede neural conhecida como rede adversária generativa (ou GAN) para fabricar novos exemplos.
“Cada vez que você atualiza o site, a rede gerará uma nova imagem facial do zero”, escreveu Wang em um post no Facebook . Ele acrescentou em um comunicado à Motherboard : "A maioria das pessoas não entende como os AIs serão bons para sintetizar imagens no futuro".
A estrutura subjacente de Inteligência Artificial que alimenta o site foi originalmente inventado por um pesquisador chamado Ian Goodfellow . A abordagem da Nvidia ao algoritmo, denominada StyleGAN, foi feita de código aberto recentemente e provou ser incrivelmente flexível. Embora esta versão do modelo seja treinada para gerar rostos humanos, ela pode, em teoria, imitar qualquer fonte.
Os pesquisadores já estão experimentando outros alvos, incluindo personagens de anime, fontes e grafites.
O poder de algoritmos como o StyleGAN levanta muitas questões. Por um lado, há aplicações criativas óbvias para essa tecnologia. Programas como este poderiam criar infinitos mundos virtuais, assim como ajudar designers e ilustradores. Eles já estão levando a novos tipos de arte .
Depois, há as desvantagens. Como vimos nas discussões sobre deepfakes (que usam GANs para colar os rostos das pessoas nos vídeos-alvo, muitas vezes para criar pornografia não consensual), a capacidade de manipular e gerar imagens realistas em grande escala terá um efeito enorme sobre como as sociedades modernas pensam em evidências e confiança. Esse software também pode ser extremamente útil para criar propaganda política e campanhas de influência.
Depois, há as desvantagens. Como vimos nas discussões sobre deepfakes (que usam GANs para colar os rostos das pessoas nos vídeos-alvo, muitas vezes para criar pornografia não consensual), a capacidade de manipular e gerar imagens realistas em grande escala terá um efeito enorme sobre como as sociedades modernas pensam em evidências e confiança. Esse software também pode ser extremamente útil para criar propaganda política e campanhas de influência.
Em outras palavras, ThisPersonDoesNotExist.com é apenas a introdução educada a essa nova tecnologia. O despertar rude vem depois.
Saiba mais sobre a ciência por trás do projeto neste artigo do StyleGANs.
