Posted on by Tribuna da Internet
Michael K. SpencerBlog Outras Palavras
Em 2020, vivemos em um mundo no qual vídeos e imagens deepfake de pessoas, totalmente fabricadas, podem ser criadas por inteligência artificial. Enquanto isso, uma tecnologia chamada GPT-2 da OpenAI está ficando famosa por sua habilidade de escrever convincentemente e enganosamente, reproduzindo o estilo de autores como George Orwell, ou o seu.
Nesse novo mundo, a Inteligência Artificial é capaz de mimetizar conteúdo humano, e tem o potencial de ser usada por maus atores, e campanhas financiadas por Estados, para influenciar os sentimentos da população de várias formas.
FRAUDES ONLINE – Estamos testemunhando uma explosão de fraude online. Em uma era na qual até o Facebook recusa o título de empresa de mídia, o que exatamente são os deepfakes?
Deepfakes são, essencialmente, identidades falsas criadas com o deep learning [aprendizagem profunda, por meio de uso maciço de dados], por meio de uma técnica de síntese de imagem humana baseada na inteligência artificial. É usada para combinar e sobrepor imagens e vídeos preexistentes e transformá-los em imagens ou vídeos “originais”, utilizando a tecnologia de GAN (Generative Adversarial Network, ou rede geradora antagônica).
Essa combinação de vídeos existentes e “originais” resulta em vídeos falsos, que mostram uma ou algumas pessoas realizando ações ou fazendo coisas que nunca aconteceram na realidade. Em 2019, também estamos vendo uma explosão de faces fake, através das quais a IA é capaz de conjurar pessoas que não existem na realidade, e que têm um certo fator de fluência.
EXEMPLO VIVO – De maneira fascinante, o engenheiro de software da Nvidia, Philip Wang, criou um website demonstrando a potência da técnica GAN para gerar imagens de pessoas falsas
O site gera imagens baseado em um novo método de StyleGAN, desenvolvido pela Nvidia, que torna possível treinar o sistema para construir imagens artificiais de alta qualidade, com resolução de até 1024×1024 pixels.
Se você atualizar o site continuamente, verá um exemplo dessas “faces fake”, através do qual humanos digitais e personas falsas poderiam se tornar robôs (bots) de internet, capazes de nos influenciar em diversas maneiras. Aqui está uma amostra desses rostos: thispernondoesnotexist (essas pessoas não existem na vida real).
PESSOAS REAIS? – Como se pode observar, não há nenhuma maneira de dizer que essas não são pessoas reais. Personagens e textos fake são os próximos fronts do debate em torno do deepfake, que está só começando e é ainda outra maneira com a qual a inteligência artificial pode ser aproveitada como máscara e alterar o sentimento coletivo através de truques digitais.
Tecnologias como o GPT-2 e os GANs vão se tornar cada vez mais inteligentes. A suposta interferência russa no ciclo eleitoral norte americano de 2016 é um despertar para muitos, mas provavelmente apenas o início. Humanos digitais, âncoras de jornais de inteligência artificial, personas virtuais — tudo é possível na nova internet. O mercado de farsa online já está maduro.
Criar uma realidade deepfake é meio caminho andado à Matrix. Pense só no potencial de uso indevido da combinação de vídeos e identidades deepfake com as fake news.
GUERRA DA DESINFORMAÇÃO – O crescimento dos deepfakes poderia abrir um novo front na guerra desinformacional. A infiltração deepfake seria relativamente barata e fácil de transformar em arma.
Se as imagens, notícias e vídeos gerados por AI alcançaram um nível no qual estão frequentemente indistinguíveis de fotografias e vídeos reais, e conteúdo humano, estamos no limiar de uma nova era de guerras de inteligência artificial.
Não ser capaz de dizer o que é real na internet já é fortemente problemático em uma era de redes sociais e Facebook, mas nas condições atuais só vai piorar. Considerando que os jovens gastam mais tempo online do que nunca, eles provavelmente se tornarão mais acostumados à AI a cada ano, o que pode gerar consequências inesperadas na sociedade.
MAIS FAKE NEWS – O perigo dos deepfakes representa um novo tipo de ameaça à cybersegurança, na qual o que pode ser feito está muito à frente de como combatê-lo. Essas redes geradoras antagônicas (GANs), desenvolvidas pelo Nvidia, poderiam ser facilmente classificadas como uma má utilização do deep learning, se tais corpos regulatórios existissem.
Em 2020, não apenas sua identidade pode ser roubada, você pode ser enquadrado, difamado e ser vítima de farsantes com os vídeos deepfake, que podem ser difíceis de se provar falsos. Você pode sofrer golpes, fraudes e ficar vulnerável online, e o inimigo seria a inteligência artificial.
A facilidade de usar os deepfakes implica que um novo tipo de hipocrisia e de conteúdo ilusório online está chegando. Não se trata mais de fake news, mas de memes, spam e conteúdo feito cada vez menos por humanos, para o bem e para o mal.
###
NOTA DA REDAÇÃO DO BLOG – Enviado pelo professor, teólogo, escritor e poeta Antonio Rocha, o artigo é da maior importância e mostra o que vem pela frente nesse mundo de incertezas e fraudes. (C.N.)
NOTA DA REDAÇÃO DO BLOG – Enviado pelo professor, teólogo, escritor e poeta Antonio Rocha, o artigo é da maior importância e mostra o que vem pela frente nesse mundo de incertezas e fraudes. (C.N.)