Fake It

 

"Então, mas ó stor, isso é coisa que nos ensine? Assim ficamos a saber como se faz...", pergunta uma aluna depois de lhes ter demonstrado um hipotético cenário de bullying usando um vídeo deepfake (muito rudimentar) e o whatsapp. Pois claro, respondo. Se não se falar destas coisas, e mostrar, como é que se aprende a defender-se delas? Se bem que o ponto alto das aulas desta semana foi o momento em que os olhos dos alunos se abrem, surpreendidos, ao perceber a extensão do rastreamento comportamental feito pelos algoritmos das redes sociais. "Mas, stor, isso é como ter uma pessoa sempre atrás de nós a ver tudo o que fazemos..."

Para inspirar, uma brincadeira feita no telemóvel com uma aplicação que implementa algoritmos deepfake limitados: colocar Salazar a elogiar o 25 de abril. Algoritmos muito limitados, para se fazer deepfakes mais realistas é preciso usar modelos de treino mais complexos e maior poder computacional. No entanto, com algumas apps Android, já dá para fazer algumas experiências inesperadas.

Esta semana, o desafio aos alunos de TIC foi descobrir a inteligência artificial - as suas aplicações, o que se pensa sobre ela, a forma como já influencia as nossas vidas, hoje. Descobrir os algoritmos DeepDream e a criação de imagens com GAN. Mas também as estruturas sociais e linguagens das abelhas e formigas, para perceber que há diferentes tipos e níveis de inteligência; perceber a diferença entre AGI e os algoritmos poderosos mas de IA restrita que hoje se usam; e descobrir que a nossa pegada digital é a fonte dos dados que alimentam o desenvolvimento da Inteligência Artificial.

Um dos pontos de partida foi a criação de deepfakes. Graças a algumas apps android que incorporam elementos de deepfake, deu para fazer em tempo real, na sala de aula, usando vídeos dos alunos e imagens de celebridades escolhidas por eles, vídeos deepfake curtos. E, em seguida, explorar as consequências disso. Afinal, pode ser tão simples como usar uma foto tirada inocentemente a uma vítima (numa selfie de grupo, por exemplo), um vídeo de outro a dizer maldades, produzir o deepfake (mesmo rudimentar) e partilhar num grupo de Whatsapp para fazer pensar que alguém disse o que nunca disse, ou insultou quem nunca insultou. Nestas coisas da desinformação, o mal está feito quando a imagem falsa é publicada, mesmo que depois se venha a provar a sua falsidade. Creio que os alunos perceberam isso, esta semana.