Em meio às postagens, no final de semana de Páscoa, denunciando que a conta de Instagram do artista Mauro Restiffe havia sido hackeada, passou pelo meu feed a notícia de que o Guggenheim decidira implementar a cor original do projeto de Frank Lloyd Wright para o museu, o vermelho. Com as imagens do Papa Francisco vestindo um casaco luxuoso frescas na memória, desconfiei que a conta do museu em Nova York pudesse ter sido hackeada também. Mas, ao conferir o perfil de Restiffe, me juntei rapidamente ao coro do “É deep fake, com certeza”. Ainda que fosse o rosto do artista e sua voz naquele vídeo, a fala parecia entrecortada, manipulada de alguma forma.

Ademais, o contexto de veiculação do vídeo era a sugestão de investimento num esquema de pirâmide, visivelmente fraudulento. No dia seguinte, a conta continuava sob a posse dos golpistas, agora oferecendo itens para venda; eletrodomésticos e eletrônicos a preços baixos. Há pouco tempo, as contas de dois outros artistas conhecidos haviam sido hackeadas com o mesmo propósito, mas os “esquemas atrativos” foram veiculados na forma de postagens de texto e imagem, sem o “apoio” de um vídeo semi-real dos próprios dizendo recomendar o referido esquema.

Cheguei à redação ontem com duas pautas: apurar o que havia acontecido com o Insta de Mauro Restiffe e, se sobrasse tempo, checar a informação nonsense da pintura da fachada do Museu Guggenheim de vermelho. Enquanto aguardava um retorno do artista ao pedido de entrevista, pesquisei “red guggenheim” no Google e fui direcionada ao post original, no Twitter do museu, do dia 1º de abril. Os trotes e piadas do “April’s fool” podem ser tóxicos no contexto de irrealidade a que a mídia está submetida. Pior, não havia qualquer menção ao Dia da Mentira no texto que acompanhava a imagem manipulada digitalmente: “Em 1945, o arquiteto do Guggenheim, Frank Lloyd Wright, propôs primeiro o vermelho para a fachada do museu, mas foi vetado pela primeira diretora do museu, Hilla Rebay. Bem, finalmente estamos realizando o desejo dele! O projeto de Wright foi honrado e a instituição começou a trabalhar na mudança da cor externa do museu para vermelho”.

FAKE, DEEP FAKE E FARSA
Nos dois exemplos anteriores, estamos diante de uma “notícia falsa”, mais corretamente designada como “mentira” mesmo (museu vermelho); e de uma “imagem falsa” criada com tecnologia de Inteligência Artificial, também denominada “deep fake” (foto do Papa). Mas o que foi que vimos no perfil de Mauro Restiffe? “O vídeo na minha conta não foi feito com IA”, relata o artista. “Caí num golpe, eu que sempre sou muito cuidadoso com links e mensagens estranhas. O problema é que conhecia o remetente e realmente não desconfiei que pudesse ser um golpe”, conta Restiffe à seLecT_ceLesTe. Na véspera do feriado de Páscoa, Mauro recebeu uma notificação de que tinha começado a ser seguido no Instagram pelo perfil do restaurante de uma amiga. Quando entrou no aplicativo, seguiu de volta o restaurante e recebeu, logo depois, uma mensagem pelo IG com uma promoção do estabelecimento. Como havia conversado recentemente com a proprietária do restô sobre um projeto conjunto com a amiga, não desconfiou do mimo oferecido, preencheu a reserva (com nome e telefone) e, quando um número de celular identificado como sendo do restaurante enviou por WhatsApp um link para confirmar a reserva, isto tampouco gerou dúvidas no artista.

“Achei estranho que, após a confirmação da reserva no site, que parecia igual ao site do restaurante, pedissem para gravar um vídeo recomendando o sistema de reserva, mas pensei que não faria mal nenhum recomendar e dar uma força para o negócio de uma amiga”, diz Restiffe. Momentos depois, uma notificação no celular informou que ele tinha se desconectado do IG, coisa que não tinha feito. Entrou novamente no aplicativo para conectar-se à conta e a senha já havia sido modificada. Desde então – há 5 dias, portanto –, o artista está tentando recuperar ou suspender a conta, sem sucesso. Mauro Restiffe precisou de um técnico de informática para ajudá-lo no passo a passo da recuperação de conta, altamente burocrático, mas esbarrou no seguinte problema: na última etapa, o aplicativo pedia reconhecimento facial (aquela espécie de foto 3D que escaneia o rosto da pessoa), porém não reconheceu o rosto do artista.

INTELIGÊNCIA ARTIFICIAL BURRA
Como é possível que o dono de um perfil de Instagram não consiga recuperar uma conta hackeada porque não “passa” no reconhecimento facial do Instagram? Nota: Restiffe é um usuário low profile, que só posta os próprios trabalhos artísticos, com pouquíssimas concessões a selfies – como a esmagadora maioria dos artistas visuais, diga-se. Isso faria dos artistas um alvo preferencial de scams e hackers? Teria conseguido “autenticar” o reconhecimento facial se postasse muitas selfies? Estaríamos, então, mais “protegidos” quanto mais dispostos a uma hiper-exposição nas redes sociais? De acordo com o artista e pesquisador em tecnologia Andrey Koens, a fotografia que o software utiliza para reconhecer o rosto do usuário é, provavelmente, a imagem de perfil. Porém, citando como exemplo uma prática que o Facebook extinguiu há alguns anos (lembra quando recebia notificações do Face de fotografias em que você aparecia, com a sugestão de marcar você mesmo?), sugere que o aplicativo tem outros meios para fazer a autenticação.

“Esquemas de golpe na Internet existem desde que a Internet existe. O que muda é a sofisticação para burlar os sistemas, criando site falso ou contato falso de WhatsApp. O vídeo que apareceu no perfil do Mauro Restiffe parece ter sido editado em um aplicativo simples, mas seja uma manipulação manual ou um deep fake, na verdade não faz diferença, porque o que está em jogo é nossa capacidade de não baixar a guarda e redobrar os cuidados. Ser ou não IA me parece uma discussão que é efeito direto do apocalipse mental que estamos vivenciando. As pessoas dizem que a IA vai destruir o mundo. Na verdade as pessoas vão destruir o mundo, com ou sem ajuda da inteligência artificial”, afirma Koens à seLecT_ceLesTe. 

Para ele, o fato de que as pessoas estão deixando de tomar os cuidados básicos na interação online somado à facilidade de produzir imagens e textos falsos resulta nesse tipo de golpe. “As pessoas têm a impressão de que os dados já estão disseminados e que a privacidade já foi perdida, por isso acabam agindo como se não houvesse mais nada a perder. Isso não deve diminuir nosso grau de cuidado para identificar conteúdos falsos”, prossegue. Afinal, qual a consequência para os cibercriminosos? “Sem querer ser alarmista, as plataformas detêm todo o poder mesmo. A comunicação é unilateral. Não existe um suporte ao qual recorrer, porque nós não estamos pagando, para usar as redes sociais, somos usuários produzindo de graça viewingship para o app, que é a nossa capacidade de ver anúncios. O único ponto em que esbarra esse poder são os grandes reguladores, porque, no fim, é uma questão de segurança pública. O uso das tecnologias para fins criminosos é empoderado por elas tanto quanto os usos legítimos, como a arte”, resume.

VULNERABILIDADE
Desde ontem nenhuma nova anomalia apareceu no Instagram de Mauro Restiffe [@maurorestiffe______.___], mas um perfil falso utilizando seu nome e uma imagem sua começou a circular. “É falso esse outro perfil, fui avisado por amigos”, comenta o artista. Provavelmente uma conta preexistente, já que possui mais de 15 mil seguidores – a maior parte deles com contas fechadas e/ou pouquíssimas postagens, mas com fotografias de perfil “realistas”, como um séquito de fantasmas (bots?) ou de contas-fantasma, como a própria página a que estão atrelados. Com toda uma vastíssima fazenda de bots replicando perfis e disparando armadilhas digitais indiscriminadamente, Koens questiona “como sobreviver à tecnologia digital”. Fazer backup de tudo o que é importante seria uma das soluções. Mas o que interessa mais a ele é levar a pergunta para a sua pesquisa artística. “A gente definitivamente não está no time que vai ganhar, já que vivemos no Sul Global, portanto, sobreviver significa sublinhar a subjetividade, ou a tecnologia não vai servir para nada mesmo”, disse, em entrevista à revista, por videochamada, ontem, 10/4.

Andrey Koens, que trabalha com imagem digital, realidade virtual e IA, chama a atenção para o fato de que existem variadas maneiras de usar a inteligência artificial. “Uma coisa é o que os softwares comerciais vão devolver a partir de prompts [comandos de texto] muito básicos, por exemplo, a um pedido de referências para criar uma natureza morta, a IA vai mobilizar lá imagens do século 15, do século 17, localizando os elementos solicitados e entregar uma imagem que você pode reproduzir. Mas posso pedir coisas mais difíceis ou mesmo impossíveis, o que vai abrir novos campos de pesquisa e novas formas de prática, que posso utilizar nos processos, em vez de usar diretamente a imagem gerada ali”, explica.

A um pedido de exemplos concretos, o artista cita a série Já Passei por Aqui Antes (2022), que foi concebida a partir de scripts desenvolvidos por ele para gerar um aprendizado de máquina [machine learning]. Dado um arcabouço de gestos de construção de paisagens, ou seja, partindo da escolha das imagens a serem “aprendidas” pelo computador para gerar outras novas, ele realizou um estudo de composição com auxílio da máquina, que resultou em um conjunto de imagens em que os gestos se repetem em combinações diferentes. “É como um caminho que, em vez de ser percorrido, você assiste a ele passando por você. E, na repetição dos fragmentos reconhecíveis, você percebe como funciona a própria IA. Prefiro trabalhar assim do que utilizar o formato comercial, já que o processo que já está treinado é indissociável de procedimentos antiéticos, porque a IA não consegue desaprender. Ela é basicamente estatística, então prefiro um retrato que é estatisticamente o trabalho que eu construí, com suas falhas altamente ricas, do que um retrato estatisticamente acurado de bancos de dados com que não me interessa lidar.”

Enquanto a arte busca essa virada que possibilita sublinhar subjetividades, o mundo da vida segue arcando com as consequências da extrema vulnerabilidade de nossos avatares digitais. Restiffe, na conversa com a seLecT_ceLesTe, descreve o hackeamento como uma invasão de privacidade muito violenta. Koens fala da violência das plataformas na modelagem de nossos comportamentos, em relação a qual nada podemos fazer. Depois de horas vasculhando os sites do Instagram e do Facebook ontem, consegui localizar um e-mail de contato para a imprensa e escrevi solicitando uma entrevista sobre o caso da conta hackeada. Quem adivinha se recebi alguma resposta?