Este artigo foi publicado há mais de 4 anos Pode estar desatualizado e até ter incongruências estéticas. Se for o caso, aceita as nossas desculpas.
Trevor Paglen:
“Bloom foi composta num momento de morte e luto, num momento em que a fragilidade das nossas vidas e das instituições está sob nítida observação.”
A mais recente exposição “Bloom” de Trevor Paglen na Pace Gallery em Londres é muito atual. Reflete um período que expôs uma profunda consciência da fragilidade das nossas vidas, cidades e instituições políticas e económicas. Um período em que passámos a maior parte do ano recolhidos em casa com comunicações sociais reduzidas a estranhas interações em plataformas tecnológicas destinadas a extrair o máximo possível de informação sobre nós e que, provavelmente, usarão essa informação de formas que nós não conseguimos ainda imaginar. Um período que parece que dura desde há uma eternidade.
Até agora, qualquer pessoa que tenha seguido o trabalho incrivelmente presciente e instigante do artista nos últimos anos perceberá que tudo isto é grão para o moinho de Trevor Paglen. E nas mãos de um artista como Paglen, estes momentos de incerteza são também momentos de imaginação, coragem e criação.
Tendo em mente estas ideias, conseguimos, no início deste mês, reunir com o artista via Zoom e inquiri-lo sobre a sua exposição. Eis o que ele disse:
“Bloom propõe, na minha perspetiva, um paralelo entre duas coisas. Por um lado, é um espetáculo que foi preparado enquanto estive de quarentena em Nova Iorque e enquanto houve uma enorme quantidade de mortes e um enorme luto, num momento em que a fragilidade das nossas vidas e das nossas instituições esteve sob rígida observação. Ao mesmo tempo, é um espetáculo sobre tecnologia e que utiliza muita tecnologia para compreender a forma como as nossas vidas estão ligadas à Inteligência Artificial (IA), reconhecimento facial, chamadas Zoom. É deste momento que nasce a exposição.
Na altura em que estive a montar a exposição era primavera e havia muito poucas pessoas lá fora. Quando se ia para a rua, tinha-se uma esmagadora sensação de medo e tristeza, enquanto que se assistia ao explodir da natureza. Do meu ponto de vista, Bloom reflete sobre fragilidade e sobre como, ao mesmo tempo, as coisas e, sobretudo as empresas de tecnologia como a Amazon, crescem. Estas dicotomias são, para mim, o cerne da questão abordada em Bloom.
A exposição utiliza técnicas de IA para recriar imagens e muitas destas ideias sobre tecnologia e extrapolações sobre IA estão presentes no seu trabalho há já alguns anos, imaginamos, portanto, que já tivesse uma base para esta exposição mesmo antes do Covid. Como é que a pandemia alterou a exposição? A exposição estava basicamente pronta! O plano estava pronto, tínhamos o modelo e sabíamos quais seriam as obras e estávamos a iniciar a produção, mas depois, muitas das coisas literalmente não podiam ser feitas e não podíamos colaborar com pessoas do estúdio porque elas estavam em Berlim e eu estava preso em Nova Iorque. Então estive a pensar como poderia produzir a exposição remotamente e depois o cenário, a cultura, acabou por se alterar dramaticamente. Eu não queria abordar diretamente a questão, mas sabia que tinha de ter tudo isto em consideração.
A relação entre imagens e significados mudou dramaticamente de muitas maneiras diferentes. E, estar ciente e sensível a isso foi muito importante para mim. Mas a versão original da exposição tinha mais que ver com reconhecimento facial, classificação e a história da relação entre medição, poder e tecnologia. Isto continua muito presente na exposição, é o tema da exposição, mas a sua linguagem estética alterou-se, apesar de estes temas estarem ainda patentes.
Algumas das obras na exposição abordam a abstração utilizando métodos high-tech para alterar a imagem. Vê alguma sobreposição entre a forma como artistas pioneiros romperam e quebraram a produção de imagens no século XX e a forma como as máquinas alteram as imagens no século XXI? Em algumas das obras da exposição estou a pensar em algoritmos de visão computacional e como eles, basicamente, abstraem imagens em números, em padrões que podem ser utilizados em reconhecimento facial. E eu estou a voltar atrás e a desenhar esses padrões e a desenhar as paisagens daquilo que o algoritmo está a “ver” quando olha para uma paisagem ou para um rosto. Para mim, quando se faz esses desenhos, eles parecem-se muito com exemplos de abstração dos anos 20 e 30. Parecem muito construtivistas.
A exposição é, na verdade, bastante abrangente em termos de materiais utilizados. É quase tão abrangente que se torna difícil falar sobre eles numa só entrevista. Há muitas coisas diferentes a acontecer ao mesmo tempo. Qualquer interpretação de uma imagem ou qualquer interpretação de um fenómeno do mundo é uma forma de abstração. Estamos a pegar em algo que é, basicamente, infinitamente complexo e a tentar simplificá-lo num conceito que representa muitas coisas que estão a acontecer no mundo agora. E quando se cria uma abstração como essa, quer seja uma palavra ou uma forma de ver, ou um conceito ou um algoritmo que produz essa abstração, há muitas vezes política envolvida.
A ideia de abstração do século XX girava, aparentemente, em torno da ideia de um significado diferente para toda a gente – hoje, a questão, parece estar mais centrada em quem escolhe o significado? Está certíssimo. Havia a promessa de algo libertador nas abstrações do início do século XX – ou, pelo menos, é essa a história que gostamos de ouvir! A questão última aqui, é até que ponto é que esta ideia se mantém? Na minha opinião a resposta é bastante óbvia; não! Ou pelo menos não se mantém sem questionarmos quem produz a abstração e com que objetivo.
Ao longe, algumas das peças parecem lindos e coloridos campos, quase como os de Agnes Martin. Mas de perto revelam-se criados de mínimos textos retirados de conjuntos códigos utilizados para ensinar computadores a reconhecer sentimentos em conversas online. Não o deprime mergulhar na espionagem industrializada da big tech? Sim, mas não é debilitante. Já há algum tempo que faço este tipo de coisa. Há uma conceção muito mais vasta daquilo que é a Silicon Valley hoje do que havia há dez anos atrás. E isso é bom. Há definitivamente um aumento da sensibilidade face ao poder das empresas de tecnologia e face ao grau em que estas empresas – tecnologias como IA e reconhecimento facial ou serviços associados à “nuvem” – verdadeira e ativamente esculpem as nossas vidas sociais e políticas. A capacidade de medir autonomamente sentimentos em plataformas como o Facebook e o Twitter é um dos maiores objetivos da investigação em IA, uma vez que tem aplicabilidade em tudo, desde modelação de conteúdo a elaboração de perfis de utilizadores a negociações em bolsa de alta frequência.
Para mim é claro que se colocarmos a questão de consentimento, estamos a colocar a questão errada. Com um telemóvel não existe, mesmo, volta a dar. É um dispositivo de rastreamento – é o que é. Mas não tenho escolha. Tenho de ter um telemóvel para fazer o meu trabalho. Não tenho escolha entre utilizá-lo ou não. Para mim, é mais sobre como podemos conversar sobre as outras premissas do telemóvel.
Algum do seu trabalho foca-se na pesquisa desenvolvida por Woody Bledsoe, um dos primeiros pioneiros no ramo da Inteligência Artificial, que também trabalhou sobre LSD e programas de controlo mental… Sim, cruzei-me com o trabalho dele enquanto estava a fazer pesquisa sobre reconhecimento facial e deparei-me com algumas experiências relacionadas com o tema que a CIA estava a financiar nos anos 60. Procurei mais informação relacionada com o assunto e não havia muita coisa porque era basicamente informação confidencial. Reconstrui a cabeça padrão de Bledsoe a partir de informação disponível em arquivos da Universidade do Texas. Tive sorte em conseguir acesso a estes documentos, visto que Bledsoe queimou a maior parte do seu trabalho antes de morrer. A escultura patente na exposição é uma reconstrução da cabeça padrão de Bledsoe. Vejo-a como uma espécie de forma platónica do reconhecimento facial.
Estava a almoçar com uma aluna pos-doc em Berlim que estava a escrever a tese sobre reconhecimento facial e mencionei que tinha ouvido falar numas estranhas experiências que a CIA tinha conduzido nos anos 60 e ela tinha algumas no seu arquivo que partilhou comigo. Depois conheci uma mulher chamada Stephanie Dick e ela tinha escrito a tese sobre Bledsoe e tinha tido acesso aos arquivos pessoais dele, então comecei a falar com ela. Uma vez que ela tinha anotações suficientemente detalhadas que permitiam reconstruir alguns dos modelos que ele utilizou para reconhecimento facial no início dos anos 60, utilizámos esses modelos para desenhos e esculturas.
A modelagem foi bastante literal, certo? Sim, tenho feito imenso trabalho a olhar para a história material da tecnologia e fico sempre espantado com a literalidade destas histórias. Fiz um conjunto de obras intitulado They took the Faces of the Accused and the Dead que consiste de imagens de mugshots. E pensar em algo como reconhecimento facial meio que me faz pensar em biométrica e, conceptualmente, está tudo no mesmo campo. Mas depois quando se olha para os inícios do reconhecimento facial, é, literalmente, tudo feito através da utilização de mugshots.
Todos os algoritmos foram criados e trabalhados utilizando mugshots de prisioneiros e de pessoas que foram coagidas a dar imagens das suas caras ao estado. Eu acho que estamos constantemente a ver isso. Para mim estas são interessantes historicamente, mas também são interessantes por mostrarem coisas do dia-a-dia de uma maneira diferente. Obriga-o a pensar no reconhecimento facial de outra maneira e, na minha opinião, de uma maneira mais produtiva.
Então, se são basicamente conjuntos de dados comprometidos porque é que continuamos a construir tecnologia com base num conjunto de dados altamente comprometido?
Essa é uma boa questão. Olhar para a política por detrás de conjuntos de dados é um enorme projeto que tenho vindo a desenvolver há já algum tempo. Acho que a resposta mais simples é que ninguém que esteja a fazer pesquisa se importa! Ou sabe exatamente aquilo com que está a trabalhar. Ou imagina que estatisticamente qualquer conjunto de dados vai sair da média de qualquer norma justa ou média. Eu acho que todas essas suposições são totalmente falsas. A parte mais complicada da pergunta, e algo sobre o que a Kate Crawford e eu escrevemos num artigo intitulado “Excavating AI”, é que eu acho que não existem conjuntos de dados desprovidos de preconceito. Está a pegar num mundo infinitamente complexo e a extrai-lo para categorias simplificadas. Essas simplificações serão sempre políticas e irão sempre envolver juízos de valor. Não há de neutral no mundo, é sempre político. Todos sabemos que as fotografias que postamos e os textos que enviamos nas redes sociais e noutras plataformas online são utilizados para recolher informação sobre nós próprios – informação que é depois vendida a toda a gente, desde agências de publicidade a companhias de seguros a bancos e a agências de crédito.
Muita gente está a falar sobre como a COVID está a criar espaços diferentes nos quais se pode experimentar coisas novas e como isto pode ser a causa de algum otimismo. Quais são, para si, as razões para se ser otimista? Geralmente não sou uma pessoa que aprecie muito a palavra otimismo. Na minha opinião isso implica sempre uma falta de ação. Ah vamos só esperar que as coisas melhorem. Há uma parte de mim que imediatamente se opõe a isso e que quer fazer alguma coisa em vez de só ser otimista. Portanto não gosto da palavra otimismo, mas vou utilizá-la.
Acho bastante óbvio que as desigualdades na sociedade americana foram claramente postas a nu e é bastante óbvio quais as consequências disso. Isso pode, espero eu, ser, talvez, um catalisador para alguma forma de mudança em alguns casos. Penso que há enormes oportunidades de auto-organização e vimos isso em grande, grande escala este ano. Isso é uma enorme fonte de esperança e eu acho que existem imensos indicadores que sugerem que um grande número de pessoas está interessado em tentar reconstruir a sociedade de uma forma mais justa, mais equitativa e mais alegre.
Mencionou a Kate Crawford, com quem colaborei muito. Ela tem feito um enorme trabalho, até certo ponto na indústria e, certamente, na academia, no sentido de alterar o senso bom senso à volta de IA e confidencialidade. Se tivesse ido a uma conferência sobre aprendizagem automática há cinco anos atrás e apresentado um artigo sobre preconceito ou racismo no âmbito da aprendizagem de máquina, teria sido gozado até que saísse da sala. Hoje em dia essa é uma área reconhecida e as pessoas estão a estudar o problema.
Juntou-se recentemente à Pace, o que o atraiu nesta galeria? Estou muito contente por estar a trabalhar com a Pace. Eles proporcionam a possibilidade de trabalhar simultaneamente em diferentes sítios do mundo e é, obviamente, uma enorme honra para mim fazer parte de uma lista que me inspirou desde criança. É um local onde tenho muitos projetos ambiciosos que quero desenvolver e é uma estrutura com a qual posso crescer. Penso que toda a gente no mundo da arte está à espera de ver o que é que vai pegar. Quando as coisas voltarem ao normal vai ser tudo muito diferente.
Este artigo foi traduzido do original em inglês por Constança Costa Santos
Ajuda-nos a manter viva e disponível a todos esta biblioteca.
O artigo original foi publicado em @ArtSpace
The original article appeared first @ArtSpace
Talvez seja do seu interesse: Juliette Minchin, A Alma das Formas
Assinados por Artes & contextos, são artigos originais de outras publicações e autores, devidamente identificadas e (se existente) link para o artigo original.
- Artes & contextoshttps://artesecontextos.pt/author/odiletan/
- Artes & contextoshttps://artesecontextos.pt/author/odiletan/
- Artes & contextoshttps://artesecontextos.pt/author/odiletan/
- Artes & contextoshttps://artesecontextos.pt/author/odiletan/
