ATLAS Da IA
Kate Crawford
Poder, política e os custos planetários da inteligência artificial
A inteligência artificial está transformando o mundo, mas a que custo?
Em Atlas da IA, Kate Crawford revela os impactos ocultos desse sistema tecnológico, que vai além dos algoritmos e se enraíza em relações de poder, política e exploração ambiental e social. Da extração de minérios essenciais à coleta maciça de dados, a autora desmonta a ideia de que a IA é neutra e imaterial, mostrando como ela reflete e amplifica as desigualdades. Kate Crawford observa que "Precisamos perguntar: o que é a IA? Que formas de política ela propaga? Quais são os interesses a que ela serve e sobre quem recaem os maiores riscos de danos? Onde o uso da IA deveria ser limitado? As respostas para essas questões não serão fáceis." Esta é uma leitura essencial para quem deseja entender o que está por trás do sistema que redefine nosso presente e molda o futuro do planeta e de seus habitantes.
ISBN 978-85-9493-328-7
Pode causar estranheza o título deste livro. Um atlas é comumente uma coleção de mapas organizados. E foi exatamente isso que a pesquisadora e ensaísta Kate Crawford realizou. Temos aqui uma cartografia dos componentes visíveis e invisíveis do que tem sido nomeado inteligência artificial. Mais do que a apresentação dos componentes e das rotas da cadeia de desenvolvimento e uso da IA, ela nos conduz em uma viagem impressionante pelos locais e pontos obscuros de uma realidade que aparenta ser inofensiva, altamente positiva, anunciada como um salto tecnológico para beneficiar toda a humanidade. Kate Crawford consegue alinhar um conhecimento sociotécnico rigoroso com uma escrita suave e envolvente para nos apresentar um cenário terrivelmente preocupante. A pesquisadora reuniu itinerários que nos dão a noção definitiva da materialidade da IA.
O livro nos apresenta a devastação deixada pelas minas de extração de lítio na América do Norte e segue até a Mongólia Interior, onde um gigantesco lago artificial de lama preta tóxica é o subproduto da mineração de terras raras, indispensáveis à cadeia de produção de hardwares vitais para máquinas de alto processamento computacional. Crawford alerta que “para entender os negócios da IA, precisamos considerar a guerra, a fome e a morte que a mineração traz a tiracolo”. Entre diversos pensadores e pesquisadores que Crawford utiliza para nos conduzir nessa navegação, Lewis Mumford se destaca por ter descrito a existência de tecnologias autoritárias e complexas que acabam compondo uma megamáquina. Mumford se referia ao Projeto Manhattan, origem da bomba nuclear. Assim, Crawford propõe enxergarmos a IA como “outro tipo de megamáquina, um conjunto de abordagens tecnológicas que depende de infraestruturas industriais, cadeias de suprimentos e trabalho humano e que, mesmo que se estenda ao redor do globo, se mantém obscuro”.
O que vai se tornando evidente é que a IA opera mais do que algoritmos de álgebra linear e modelos probabilísticos; ela combina infraestrutura, capital e trabalho. Crawford nos leva às imensas instalações da Amazon e da Foxconn para mostrar que deveríamos nos preocupar não com a mera substituição de humanos por robôs, mas com o neotaylorismo, incrementado pelo aprendizado de máquina e pelas redes neurais, que altera profundamente o trabalho e seus ambientes, subordinando-os à vigilância, à avaliação algorítmica
e à modulação do tempo. Para além da precarização do trabalho e das métricas ameaçadoras de controle dos sistemas de IA, Crawford descortina o cenário em que “a computação de larga escala está profundamente enraizada na exploração de corpos humanos, dos quais se alimenta”.
Estamos vivendo uma nova fronteira da acumulação capitalista. Os dados são ativos de alto valor econômico e o insumo fundamental da IA. Crawford nos apresenta as colossais estruturas de armazenamento e processamento de dados extraídos de todas as partes do mundo e concentrados nas Big Techs. Sem dados não é possível extrair os padrões e realizar as classificações dos modelos de IA. Nos anos 1980, Robert Mercer, que posteriormente se tornou um dos sócios da Cambridge Analytica, afirmou: “nenhum dado é melhor que ter mais dados”. A nova corrida pelo ouro está na produção e captura incessante e quase ubíqua de dados de todas as atividades humanas e maquínicas. Um dos resultados é o gasto colossal de energia, acompanhado do elevado consumo de água para o funcionamento e a refrigeração dos armazéns de dados, muitos dos quais possuem mais de cem mil computadores em uma única instalação. O impacto ambiental dos data centers e da IA baseada em dados parece ser insustentável. A Agência Internacional de Energia estimou que em 2022 o consumo dos data centers, da IA e das criptomoedas havia atingido 2% da demanda global de energia elétrica. Somente a demanda dos data centers na Irlanda, em 2022, foi de 17% do total de eletricidade consumida nesse país.
Este livro é indispensável, também, porque abre as janelas do treinamento dos modelos de IA com seu viés racializado, com a redução dos humanos a categorias binárias de gênero e com o empobrecimento da diversidade cultural e a eliminação ou invisibilização dos desviantes da padronização. Enfim, a cartografia trazida por Kate Crawford nos permite ver que a “IA não é nem inteligente nem artificial. Em vez disso, ela é corpórea e material, feita com recursos naturais, combustíveis, trabalho, infraestruturas, logística, histórias e classificações humanas”.
Sergio Amadeu da Silveira
Sociólogo e professor da Universidade Federal do ABC
SERVIÇO SOCIAL DO COMÉRCIO
Administração Regional no Estado de São Paulo
Presidente do Conselho Regional
Abram Szajman
Diretor Regional
Luiz Deoclecio Massaro Galina
Conselho Editorial
Carla Bertucci Barbieri
Jackson Andrade de Matos
Marta Raquel Colabone
Ricardo Gentil
Rosana Paulo da Cunha
Edições Sesc São Paulo
Gerente Iã Paulo Ribeiro
Gerente adjunto Francis Manzoni
Editorial Jefferson Alves de Lima
Assistente: Antonio Carlos Vilela
Produção Gráfica Fabio Pinotti
Assistente: Ricardo Kawazu
