Learning to See expõe e amplifica o viés nos sistemas de machine learning, demonstrando de que maneira o conhecimento prévio e a experiência do modelo – também conhecidos como “dados de treinamento” – moldam completamente as previsões e o resultado do modelo. Em outro nível, a obra também ilustra uma expressiva interação homem-máquina para cocriação artística – algo entre os fantoches digitais e a colaboração criativa. Uma rede neural artificial vagamente inspirada em nosso próprio córtex visual olha através das câmeras para o mundo e tenta dar sentido ao que vê no contexto do que foi visto antes. Há uma tentativa de desconstruir e reconstruir o feed da câmera ao vivo por meio de recursos e representações que a máquina aprendeu, tendo sido exposta a uma “experiência de vida” ou “visão de mundo” comparativamente limitada – neste caso específico, “treinada” em um grande conjunto de dados contendo apenas imagens de ondas,
completely shape the predictions and the result of the model. On another level, the work also illustrates a significant man-machine interaction for artistic co-creation – something between digital puppets and creative collaboration. An artificial neural network loosely inspired in our own visual cortex looks through the cameras at the world and tries to assign a meaning to what it sees within the context of what it has seen before. There is an attempt to deconstruct and reconstruct the live camera feed through resources and representations that the machine has learned, having been exposed to a comparatively limited “life experience” or “worldview” – in this specific case, “trained” with a large dataset limited to images of waves, fire, clouds and flowers. Later, the work comes across unknown scenes, such as hands, fabrics, wires and keys. Evidently, it can only see what it already knows. Just like us.4
fogo, nuvens e flores. Em seguida, a obra encontra cenas desconhecidas, como mãos, tecidos, cabos e chaves. Evidentemente, ela só pode ver o que já conhece. Exatamente como nós4. Deep Meditations é uma meditação sobre a vida, a natureza, o universo e nossa experiência subjetiva disso. Trata-se de um mergulho profundo no mundo interior de uma rede neural artificial treinada em tudo – e da exploração controlada disso. São literalmente imagens rotuladas como tudo no site de compartilhamento de fotos Flickr – assim como imagens rotuladas como mundo, universo, arte, vida, amor, fé, ritual, deus e muito mais. A intenção é apresentar, por um lado, tanto uma peça para introspecção e autorreflexão quanto um espelho para nós mesmos, nossa própria mente e como entendemos o mundo; por outro lado, também como
137
uma janela para a mente da máquina, na medida em que tenta entender suas observações em seu próprio modo computacional. Porém, não há uma separação clara entre o espelho e a janela. É impossível separar
Deep Meditations is a meditation on life, nature, the universe and our subjective experience of this. It is a deep dive into the inner world of an artificial neural network trained in everything – and the controlled exploration of this. There are literally images labeled with “everything” at the Flickr photo sharing site – just as there are images labeled as the world, the universe, art, life, love, faith, ritual, God and much more. On the one hand, the intention is to present a piece for introspection and self-reflection as a mirror for ourselves, our own mind and how we understand the world; on the other, also as a window into the mind of the machine, insofar as it tries to understand its observations in its own computational way. However, there is no clear separation between the mirror and the window. It is impossible to separate the two, since the act of looking through this window projects us through it. When we return our gaze to the slowly evolving meditative images