interactive installation - 2020
Como pensar gênero em um mundo em que somos dados?
Como ensinar um computador sobre diversidade?
Algoritmos de inteligência artificial dependem de bases de dados para aprender sobre o mundo e tomar decisões. Muitas vezes, ao não tomar os cuidados necessários ao criar estes bancos de dados, o resultado são algoritmos preconceituosos. Este trabalho imerge o espectador em uma experiência que reflete sobre o processo em que uma máquina se torna preconceituosa, e analisa como isso é recebido pelo público. Neste ambiente os visitantes têm seu rosto capturado, e 'julgado' por um algoritmo que classifica a pessoa de acordo com gênero, idade, e mostra estereótipos relacionados a este resultado, tanto por parte da máquina através de buscas por similaridades tanto por parte de outras pessoas, através da coleta em tempo real de posts sobre aquele gênero.
O trabalho, feito em colaboração com a artista Chia-Hsin Chen, foi apresentado na conferência ACM Designing Interactive Systems Conference (DIS) em 2020, e vencedor do 'student design contest' da mesma.
Meu papel no projeto foi de co-autoria e desenvolvimento dos algoritmos e softwares usados na instalação.
How to think gender in a world where we are data?
How to teach a computer about the subject?
Artificial Intelligence algorithms use databases to learn about the world and make its decisions. Many times, due to the lack of attention when creating these databases, they become biased. This work immese the audience in an environment created to reflect the proccess in which a machine becomes biased, and analyses how this is perceived by people. In it, the interactor have its face captured and judged by an algorithm that classifies people according to gender and age, then shows stereotypes related to the result. These results come both on the machine part, by similarities search on databases, and also by how people perceive that stereotype, by harvesting tweets in real time.
The work was made in collaboration with the artist Chia-Hsin Chen, and was presented at the 2020 ACM Designing Interactive Systems Conference (DIS), being the winner of the conference student design contest.
My role on the project was as a co-author and developer of the algorithms and softwares used.
