Meu algoritmo é racista e machista ou como a tecnologia reforça preconceitos

Modelos de aprendizado de máquina não são tão imparciais quanto as pessoas acreditam

Tudo que é consumido na internet chega a cada um de nós através de algoritmos. Desde resultados de uma busca no Google, passando pelas recomendações de vídeos feitas pelo YouTube e chegando àquela postagem que aparece em seu feed do Facebook.  Os algoritmos são, de forma bem simplificada, grandes receitas de encontrar padrões que mostram passo a passo os procedimentos necessários para a resolução de um problema ou execução de uma tarefa, como uma pesquisa no Google, por exemplo. Para Genaro Costa, especialista em computação de alto desempenho e em big data, os algoritmos identificam padrões de comportamento, sem avaliar se são bons ou ruins. “Eles imitam um comportamento que parece inteligente, tentando identificar tendências e o que é frequente. Seria bom que identificassem comportamentos prejudiciais, mas a tecnologia ainda não está nesse nível de refinamento”, explica. Há quem argumente que, por essa natureza, os algoritmos não são tendenciosos, afinal, são uma máquina e, portanto, imparciais. ”Essencialmente isso não está errado. Os algoritmos podem não ser tendenciosos, mas os dados que a gente alimenta para eles são extremamente tendenciosos, e eles sim, incorporam essa tendência”, diz a youtuber e mestranda em Ciências da Computação, Camila Laranjeira, do canal Peixe Babel. O que disse, machista? Preocupada com o número cada vez menor de mulheres que chegavam ao seu canal, especializado em tecnologia e divulgação científica, Laranjeira fez um vídeo questionando a possibilidade das recomendações do YouTube estarem contribuindo para reforçar preconceitos, ao carregarem o viés social de que teconologia é “coisa de menino”. “Será que é porque eu sou mulher que eu tenho a probabilidade menor de receber vídeos de ciência e da área de exatas?”, pergunta a youtuber.  

O fato de as tecnologias estarem tão incorporadas ao nosso dia a dia também acaba por reforçar a impressão de que são neutras e imparciais.  “Mas as tecnologias estão carregadas com as visões políticas, econômicas e culturais de quem as cria  e esse poder hoje está centrado nas mãos de homens, brancos, heterossexuais, classe média/ricos. Isso já potencializa uma grande desigualdade, em um mundo cada vez mais digital”, explica Silvana Bahia, diretora de projetos do Olabi e coordenadora do PretaLab. Jornalista de formação, Silvana começou a programar há cerca de quatro anos, quando se deu conta de que a “tecnologia é uma linguagem extremamente poderosa, que está pautando nosso futuro e nosso presente” e que o predomínio masculino na área traz consigo uma série de implicações. Vale ressaltar, que nem sempre foi assim. As mulheres (negras, inclusive) foram pioneiras na informática. Quando os computadores eram usados basicamente para realizar cálculos e processamento de dados, eram elas que faziam essa atividade, que estava associada à função de secretária. Só que muitas delas também desenvolveram máquinas e programas. Os homens começaram a dominar a área nos anos 80, com o boom dos computadores domésticos.  “Não é uma ideia tão louca imaginar que o gênero da pessoa influencie nessa lógica de similaridade e pese de modo que ‘vídeos de meninos' sejam menos recomendados para meninas”, diz Laranjeira sobre as recomendações tendenciosas.A coisa ta preta O preconceito racial também pode ser reforçado pelas tecnologias. Foi o que percebeu a ativista baiana Monique Evelle, criadora da ONG Desabafo Social, ao pesquisar termos genéricos como “pessoa”, “pele”, “bebê” e “família” no Depositphotos, um dos maiores bancos de imagens na internet. O resultado de todas as buscas: somente pessoas brancas. O mesmo padrão foi encontrado em mais três bancos de imagens: iStock, Shutterstock e Getty Images. ”Pensamos uma campanha que mobilizasse não só as pessoas a pensarem sobre esse padrão, mas principalmente as empresas. Não acusamos nenhuma delas de serem racistas, apesar de estarmos falando sobre isso. O que fizemos foi chamá-las para a conversa, para repensar essas bases”, explica Monique sobre a campanha Busca Pela Igualdade, que acabou interferindo no mecanismo de busca dos sites.  

Os bancos de imagens são usados habitualmente para treinar máquinas, portanto, os robôs “aprendem” com tais imagens. Se em uma busca por “cozinha” a maioria das imagens são de mulheres cozinhando, o robô vai associar as duas informações e passar a ler isso a partir de um padrão. É assim que tecnologias baseadas em big data às vezes pioram inadvertidamente a discriminação por causa de vieses implícitos nos dados.  “A galera começou a entender que algoritmo está em tudo que a gente faz, tudo que é tipo de tecnologia lida com inteligência artificial. Redes sociais, bancos de imagens, aplicativos de banco, robôs de reconhecimento facial, biometria...”, ressalta.  Dentre as conquistas da campanha, estão ainda o apoio ao  apoio ao Color Balance, banco de imagem que está sendo contruído em Londres, para que haja 70% de pessoas negras e um convite para discutir o assunto no Global Symposium Artifical Intelligence & Inclusion, realizado pela Universidade Harvard, em outubro do ano passado.Enfrentamento Se a tecnologia é programada a “raciocinar” de um modo preconceituoso, há escapatória para o usuário que busque conteúdos mais diversos, menos sexistas e racistas? Para Monique Evelle, prezar pela diversidade nas equipes de programadores é o primeiro passo no reconhecimento e na solução do problema. “Isso inclusive é melhor para a criatividade e para a competitividade. As empresas têm que entender que quanto mais diversas elas forem, mais lucro elas vão ter. Quem quer continuar no mercado, não pode fechar os olhos para isso”, defende. A ativista destaca ainda o surgimento de iniciativas como a Conta Black, primeira conta digital de propriedade de negros no Brasil, e a Diáspora Black, que nasceu da discriminação que empreendedores notaram em outras plataformas de hospedagem, como o Airbnb (ver caso ao lado). O aplicativo aproxima viajantes e anfitriões que buscam viver experiências centradas no fortalecimento da cultura negra. Silvana Bahia diz que outro desafio a ser enfrentado é “ultrapassar o denuncismo e chegar aos dados para gerar políticas”. “Com a vida digital, nossas escolhas estão ligadas aos algoritmos. Se há uma escapatória, não sei. Acredito que o que a gente tem de fazer é se apropriar desse conhecimento. É aí que está a grande disputa! Costumo dizer que assim como ninguém vai voltar para o armário,  ninguém vai voltar ao analógico. A única certeza é a certeza da mudança”, aponta.