'As bases de dados estão contaminadas pelo ódio', diz Paulo Rogério Nunes

Baiano discute sobre racismo e algoritmo no Agenda Bahia ao Vivo, nesta terça-feira (18)

Uma máquina pode ser racista? O desenvolvimento tecnológico pode tornar o mundo mais desigual? Estas são perguntas que o baiano Paulo Rogério Nunes vai responder hoje no Agenda Bahia ao Vivo nesta terça-feira (18), às 11h. Mas aqui ele antecipa um pouco dos desafios e oportunidades que o futuro reserva na busca por diversidade. Ele é consultor em diversidade, considerado um dos 100 afrodescendentes mais influentes do mundo pela organização global MIPAD, ligada à ONU, e alumni do Berkman Klein Center da Universidade Harvard.

Na aceleradora Vale do Dendê, apoia startups criativas e focadas em diversidade. Pela AFAR Ventures, busca atrair investimentos para o mercado afro no Brasil. Autor do livro “Oportunidades Invisíveis”, Paulo Rogério foi convidado pelo ex-presidente Barack Obama para palestrar na abertura do primeiro encontro internacional da Fundação Obama, em Chicago.

O mundo cada vez mais conectado é uma realidade irreversível. Entretanto isso, por si só está longe de representar uma melhoria na realidade. A hiperconexão é uma realidade, assim como a desigualdade e um dos muitos desafios que o futuro traz é o de superar essas diferenças.

Para discutir o tema e apresentar propostas para o desenvolvimento de pessoas, empresas  e governos, o CORREIO realiza uma versão inédita do Fórum Agenda Bahia, com uma série de encontros digitais chamados de Agenda Bahia Ao Vivo. A primeira edição do evento no novo formato acontece nesta terça-feira (18), às 11h. Reunindo especialistas com visões inspiradoras, a partir do tema central “Dados da gente”, no primeiro encontro, o dinamarquês Peter Kronstrøm e o baiano Paulo Rogério Nunes vão apontar as perspectivas de um futuro possível na sociedade pós-covid. As inscrições são gratuitas. Para ser lembrado do fórum e receber o certificado de participação, basta acessar: bit.ly/agendabaaovivo. 

O que seria o conceito do algoritmo racial?

A sociedade está caminhando para se tornar cada vez mais automatizada. Quando alguém abre o Netflix, você recebe um cardápio de possíveis escolhas que são baseadas nos seus gostos. Isso é muito louco porque você poderia estar assistindo outras coisas, mas suas escolhas anteriores te levam por aquele caminho mais direcionado. O Spotify também é assim. Os algoritmos já estão presentes em nossas vidas. Não é uma coisa que vai chegar, não estamos falando do futuro, é algo que já está presente. Estamos falando de plataformas de streaming, mas não se resumo a isso e é onde mora o perigo...

Não seria mais simples dizer onde os algoritmos não estão presentes?

Sim, é verdade. É algo tão comum nos nossos dias que alguns bancos já usam, por exemplo, para definir empréstimos. Qual é a preocupação? Imagina só se um algoritmo for treinado para definir que aquele CEP do lugar onde você mora, digamos num bairro popular e definir que quem vive naquela localidade é mau pagador. Se algo assim acontece, ao ver aquele CEP automaticamente,  algoritmo vai colocar como público de risco. É apenas um exemplo porque já é factível hoje. Não estou dizendo que os bancos usam, mas eles podem usar. Essa uma questão.  Se você parte para o sistema judiciário, não está sendo usado ainda no Brasil, mas nos Estados Unidos está sendo bastante usado em algumas regiões. Em muitos lugares os algoritmos estão sendo utilizados em julgamentos, principalmente na primeira instância. 

Como assim?

Com base em todo o seu histórico. Tem a ver com o CEP, com nome, sobrenomes... Lá a questão do nome é muito forte. Aqui no Brasil não é tanto o nome, mais o sobrenome. Aqui, se alguém tem sobrenome europeu é mais bem visto na sociedade. Lá tem uma questão muito forte relacionada aos nomes porque existem nomes que comuns aos negros. Nos Estados Unidos, Latisha é um nome tipicamente afro-americano, enquanto Robert é euro-americano. Então, há um risco de se estabelecer que o algoritmo dê uma sentença mais dura. Outra algo que já se utiliza bastante é na área de contratação, com toda a certeza esse processo já está sendo automatizado atualmente. E a complexidade deste processo está sempre se aprofundando demais. Tem gente estudando seriamente este assunto, mas esse problema se manifesta até mesmo nas coisas mais simples. O Google por exemplo estava vendo várias questões relacionadas a isso porque quando você digitava 'bebê bonito' lá só apareciam crianças brancas. Com mulheres a mesma coisa. Não sei se isso já se modificou. 

Mas o algoritmo pode ser racista?

O argumento dos programadores é que as bases de dados estão contaminadas. A máquina aprende com o que já existe. Se você vai nas redes sociais e olha os comentários das matérias de qualquer jornal, você cai para trás. Existe um acúmulo de informações do discurso de ódio e isso no longo prazo pode ser um perigo absurdo para a sociedade. O conceito do algoritmo racista é o de que ele vai aprender com a sociedade racista. Ele vai ser racista, vai ser machista, vai aprender com o que a gente está produzindo neste momento. 

Seria então um problema tecnológico com base numa questão social?

Exatamente. A tecnologia não é neutra porque nada é neutro. É como uma faca, você pode usar ela para cortar um alimento com a faca ou pode usar para ferir alguém ou matar uma pessoa. E no caso do algoritmo, ele vai ser quase um coadjuvante destas decisões. A questão mais perigosa é que com a aceleração da singularidade – o momento em que o desenvolvimento tecnológico será tão grande que o ser humano não precisará mais se quer trabalhar. Só que ao chegar neste momento, imagina um robô policial que trabalha com reconhecimento facial lidando com as informações de que supostamente pessoas com um tipo de nariz ou de cabelo seriam mais propensas a fazer determinadas coisas, a serem ladrões. Realmente é uma discussão bem complexa. 

As dificuldades provocadas pela pandemia atingem de maneira diferente a comunidade negra?

Claro, existem dados disponíveis. A doença realmente não escolhe quem será contaminado, mas o que acontece é que essas comunidades estão mais em favelas, em casas onde vivem muitas pessoas, onde falta saneamento básico, que é uma realidade nossa aqui. Às vezes falta água para a higienização. Neste contexto de vulnerabilidade de saúde, essas pessoas tem mais dificuldades. E quem vive nesses locais são pessoas afro-descendentes. Você ainda pode ver isso pela dimensão econômica. Uma empresa sólida tem um fluxo de caixa que garante ou facilita passar por um momento de dificuldades com menos percalços. Agora imagina um pequeno empreendedor que tem um mercadinho de bairro, uma baiana de acarajé que depende do movimento nas ruas, ou o vendedor de mingau, um salão de beleza de bairro, uma lojinha... Essa galera está sendo muito mais impactada e está sendo empurrada para a miséria. São pessoas que inclusive estão passando fome ou pelo menos enfrentando situações muito ruins. Muitas vezes estamos falando de mulheres, de pessoas negras. Então, existe sim um perfil que é mais impactado tanto economicamente quanto na saúde. 

O que é o chamado black money e como ele pode afetar positivamente as pessoas mais afetadas?

Black money é um conceito que já existe há um tempo, mas está sendo popularizado agora. Já existia desde a Sociedade Protetora dos Desvalidos (instituição criada por negros para financiar a aquisição de cartas de alforria), que trabalhava pela liberdade de outras pessoas e fazia o dinheiro circular entre elas. Hoje isso é algo que está se tornando cada vez mais forte. Já existem startups que trabalham muito forte essa questão, como a Afrosaúde, que foi acelerada pela Vale do Dendê e eles estão lançando produtos agora no mercado. É uma plataforma que permite dar visibilidade a profissionais de saúde negros, principalmente médicos, porque é algo que a gente praticamente não vê. O mais importante a ressaltar é que não se trata apenas do negro comprando do negro, mas toda sociedade entender que quando escolhe deixar de comprar de uma grande corporação para comprar de um pequeno empreendedor negro, esse dinheiro irá circular mais. 

O que você pretende destacar em sua apresentação no Agenda Bahia?

Vamos falar muito sobre a questão de rede digital e tentar mostrar como os pequenos negócios podem se reinventar neste momento. Vai ser muito legal bater um papo com o Peter, porque ele é um futurista. Vamos mostrar como é que os pequenos artistas podem se reinventar, com novos formatos de apresentação. As lives estão ajudando os grandes artistas, mas e qual é o caminho para os pequenos?

A chamada indústria criativa é muito relevante em nossa economia. 

As baianas estão se reinventando para fazer drive-thru, mesmo sem apoio de governos. Os mercadinhos de bairro tem a oportunidade de trabalhar o delivery, muitas vezes não estava nem na cabeça deles. A loja de bairro pode ter uma plataforma digital também. Mesmo quando estão abertos fisicamente, esses recursos podem diminuir o contato. A normalidade está voltando, mas mesmo assim é possível ajudar esses pequenos negócios a se estruturarem melhor. 

Vai ser útil, mesmo com um retorno à normalidade, não é mesmo?

Útil e produtivo. O problema é que nem todo mundo está com uma internet boa, de qualidade, não tem pacote de dados no celular. Se esse tipo de coisas se resolvessem. Se o Estado garantisse uma internet de qualidade para todos. Isso é algo tão importante que se poderia ter um pacote de dados no Bolsa Família. 

O Fórum Agenda Bahia 2020 é uma realização do CORREIO, com patrocínio do Hapvida, parceria do Sebrae, apoio da Claro e Sistema FIEB e apoio institucional da Rede Bahia.