Agenda Bahia: Especialista pede código de ética para as Inteligências artificiais

Susan Etlinger  usa exemplo do reconhecimento facial para listar falhas dessa tecnologia

Num mundo com o volume de dados que circulam a cada segundo como o que vivemos, a questão da privacidade se torna um tema cada vez mais caro, sensível e difícil de se equacionar. E nada como encerrar um evento como o Agenda Bahia que falou sobre os Dados da Gente abordando a temática de Confiança e Inovação, questionando a necessidade de um código de ética para o desenvolvimento de tecnologias de Inteligências Artificiais (IA).

Especialista em estratégia digital, Susan Etlinger foi a responsável por tocar a palestra e chamou muita atenção em relação às ferramentas de reconhecimento facial, suas aplicações e polêmicas ao redor do mundo. Um dos destaques mencionados pela especialista é sobre como essas ferramentas podem atrapalhar a vida de pessoas negras, seja não funcionando adequadamente por não terem testadas suas funcionalidades aplicadas a pessoas de pele mais escura ou até pela possibilidade de fazer confusões entre um indivíduo inocente e outro crimonoso.

"Por todo o mundo, vemos que tecnologias de IA são muito fracas em termos de identificar pessoas de cor, principalmente mulheres negras (...). Em outros casos, há dificuldade em reconhecer dialetos ou sotaques e tudo isso tira a proteção e o direito das pessoas de falarem da sua maneira natural", disse a especialista.

O reconhecimento facial é motivo de discussão acirrada em vários lugares do mundo. Segundo a especialista, há um protesto muito grande em cidades americanas quando esse assunto entra em debates sobre segurança, política e justiça penal. Em cidades como Los Angeles e São Francisco, já foi proposta a proibição do uso dessa tecnologia enquanto não se chegar a um consenso de normas para a sua aplicabilidade no dia-a-dia dos seus cidadãos.

"Muitas empresas pararam de vender o equipamento de reconhecimento facial para a área penal porque não há o conhecimento de que essa tecnologia  será usada de forma justa. E isso tudo afeta profundamente as pessoas", disse. Susan Etlinger afirma ainda que a recepção a todo tipo de IA  varia bastante de acordo com a cultura em que ela é implementada.  Na Bahia, a tecnologia já é realidade: desde dezembro de 2018, a Secretaria de Segurança Pública  (SSP-BA) tem o seu próprio sistema de reconhecimento facial para identificar criminosos foragidos. Desde então, 199 pessoas foram localizadas, a última delas na última segunda-feira (7), quando um homem com mandado de roubos foi encontrado em Salvador.

 Tensões  Durante a palestra, Etlinger reforçou a necessidade de nunca se pensar tecnologias de formas separadas da sociedade, e que existem desafios e tensões em relação à transparência do funcionamento dos algoritmos que comandam as diversas Inteligências Artificiais que precisam ser discutidas e são motivos de tensão dentro de comunidades empresariais e acadêmicas.

Um dos grandes pontos é a questão da transparência. Algoritmos e tecnologias normalmente são propriedades de empresas privadas, que não precisam ser submetidas a inspeções ou liberar os códigos de programação que trabalham nas inteligências artiificiais e demais produtos. Mas, na visão da especialista, é necessário criar normas e leis que tornem possível compreender o funcionamento dessas tecnologias já que têm impacto direto na vida cotidiana e privada de pessoas ao redor do mundo.

"É muito importante entender não apenas aquilo que é factual, verdadeiro, mas também como os algoritmos tomam decisões. Quando pensamos na maneira que a tecnologia funciona não é muito fácil entender o raciocínio de um algortimo na hora de decidir que uma pessoa vai receber o empréstimo e outra não. Pode ser muito complexo. Assim os pesquisadores trabalham para que eles sejam interpretados mais fácil, e se alguém for detido por um crime, seja entendido facilmente as razões para aquela detenção", afirmou.  

Romper padrão é forma de melhorar  as IAs

Problemas no reconhecimento, confusões na interpretação de sotaques e dificuldade em ‘compreender’ quem não está nos chamados setores privilegiados. Susan Etlinger aponta que tudo isso já é realidade quando o assunto são as tecnologias de inteligências artificiais e aponta que são problemas muito difíceis de se corrigir, já que cada ser humano tem suas especificidades e, no final das contas, programas e algoritmos trabalham com padrões.

A especialista afirma que solucionar esse problema é muito complicado e certamente exige mais de uma solução, mas um dos caminhos que apontou como mais viável é o investimento em diversidade nos perfis de quem faz o trabalho de programação e criação desses softwares de inteligências artificiais. "Precisamos cada vez mais formar profissionais que são negros, mulheres, LBGTQIA+ porque essas pessoas estão mais atentas a uma série de problemas que homens brancos podem não se atentar", diz antes de completar que muitas das vezes esse tipo de situação não ocorre por maldade, mas por um distanciamento de realidade que atravessa a vida de cada pessoa.

destaques da palestra de Susan Etlinger 

IA's  (Inteligências Artificiais)  são tecnologias que podem agir de forma autônoma e isso quer dizer que às vezes age sem necessidade de intervenção humana

Culturas   e sociedades diferentes, terão  IA's diferentes. Uma  IA brasileira certamente será diferente de uma chinesa ou de uma estadunidense

Ainda    há uma dificuldade muito grande de IA's reconhecerem diversidades de sotaques e cor de pele

Brasileiras   que falam de diversidade na tecnologia: Nina da Hora e Andreza Rocha

As tecnologias  evoluem mais rápido do que suas regulamentações. Mas é necessário pensar em códigos de ética para elas.

O Fórum Agenda Bahia 2020 é uma realização do CORREIO, com patrocínio do Hapvida, parceria  do Sebrae, apoio da Braskem, Claro, Sistema FIEB, SINDIMIBA, BATTRE e Consulado Geral dos Estados Unidos no Rio de Janeiro e apoio institucional da Rede Bahia e GFM 90,1

Reveja a íntegra do evento: https://youtu.be/aeHdrqYPLYo