Que o racismo estrutural existe, infelizmente, não é uma novidade, mas segue a dúvida em relação ao racismo associado à inteligência artificial. Mesmo depois de inúmeras mobilizações e transformações, o racismo segue sendo o mal que nos assola.

Estamos vivenciando a Indústria 4.0, a tecnologia está presente em todos os ambientes, seja profissional ou pessoal, nos bancos com os leitores biométricos, sistemas de reconhecimento facial, carros com tecnologia extremamente avançada, que andam e estacionam sozinhos. Até as atividades mais simples foram impactadas pelo poder da internet, como por exemplo, a forma de fazer compras nos supermercados. Hoje, tudo pode ser feito por celular, bastando somente um click.

Diante de tantos benefícios trazidos por essa revolução tecnológica, pode parecer difícil encontrar as complicações que ela carrega. Contudo, ao passo em que a inteligência artificial vem ganhando espaço, ela vem carregada de um viés discriminatório. Isso pode se dar pelo compartilhamento em massa dos nossos dados, muitas vezes disponibilizados por nós mesmos, outras vezes tornados públicos se dá através dos grandes vazamentos, como já ocorreu com o Banco Central, Banco do Brasil, LinkedIn e tantas outras empresas.

Além dessa questão da exposição dos dados sensíveis, o algoritmo por si só seria isento de preconceitos, mas para que ele seja materializado é necessário um criador e na maior parte das vezes, ele é um homem branco.

No mercado da tecnologia, em 32,7% das empresas do setor, não há nenhum negro, sendo que somente 10% do quadro das empresas restantes, é formado por pessoas negras (conforme pesquisa feita pela PretaLab em conjunto com a ThoughtWorks). É fácil entender a razão pela qual essas mudanças tecnológicas vêm disseminando ainda mais preconceitos.

O reconhecimento facial é formado pela Inteligência Artificial e os algoritmos criados para identificar padrões faciais. Como a maior parte dos atuantes no mercado da tecnologia são brancos, essa tecnologia tende a reconhecer com maior precisão esse padrão, mas falha constantemente com padrões diversos, trazendo ainda mais vulnerabilidades aos negros.

O reconhecimento facial vem sendo utilizado nas políticas públicas como forma de contribuir para a segurança. Acontece que, essa prática tecnológica pode servir como fomento para o encarceramento em massa e arbitrário, além da violação a direitos fundamentais.

Segundo a Rede de Observatório da Segurança, 90,5% das prisões feitas através do reconhecimento facial foram de pessoas negras, alguns que nunca tiveram passagem pela polícia e não sabiam como passaram a integrar o banco de dados de criminosos. Diante do caso em tela, é evidente a discriminação. Os outros 9,5% são ocupados por pessoas brancas, desta forma, como o mundo em que vivemos, com pessoas carregadas de ideologias, a internet não é imparcial, seja consciente ou inconscientemente o algoritmo vem dispersando o racismo.

Um caso recente, foi do autor Michael B. Jordan: o reconhecimento fotográfico o identificou como suspeito em uma chacina ocorrida no Ceará. Ele passou a integrar o banco de dados da Polícia Civil como suspeito da referida tragédia, o que devemos concordar, é um grande absurdo.

Nos tribunais dos Estados Unidos passou-se a utilizar o sistema Compas (Correctional Offender Management Profiling for Alternative Sanctions) para dosimetria da pena, da mesma forma que o reconhecimento facial é utilizado através do algoritmo que busca por padrões. Nesse sistema, as pessoas preenchem um formulário com perguntas pessoais, e o sistema analisa o nível de reincidência da pessoa. Ele foi criado como forma de beneficiar o judiciário, otimizando o tempo. Contudo, com o decorrer do uso, falhas foram notadas. Mesmo que as respostas entre brancos e negros fossem similares, estes têm 45% de probabilidade de serem considerados reincidentes, a pesquisa foi feita pelos jornalistas da ProPublica dos Estados Unidos.

A atuação contrária ao devido fim do Compas se torna inteligível com o seguinte caso: uma jovem negra de 18 anos roubou uma moto e uma bicicleta de valor pequeno e cometeu infrações quando era menor de idade. Outro caso: um homem branco de 41 anos roubou diversas ferramentas em uma loja e possui condenação por diversos outros crimes, inclusive assalto a mão armada. A garota diante do mecanismo de análise foi considerada perigosa em alto nível, enquanto o homem de 41 anos, branco, com diversas acusações e cumprimento de pena, foi considerado um perigoso de baixo nível.

Passou a ser discutido no Senado o fim da utilização do reconhecimento facial na segurança pública, isso diante da fragilidade que ele traz e a ausência de exatidão no seu sistema. Afora a nossa Lei Geral de Proteção de Dados, os juristas buscam a implementação de uma nova Lei que venha regular a Inteligência Artificial, o que se faz indispensável diante de tantos fatos causados pela discriminação algorítmica.

Existem diversos problemas que devem ser enfrentados nessa tecnologia. O reconhecimento facial apresenta constantes falhas, no Twitter por exemplo, a foto de pessoas brancas é enquadrada de forma clara e mantida em evidência, enquanto os negros ficam fora do enquadramento e sem destaque. Esse é o caso do Barack Obama, ex-presidente dos Estados Unidos, e Mitch McConnell, líder da minoria no Congresso, que, por ser branco teve a sua foto privilegiada em detrimento à de Obama. Em sistemas que colocam planos de fundo nos computadores, o famoso Zoom, ocorreu o caso de um professor negro que ao utilizar tal efeito teve o seu rosto omitido ficando apenas o seu corpo na tela, o que não acontece com pessoas brancas.

Destarte, ao final será destacada a frase de Joy Buolamwini, cientista da computação, que sofreu a discriminação algorítmica. Ela participou de uma feira de tecnologia com os seus amigos, na qual tinham máquinas que realizavam o reconhecimento facial. A máquina reconheceu os rostos dos seus amigos brancos e o dela não. Sendo negra, colocou uma máscara branca e aí então foi reconhecida.

Por conseguinte, diante de breves exemplos e considerações acerca da Inteligência Artificial e o algoritmo que busca se desenvolver com análise de padrões, ficam demonstradas as inumeráveis falhas do reconhecimento facial, em específico quando se trata da pessoa negra. A luta contra o racismo estrutural infelizmente ganhou um bônus, além de ser um confronto diário de casos que ocorrem de maneira presencial, ela se tornou virtual, contra sistemas formados com base em estereótipos que não atuam com a inclusão do negro em especial.

Essa batalha com a tecnologia se torna árdua a partir do momento em que a visibilidade do branco é muito maior, como demonstrado, são a maioria no mercado da tecnologia e nas universidades direcionadas a essas áreas. É necessária a ampliação dos movimentos existentes, que trabalham com a inclusão dos negros no mercado da tecnologia e das mulheres. O nosso futuro é digital, tornando assim imprescindível que as crianças desde o início dos seus estudos tenham acesso ao aprendizado e desenvolvimento.

Fatos descritos que são capazes de produzir em nós diversos sentimentos, tristeza, raiva, angústias, desânimo e tantos outros, mas a guerra contra a base em que o nosso país foi criado, cuja qual sempre deixou os negros em segundo plano, terá de aceitar a atuação da população negra. Devemos pensar que antes que continue a ganhar força a revolução das máquinas e da inteligência artificial, nós devemos passar pela revolução da inclusão, tornando o mundo mais igualitário na medida das condições de cada indivíduo.

“Criação de um mundo onde a tecnologia trabalhe em favor de todos, não apenas em favor de alguns, um mundo onde valorizemos a inclusão e tenhamos como foco a mudança social”, Joy Buolamwini.

 

*Ana Carolina Mendes Fialho é Graduanda pela Faculdade de Direito de São Bernardo do Campo – FDSBC e integrante do escritório Zilveti Advogados. O texto foi supervisionado pela advogada Marcela Cavallo, advogada coordenadora de contencioso civil do Zilveti Advogados.