Os diálogos entorno do conceito de racismo algorítmico e os impactos da discriminação racial na tecnologia foram o eixo central do webinar “As questões étnico-raciais no cenário da cultura digital", ocorrido na manhã da última terça-feira (26), como parte da programação do Projeto ESA Verão 2021. A palestra, promovida pela Escola Superior de Advocacia da OAB/RS (ESA/RS) em parceria com o Grupo de Estudos Antirracismo da Escola, contou com a presença de professores e pesquisadores da área que discorreram, dentre outros tópicos, sobre a regulação do uso da Inteligência Artificial (IA) e a ética necessária para a luta antirracista.

A diretora de cursos permanentes da ESA/RS, Fernanda Osório, deu inicio às falas de abertura, destacando a satisfação da Escola por abrir espaços de diálogo de interesse social: “Para a ESA é um grande orgulho que o Projeto ESA Verão possa contar com a discussão de um tema de extrema relevância para a advocacia e a sociedade civil. Ficamos felizes em abrir as portas para trazer um assunto tão importante. Sabemos que para a promoção de uma sociedade igualitária, que supere os obstáculos que fazem um Brasil desigual, o papel da educação se revela de extrema importância.”

Em seguida, a presidente da Comissão Especial da Igualdade Racial da OAB/RS (CEIR), Karla Neura, proferiu a sua fala em agradecimento ao trabalho que vem sendo desenvolvido dentro da Ordem gaúcha, no que diz respeito ao combate dos problemas raciais: “Sabemos que estamos dando continuidade ao trabalho e ao empenho de tantos advogados e de tantas advogadas, negros e negras, que não tiveram a mesma oportunidade que nós. Agradeço a toda a ancestralidade que nos permitiu chegar aqui com saúde, força e com proteção para realizar esse trabalho, que não é para nós somente, mas que vai reverberar em nossa coletividade, gerar impacto e colaborar com as mudanças na nossa sociedade”, ressaltou.


Racismo na atmosfera digital

A discriminação algorítmica é um conceito que corresponde às atitudes discriminatórias ou exclusórias de algoritmos em relação a seres humanos. Essas atitudes podem ser desde um simples erro de detecção facial até a condenação de um indivíduo por algoritmos jurídicos baseados em suas características raciais.

Patrícia Oliveira, Advogada Dativa do 3º JEC do Foro Central de Porto Alegre, coordenadora do Grupo de Trabalho e Pesquisa Antirracismo da Comissão Especial da Igualdade Racial (CEIR) da OAB/RS e moderadora do Grupo de Estudos Antirracismo da ESA/RS iniciou a palestra, explicando que o tema escolhido adveio da vontade de levar à reflexão tópicos raciais presentes na era tecnológica: “A tecnologia é condicionada por valores e controlada pelo ser humano, levando em consideração que elas evoluem ao longo do tempo a partir das redes de relações e de poder. O racismo e as relações raciais sofrem a influência da supremacia branca que desenvolveu os caminhos das tecnologias hegemônicas”, pontuou.

Durante a sua fala, apresentou como exemplo o caso histórico e o debate ético entorno do desenvolvimento das células HeLa, a primeira linhagem celular imortal cultivada com sucesso em laboratório. Apesar de serem amplamente utilizadas, a coleta da amostra inicial dessas células foi realizada sem o consentimento da paciente, a negra e norte-americana Henrietta Lacks, durante o seu tratamento para um câncer de colo de útero, nos anos de 1950. “Eu trago esse exemplo para demonstrar que a tecnologia já havia sendo manipulada pelo homem dentro da biomedicina. A questão a debater é o cuidado, o respeito, e este caso traz a reflexão de um caso marcado por uma situação de gênero, de vulnerabilidade e a importância da ética na pesquisa e no emprego das tecnologias”, disse.


Caminhos possíveis

Em sua maioria, os algorítmicos discriminatórios se encontram na área da IA e no aprendizado de máquina, nos quais as decisões têm que ser tomadas baseadas em bancos de dados de entrada, técnicas de aprendizado e tomada de decisões. Tendo isso em vista, Patrícia explicou que se o banco de entradas for inadequado em relação à pluralidade, diversidade e igualdade ou a função de decisão for baseada em conceitos não étnicos, o algoritmo pode vir a ter um comportamento discriminatório. “Quando uma máquina é treinada para ter uma IA ela necessita passar por um processo de aprendizagem para que tome as decisões que o seu criador julgue corretas. Tanto o seu treinamento quanto a sua implementação podem possuir um viés discriminatório, ocasionados por falhas no software ou propositalmente serem criados por motivos preconceituosos e antiéticos.”

Wilson Engellmann, coordenador executivo do Mestrado Profissional em Direito da Empresa e dos Negócios, na Unisinos, e um dos convidados do evento, apresentou conceitos de alguns autores das áreas da comunicação e da tecnologia e abordou o papel de cada pessoa, integrantes da sociedade em rede: “A velocidade das informações por si só gera uma responsabilidade nossa como partes integrantes desse mundo conectado em rede. Em uma atmosfera em que tudo é possível, essa responsabilidade é algo que precisa imperar.”

Outro ponto da fala de Engellmann foi sobre como regulamentar a IA dentro das diretrizes constitucionais sem desviar o olhar das questões raciais e da política antirracista. O professor também trouxe a seguinte indagação: “Você preferia ser julgado por um juiz humano ou por um juiz artificial?” A resposta para essa pergunta passa, inclusive, pela qualificação dos operadores do Direito nesta temática. “Há uma série de expressões que vão surgindo no nosso dia a dia e que para nós, do Direito, podem soar um tanto estranhas. Mas são conceitos que nós precisarem explorar, pois, muitas vezes, em nome e por meio dessa tecnologia, a discriminação é praticada”, disse.

Acesse o canal da ESA/RS no YouTube e confira a íntegra do webinar.