Racismo digitalizado: como funciona o preconceito impresso nos algoritmos?

0
38

Nara Lacerda
Brasil de Fato | São Paulo (SP) |
28 de Fevereiro de 2022 às 16:46

O pesquisador em tecnologia, sociedade e comunicação Tarcízio Silva acaba de lançar um livro em que investiga o racismo algorítmico nos mecanismos de inteligência artificial e as consequências do problema para o reforço de preconceitos e discriminações.

Com o título Racismo Algorítmico: Inteligência Artificial e Discriminação nas Redes Digitais, o livro propõe uma reflexão crítica sobre como são organizados sistemas que vão desde aplicativos de reconhecimento facial a filtros de fotos, passando até mesmo por modelos de concessão de crédito.

Segundo o pesquisador, a intenção é entender como as tecnologias digitais podem potencializar práticas racistas. “As plataformas que utilizam essas tecnologias dominam, basicamente, todas as esferas da nossa vida”, pontua.

Ouça a íntegra da entrevista com Tarcízio Silva no tocador de áudio abaixo do título desta matéria. 

:: BdF explica por que o antirracismo é único caminho para desenvolvimento pleno do Brasil ::


Capa do livro Racismo Algorítmico: Inteligência Artificial e Discriminação nas Redes Digitais, de Tarcízio Silva / Divulgação

Os racistas por trás das máquinas

“Não que os algoritmos sejam racistas. A questão não é pensar que um sistema tem sua agência própria ou tem vontade própria. Mas sim o inverso, o algorítimo como qualificador do racismo. As práticas discriminatórios utilizam os algoritmos para intensificar a exploração em várias esferas diferentes.”

O pesquisador alerta para os riscos que essa dinâmica representa. “Pode infringir diversos direitos que envolvem minorias raciais, mas a população como um todo também”, afirma Tarcízio Silva.

Ele demonstra preocupação, por exemplo, com a automatização da moderação e da identificação de discursos de ódio. “Se os sistemas que fazem isso realizam decisões que excluem determinados grupos de uma forma mais intensa, isso é um grande problema para a democracia e para o futuro”. 

Ainda de acordo com o autor, a raiz do problema está na própria sociedade. Segundo ele, “muito do que acontece é fruto de processos históricos. Um exemplo é o apagamento de determinados tipos de conhecimento. A própria ideia de ‘neutralidade da tecnologia’ favorece as grandes empresas que utilizam a tecnologia para ordenar o mundo do jeito que desejam”.

Na publicação, o pesquisador aponta possibilidades de reações possíveis para combater esse cenário. A regulação das empresas de tecnologia por parte dos governos e a participação popular no debate são passos essenciais.  

O livro foi lançado em formato digital nas principais plataformas e apps de leitura e integra a Coleção Democracia Digital, iniciativa da Edições Sesc.

Interaja conosco, deixe seu comentário, crítica ou opinião

Esse site utiliza o Akismet para reduzir spam. Aprenda como seus dados de comentários são processados.