Edições Sesc lançam Racismo algorítmico: inteligência artificial e discriminação nas redes digitais

Obra discute o preconceito por trás de reconhecimento facial, filtros para selfies, moderação de conteúdo, chatbots, policiamento preditivo e outras aplicações que usam sistemas de inteligência artificial na atualidade

“O que acontece quando as máquinas e programas apresentam resultados discriminatórios? Seriam os algoritmos racistas? Ou trata-se apenas de erros inevitáveis? De quem é a responsabilidade entre humanos e máquinas? E o que podemos fazer para combater os impactos tóxicos e racistas de tecnologias que automatizam o preconceito?”. Essas são algumas questões levantadas pelo pesquisador Tarcízio Silva no livro Racismo algorítmico: inteligência artificial e discriminação nas redes digitais, com lançamento marcado para dia 10 de abril, quarta-feira, a partir de 20h, no Sesc Ipiranga. A obra foi lançada em formato digital e agora em sua versão impressa, acrescida de um posfácio do autor.

Quando algoritmos recebem o poder de decidir – a partir dos critérios de seus criadores – o que é belo, o que é tóxico ou o que é mérito, os potenciais discriminatórios se multiplicam. A obra de Silva lança luz sobre a incorporação de hierarquias raciais nas tecnologias digitais, apoiada em autores de referência e exemplos práticos, como Hasan Chowdhury, Laura Guimarães Corrêa, Lisa Nakamura, Luiz Valério Trindade, Raquel Recuero e Timnit Gebru.

Discursos racistas na web e nas mídias sociais

Ao longo das 268 páginas, o pesquisador busca observar o racismo algorítmico, que se tornou um conceito relevante para entender como a implementação acelerada de tecnologias digitais emergentes, que priorizam ideais de lucro e de escala, impactam negativamente minorias raciais em torno do mundo.

Em seis capítulos, Silva investiga de forma interdisciplinar o fenômeno do racismo algorítmico em tecnologias como mídias sociais, buscadores, visão computacional e reconhecimento facial. O livro gera debates acerca de diversos temas importantes como as concepções da inteligência artificial, robôs racistas, vigilância, hipervigilância e necropolítica. No posfácio, o autor atualiza para esta edição impressa o contexto de transformações que vem marcando o uso de inteligência artificial.

Segundo Silva, a obra busca colaborar com o crescente corpo de investigações intelectuais sobre como o colonialismo e a supremacia branca moldaram os últimos séculos – inclusive na definição dos limites imaginativos e produtivos do fazer tecnológico.

“Revisamos noções sobre o racismo online, em especial suas facetas particularmente presentes no Brasil. Indo além da noção do racismo online como materialização explícita de discurso de ódio em texto e imagens, percorremos modalidades que abarcam também desinformação, gestão das plataformas de mídias sociais e moderação e apresentamos a ideia de ‘microagressões algorítmicas’, diz o professor.

Circulando entre hipervisibilidade e invisibilidade de grupos racializados, o livro também traz para o debate as tecnologias de visão computacional. “Entre imagens e vídeos, os erros explícitos da inteligência artificial e algoritmos que só conseguem ‘ver’ pessoas e objetos através das lentes da branquitude nos dizem e mostram muito sobre a algoritmização das representações historicamente racistas nas culturas ocidentais”, explica.

O livro faz parte da coleção Democracia Digital, organizada pelo sociólogo e pesquisador do campo da cultura digital Sergio Amadeu da Silveira e lançada no formato ebook pelas Edições Sesc. A coleção reúne livros em que especialistas abordam diferentes perspectivas do tema, como propriedade intelectual, cultura hacker e o uso de algoritmos. São eles: A democracia no mundo digital: história, problemas e temas, de Wilson Gomes; Para além das máquinas de adorável graça: cultura hacker, cibernética e democracia, de Rafael Evangelista; O comum entre nós: da cultura digital à democracia do século XXI, de Rodrigo Savazoni; Acesso negado: propriedade intelectual e democracia na era digital, de Maria Caramez Carlotto; Trabalho por plataformas digitais: do aprofundamento da precarização à busca por alternativas democráticas, de Rafael Grohmann e Julice Salvagni; e Democracia e os códigos invisíveis: como os algoritmos estão modulando comportamentos e escolhas políticas, do próprio Amadeu da Silveira.

No prefácio para Racismo algorítmico, Amadeu da Silveira relata que a inteligência artificial pode alimentar sistemas que reproduzem o preconceito e executam a discriminação. “Fica evidente que raça, gênero e classe não desapareceram dos embates nas redes digitais e no emaranhado das tecnologias de informação. […] O que Tarcízio Silva nos mostra é que a população negra e os segmentos pauperizados e fragilizados da sociedade são muito mais afetados pelas operações discriminatórias dos sistemas algorítmicos que atuam nesse contexto”, afirma.

“Leitura imprescindível para desconstruir a ilusão de que o racismo está longe dos sistemas automatizados, operados pelos softwares, longe de algoritmos e suas estruturas de dados; mas, principalmente, ela indica a possibilidade de se construir um outro caminho.”

Sergio Amadeu da Silveira

Sobre o autor

Tarcízio Silva é mestre em Comunicação e Cultura Contemporâneas pela Universidade Federal da Bahia (UFBA) e doutorando em Ciências Humanas e Sociais na Universidade Federal do ABC, onde estuda regulação de inteligência artificial e racismo algorítmico. Atualmente é Tech Policy Senior Fellow (2023-2025) na Fundação Mozilla. Entre as publicações que organizou estão Griots e tecnologias digitais (LiteraRUA, 2023), Comunidades, algoritmos e ativismos digitais: olhares afrodiaspóricos (LiteraRUA, 2020) e Estudando cultura e comunicação com mídias sociais (Editora IBPAD, 2018).

Ficha Técnica:

Título: Racismo algorítmico: inteligência artificial e discriminação nas redes digitais

Autor: Tarcízio Silva

Edições Sesc São Paulo, 2023

Preço sugerido de venda: R$ 40,00

Número de páginas: 268

ISBN: 978-85-9493-277-8

Serviço

Lançamento Racismo algorítmico: inteligência artificial e discriminação nas redes digitais 

Dia 10 de abril, quarta-feira, a partir de 20h

Bate-papo com o autor Tarcízio Silva, Douglas Calixto e mediação de Adriana Couto. Seguido de sessão de autógrafos. 

Sesc Ipiranga

R. Bom Pastor, 822 – Ipiranga, São Paulo – SP

www.sescsp.org.br/unidades/ipiranga/

(11) 3340-2000