Publicado em
11/12/2023
Em entrevista à Revista Casa Comum, Letícia Cesarino, antropóloga e atual assessora especial de Educação e Cultura em Direitos Humanos do Ministério dos Direitos Humanos e da Cidadania (MDHC), fala sobre os impactos das novas tecnologias na perpetuação de violências racistas.
Por Isadora Morena
Foto: Oladimeji Ajegbile/ Pexels
Ao compreender o racismo como um fenômeno estrutural, a partir da teoria defendida por Silvio Almeida, advogado, filósofo, professor universitário e atual ministro dos Direitos Humanos e da Cidadania do Brasil, podemos afirmar que trata-se de um elemento que integra toda a sociedade, moldando sua organização cultural, social, política e econômica e criando um cenário para a constante reprodução das desigualdades e das violências a partir do fator étnico-racial.
Segundo o ministro, o racismo não seria uma patologia, anormalidade ou um desvio de conduta, uma ação individualizada. Ele está no cerne da sociedade, de maneira naturalizada, e se manifesta de formas conscientes e inconscientes em todos os âmbitos.
É nesse contexto que tem se consolidado, entre diversos pesquisadores, o conceito de racismo algorítmico: a expressão do racismo a partir das novas tecnologias associadas à computação, às inteligências artificiais, ao processamento de dados e ao aprendizado de máquinas.
A vida na sociedade contemporânea é permeada pelo uso de novas tecnologias da informação e da comunicação que funcionam a partir da programação computacional e algoritmos, que, em linhas gerais, podem ser definidos como diretrizes de funcionamento preestabelecidas. É a partir de algoritmos que a humanidade interage socialmente nas redes, por exemplo, compartilhando e consumindo conteúdos em diversos formatos.
Se as tecnologias são feitas por pessoas e, principalmente, por grandes empresas mundiais que imprimem em seus produtos seus interesses e valores, é fundamental considerar que a internet, os programas e aplicativos usados diariamente por bilhões de pessoas não são imparciais e podem produzir uma série de violações aos direitos humanos.
No caso do racismo algorítmico, fala-se sobre tecnologias feitas sob princípios racistas, que podem trazer sérios danos pessoais e coletivos. Desde casos como evidenciar conteúdos de pessoas brancas nas redes sociais em detrimento de pessoas pertencentes a outros grupos étnico-raciais, ou disponibilizar apenas fotos de pessoas brancas em buscas em bancos de imagens, até situações em que ferramentas automatizadas de reconhecimento facial podem incriminar pessoas inocentes, uma vez que o programa é baseado em imagens de pessoas brancas, não diferenciando bem pessoas com outros fenótipos, como pessoas negras.
Para compreender o que a questão envolve e os desafios que coloca à sociedade, a Revista Casa Comum conversou com Letícia Cesarino, assessora especial de Educação e Cultura em Direitos Humanos do Ministério dos Direitos Humanos e da Cidadania (MDHC). Antes de assumir o cargo, Letícia era professora do Departamento de Antropologia da Universidade Federal de Santa Catarina (UFSC) e pesquisadora no campo da antropologia digital, tendo realizado publicações sobre cibernética e teorias de sistemas, plataformização, neoliberalismo e desinformação. Confira a seguir.
Revista Casa Comum: Letícia, como podemos definir racismo algorítmico e qual sua intersecção com a pauta dos Direitos Humanos?
Letícia Cesarino: O termo racismo algorítmico se refere à presença de vieses de preconceito racial no tratamento que os algoritmos fazem dos dados dos usuários de plataformas e da população em geral. Isso reflete no campo dos direitos humanos tanto no que diz respeito à desumanização de grupos racialmente codificados – algoritmos que associam pessoas negras a macacos, por exemplo -, quanto a vieses raciais em decisões concretas.
Foi identificado nos Estados Unidos, por exemplo, uma tendência de certos algoritmos usados no judiciário a definirem penas ou sentenças mais rigorosas para pessoas negras, seja diretamente, ou a partir de dados proxy*, como local de moradia, ou o modo como ferramentas de identificação facial sobre-identificam pessoas negras como possíveis criminosos.
[*Nota: dados proxy: dados que fornecem uma informação de forma indireta.]
Revista Casa Comum: Você poderia exemplificar outras situações de racismo algorítmico?
Letícia Cesarino: Além das já mencionadas, um universo clássico onde problemas desse tipo aparecem é na produção de imagens de inteligência artificial com conotações positivas mostrando pessoas brancas. Isso ocorre pois os dados que treinam os algoritmos já têm esse viés. Há um um peso proporcionalmente maior de fotos de celebridades consideradas bonitas, em sua maioria brancas, por exemplo. Ou, como mostrado no filme Coded Bias, casos mais extremos, como a incapacidade de certos algoritmos de reconhecer a própria existência de rostos negros, pois não foram treinados com esses dados.
Revista Casa Comum: Quais medidas podem ser tomadas para combater essa manifestação do racismo?
Letícia Cesarino: Por um lado, é preciso que a indústria tecnológica tenha atenção a esses vieses quando estiverem treinando ou desenvolvendo seus produtos. Para isso, é essencial aumentar a diversidade dentro da população de trabalhadores e gestores desse setor, historicamente dominado por homens brancos. Mas também é importante que, uma vez lançadas na sociedade, essas ferramentas sejam monitoradas de modo permanente, pois mesmo tendo uma programação fixa, seu aprendizado é dinâmico, e mudam a partir da interação constante com os dados que as alimentam.
Revista Casa Comum: Qual é a importância de promover a conscientização sobre essa temática?
Letícia Cesarino: A meu ver, o ponto principal é desmistificar a tecnologia, ensinar às pessoas que as ferramentas da indústria tech – do smartphone aos aplicativos – não são neutras. Que, além do viés racial, há muitos outros vieses – por exemplo, de segmentação de públicos, de viralização, de temporalidades excessivamente aceleradas – embutidos nos algoritmos pela indústria que podem ser prejudiciais à saúde mental dos usuários, mas, também, como mostrei no meu livro publicado no ano passado, O Mundo do Avesso, Editora UBU, à saúde da própria democracia e da esfera pública que a sustenta.
Revista Casa Comum: Como a educação para as mídias, para as tecnologias e também para os direitos humanos pode colaborar para endereçar essa questão?
Letícia Cesarino: Uma das principais formas diz respeito ao que algumas pessoas chamam de desalienação técnica, ou seja, como as metodologias de educação midiática podem ensinar os usuários a abrir as ‘caixas pretas’ da tecnologia para: entender minimamente como essas ferramentas são programadas, com que tipo de dados elas trabalham, como os algoritmos “veem” os usuários humanos com os quais estão em constante interação, e quais são os efeitos gerais da nossa dependência cada vez maior dessas máquinas que tomam decisões em nosso nome, quase sempre de forma oculta e sem nenhuma accountability*. Idealmente, uma educação midiática libertadora também traria à consciência dos usuários maior clareza sobre como funciona a economia política da própria indústria tech, fonte última de muitos dos vieses danosos embutidos nos algoritmos.
[*Nota: accountability: responsabilização, prestação de contas.]
Revista Casa Comum: Como a sociedade civil organizada pode contribuir com esse debate?
Letícia Cesarino: O principal papel da sociedade civil, a meu ver, é cobrar uma melhor regulação da indústria por parte dos governos. O lobby da indústria tech é descomunal e não tem praticamente nenhum contraponto – apenas Estados têm envergadura suficiente para impor algum tipo de controle e accountability pública. Mas, para isso, é necessário que os nossos representantes sejam constantemente pressionados.
Revista Casa Comum: E o que o Ministério dos Direitos Humanos e da Cidadania tem construído acerca desse tema?
Letícia Cesarino: Além de articulações e colaborações interministeriais com pesquisadores e organizações da sociedade civil que já estão em andamento, o planejamento estratégico para 2024 prevê como prioridade a construção de um plano de cidadania digital que estabeleça premissas e diretrizes para a garantia de direitos fundamentais dos cidadãos no ambiente online, mas também no que diz respeito aos efeitos deste último sobre as realidades offline.
A questão do racismo algorítmico sem dúvida fará parte importante desse esforço mais amplo, que pretende proteger o interesse de todos e todas os(as) cidadãos(ãs) brasileiros(as) diante dos efeitos nocivos da digitalização crescente da vida e do mau uso da tecnologia por certos atores.
Fique por dentro
A Revista Casa Comum separou algumas indicações de obras citadas durante a conversa com Letícia Cesarinos e outras recomendações. Confira a seguir:
Filme Coded Bies: Documentário investiga o viés nos algoritmos depois que Joy Buolamwini, pesquisadora do Massachusetts Institute of Technology (MIT), universidade dos Estados Unidos, descobriu falhas na tecnologia de reconhecimento facial.
Livro O Mundo do Avesso – verdade e política na Era Digital: “Tal enunciado é fato ou ficção, original ou cópia? Quem é agente e quem é paciente, ação e reação? Tal comportamento é espontâneo ou manipulado, público ou privado? A intenção dessa pessoa é autêntica ou espúria? Em quem posso confiar?” Em um mundo onde a internet se tornou massivamente disseminada, tornando-se a principal arena de comunicação política em diversos países, essas perguntas que fazemos no dia a dia são indícios da ascensão de processos como populismo, pós-verdade, negacionismo e conspiracionismos. A antropóloga Letícia Cesarino oferece nesta publicação uma perspectiva inovadora para ler esses fenômenos, comumente explicados por causas políticas, econômicas ou conjunturais.
Livro Racismo Estrutural: Nos anos 1970, Kwame Turu e Charles Hamilton, no livro “Black Power”, apresentaram, pela primeira vez, o conceito de racismo institucional: muito mais do que a ação de indivíduos com motivações pessoais, o racismo está infiltrado nas instituições e na cultura, gerando condições deficitárias a priori para boa parte da população. É a partir desse conceito que o autor Silvio Almeida apresenta dados estatísticos e discute como o racismo está na estrutura social, política e econômica da sociedade brasileira.
Livro Racismo algorítmico – inteligência artificial e discriminação nas redes digitais: Neste título da coleção Democracia Digital, Tarcízio Silva, pesquisador e mestre em Comunicação, busca observar a incorporação de hierarquias raciais nas tecnologias digitais de comunicação e informação. O racismo algorítmico se tornou um conceito relevante para entender como a implementação acelerada de tecnologias digitais emergentes, que priorizam ideais de lucro e de escala, impactam negativamente minorias raciais em torno do mundo. Quando algoritmos recebem o poder de decidir – a partir dos critérios de seus criadores – o que é risco, o que é belo, o que é tóxico ou o que é mérito, os potenciais discriminatórios se multiplicam. O autor investiga de forma interdisciplinar o fenômeno do racismo algorítmico em tecnologias como mídias sociais, buscadores, visão computacional e reconhecimento facial.
Um território, múltiplas histórias: paulista se muda para Rondônia e encontra famílias tradicionais negras de Barbados; acreana atua com ‘ afrobetização’; e paraense luta por regularização fundiária de quilombos.
Publicado em
20/11/2023
Nestes Dia Nacional de Tereza de Benguela e da Mulher Negra e Dia Internacional da Mulher Negra Latino Americana e Caribenha, aproveitamos para refletir sobre a importância de “decolonizar” a educação por meio de práticas que visem a equidade étnico-racial e de gênero. Por Deborah Monteiro
Publicado em
25/07/2023
Lia Vainer Schucman explica que o racismo produz uma perspectiva de que a vida de algumas pessoas vale mais que de outras. Por Dayse Porto
Publicado em
15/06/2023
