NOTÍCIAS >

Em Pauta

Publicado em

20/06/2024

Direitos humanos devem estar no centro do debate quando o assunto é novas tecnologias

Daniele Próspero, editora da Revista Casa Comum, esteve presente no Encontro Internacional de Educação Midiática, onde especialistas apontaram os desafios diante do avanço da desinformação e a importância da responsabilidade compartilhada para encontrar novos caminhos.

Getting your Trinity Audio player ready...

“As desigualdades são bem anteriores à inteligência artificial [IA]. Uma discussão de acesso que não é levada em conta é o fato de milhões de pessoas não terem nem um CEP, que é o que dá acesso à água, à energia elétrica, à conectividade etc. É importante lembrar que não importa quão avançada seja a tecnologia, o progresso não vai se medir por seu avanço, mas sim como ela melhora a dignidade e como dá acesso aos direitos humanos, à equidade e à liberdade”.

Isso é o que Giselle Santos, fundadora e gestora de inovação do Human:IA e embaixadora do Women Techmarkers, enfatizou em sua fala durante o Encontro Internacional de Educação Midiática. Realizado no final de maio, no Rio de Janeiro, o evento teve como tema “Direitos humanos, meio ambiente e democracia na era da inteligência artificial”. De acordo com a especialista, o debate atual precisa se expandir e todos e todas devem participar dessa discussão tão fundamental sobre os usos e impactos da IA na sociedade, tendo em vista o que de fato significa a IA, que vai muito além do ChatGPT* que muitos estudantes têm utilizado para fazer suas tarefas escolares.

“IA é, sim, ser preso por reconhecimento facial. É sobre isso que temos que conversar, sobre o que significa: ‘Sorria, você está sendo filmado’, destacou a especialista.

Silvana Bahia, empreendedora social, cofundadora e codiretora executiva do Olabi, lembrou que é justamente nesse contexto que o termo ‘racismo algoritmo’, vem sendo disseminado e mais conhecido, tendo em vista as discriminações e preconceitos que estão presentes na tecnologia e o que isso pode causar numa sociedade como a brasileira, que já é estruturalmente desigual há mais de 500 anos.

Como exemplo do que isso significa na prática, Silvana cita aspectos mais pontuais, como o filtro do Instagram, por exemplo, para clarear o rosto e afinar o nariz, um padrão de beleza estabelecido, até a pré-disposição de reconhecimento facial para identificar pessoas negras e colocá-las como criminosas, como havia comentado Giselle.

“Quando vemos o discurso sobre o avanço da tecnologia, parece que descola das questões sociais e de direitos humanos. Isso é pouco discutido. Parece que são dois mundos muito diferentes. Como fazer para o robô não ser racista? Eu acredito que esses preconceitos aparecem porque falta diversidade nas tecnologias”, problematiza. “Apenas 12% dos profissionais que trabalham com inteligência artificial no mundo são do sexo feminino. Se trouxermos outros marcadores sociais, percebemos cada vez menos diversidade nessa participação. Tudo é padrão: homens, cis, brancos, ricos. E qual o impacto disso quando a tecnologia é consumida pelas pessoas? O debate deve ser como construir a IA com foco no bem comum e não permitir que as diversidades sejam apagadas”, pontuou a empreendedora.

Para Giselle, alguns caminhos devem ser traçados nesse sentido e, um ponto principal, é a integração dos direitos humanos no debate, assim como a diversidade e a inclusão. “Não podem ser ‘puxadinhos’, deixar para incluir depois. Se não sentirmos algumas ausências, as máquinas não vão sentir. As máquinas não vão reproduzir”.

Como as novas tecnologias podem fortalecer as desigualdades raciais

Em entrevista à Revista Casa Comum, Letícia Cesarino, antropóloga e atual assessora especial de Educação e Cultura em Direitos Humanos do Ministério dos Direitos Humanos e da Cidadania (MDHC), fala sobre os impactos das novas tecnologias na perpetuação de violências racistas.

Letícia cita uma série de medidas para evitar que a tecnologia em si seja racista, uma vez que tecnologias são desenvolvidas por pessoas e, portanto, mais diversidade nos espaços de produção tecnológica diminui as chances dessas ocorrências.

Leia a entrevista na íntegra AQUI.

Desinformação e a educação midiática como caminho

Outro desafio atual nesse debate, segundo os especialistas, é o cenário de intensa desinformação, o que traz impactos diretos na garantia de acesso à informação de qualidade e, portanto, de acesso aos direitos.

Adeline Hulin, chefe da Unidade de Alfabetização Midiática e Informacional e Competências Digitais na Sede da Unesco Paris, lembrou que o Relatório de Riscos Globais 2024 (acesse o release em português), publicado pelo Fórum Econômico Mundial, destacou a desinformação como o risco global mais grave a ser enfrentado nos próximos dois anos pela comunidade internacional, principalmente neste ano em que mais de 50 países realizarão eleições.

O Brasil viu esse cenário se intensificar nos últimos meses, com uma onda de desinformação a partir da situação de calamidade pública vivida pelo Rio Grande do Sul devido às intensas chuvas na região.

Adeline destacou que, em 2023, a Unesco fez uma pesquisa com a Ipsos em 16 países num período próximo às eleições. O estudo apontou que 85% dos participantes tinham preocupações com o impacto da desinformação e de informações falsas. O motivo para se preocupar é que não existe confiança das pessoas nas informações e que elas não compreendem o que é desinformação ou não.

“Por isso, a alfabetização midiática está se tornando cada vez mais urgente. Precisamos educar nossas crianças e adolescentes para o uso das tecnologias e das redes sociais. Há um impacto muito grande”, alertou a especialista.

O governo federal, inclusive, realizou em 2023 uma consulta pública, que foi sistematizada e ajudou a estabelecer a Estratégia Brasileira de Educação Midiática (clique aqui para acessar o documento). Entre as ações previstas, está a formação de 300 mil profissionais de educação e 400 mil profissionais de saúde em educação midiática, além da criação de um grupo de trabalho (GT) para uso e controle de telas, medida que envolve sete ministérios e 20 organizações da sociedade civil.

Além disso, o Conselho Nacional dos Direitos da Criança e do Adolescente (Conanda) lançou, no dia 5 de abril, a Resolução 245/2024 que “dispõe sobre os direitos das crianças e adolescentes em ambiente digital”. Em breve, será lançada também a Olimpíada Brasileira de Educação Midiática, uma parceria da Secretaria de Políticas Digitais com o Ministério da Ciência e Tecnologia e o Ministério da Educação (MEC), a fim de chegar a 400 mil estudantes.

Ligia Morais, coordenadora geral de Educação em Direitos Humanos e Mídias Digitais, do Ministério dos Direitos Humanos e da Cidadania, pontuou a necessidade de a educação midiática ir além da educação formal, trazendo para o debate experiências de comunicação popular e os influenciadores digitais na perspectiva da educação em direitos humanos.

Entre as experiências compartilhadas de iniciativas de educação midiática, foi apresentada a Agência de Notícias da Rede (Andar), projeto realizado pela MultiRio com a Secretaria Municipal de Educação do Rio de Janeiro. O objetivo é desenvolver uma rede de trocas e colaboração entre estudantes, professores e toda comunidade escolar em torno de projetos de jornalismo estudantil, de diferentes mídias e formatos, desenvolvidos em todas as Coordenadorias Regionais de Educação (CRE), reconhecendo e produzindo iniciativas existentes na Rede Municipal e estimulando novas práticas.

Participação como ponto central

Para os diversos especialistas presentes no Encontro, é urgente pensar em uma responsabilidade compartilhada entre diferentes setores e agentes da sociedade, buscando novos caminhos.

Carlos Affonso Souza, diretor do Instituto Tecnologia e Sociedade (ITS), lembrou que ninguém deve ficar de fora deste debate, tendo em vista que a tecnologia deixou de ser um assunto de nicho, de quem se interessa por isso, tornando-se um tema inescapável, pois ressoa em todos os debates políticos, econômicos, sociais e culturais. Afinal, quando se fala em tecnologia, ela está presente em todas as áreas e, portanto, impacta a todos e todas.

A armadilha, segundo Carlos Affonso, é pensar que os problemas da tecnologia são criados apenas por ela e que, portanto, devem ser solucionados apenas por ela. “A tecnologia acelera, joga luz e foco em determinadas situações. Mas as inquietações que passamos hoje vem de um contexto social e cultural presente há décadas, que reforça padrões de opressão e do discurso de ódio. E isso não foi criado pela tecnologia, mas ela acelerou e potencializou isso. A tecnologia é parte da solução, mas não vai fazer sozinha”.

Nesse sentido, Giselle Santos enfatiza a importância da participação. “É um problema nosso sim e não podemos delegar. Precisamos entender que temos lugar na discussão. Inclusive, sonho muito com o dia em que conversas como essa vão acontecer em praças públicas, na garagem do vizinho, em bares, embaixo da árvore. Todos e todas precisam participar”, acredita a especialista.

——

* O ChatGPT é uma sigla para “generative pre-trained transformer” ou “transformador pré-treinado generativo”, criado pela empresa OpenAI. O chatbot é alimentado por inteligência artificial (IA) e tem capacidade de gerar respostas a partir de uma grande quantidade de dados preexistentes. Funciona como um chat de conversação entre o usuário e a inteligência artificial.

Outros conteúdos:

Racismo algorítmico: novas tecnologias fortalecem desigualdade racial

Em entrevista à Revista Casa Comum, Letícia Cesarino, antropóloga e atual assessora especial de Educação e Cultura em Direitos Humanos do Ministério dos Direitos Humanos e da Cidadania (MDHC), fala sobre os impactos das novas tecnologias na perpetuação de violências racistas.

Publicado em

11/12/2023