O papel da IA no fomento de discursos racistas e misóginos

Atualmente a inteligência artificial  exerce um papel na maneira como as pessoas entendem o mundo. O desenvolvimento de IA sem regulamentação tende a fortalecer estereótipos. Um estudo do Berkeley Haas Center for Equity, Gender and Leadership fez uma análise de 133 sistemas de IA, e constatou que 44% reproduziam desigualdade de gênero e 26% apresentavam caráter racista.

A falta de regulamentação da IA apenas corrobora com o fortalecimento das desigualdades presentes na sociedade. A estudante de direito da Universidade Federal da Paraíba, Jamille Pereira, relata que a IA propaga preconceitos, com base no seu estudo acerca da discriminação algorítmica dos sistema de inteligência artificial.

“Vimos que a inteligência artificial fornece muitas imagens, muitos textos, muitos comandos que são dados. E esses comandos, muitas vezes, principalmente quando tangem a imagens, reforçam estereótipos. E, principalmente, preconceitos raciais, o que acaba para contribuir com a discriminação.”

O que é produzido pela IA muitas vezes fere leis, e se alimenta de discriminações enraizadas. Mesmo o racismo sendo crime no Brasil, inúmeras imagens preconceituosas são formuladas.

“Essas imagens, que, às vezes, são pedidas em comandos, elas vão ofender e inferiorizam as pessoas em razão de cor ou de raça, elas podem servir, muitas das vezes, como meio para a prática do racismo. E o crime de racismo, ele vai estar previsto lá na lei 7.716 de 89”, acrescenta Jamille.

As chamadas big techs comandam os maiores sistemas de IA e com base no viés ideológico, é disseminado preconceitos, com a ajuda da flexibilização de leis, e das plataformas digitais. A mestranda da Universidade Federal Fluminense, Ana Dindara Rocha, que tem como foco a pesquisa sobre Inteligência Artificial (IA) sob a ótica da interseccionalidade de gênero, política e o racismo nas plataformas, discorre sobre o efeito da flexibilização:

“A longo prazo, a grande flexibilização das plataformas digitais em relação a crimes contra minorias, e especialmente ao racismo, gera um processo profundo de naturalização e escalada da violência, que transborda da tela para o mundo físico. [...] criando um ambiente de impunidade onde o discurso de ódio deixa de ser coibido e passa a ser monetizado, naturalizado e impulsionado pelos algoritmos de engajamento.”

Um ponto extremamente importante trazido por Dindara é que, ao pensar na produção de matérias preconceituosas criadas pela IA, ainda tem a questão que elas vão parar nas plataformas digitais e é difícil impedir, principalmente quando o conteúdo é amplamente disseminado.

“Um exemplo claro disso envolve as políticas e os bastidores de moderação da Meta. Diversas auditorias independentes e investigações jornalísticas já revelaram que os algoritmos de redes como o Facebook e o Instagram priorizam conteúdos que geram forte reação emocional e polarização para reter a atenção do usuário. Na prática, isso significa que discursos de ódio, conteúdos racistas ou ataques contra minorias ganham muito mais alcance orgânico do que publicações moderadas.” complementa Dindara.

Esta percepção é complementada pela estudante Jamille, que retrata as consequências desta flexibilização que apenas facilita a criação de conteúdos preconceituosas e a disseminação sem a devida consequência. 

“O impacto que vem ocasionar para a população é justamente o que a gente está falando, o fortalecimento do racismo e a exclusão social. Então, vai violar, claramente, um direito fundamental e constitucional que muito é debatido, que é a dignidade da pessoa humana, a partir desse momento.” 

A IA se torna presente de modo massivo na sociedade.  De acordo com a pesquisa "Consumo e uso de Inteligência Artificial no Brasil” cerca de 93% das pessoas entrevistadas fazem uso de alguma ferramenta de IA, sendo que 75% delas a consideram parte do cotidiano, ou seja, se tornou algo rotineiro e com grande alcance. A falta de regulamentação favorece a criação e fomentação de conteúdos racistas e misóginos, trazendo riscos à população em que a maioria são pessoas negras e mulheres, que costumam ser as mais afetadas e vítimas de violência.

Além disso, esses conteúdos podem ter impacto grande nos jovens, que ainda não sabem lidar direito com as respostas que a IA elabora, o que pode favorecer ações discriminatórias na sociedade. Assim como relata a bolsista do PIBID, estagiária em escolas de ensino fundamental e estudante de história da UFPB, Esmeralda Ferreira:

“A IA acaba por propagar e fomentar estereótipos de raça e gênero presentes na sociedade. Por se tratar de uma tecnologia muito usada por jovens, acaba por normalizar e incentivar o racismo, misoginia e demais preconceitos.”

A fala de Esmeralda evidencia o caráter de urgência de debater esse tema, pois ao afetar tal faixa etária corrobora com a perpetuação de desigualdades. A jornalista Mabel Dias, que estuda questões de gênero e algoritmo, reforça como os sistema de IA fomenta conteúdos violentos, que chega a adolescentes que não tem o devido preparo:

 “Há uma difusão desse conteúdo discriminatório, misógino em relação às mulheres, por esses grupos masculinistas que têm uma grande visibilidade nas plataformas digitais. A arquitetura das plataformas, ela possibilita que esses conteúdos sejam cada vez mais divulgados, e aí isso chega para adolescentes, para jovens, homens e para homens adultos também, mas principalmente para adolescentes.”

Mas não é como se a inteligência artificial fosse uma grande vilã para grupos minoritários e para quem faz uso. A questão é que inúmeras pessoas foram/são afetadas, mas isso diz mais sobre a falta de uma regulamentação amparada em leis.

No cenário atual do Brasil há LGPD (Lei Geral de Proteção de Dados Pessoais, Lei nº 13.709/2018), que visa regular o uso de dados pessoais e um dos pontos principais é a defesa da privacidade. Para a estudante de direito, Jamille Ferreira, é necessário que haja um respeito às leis, para garantir uma sociedade mais justa.

“No artigo 6º da lei 13.709 de 2018, a LGPD, vem estabelecer um rol de princípios. E entre esses princípios o da não discriminação de pessoas por meio de dados pessoais. Para que esses dados sejam fornecidos para IA, com nenhum viés discriminatório. De forma a garantir que os dados vão ser utilizados de forma transparente com a legislação brasileira".

A LGPD tem um papel importante, mas infelizmente há uma flexibilização na lei quando se trata de Big techs no cenário da IA, além de que os processos exigem um certo trabalho e mesmo que houvesse uma regulamentação específica ainda poderia haver produções preconceituosas. E há esperanças se forem mais duros com o que a IA produz e sua base de dados.

“Teria que haver uma revisão constante dos algoritmos de forma que viesse a eliminar dados, vieses, linhas que viesse a estimular esse racismo e essa exclusão social de determinados grupos e raças. Então, a partir do momento que esses sistemas, eles viessem a ter mais transparência no seu funcionamento, eles iam promover essa inclusão, essa igualdade racial, esse respeito, o respeito aos direitos fundamentais, à dignidade da pessoa humana, aos direitos humanos", conclui Jamille.

Assim como dito por Jamille, o uso de Inteligência Artificial em acordo a lei LGPD e a dignidade humana tem um caráter positivo. Ana Dindara salienta que, quando se trata de IA e grupos minoritários, nem tudo se resume à fatalidade, e como a IA pode ser usada para resgatar vivências e se colocar contra a luta antirracista se usada de modo ético.

“Quando essa base regulatória e a ética é considerada, a IA pode atuar de forma reparadora. Um exemplo potente disso é o projeto Fragmentos da Memória, que dá rosto e voz a pessoas que foram escravizadas na Bahia. O projeto surgiu exatamente da escassez de registros oficiais no estado, onde pesquisadores analisaram passaportes, cartas de alforria e outros documentos históricos. É uma forma concreta de utilizar a IA para tensionar e repensar a imagem da população negra no período colonial, preenchendo lacunas históricas e devolvendo dignidade e visibilidade a quem foi apagado pelos arquivos tradicionais.”

Quando se trata do uso da inteligência artificial, pode-se trabalhar de modo assertivo contra um sistema que reverbera racismo, misoginia e demais preconceitos, mas pode-se também trabalhar com base em um viés racista (seja proposital ou não), gerando consequências a grupos marginalizados da sociedade.