Racismo algorítmico e microagressões nas redes sociais

Júlio Araújo

doi:10.14393/DLv18a2024-49

Autores/as

Júlio Araújo Universidade Federal do Ceará https://orcid.org/0000-0001-7399-3769

DOI:

https://doi.org/10.14393/DLv18a2024-49

Palabras clave:

Racismo Algorítmico, Inteligência Artificial, Discurso racista, Redes sociais

Resumen

En este estudio, examino el impacto del racismo algorítmico enfrentado por la diputada Renata Souza al utilizar inteligencia artificial para retratar a una mujer negra en una favela. Abordo cómo las microagresiones contribuyen a la propagación del discurso racista en el entorno virtual, destacando el caso específico que involucra a la parlamentaria. Basándome en investigaciones críticas sobre algoritmos (O’Neil, 2020; Prado, 2022) y en estudios sobre racismo algorítmico (Noble, 2021; Silva, 2022), analizo las microagresiones presentes en los comentarios en su cuenta de Instagram y en páginas de redes sociales. Los resultados apuntan a: 1) críticas centradas en el uso de la palabra "favela" en lugar de dirigirse hacia la inteligencia artificial; 2) acusaciones de manipulación de la imagen para insinuar racismo por parte de la diputada; 3) falta de responsabilización de la inteligencia artificial por la discriminación, atribuyendo la culpa a los usuarios; 4) negación de la existencia del racismo algorítmico; 5) desvalorización de la denuncia de racismo algorítmico realizada por la diputada; y 6) interpretación de la imagen de la inteligencia artificial como la de una agente de policía. Estos resultados revelan la conexión entre las microagresiones en la propagación del racismo en el entorno digital y el discurso de odio dirigido hacia individuos negros.

Descargas

Los datos de descarga aún no están disponibles.

Biografía del autor/a

Júlio Araújo, Universidade Federal do Ceará

Pós-Doutor em Estudos Linguísticos pela UFMG e Professor e Pesquisador no Programa de Pós-Graduação em Linguística (PPGL) do Departamento de Letras Vernáculas (DLV) da UFC.

Referencias

ALMEIDA, S. Racismo estrutural. São Paulo: Pólen, 2019.

ARAÚJO, J. A inteligência artificial e o racismo nas redes sociais (Projeto IARA). Projeto de pesquisa. Universidade Federal do Ceará, 2024.

ARAÚJO, J; ARAÚJO, J. Racismo algorítmico e inteligência artificial: uma análise crítica multimodal. Revista Linguagem em Foco, v.16, n.1, 2024. DOI: https://doi.org/10.46230/lef.v16i2.13108

ASSEF, F. M. Algoritmos de classificação em aplicação financeira: avaliação de risco de crédito para pessoa jurídica. Dissertação 2018. (Mestrado em Engenharia de Produção), Programa de Pós-Graduação em Engenharia de Produção Universidade Federal do Paraná, 2018.

BARRETO, L. Discursos de ódio contra negros nas redes sociais. Rio de Janeiro: Pallas, 2023. DOI https://doi.org/10.48075/rt.v18i43.28363 DOI: https://doi.org/10.48075/rt.v18i43.28363

GARCÍA-CANCLINI, N. Ciudadanos reemplazados por algoritmos. Bielefeld University Press, 2020. DOI https://doi.org/10.1515/9783839448915 DOI: https://doi.org/10.2307/j.ctv2f9xs19

LADEIRA, J. D. M. O algoritmo e o fluxo: Netflix, aprendizado de máquina e algoritmos de recomendações. Intexto, Porto Alegre, UFRGS, n. 47, p. 166-184, set./dez. 2019. DOI https://doi.org/10.19132/1807-8583201947.166-184 DOI: https://doi.org/10.19132/1807-8583201947.166-184

MATALON NETO, D.; SOUZA, M. C. da S. A. de. Sociedade de consumo e algoritmos: reflexões contemporâneas. RJLB, [S. l.], ano 9, n. 1, 403-430, 2023.

MBEMBE, A. Necropolítica: biopoder, soberania, estado de exceção, política da morte. São Paulo: N-1 edições, 2018.

NOBLE, U. S. Algoritmos da opressão: como o Google fomenta e lucra com o racismo. Trad. Felipe Damorim. Santo André: Rua do Sabão, 2021.

O’NEIL, C. Algoritmos de destruição em massa: como o big data aumenta a desigualdade e ameaça a democracia. Tradução de Rafael Abraham. Santo André: Rua do Sabão, 2020.

PIERCE, C. M. Is bigotry the basis of the medical problems of the ghetto? In: NORMAN, J. C. (org.). Medicine in the ghetto. Nova York: Appleton-Century-Crofts, 1970.

PRADO, M. Fake news e inteligência artificial: o poder dos algoritmos na guerra da desinformação. São Paulo: Edições 70, 2022.

RUSSELL, S. J.; NORVIG, P. Artificial intelligence: a modern approach. 3. ed. Upper Saddle River: Pearson Education Limited, 2010.

SANTAELLA, L. A inteligência artificial é inteligente? São Paulo: Edições 70, 2023.

SANTOS, F. A do.; MAYER, V. F.; MARQUES, O. R. B. Precificação dinâmica e percepção de justiça em preços: um estudo sobre o uso do aplicativo Uber em viagens. Rev.Tur., Visão e Ação, Balneário Camboriú, v. 21, n. 3, p. 239-264, set./dez. 2019. DOI https://doi.org/10.14210/rtva.v21n3.p239-264 DOI: https://doi.org/10.14210/rtva.v21n3.p239-264

SILVA, T. Racismo algorítmico em plataformas digitais: microagressões e discriminação em código. In. SILVA, T. (org). Comunidades, algoritmos e ativismos digitais: Olhares afrodiaspóricos. São Paulo: LiteraRUA, 2020. p. 120-137.

SILVA, T. Racismo Algorítmico: inteligência artificial e discriminação nas redes digitais. São Paulo: Edições SESC, 2022. DOI https://doi.org/10.29327/269579.6.3-14 DOI: https://doi.org/10.29327/269579.6.3-14

SOUSA, D. M. M. de; PASSARELLI, S. E.; PUGLIESI, J. B. A inteligência artificial no recrutamento e seleção de pessoas. Revista EduFatec: educação, tecnologia e gestão, [S. l.], v.2, n.1, p. 1-19, jan./jun. 2019.

THEODORSON, G. A.; THEODORSON, A. G. A modern dictionary of sociology. Londres: Methuen, 1970.

TRINDADE, L. V. Discurso de ódio nas redes sociais. São Paulo: Jandaíra, 2022.