Algorithmic racism and microaggressions on social media
DOI:
https://doi.org/10.14393/DLv18a2024-49Keywords:
Algorithmic Racism, Artificial Intelligence, Racist discourse, Social networksAbstract
This study explores algorithmic racism experienced by Congresswoman Renata Souza while utilizing artificial intelligence to depict a Black woman in a favela. The incident highlighted entrenched prejudice in on-line comments. It investigates how microaggressions contribute to the dissemination of racist discourse in on-line spaces, focusing on the case of algorithmic racism towards the congresswoman. Drawing on critical works by O'Neil (2020) and Prado (2022), as well as studies on algorithmic racism by Noble (2021) and Silva (2022), the research uses a qualitative approach to analyze the microaggressions faced by the congresswoman on her Instagram and related media pages. Findings reveal that criticisms predominantly target the use of the term favela rather than the artificial intelligence itself. Accusations include suggestions of image manipulation to imply racism, shifting blame from artificial intelligence to the user. Denial of the existence of algorithmic racism, discrediting the congresswoman's experiences, and misinterpretation of the AI-generated image as that of a police officer are also observed. These findings illustrate the interplay between microaggressions, on-line racism, and hate speech targeting Black individuals.
Downloads
Metrics
References
ALMEIDA, S. Racismo estrutural. São Paulo: Pólen, 2019.
ARAÚJO, J. A inteligência artificial e o racismo nas redes sociais (Projeto IARA). Projeto de pesquisa. Universidade Federal do Ceará, 2024.
ARAÚJO, J; ARAÚJO, J. Racismo algorítmico e inteligência artificial: uma análise crítica multimodal. Revista Linguagem em Foco, v.16, n.1, 2024.
ASSEF, F. M. Algoritmos de classificação em aplicação financeira: avaliação de risco de crédito para pessoa jurídica. Dissertação 2018. (Mestrado em Engenharia de Produção), Programa de Pós-Graduação em Engenharia de Produção Universidade Federal do Paraná, 2018.
BARRETO, L. Discursos de ódio contra negros nas redes sociais. Rio de Janeiro: Pallas, 2023. DOI https://doi.org/10.48075/rt.v18i43.28363
GARCÍA-CANCLINI, N. Ciudadanos reemplazados por algoritmos. Bielefeld University Press, 2020. DOI https://doi.org/10.1515/9783839448915
LADEIRA, J. D. M. O algoritmo e o fluxo: Netflix, aprendizado de máquina e algoritmos de recomendações. Intexto, Porto Alegre, UFRGS, n. 47, p. 166-184, set./dez. 2019. DOI https://doi.org/10.19132/1807-8583201947.166-184
MATALON NETO, D.; SOUZA, M. C. da S. A. de. Sociedade de consumo e algoritmos: reflexões contemporâneas. RJLB, [S. l.], ano 9, n. 1, 403-430, 2023.
MBEMBE, A. Necropolítica: biopoder, soberania, estado de exceção, política da morte. São Paulo: N-1 edições, 2018.
NOBLE, U. S. Algoritmos da opressão: como o Google fomenta e lucra com o racismo. Trad. Felipe Damorim. Santo André: Rua do Sabão, 2021.
O’NEIL, C. Algoritmos de destruição em massa: como o big data aumenta a desigualdade e ameaça a democracia. Tradução de Rafael Abraham. Santo André: Rua do Sabão, 2020.
PIERCE, C. M. Is bigotry the basis of the medical problems of the ghetto? In: NORMAN, J. C. (org.). Medicine in the ghetto. Nova York: Appleton-Century-Crofts, 1970.
PRADO, M. Fake news e inteligência artificial: o poder dos algoritmos na guerra da desinformação. São Paulo: Edições 70, 2022.
RUSSELL, S. J.; NORVIG, P. Artificial intelligence: a modern approach. 3. ed. Upper Saddle River: Pearson Education Limited, 2010.
SANTAELLA, L. A inteligência artificial é inteligente? São Paulo: Edições 70, 2023.
SANTOS, F. A do.; MAYER, V. F.; MARQUES, O. R. B. Precificação dinâmica e percepção de justiça em preços: um estudo sobre o uso do aplicativo Uber em viagens. Rev.Tur., Visão e Ação, Balneário Camboriú, v. 21, n. 3, p. 239-264, set./dez. 2019. DOI https://doi.org/10.14210/rtva.v21n3.p239-264
SILVA, T. Racismo algorítmico em plataformas digitais: microagressões e discriminação em código. In. SILVA, T. (org). Comunidades, algoritmos e ativismos digitais: Olhares afrodiaspóricos. São Paulo: LiteraRUA, 2020. p. 120-137.
SILVA, T. Racismo Algorítmico: inteligência artificial e discriminação nas redes digitais. São Paulo: Edições SESC, 2022. DOI https://doi.org/10.29327/269579.6.3-14
SOUSA, D. M. M. de; PASSARELLI, S. E.; PUGLIESI, J. B. A inteligência artificial no recrutamento e seleção de pessoas. Revista EduFatec: educação, tecnologia e gestão, [S. l.], v.2, n.1, p. 1-19, jan./jun. 2019.
THEODORSON, G. A.; THEODORSON, A. G. A modern dictionary of sociology. Londres: Methuen, 1970.
TRINDADE, L. V. Discurso de ódio nas redes sociais. São Paulo: Jandaíra, 2022.
Downloads
Published
How to Cite
Issue
Section
License
Copyright (c) 2024 Júlio Araújo
This work is licensed under a Creative Commons Attribution-NonCommercial-NoDerivatives 4.0 International License.
Authors who publish in this journal agree to the following terms:
Authors retain the copyright and waiver the journal the right of first publication, with the work simultaneously licensed under the Creative Commons Attribution License (CC BY-NC-ND 4.0), allowing the sharing of work with authorship recognition and preventing its commercial use.
Authors are authorized to take additional contracts separately, for non-exclusive distribution of the version of the work published in this journal (publish in institutional repository or as a book chapter), with acknowledgment of authorship and initial publication in this journal.
