A lente algorítmica
Inteligência Artificial Generativa, viés de gênero e a luta pela pluralidade de narrativas no audiovisual
Palavras-chave:
Inteligência Artificial Generativa. Gênero. Audiovisual. Viés Algorítmico. Crítica FeministaResumo
O presente artigo de opinião discute os impactos da Inteligência Artificial Generativa (IAG) na produção audiovisual contemporânea, com foco nas dinâmicas de gênero e representatividade. Partindo da premissa de que a tecnologia não é neutra, sustenta-se que os grandes modelos de linguagem e os geradores de imagem e vídeo tendem a perpetuar estereótipos históricos, masculinizando posições de prestígio e hipersexualizando corpos femininos, em diálogo com a crítica feminista do cinema e dos estudos sociais da tecnologia. Argumenta-se que esse viés decorre de uma arquitetura sociotécnica específica, composta por bases de dados desiguais e equipes de desenvolvimento homogêneas, e propõem-se três caminhos para uma IA inclusiva: a auditoria de viés como autoria assistida, a pluralização ética das bases de dados e a transparência como princípio de uso.
Referências
BENDER, Emily M.; GEBRU, Timnit; McMILLAN-MAJOR, Angelina; SHMITCHELL, Shmargaret. On the dangers of stochastic parrots: can language models be too big? In: ACM CONFERENCE ON FAIRNESS, ACCOUNTABILITY, AND TRANSPARENCY (FAccT ’21), 2021, Nova York. Proceedings. Nova York: ACM, 2021. p. 610-623.
BENJAMIN, Ruha. Race after technology: abolitionist tools for the New Jim Code. Cambridge: Polity, 2019.
BUOLAMWINI, Joy; GEBRU, Timnit. Gender Shades: intersectional accuracy disparities in commercial gender classification. Proceedings of Machine Learning Research, v. 81, p. 77-91, 2018.
CRAWFORD, Kate. Atlas of AI: power, politics, and the planetary costs of artificial intelligence. New Haven: Yale University Press, 2021.
CRENSHAW, Kimberlé. Demarginalizing the intersection of race and sex: a black feminist critique of antidiscrimination doctrine, feminist theory and antiracist politics. University of Chicago Legal Forum, v. 1989, n. 1, p. 139-167, 1989.
DE LAURETIS, Teresa. A tecnologia do gênero. In: HOLLANDA, Heloisa Buarque de (org.). Tendências e impasses: o feminismo como crítica da cultura. Rio de Janeiro: Rocco, 1994. p. 206-242.
MULVEY, Laura. Visual pleasure and narrative cinema. Screen, v. 16, n. 3, p. 6-18, 1975.
NOBLE, Safiya Umoja. Algorithms of oppression: how search engines reinforce racism. Nova York: NYU Press, 2018.
O’NEIL, Cathy. Weapons of math destruction: how big data increases inequality and threatens democracy. Nova York: Crown, 2016.
SILVA, Tarcízio. Racismo algorítmico: inteligência artificial e discriminação nas redes digitais. São Paulo: Edições Sesc SP, 2022.
UNESCO. Recomendação sobre a ética da inteligência artificial. Paris: UNESCO, 2021.
UNESCO. Challenging systematic prejudices: an investigation into bias against women and girls in large language models. Paris: UNESCO; IRCAI, 2024.
