Algoritmos e sistemas de inteligência artificial e(m) processos de produção de sentidos
DOI:
https://doi.org/10.14393/DLv18a2024-73Palavras-chave:
Inteligência artificial, Grandes modelos de linguagem, Discurso, Algoritmos, DecolonialidadeResumo
Conforme os sistemas de inteligência artificial vão obtendo mais e mais investimentos e sendo desenvolvidos rapidamente para aplicações em diferentes setores e segmentos, e conforme vão ganhando alta popularidade entre o público em geral, a sua utilização demanda comedimento, atenção e pesquisa. Apesar de haver muitos benefícios no seu uso, temos acompanhado a expressão de preocupação por parte da comunidade científica, de intelectuais, ativistas e coletivos com relação à potencialidade igualmente danosa que esses sistemas computacionais apresentam para a sociedade. Pesquisas feitas em diferentes países têm mostrado como padrões de comportamento humano de exclusão e violência, tais como práticas de racismo e sexismo, têm se repetido nas soluções dadas por algoritmos em vários tipos de serviços informacionais, numa prova de que as ferramentas e o espaço digital podem ser igualmente coloniais. Também tem sido possível observar que o cotidiano linguageiro, textual e cognitivo da maior parte da população urbana global tem sido determinado pela sua relação com os algoritmos e sistemas de IA criados e mantidos pelas grandes corporações da área digital ou big techs. Nesse contexto, a partir de um olhar crítico sobre processos de produção de sentidos, este artigo tece reflexões sobre o assunto através de experimentos e da retomada de diferentes referenciais teóricos, que permitem vislumbrar problematizações discursivas, éticas e estruturais e desdobramentos sociais acerca desses sistemas. Particularmente, o texto introduz e compartilha proposições e resultados de pesquisas no campo dos estudos sobre a linguagem, e que estão documentados nos artigos submetidos para esta seção especial. Essas preciosas contribuições nos dão condição para expor o estado da arte das discussões em andamento na área, os quadros teórico-metodológicos que têm sido mobilizados e os corpora de pesquisa ou sistemas computacionais de maior interesse. Mais importante, eles nos permitem entender mais profundamente aspectos textuais, afetivos, políticos, econômicos e educacionais em torno da produção de sentidos que ocorre a partir e com algoritmos e sistemas de inteligência artificial.
Downloads
Referências
ADAM, J-M. A linguística textual: uma introdução à análise textual dos discursos. Tradução de Maria das Graças Soares Rodrigues, Luis Passeggi, João Gomes da S. Neto e Eulália Vera Lúcia Fraga Leurquin. Revisão Técnica: João Gomes das S. Neto. 2. ed. revisada e aumentada. São Paulo: Cortez, 2011.
ALI, S. M. Decolonising Computing Towards a Manifesto for Educators. In: Building Collaborative Networks in Response to Decolonising the Curriculum Workshop, 2023. Disponível em: https://www.academia.edu/100861021/Decolonising_Computing_Towards_a_Manifesto_for_Educators?auto=download
BAKHTIN, M. M. Problemas da poética de Dostoiévski. 4. ed. Tradução de Paulo Bezerra. São Paulo: Forense-Universitária, 2008.
BRIN, S.; PAGE, L. The Anatomy of a Large-Scale Hypertextual Web Search Engine. In: Computer Networks and ISDN Systems, v. 30, 1998, pp. 107-117. DOI http://dx.doi.org/10.1016/S0169-7552(98)00110-X
BROUSSARD, M. Artificial Unintelligence: How computers misunderstand the world. Cambridge-Massachusetts/Londres: The MIT Press, 2018. DOI https://doi.org/10.7551/mitpress/11022.001.0001
BUZATO, M. K. Inteligência artificial, pós-humanismo e Educação: entre o simulacro e a assemblagem. Dialogia. São Paulo, n. 44, p. 1-11, e23906, jan./abr. 2023. DOI https://doi.org/10.5585/44.2023.23906
CASSINO, J. F.; SOUZA, J.; SILVEIRA, S. A. S. (org.) Colonialismo de dados: Como opera a trincheira algorítmica neoliberal. São Paulo: Autonomia Literária, 2021.
CASTELLS, M. The Internet Galaxy: Reflections on the Internet, Business, and Society. Oxford; Nova York: Oxford University Press, 2001. DOI https://doi.org/10.1007/978-3-322-89613-1
CESARINO, L. O mundo do avesso: verdade e política na era digital. São Paulo: Ubu, 2022.
CORTIZ, D. A narrative review of fairness and morality in neuroscience: insights to artificial intelligence. AI Ethics, 3, p. 769–780, 2023. DOI https://doi.org/10.1007/s43681-022-00203-2
CRARY, J. Terra arrasada: além da era digital, rumo a um mundo pós-capitalista. Tradução de Humberto Amaral. São Paulo: Ubu, 2023.
CRAWFORD, K. Atlas of AI: power, politics, and the planetary costs of artificial intelligence. New Haven: Yale University Press, 2021. DOI https://doi.org/10.12987/9780300252392-006
FANON, F. Pele negra, máscaras brancas. Tradução de Renato da Silveira. Salvador: Edufba, 2008.
FAUSTINO, D.; LIPPOLD, W. Colonialismo digital: por uma crítica hacker-fanoniana. São Paulo: Boitempo, 2023.
FERNANDES, C. A autoria em textos produzidos por inteligência artificial e por alunos em uma perspectiva discursiva. Revista Abralin, v. 23, n. 2, p. 214-235, 2024. DOI https://doi.org/10.25189/rabralin.v23i2.2183
FEDERICI, S. Caliban and the wicth: Women, the body, and primitive accumulation. Nova York : Autonomedia, 2004.
FISHER, M. A máquina do caos: como as redes sociais reprogramaram nossa mente e nosso mundo. São Paulo: Todavia, 2023.
HALL, S. Cultura e representação. Tradução de Daniel Miranda e William de Oliveira. Rio de Janeiro: Apicuri, 2016.
HAN, B. C. Infocracia: A digitalização e a crise da democracia. Tradução de Gabriel S. Philipson. Petrópolis: Vozes, 2022. DOI https://doi.org/10.1590/0103-8478cr20210327
HAN, B. C. In the Swarm: Digital Prospects. Tradução de Erik Butler. Cambridge, MA: The MIT Press, 2017. DOI https://doi.org/10.7551/mitpress/11055.001.0001
HARAWAY, D. J. Manifesto ciborgue. Ciência, tecnologia e feminismo-socialista no final do século XX. In: TADEU, T. (org.). Antropologia do ciborgue. As vertigens do pós-humano. Belo Horizonte: Autêntica Editora, 2009.
HASHIGUTI, S. T.; FAGUNDES, I. Z. Z.; SILVA, S. T. A.; LEMES, F.; NASCIMENTO, M. R. Inteligência artificial e geração de imagens: problematizações acerca de corpo, do sexo/gênero e da sexualidade. Comunicação oral na III Escola de Verão em Estudos Linguísticos (III EVEL). Uberlândia, 17/06/2024 a 19/06/2024.
HASHIGUTI, S. T.; FAGUNDES, I. Z. Z. O algoritmo como materialidade discursiva em um contexto de educação linguística. In: Letras & Letras, Uberlândia, v. 38, p. e3827, p. 1–21, 2022. DOI https://doi.org/10.14393/LL63-v38-2022-27
HASHIGUTI, S. T. Uma questão de gêneros: masculino e feminino em livros didáticos de língua inglesa como língua estrangeira. In: CORACINI, M. J.; SANTANA, J. C. (org.). (Des)Construindo verdade(s) no/pelo material didático: discurso, identidade, ensino. 1ed.Campinas: Pontes, 2016, v. 1. p. 137-154.
HASHIGUTI, S. T. O Corpo nas Imagens de Livros Didáticos em Língua Inglesa: repetição e regularização de sentidos. In: Hashiguti, S. T. (org.). Linguística Aplicada e Ensino de Línguas Estrangeiras: práticas e questões sobre e para a formação docente. 1. ed. Curitiba: CRV, 2013. p. 35-58.
JENKINS, H. Convergence culture: Where Old and New Media Collide. Nova York: New York University Press, 2006.
KILOMBA, G. Memórias da plantação: episódios de racismo cotidiano. Tradução de Jess Oliveira. Rio de Janeiro: Cobogó, 2019.
KRENAK, A. A vida não é útil. São Paulo: Companhia das Letras, 2020.
LAFONTAINE, C. O império cibernético: das máquinas de pensar ao pensamento máquina. Lisboa: Instituto Piaget, 2004.
LATOUR, B. Reassembling the Social: a introduction to actornetwork-theory. Nova York: Oxford University Press, 2005. DOI https://doi.org/10.1093/oso/9780199256044.001.0001
LAZZARATO, M. Sujeição e servidão no capitalismo contemporâneo. Cadernos de Subjetividade, São Paulo, n. 12, p. 168-179, 2010.
LÉVY, P. Collective intelligence: Mankind’s emerging world in cyberspace. Londres: Plenum Press, 1997.
LUGONES, M. The Coloniality of Gender. In: HARCOURT, W. (org.) The Palgrave Handbook of Gender and Development. Londres : Palgrave Macmill.an, 2016. p. 13-33. DOI https://doi.org/10.1007/978-1-137-38273-3_2
MBEMBE, A. Devir negro: ensaio sobre os infortúnios do pensamento no continente negro. Tradução de Laura de Mello e Souza. São Paulo: N-1 Edições, 2017.
MBEMBE, A. Necropolítica. Biopoder, soberania, estado de exceção, política da morte. São Paulo: n-1, 2018.
MHLAMBI, S. From Rationality to Relationality: Ubuntu as an Ethical and Human Rights Framework for Artificial Intelligence Governance. Carr Centre Discussion Paper, 2020. Acesso em: 08 jul. 2020.
MIKOLOV, T.; SUTSKEVER, I.; CHEN, K.; CORRADO, G. S.; DEAN, J. Distributed representations of words and phrases and their compositionality. Advances in neural information processing systems, v. 26, 2013.
MOITA LOPES, L. P. (org.) Por uma Linguística Aplicada Indisciplinar. São Paulo: Parábola, 2006.
MOROZOV, E. Big tech: A ascensão dos dados e a morte da política. Tradução de Claudio Marcondes. São Paulo: Ubu, 2018.
NOBLE, S. U. Algorithms of oppression: How search engines reinforce racism. Nova York: New York University Press, 2018. DOI https://doi.org/10.18574/nyu/9781479833641.001.0001
O´NEIL, C. Algoritmos de destruição em massa: Como o big data aumenta a desigualdade e ameaça a democracia. Tradução de Rafael Abraham. Santo André: Editora Rua do Sabão, 2020.
ORLANDI, E. O lugar das sistematicidades linguísticas na Análise do Discurso. D.E.L.T.A., v. 10, n. 2, p. 295-307, 1994.
PÊCHEUX. M.; FUCHS, C. A propósito da análise automática do discurso: atualização e perspectivas. In: GADET, F.; HAK, T. (org.). Por uma análise automática do discurso: uma introdução à obra de Michel Pêcheux. Campinas: Ed. Unicamp, 1997a. p. 163-252.
PÊCHEUX, M. Semântica e Discurso: uma crítica à afirmação do óbvio. Tradução de Eni P. Orlandi et al. Campinas: Ed. Unicamp, 1997b.
QUIJANO, A. Colonialidad y modernidad/racionalidade. Perú indígena, v. 29, 1991, p. 11-20.
SALLES, A.; EVERS, K.; FARISCO, M. Anthropomorphism in AI. AJOB Neuroscience, 11(2), p. 88–95, 2020. DOI https://doi.org/10.1080/21507740.2020.1740350
SANTOS, A. B. A terra dá, a terra quer. São Paulo: Ubu Editora/PISEAGRAMA, 2023.
SANTOS, F. O. A voz feminina em assistentes virtuais: uma análise pelos estudos da linguagem. 2022. 202 f. Tese (Doutorado em Estudos Linguísticos) - Universidade Federal de Uberlândia, Uberlândia, 2022. DOI http://doi.org/10.14393/ufu.te.2022.5046
SENNRICH, R.; HADDOW, B.; BIRCH, A. Neural Machine Translation of Rare Words with Subword Units. Annual Meeting of the Association for Computational Linguistics, 2015. DOI https://doi.org/10.18653/v1/P16-1162
SILVA, G. B.; HASHIGUTI, S. T. O racismo algorítmico em funcionamento em textos gerados pelo ChatGPT. In: FARIAS, C. (org.) Dossiê II Seminário Viagens da Língua: língua e tecnologias. São Paulo: Museu da Língua Portuguesa, 2024. p. 119 a 128.
SILVA, T. Racismo algorítmico em plataformas digitais: microagressões e discriminação em código. In: SILVA, T. Comunidades, algoritmos e ativismos digitais: olhares afrodiaspóricos. São Paulo: Literarua, 2020. p. 127-145.
SILVA, T. Colonialidade difusa no aprendizado de máquina: camadas de opacidade algorítmica na Imagenet. In: CASINO, J.; SOUZA, J.; SILVEIRA, S. A. (org.). Colonialismo de dados: como opera a trincheira algorítmica na guerra neoliberal. São Paulo: Autonomia Literária, 2021, v. 1. p. 87-107.
TURKLE, S. Reclaiming conversation: The power of talk in a digital age. Nova York: Penguin Press, 2015.
UNESCO, IRCAI. Challenging systematic prejudices: an investigation into gender bias in large language models. Paris, 2024. Disponível em: https://unesdoc.unesco.org/ark:/48223/pf0000388971
VOLOCHÍNOV, V. N. A construção da enunciação e outros ensaios. Organização, tradução e notas: João Wanderley Geraldi. São Carlos: Pedro & João Editores, 2013.
VOLÓCHINOV, V. Marxismo e filosofia da linguagem: problemas fundamentais do método sociológico na ciência da linguagem. Tradução, notas e glossário Sheila Grillo e Ekaterina Vólkova Américo. São Paulo: Editora 34, 2017.
WEST, M., KRAUT, R.; EI CHEW, H. I’d blush if I could: closing gender divides in digital skills through education. Paris: UNESCO, 2019. https://unesdoc.unesco.org/ark:/48223/pf0000367416.page=1. Acesso em: 01 dez. 2024.
WIENER, N. Cybernetics: Or, Control and Communication in the Animal and the Machine. Cambridge, MA: MIT University Press, 1948.
ZUBOFF, S. The age of surveillance capitalism: The fight for human future at the new frontier of power. Nova York: Public Affair, 2019.
ZUBOFF, S. Big other: Surveillance Capitalism and the Prospects of an Information Civilization. Journal of Information Technology, v. 30, n. 1, p. 75-89, 2015. DOI https://doi.org/10.1057/jit.2015.5
Downloads
Publicado
Edição
Seção
Licença
Copyright (c) 2024 Simone Tiemi Hashiguti, Elizangela Patrícia Moreira da Costa
Este trabalho está licenciado sob uma licença Creative Commons Attribution-NonCommercial-NoDerivatives 4.0 International License.
Autores que publicam nesta revista concordam com os seguintes termos da licença Creative Commons
CC BY-NC-ND 4.0: o artigo pode ser copiado e redistribuído em qualquer suporte ou formato; os créditos devem ser dados ao autor original e mudanças no texto devem ser indicadas; o artigo não pode ser usado para fins comerciais; caso o artigo seja remixado, transformado ou algo novo for criado a partir dele, o mesmo não pode ser distribuído.
Autores têm autorização para assumir contratos adicionais separadamente, para distribuição não-exclusiva da versão do trabalho publicada nesta revista (ex.: publicar em repositório institucional ou como capítulo de livro), com reconhecimento de autoria e publicação inicial nesta revista.
Como Citar
