IA y lenguaje: ¿Nuevas formas para antiguas discriminaciones? Un estudio de caso en Google Translate y Canva
DOI:
https://doi.org/10.14198/fem.2025.45.05Palabras clave:
Inteligencia artificial, Sesgos, Canva, Google translate, Lenguaje inclusivo, Lingüística, Sexismo lingüístico, EstereotiposResumen
El desarrollo de la inteligencia artificial (IA) es una de las más grandes revoluciones tecnológicas de la historia reciente de la humanidad. La tecnología de inteligencia artificial se utiliza ampliamente en diversos campos, incluida la educación. En este sector, la IA se estudia como disciplina y se utiliza como herramienta para superar ciertas barreras sociales. Sin embargo, como todas las revoluciones humanas, es necesario considerar que el uso creciente de nuevos sistemas informáticos también entraña riesgos. Uno de ellos es el refuerzo de los estereotipos de género y de la discriminación contra las mujeres en las producciones lingüísticas. A través de un análisis experimental realizado en herramientas comerciales comunes integradas con la IA –Google Translate y Canva– se investigará su comportamiento lingüístico como respuestas a indicaciones de comando. De los resultados obtenidos se puede demostrar la existencia de prejuicios de género en sus outputs, tanto en el lenguaje textual como en el visual. Los sesgos de género son consecuencias de las desigualdades estructurales presentes en la sociedad: no es la tecnología lo que es sexista, sino los conjuntos de datos en los que se basa, que a su vez se basan en los resultados producidos por los usuarios y usuarias y publicados en Internet. Para una sociedad basada en la democracia y en la igualdad, es importante garantizar que el uso de una tecnología tan extendida como la IA no perpetúe los estereotipos existentes y que no se convierta en un nuevo instrumento para fortalecer las discriminaciones. Desde una perspectiva lingüística, esto significa prestar atención a los resultados lingüísticos devueltos por la IA, tanto textual como visual, y verificar el conjunto de datos utilizado por la IA. Por su papel central en la educación de las nuevas generaciones, las escuelas y las instituciones deben preparar a las y los estudiantes para una visión crítica del fenómeno y brindarles las herramientas para contrastarlo. Este camino podría comenzar enseñando los mecanismos de la IA y su ética en clase, y utilizando un lenguaje inclusivo en el contexto educativo.
Citas
Austin, J. L. (1975). How to do things with words (2nd ed.). Harvard University Press (Original work published 1962).
Bartneck, C., Lütge, C., Wagner, A., & Welsh, S. (2021). An Introduction to Ethics in Robotics and AI. Springer. https://doi.org/10.1007/978-3-030-51110-4
Bazzan, B. (2022). Il peccato originale delle intelligenze artificiali [Unpublished master’s thesis]. Politecnico di Milano – Scuola del Design. POLITesi – Archivio digitale delle tesi di laurea e dottorato. https://www.politesi.polimi.it/handle/10589/187945
Bryant, J., Heitz, C., Sanghvi, S., & Wagle D. (2020, January 14). How artificial intelligence will impact K-12 teachers. McKinsey Blog. https://www.mckinsey.com/industries/education/our-insights/how-artificial-intelligence-will-impact-k-12-teachers#/
Cattozzella, D., Hirsch, G., Fabretti, V., Schiavo, G., & Torrisi, E. (2023). Artificial intelligence at school: the pioneering experience of Dig4future. DIG4Future Project. https://drive.google.com/file/d/1ngvv3-fR2i14ADUIrWTlf6nvMgzOob46/view?usp=drive_link
Cavallo, A., Lugli, L., & Prearo, M. (2021). Questioni di un certo genere. Le identità sessuali, i diritti, le parole da usare: una guida per saperne di più e parlarne meglio. Iperborea.
Council of Europe. (2024). Guidelines for the use of language as a driver of inclusivity. Documents and Publications Production Department (SPDP), Council of Europe. https://rm.coe.int/0900001680aec235
De Marchi, V. (2020, November). Con gli occhi delle bambine. Atlante dell’infanzia a rischio 2020. Save the Children. https://s3.savethechildren.it/public/files/uploads/pubblicazioni/con-gli-occhi-delle-bambine_0.pdf
Directorate-General for Education, Youth, Sport and Culture, European Commission. (2022). Ethical guidelines on the use of artificial intelligence (AI) and data in teaching and learning for educators. Publications Office of the European Union. https://doi.org/10.2766/153756
European Commission (2024). A European approach to artificial intelligence. Publications Office of the European Union. https://digital-strategy.ec.europa.eu/en/policies/european-approach-artificial-intelligence
European Institute for Gender Equality (2022). Artificial intelligence and gender equality. EIGE Europa. Publications Office of the European Union. https://eige.europa.eu/newsroom/director-corner/artificial-intelligence-and-gender-equality?language_content_entity=en
Ferrara, E. (2023). Should ChatGPT be Biased? Challenges and Risks of Bias in Large Language Models. First Monday, 28(11). https://doi.org/10.5210/fm.v28i11.13346
Gheno, V. (2021). Verso l’inclusività linguistica e oltre. Aula di Lettere. Percorsi nel mondo umanistico. Zanichelli editore. https://www.zanichelli.it/download/media/e46r/10inparita_Gheno.pdf
Ghosh, S., & Caliskan, A. (2023). ChatGPT Perpetuates Gender Bias in Machine Translation and Ignores Non-Gendered Pronouns: Findings across Bengali and Five other Low-Resource Languages. In F. Rossi, S. Das, J. Davis, K. Firth-Butterfield & A. John (Eds.), AIES ’23: Proceedings of the 2023 AAAI/ACM Conference on AI, Ethics, and Society (pp. 901-912). Association for Computing Machinery. https://doi.org/10.1145/3600211.3604672
Gianini-Belotti, E. (2013). Dalla parte delle bambine. L’influenza dei condizionamenti sociali nella formazione del ruolo femminile nei primi anni di vita (28th ed.). Feltrinelli (Original work published 1973).
Giusti, G. (2011). Riferimento al genere e costruzione d’identità. In G. Giusti (Ed.), Nominare per esistere: nomi e cognomi. Atti del primo convegno Lingua e Identità di Genere. Venezia, Auditorium s. Margherita, 19 settembre 2011 (pp. 9-24). Libreria Editrice Cafoscarina.
Google Italy. (2023, July 6) 10 modi in cui l’intelligenza artificiale sta già cambiando in meglio le nostre vite. https://blog.google/intl/it-it/notizie-aziendali/10-modi-in-cui-intelligenza-artificiale-sta-gia-cambiando-in-meglio-le-nostre-vite/
Gross, N. (2023). What ChatGPT Tells Us about Gender: A Cautionary Tale about Performativity and Gender Biases in AI. Social Sciences, 12(8). https://doi.org/10.3390/socsci12080435
Leavy, S., Meaney, G., Wade, K., & Greene, D. (2020). Mitigating Gender Bias in Machine Learning Data Sets. In L. Boratto, S. Faralli, M. Marras & G. Stilo (Eds.), Bias and Social Aspects in Search and Recommendation. BIAS 2020. Communications in Computer and Information Science (pp. 12-26). Springer, Cham. https://doi.org/10.1007/978-3-030-52485-2_2
Maheshwari, R. (2023, August 24). Advantages of Artificial Intelligence (AI) In 2024. Forbes Magazine. https://shorturl.at/WsWjj
Manasi, A., Panchanadeswaran, S. & Sours, E. (2023, March 13). Addressing Gender Bias to Achieve Ethical AI. International Peace Institute – Global Observatory. https://theglobalobservatory.org/2023/03/gender-bias-ethical-artificial-intelligence/
Mezzadri, M. (2002). La correzione degli errori. In.it, 1(3), 4-9.
Nota, L., Soresi, S., & Santilli, S. (2013). Le abilità sociali e il loro ruolo in un contesto socioculturale. In A. Vieno & M. Santinello (Eds.), Metodi di intervento in psicologia di comunità. Dalla progettazione alle esperienze professionali (pp. 77-95). Il Mulino.
Prates, M. O. R., Avelar, P. H., & Lamb, L. C. (2020). Assessing gender bias in machine translation: a case study with Google Translate. Neural Comput & Applic, 32, 6363-6381. https://doi.org/10.1007/s00521-019-04144-6
Robustelli, C. (2012, July 19). Il sessismo nella lingua italiana. Treccani magazine. https://www.treccani.it/magazine/lingua_italiana/speciali/femminile/Robustelli.html
Rossi, S. (2018). Il feedback tra pari come strumento per l’apprendimento linguistico. In R. Grassi (Ed.), Il trattamento dell’errore nella classe di italiano L2: teorie e pratiche a confronto (pp. 111-124). Franco Cesati Editore.
Russell, S., & Norvig P. (2021). Artificial Intelligence: A Modern Approach. Pearson.
Saturno, J. (2018). Correzioni tra pari nelle fasi iniziali dell’acquisizione: uno strumento appropriato? In R. Grassi (Ed.), Il trattamento dell’errore nella classe di italiano L2: teorie e pratiche a confronto (pp. 97-110). Franco Cesati Editore.
Searle, J. R. (1969). Speech Acts. Cambridge University Press. https://doi.org/10.1017/CBO9781139173438
Segatello, F. (2021). La valutazione tra pari per lo sviluppo delle abilità sociali. Uno studio quasi-sperimentale in una classe quinta di Scuola Primaria [Master’s thesis, Università degli Studi di Padova – Dipartimento di Filosofia, Sociologia, Pedagogia e Psicologia applicata]. Padua Thesis and Dissertation Archive. https://thesis.unipd.it/handle/20.500.12608/37326?mode=simple
Team Google Italy (2023, July 6). 10 modi in cui l’intelligenza artificiale sta già cambiando in meglio le nostre vite. Blog di Google Italy. https://blog.google/intl/it-it/notizie-aziendali/10-modi-in-cui-intelligenza-artificiale-sta-gia-cambiando-in-meglio-le-nostre-vite/
Tecuci, G. (2011). Artificial intelligence. WIREs Computational Statistics, 4, 168-180. https://doi.org/10.1002/wics.200
TED. (2017). How language shapes the way we think | Lera Boroditsky [Vídeo]. YouTube. https://www.youtube.com/watch?v=RKK7wGAYP6k
Trang, C. K. (2021). Exploring Bias Against Women in Artificial Intelligence: Practitioners’ Views on Systems of Discrimination [Master’s Thesis, Department of Informatics – The Faculty of Mathematics and Natural Sciences, University of Oslo]. UiO DUO vitenarkiv. https://www.duo.uio.no/handle/10852/88551?show=full
UN Women (2018). Why Gender Equality Matters across all SDGS. Un Women. https://shorturl.at/XMUMy
UNESCO, International Research Centre on Artificial Intelligence (2024). Challenging systematic prejudices: an investigation into bias against women and girls in large language models. https://unesdoc.unesco.org/ark:/48223/pf0000388971
U.S. Department of Education, Office of Educational Technology (2023, May). Artificial Intelligence and Future of Teaching and Learning: Insights and Recommendations. https://www2.ed.gov/documents/ai-report/ai-report.pdf
World Health Organization (n.d.). Gender. World Health Organization Europe. https://www.who.int/europe/health-topics/gender#tab=tab_1
Descargas
Estadísticas
Publicado
Cómo citar
Número
Sección
Licencia
Derechos de autor 2025 Martina Mattiazzi
Esta obra está bajo una licencia internacional Creative Commons Atribución-NoComercial-CompartirIgual 4.0.
