04338nam a22006617a 4500 00008037 ES-MaONT 20241218012015.0 240802s2024 fr da||fs|||| 00| 0 eng d ES-MaONT UNESCO‏ 1427 Challenging systematic prejudices : An investigation into bias against women and girls in large language models / UNESCO ; International Research Centre on Artificial Intelligence (IRCAI) París : UNESCO 2024 22 p. ; 1 documento PDF isbdcontent texto (visual) isbdmedia electrónico rdacarrier recurso en línea El informe examina los estereotipos en los grandes modelos de lenguaje (LLM, por sus siglas en inglés), definidos como herramientas de procesamiento de lenguaje natural que sustentan plataformas populares de inteligencia artificial (IA) generativa. Estas nuevas aplicaciones de IA tienen el poder de moldear sutilmente las percepciones de millones de personas, por lo que incluso pequeños sesgos de género en su contenido pueden amplificar significativamente las desigualdades en el mundo real. El estudio explora los sesgos en tres LLM significativos: GPT-2 y ChatGPT de OpenAI, junto con Llama 2 de Meta, destacando su papel tanto en sistemas avanzados de toma de decisiones como en agentes conversacionales de cara al usuario. A través de múltiples estudios, el documento revela cómo los prejuicios emergen en el texto generado por los grandes modelos de lenguaje, a través de asociaciones de palabras de género, la consideración positiva o negativa de los sujetos de género, o la diversidad en el texto generado por el género y la cultura. Los resultados muestran evidencias de la existencia de sesgo contra las mujeres en el contenido generado por cada uno de estos grandes modelos de lenguaje, así como actitudes homofóbicas y estereotipos raciales. Los grandes modelos de lenguaje de código abierto como Llama 2 y GPT-2 –valorados porque son gratuitos y accesibles para un público amplio– exhibieron el sesgo de género más significativo. Sin embargo, el estudio también concluye que su naturaleza abierta y transparente puede ser una gran ventaja para abordar y mitigar esta tendencia a través de una mayor colaboración en la comunidad de investigación global, en comparación con modelos más cerrados, que incluyen GPT 3.5 y 4 (la base para ChatGPT) y Gemini de Google. El informe revela que los esfuerzos para hacer frente a la IA sesgada deben aplacar esta diferenciación cuando se origina en el ciclo de desarrollo de la tecnología, pero también mitigar el daño en el contexto de su aplicación. Esta visión no sólo requiere la participación de múltiples partes interesadas, sino también un enfoque más equitativo y responsable del desarrollo y el despliegue de la IA en general. 2600 Mujeres digitales 4348 Inteligencia Artificial brecha digital brecha de género IA LLM large language models modelos grandes de lenguaje ChatGPT Gemini Llama sesgos homofobia racismo machismo 8145 van Niekerk, Daniel 8146 Pérez-Ortiz, María 8147 Shawe-Taylor, John 8148 Orlič, Davor 8149 Drobnjak, Ivana 8150 Kay, Jackie 8151 Siegel, Noah 8152 Evans, Katherine 8153 Moorosi, Nyalleng 8154 Eliassi-Rad, Tina 8155 Maria Tanczer, Leonie 5071 Holmes, Wayne 8156 Deisenroth, Marc Peter 8157 Straw, Isabel 8158 Fasli, Maria 8159 Adams, Rachel 4487 Oliver, Nuria 8160 Mladenić, Dunja 8161 Aneja, Urvashi 8162 Janickyj, Madeleine 8163 International Research Centre on Artificial Intelligence IRCAI https://unesdoc.unesco.org/ark:/48223/pf0000388971 0 Acceso a la publicación z INF 8037 8037 0 0 0 3 1 8985 01 01 online 2024-08-02 I 0 1000020178227 2024-08-02 00:00:00 2024-08-02 INF