03126nam a22004697a 4500 00007918 ES-MaONT 20240604140659.0 240530e20240521be a|||fs|||| 00| 0 eng d ES-MaONT 3915 Hamon, Ronan Generative AI Transparency: Identification of Machine-Generated content / Hamon, Ronan ; Sanchez, Ignacio ; Fernandez Llorca, David ; Gomez, Emilia Bruselas : Comisión Europea 21/05/2024 6 p. ; 1 documento PDF isbdcontent texto (visual) isbdmedia electrónico rdacarrier recurso en línea JRC 137136 Este informe tiene como objetivo examinar cuatro soluciones técnicas para lograr que la inteligencia artificial (IA) generativa sea más transparente y capaz de detectar e identificar los contenidos generados por máquinas. De este modo se busca garantizar que la confianza en la tecnología y los medios digitales se mantenga intacta, promoviendo la confianza en el ecosistema digital europeo. Las soluciones propuestas son los metadatos, las marcas de agua, las huellas dactilares y las herramientas de detección. La evaluación se realiza en función de cuatro propiedades deseables: eficacia (identificación fiable de los contenidos generados, mediante la recuperación de información), integridad de los datos (preservación de la integridad del contenido), robustez frente a la alteración del contenido (preservación de la eficacia cuando el contenido está sujeto a cambios o alteraciones que son previsibles y no afectan a la naturaleza sintética del contenido), y protección contra la manipulación (capacidad de resistir cualquier modificación destinada a manipular la información). La IA generativa es un campo de vanguardia de la IA que puede crear contenidos realistas de apariencia humana. La preocupación por su uso indebido y sus implicaciones sociales ponen de relieve la importancia de identificar los contenidos generados por máquinas. El documento señala que, a fecha de 2024, las soluciones técnicas existentes basadas en metadatos, marcas de agua, huellas dactilares o detección sólo cumplen con las propiedades deseadas parcialmente para los contenidos de texto, imagen y audio. 4348 Inteligencia Artificial 2192 Políticas públicas digitales 6581 Unión Europea inteligencia artificial generativa GenAI transparencia contenidos generación de contenidos generación por máquina datos identificación open source código abierto metadatos huella dactilar marca de agua 3917 Sánchez, Ignacio 6141 Fernández Llorca, David 4450 Gómez, Emilia https://publications.jrc.ec.europa.eu/repository/handle/JRC137136 0 Acceso a la publicación z INF 7918 7918 0 0 0 3 1 8866 01 01 online 2024-05-30 I 0 1000020178108 2024-05-30 00:00:00 2024-05-30 INF