Hamon, Ronan creator Sánchez, Ignacio Fernández Llorca, David Gómez, Emilia text be Bruselas Comisión Europea 21/05/2024 2024 monographic eng

electronic

6 p. ; 1 documento PDF Este informe tiene como objetivo examinar cuatro soluciones técnicas para lograr que la inteligencia artificial (IA) generativa sea más transparente y capaz de detectar e identificar los contenidos generados por máquinas. De este modo se busca garantizar que la confianza en la tecnología y los medios digitales se mantenga intacta, promoviendo la confianza en el ecosistema digital europeo. Las soluciones propuestas son los metadatos, las marcas de agua, las huellas dactilares y las herramientas de detección. La evaluación se realiza en función de cuatro propiedades deseables: eficacia (identificación fiable de los contenidos generados, mediante la recuperación de información), integridad de los datos (preservación de la integridad del contenido), robustez frente a la alteración del contenido (preservación de la eficacia cuando el contenido está sujeto a cambios o alteraciones que son previsibles y no afectan a la naturaleza sintética del contenido), y protección contra la manipulación (capacidad de resistir cualquier modificación destinada a manipular la información). La IA generativa es un campo de vanguardia de la IA que puede crear contenidos realistas de apariencia humana. La preocupación por su uso indebido y sus implicaciones sociales ponen de relieve la importancia de identificar los contenidos generados por máquinas. El documento señala que, a fecha de 2024, las soluciones técnicas existentes basadas en metadatos, marcas de agua, huellas dactilares o detección sólo cumplen con las propiedades deseadas parcialmente para los contenidos de texto, imagen y audio. specialized / Hamon, Ronan ; Sanchez, Ignacio ; Fernandez Llorca, David ; Gomez, Emilia Inteligencia Artificial Políticas públicas digitales Unión Europea inteligencia artificial generativa GenAI transparencia contenidos generación de contenidos generación por máquina datos identificación open source código abierto metadatos huella dactilar marca de agua https://publications.jrc.ec.europa.eu/repository/handle/JRC137136 https://publications.jrc.ec.europa.eu/repository/handle/JRC137136 ES-MaONT 240530 20240604140659.0 00007918