03185nam a22004577a 4500 00007706 ES-MaONT 20231128155015.0 231128s2023 lu ||||fo||||i000 0 eng d 978-92-9242-715-3 doi: 10.2804/132319 2599-932X ES-MaONT 7475 Bernardo, Vítor 7476 Supervisor Europeo de Protección de Datos EDPS TechDispatch #2/2023 . Explainable artificial intelligence / Supervisor Europeo de Protección de Datos ; Bernardo, Vítor ; Attoresi, Massimo (ed.) ; Lareo, Xabier (ed.) ; Velasco, Luis (ed.) Luxemburgo : Oficina de publicaciones de la Unión Europea 2023 23 p. ; 1 documento PDF isbdcontent texto (visual) isbdmedia electrónico rdacarrier recurso en línea En el complejo ámbito de los sistemas de inteligencia artificial (IA), a menudo ni siquiera los proveedores de estos sistemas son capaces de explicar las decisiones y los resultados de los sistemas que han construido. Este fenómeno suele denominarse efecto "caja negra", el cual podría conducir a una confianza equivocada o a una dependencia excesiva de los sistemas de IA. La Inteligencia Artificial Explicable (XAI) es la capacidad de los sistemas de IA para ofrecer explicaciones claras y comprensibles de sus acciones y decisiones. Su objetivo principal es hacer que el comportamiento de estos sistemas sea comprensible para los seres humanos dilucidando los mecanismos subyacentes de sus procesos de toma de decisiones. A partir del análisis de literatura gris, este informe plantea en qué consiste esta tecnología y explica los modelos autointerpretables (o de "caja blanca") en contraposición al efecto "caja negra". Así mismo se apunta a su capacidad para proporcionar información transparente sobre las decisiones de la IA contribuyendo a garantizar el cumplimiento de varios principios de protección de datos personales, en particular la transparencia, la responsabilidad y la equidad. Los riesgos del empleo de esta tecnología también se recogen en este documento. XAI ofrece a los usuarios una visión comprensible del tratamiento de sus datos personales al revelar los motivos que subyacen a las decisiones de la IA. La transparencia que ofrece no solo refuerza la confianza entre organizaciones y usuarios, sino que también está en consonancia con los principios básicos de la protección de datos. 4348 Inteligencia Artificial IA inteligencia artificial explicable XAI caja blanca caja negra white box black box protección de datos transparencia riesgos datos personales 7477 Attoresi, Massimo 7478 Lareo, Xabier 7479 Velasco, Luis https://op.europa.eu/en/publication-detail/-/publication/59e38fb7-8436-11ee-99ba-01aa75ed71a1 0 Acceso a la publicación z INF 7706 7706 0 0 0 3 1 8653 01 01 online 2023-11-28 I 0 1000020177896 2023-11-28 00:00:00 2023-11-28 INF