Explainable artificial intelligence Bernardo, Vítor creator Supervisor Europeo de Protección de Datos creator Attoresi, Massimo Lareo, Xabier Velasco, Luis text lu Luxemburgo Oficina de publicaciones de la Unión Europea 2023 monographic eng 23 p. ; 1 documento PDF En el complejo ámbito de los sistemas de inteligencia artificial (IA), a menudo ni siquiera los proveedores de estos sistemas son capaces de explicar las decisiones y los resultados de los sistemas que han construido. Este fenómeno suele denominarse efecto "caja negra", el cual podría conducir a una confianza equivocada o a una dependencia excesiva de los sistemas de IA. La Inteligencia Artificial Explicable (XAI) es la capacidad de los sistemas de IA para ofrecer explicaciones claras y comprensibles de sus acciones y decisiones. Su objetivo principal es hacer que el comportamiento de estos sistemas sea comprensible para los seres humanos dilucidando los mecanismos subyacentes de sus procesos de toma de decisiones. A partir del análisis de literatura gris, este informe plantea en qué consiste esta tecnología y explica los modelos autointerpretables (o de "caja blanca") en contraposición al efecto "caja negra". Así mismo se apunta a su capacidad para proporcionar información transparente sobre las decisiones de la IA contribuyendo a garantizar el cumplimiento de varios principios de protección de datos personales, en particular la transparencia, la responsabilidad y la equidad. Los riesgos del empleo de esta tecnología también se recogen en este documento. XAI ofrece a los usuarios una visión comprensible del tratamiento de sus datos personales al revelar los motivos que subyacen a las decisiones de la IA. La transparencia que ofrece no solo refuerza la confianza entre organizaciones y usuarios, sino que también está en consonancia con los principios básicos de la protección de datos. specialized / Supervisor Europeo de Protección de Datos ; Bernardo, Vítor ; Attoresi, Massimo (ed.) ; Lareo, Xabier (ed.) ; Velasco, Luis (ed.) Inteligencia Artificial IA inteligencia artificial explicable XAI caja blanca caja negra white box black box protección de datos transparencia riesgos datos personales 978-92-9242-715-3 doi: 10.2804/132319 2599-932X https://op.europa.eu/en/publication-detail/-/publication/59e38fb7-8436-11ee-99ba-01aa75ed71a1 https://op.europa.eu/en/publication-detail/-/publication/59e38fb7-8436-11ee-99ba-01aa75ed71a1 ES-MaONT 231128 20231128155015.0 00007706