TY - BOOK ED - Capgemini TI - Confidence in autonomous and agentic systems PY - 2025/// CY - Paris PB - : Capgemini KW - Economía del Dato e IA KW - Ciberseguridad KW - Tecnología KW - Derechos Digitales N2 - Business, meet agentic AI. Confidence in autonomous and agentic solutions analiza cómo generar confianza en los sistemas de inteligencia artificial (IA) que operan de forma autónoma y con agencia, es decir, que toman decisiones y actúan por sí mismos en entornos complejos. Parte del reconocimiento de que estos sistemas están ganando protagonismo en distintos sectores y requieren marcos de control y comprensión más avanzados que los tradicionales. El documento define los conceptos clave de autonomía, agencia y autoridad, y expone cómo se estructuran estos sistemas a través de capas de interpretación, modelado del entorno y ejecución. También destaca el papel emergente de sistemas multiagente y plantea los riesgos asociados a su comportamiento no previsto. Frente a esto, se propone una aproximación que combine diseño técnico riguroso, objetivos definidos, gobernanza clara y alineación con valores éticos. En conjunto, el informe defiende que la confianza en estos sistemas debe construirse desde una visión integral, en la que intervengan instituciones, desarrolladores y ciudadanía. Solo así será posible desplegar tecnologías agentic que sean seguras, comprensibles y alineadas con el interés público UR - https://www.capgemini.com/wp-content/uploads/2025/05/Confidence-in-autonomous-and-agentic-systems_19May.pdf ER -