Confidence in autonomous and agentic systems
Capgemini
Confidence in autonomous and agentic systems / Capgemini .-- Paris : Capgemini ,2025 .-- 29 páginas ; 1 documento PDF
Business, meet agentic AI. Confidence in autonomous and agentic solutions analiza cómo generar confianza en los sistemas de inteligencia artificial (IA) que operan de forma autónoma y con agencia, es decir, que toman decisiones y actúan por sí mismos en entornos complejos. Parte del reconocimiento de que estos sistemas están ganando protagonismo en distintos sectores y requieren marcos de control y comprensión más avanzados que los tradicionales.
El documento define los conceptos clave de autonomía, agencia y autoridad, y expone cómo se estructuran estos sistemas a través de capas de interpretación, modelado del entorno y ejecución. También destaca el papel emergente de sistemas multiagente y plantea los riesgos asociados a su comportamiento no previsto. Frente a esto, se propone una aproximación que combine diseño técnico riguroso, objetivos definidos, gobernanza clara y alineación con valores éticos.
En conjunto, el informe defiende que la confianza en estos sistemas debe construirse desde una visión integral, en la que intervengan instituciones, desarrolladores y ciudadanía. Solo así será posible desplegar tecnologías agentic que sean seguras, comprensibles y alineadas con el interés público.
Economía del Dato e IA
Ciberseguridad
Tecnología
Derechos Digitales
Confidence in autonomous and agentic systems / Capgemini .-- Paris : Capgemini ,2025 .-- 29 páginas ; 1 documento PDF
Business, meet agentic AI. Confidence in autonomous and agentic solutions analiza cómo generar confianza en los sistemas de inteligencia artificial (IA) que operan de forma autónoma y con agencia, es decir, que toman decisiones y actúan por sí mismos en entornos complejos. Parte del reconocimiento de que estos sistemas están ganando protagonismo en distintos sectores y requieren marcos de control y comprensión más avanzados que los tradicionales.
El documento define los conceptos clave de autonomía, agencia y autoridad, y expone cómo se estructuran estos sistemas a través de capas de interpretación, modelado del entorno y ejecución. También destaca el papel emergente de sistemas multiagente y plantea los riesgos asociados a su comportamiento no previsto. Frente a esto, se propone una aproximación que combine diseño técnico riguroso, objetivos definidos, gobernanza clara y alineación con valores éticos.
En conjunto, el informe defiende que la confianza en estos sistemas debe construirse desde una visión integral, en la que intervengan instituciones, desarrolladores y ciudadanía. Solo así será posible desplegar tecnologías agentic que sean seguras, comprensibles y alineadas con el interés público.
Economía del Dato e IA
Ciberseguridad
Tecnología
Derechos Digitales