“¿Será real?” o “¿cómo llegó a esta conclusión?” Son preguntas cada vez más habituales frente a una recomendación, análisis o decisión generada por Inteligencia Artificial. Y, según un nuevo estudio de IDC patrocinado por SAS, esta cautela tiene una dimensión concreta: el 97,2% de los usuarios reconoce que anula o corrige recomendaciones de IA en al menos algunos casos, principalmente porque la tecnología no logra explicar el porqué de sus resultados.
El hallazgo forma parte del segundo informe anual Data and AI Impact Report: The New Economics of Trust, que analizó las condiciones que permiten a las organizaciones transformar sus inversiones en Inteligencia Artificial en resultados concretos. El estudio muestra que el desafío ya no está solamente en adoptar la tecnología, sino en generar las condiciones para confiar en ella.
Cuando un sistema entrega un resultado que el usuario no puede comprender o verificar, aumenta la necesidad de revisión y corrección manual. Esto genera una paradoja: una herramienta diseñada para agilizar procesos puede terminar demandando más tiempo y reduciendo parte del valor esperado de su implementación. Por ello, el informe identifica la explicabilidad, la calidad de los datos, la gobernanza y la auditabilidad como elementos centrales para una adopción efectiva de la IA.
Esta brecha adquiere mayor relevancia con el avance de la IA agéntica, sistemas capaces de operar con mayores niveles de autonomía y ejecutar tareas sin una intervención humana permanente.
De acuerdo con el estudio, la confianza de los usuarios cae de 76% en la IA generativa a 66% cuando se trata de IA agéntica, reflejando las mayores exigencias que enfrentan las personas al delegar acciones y decisiones a sistemas más autónomos. El informe también advierte que los agentes de IA más avanzados pueden presentar tasas de error superiores al 25% en tareas complejas, reforzando la necesidad de mantener supervisión humana y conocimiento del negocio en estos procesos.
“Cuando la IA funciona, su impacto es extraordinario. Sin embargo, está bien documentado que los agentes de IA más avanzados pueden tener tasas de error superiores al 25% en tareas complejas, lo cual es inaceptable en entornos críticos de toma de decisiones. Para lograr precisión y consistencia, las organizaciones deben incorporar conocimiento del dominio de negocios del mundo real en los flujos de trabajo agénticos, manteniendo a los humanos en el centro de la gobernanza y la supervisión. Aquellas que hagan ambas cosas cerrarán la brecha de confianza y obtendrán una ventaja competitiva.” señala, Bryan Harris, CTO de SAS.
En este escenario, el desafío para las empresas no es necesariamente reducir el uso de IA, sino establecer mecanismos que permitan comprender, supervisar y auditar sus resultados. La investigación muestra que las organizaciones que implementan prácticas sólidas de IA confiable tienen 15 veces más probabilidades de reportar un ROI alto o sólido, alcanzando un 62%, frente a solo un 4% entre las organizaciones rezagadas.
Una de las principales barreras para avanzar hacia una IA confiable está en la infraestructura que la sostiene. Es más, el estudio revela que solo el 17,5% de las empresas cuenta con una base de datos completamente optimizada y madura para las exigencias de la IA agéntica. En tanto, las organizaciones que sí cuentan con data optimizada tienen cuatro veces más probabilidades de esperar un ROI elevado y seis veces más probabilidades de exigir controles de calidad de datos y explicabilidad.
Así, mientras la Inteligencia Artificial avanza desde herramientas de apoyo hacia sistemas cada vez más autónomos, la confianza se convierte en un componente fundamental para capturar su valor. Para las empresas, la pregunta ya no es solo qué puede hacer la IA, sino si cuentan con los datos, la gobernanza y la supervisión necesarias para confiar en lo que hace.
