Todo intercambio de datos, información o conocimiento implica y encierra de por si la confianza. La veracidad, calidad, integridad y confiabilidad de los datos hacen parte intrínseca de dicho intercambio. El desarrollo humano ha estado encaminado a ofrecer una serie de tecnologías que habilitan las herramientas para facilitar cualquier tipo de intercambio entre las personas. Es el hombre quien tiene la responsabilidad de usar de la mejor forma la tecnología en procura de su bienestar y calidad de vida. Por lo tanto, las tecnologías emergentes aportarán valor en la medida en que permitan la implementación de soluciones que aseguren los atributos mencionados. La veracidad, calidad, integridad y confiabilidad son parte fundamental en la apropiación de las tecnologías.
La inteligencia artificial es una tecnología poderosa que indiscutiblemente está cambiando el mundo. Sin lugar a duda, está aumentando la productividad y asegurando la sostenibilidad en las empresas. Su utilización ha alcanzado todas la industrias y que haceres del hombre. En particular, el desarrollo e implementación de agentes que simulan y emulan el comportamiento de un ser humano. De aquí que estos puedan reemplazarlo en sus funciones y ésta es tal vez una de las aplicaciones más explotadas y que más incomodidades y temores causan en el último año.
No obstante, el éxito de los agentes IA está en la confianza. Algunos expertos temen que la economía crezca sin asegurar los niveles de confianza que debe garantizar un agente IA. De otro lado, surgen “gurus” que comentan que es precisamente en la IA en donde la humanidad encontrará el soporte adecuado para asegurar la confianza. No solo de sus propias soluciones sino en general para todos los procesos de intercambio del ser humano. Por lo tanto, es preciso replantearse los niveles de confianza en la medida en que las tecnologías emergentes afloran y se expanden. La IA Gen está permitiendo que las soluciones adquieren un importante rol “autónomo” al sugerir e incluso tomar decisiones en reemplazo de un ser humano.
En consecuencia, esta autonomía puede representar unos riesgos que se deben controlar oportuna y adecuadamente. Por lo cual, la gobernanza, las políticas y normas que se estructuren alrededor de la gestión de la IA serán vitales para asegurar la confianza. Por otro lado, la estrategia de implementación y adopción deberá tener indicadores para medir los niveles de confianza de los agentes IA y demás soluciones que entregue la IA. Los productos y servicios de las compañías pueden adquirirse siempre y cuando usuarios y clientes confíen en sus prestaciones. Adicional, algunos estudios muestran como la pérdida de confianza puede traducirse en menores ventas e ingresos.
Por ejemplo, los estudios de Deloitte dicen que un aumento del 10% en la confianza se puede traducir en medio punto de crecimiento del PIB. Así las cosas, sin lugar a duda la confianza determinará los resultados de los diferentes sectores económicos en donde la IA Gen juega un papel preponderante. Estamos viendo una proliferación en el desarrollo de agentes. Tanto así que ahora se habla no de economía digital sino de economía agéntica!. Palabra que incluso no encontramos en la RAE. Es así como las soluciones con agentes digitales pasan a tener autonomía. Por lo cual, es posible ejecutar transacciones, asignar recursos e incluso tomar decisiones sin la intervención humana. Garner sostiene que para 2028 la tercera parte (33%) de los sistemas empresariales utilizarán IA autónoma. Y más sorprendente, una de cada cinco decisiones se tomará por parte de un agente digital autónomo. Muy bien, amanecerá y veremos!.
Como resalta el artículo del WEF, escrito por Ivan Shkvarun, “La economía de los agentes de IA será una realidad plenamente consolidada que requerirá formas totalmente nuevas de rendición de cuentas, colaboración y confianza“. Es preciso partir de que la confianza es la esperanza firme o la creencia segura de que alguien o algo actuará de manera adecuada y confiable en una situación dada. Adicional, existen dos componentes para la confianza: la capacidad para ejecutar y el propósito o intención. Si está última no es clara o entra en duda, la confianza se pierde. KPMG encontró en un estudio que la confianza en la IA se ha reducido más en los países desarrollados que en los emergentes. Por otro lado, la propensión para aceptar la IA es mayor en los países emergentes que en los desarrollados. Tranquilos, “es preciso confiar en el estudio”.
No obstante todo lo anterior, la confianza está soportada en en las relaciones interpersonales. Es así como los rasgos culturales tienen un componente importante que se puede apreciar en el comportamiento y tradiciones de las personas. También los negocios, las instituciones y los gobiernos poseen rasgos característicos que los hacen más o menos confiables. Los resultados de la IA estarán más del lado de las buenas implementaciones y apropiaciones. Por lo cual, las malas experiencias serán abono para la desconfianza. Pero, no son solo los resultados. También el hecho de sentirse amenazado por la IA. Por ejemplo, en el caso del trabajo hace que la persona no confíe en la IA.
Por lo anterior, es relevante asegurar la confianza en tres frentes:
- La confianza interpersonal. Los valores compartidos, las experiencias entre personas y la reciprocidad serán pieza fundamental. Esto precisa redoblar esfuerzos en el campo psicológico para la aceptación o reemplazo de una persona humana por un agente digital. Sin embargo, más allá de esto estará la seguridad tecnológica y digital que garantice la autenticidad e identidad del agente digital (ciberseguridad).
- La confianza digital. También existirán relaciones solo entre agentes digitales. Por lo tanto, el intercambio de información deberá ser seguro y confiable. Como lo comentamos, se usarán agentes digitales que certifiquen las interacción de otros agentes. Por ejemplo, la ejecución técnica, la fiabilidad de los resultados, la alineación con objetivos y la transparencia en los toma de decisiones. En consecuencia, la tecnología y los ingenieros deberán diseñar sistemas que puedan evaluar, verificar y adaptar la confianza en tiempo real y permanentemente.
- La confianza híbrida. Que el humano confíe en el agente…ah, y el agente en el humano!. El comportamiento predecible del agente digital lo hace más confiable. La continuidad y la coherencia en la interacción y el intercambio de información serán vitales para garantizar la confianza. Importante mencionar que será una confianza biunívoca y bilateral. Curioso no? La autonomía e inteligencia de los agentes les permitirá validar en tiempo real la información registrada por el humano y determinar y asignar niveles de confianza a cada operador.
Para finalizar, conviene mencionar que la intención en los agentes digitales se debe evaluar de la misma forma que se hace para los humanos. Esto es a través de los “valores” utilizados en el momento de tomar una decisión. No solo hablamos de los valores numéricos, de la aplicación de unas reglas o del intercambio fluido y seguro de datos. Hacemos referencia también a los valores éticos y morales que rigen el comportamiento y las decisiones de los agentes IA. Así las cosas, volvemos a hacer énfasis en la importancia del gobierno, los protocolos, las mejores prácticas y los estándares. Lo anterior permitirá garantizar las definiciones de lo que deben y lo que no deben hacer los agentes digitales.
Conscientes de estos temas relevantes sobre la confianza, niik se ha preparado para acompañar y apoyar a sus clientes en la implementación y adopción de la Inteligencia Artificial Generativa – IA Gen. Como bien nos dice Ivan Shkvarun: “El fraude y las amenazas a la seguridad podrían multiplicarse exponencialmente a menos que se establezcan marcos de confianza sólidos“.
contactanos@niik.net
+57 3103124796
#ConiikTIC
#TuCompañiaEnElMundoDigital
Fuente: Artículo de WEF, Ivan Shkvarun. La confianza es la nueva moneda en la economía de los agentes de IA. 26 ago 2025
Deja un comentario