Los avances tecnológicos y el desarrollo vertiginoso de las comunicaciones están modificando permanentemente el concepto de valor en la sociedad. Los diferentes recursos y activos organizacionales van apreciándose en la medida en que dichos avances impactan el quehacer humano. Sin lugar a duda, procesos e información siempre se verán impactados por la tecnología. En particular, beneficiados por el desarrollo de tecnologías emergentes en procura de un mejor futuro para la sociedad.
La interoperabilidad, la integración y las interconexiones acortan las distancias y a su vez, “exponen” a la información prácticamente sin límites. Dicha exposición tiene dos aristas: 1) la necesidad de explotar la información sobre todo en volúmenes grandes e importantes. 2) la necesidad de proteger la información mitigando y controlando los riesgos. Por lo tanto, los procesos y sus flujos de información pueden ser alcanzados en cualquier momento y desde cualquier lugar. Así las cosas, las tecnologías emergentes no solo deben propender por el desarrollo humano sino cuidarlo y asegurarlo. En consecuencia se requiere del uso responsable de la Inteligencia Artificial.
Es esta oportunidad vamos a hacer referencia al uso responsable de la Inteligencia Artificial Generativa – IA Gen. Como mencionamos al inicio, los avances tecnológicos sirven a la humanidad para transformar su entorno. Adicionalmente, le permiten satisfacer sus necesidades esenciales. Es de esta forma que el hombre esta en capacidad de mejorar la productividad, competitividad y sostenibilidad. Es así como el desarrollo de la IA Gen, entre otros, está habilitando la personalización de servicios, la simplificación y automatización de tareas cotidianas, la oportunidad en la toma de decisiones y el desarrollo de soluciones a problemas globales. Sin embargo, su uso requiere una gestión ética, equitativa y responsable que respete y privilegie los derechos humanos.
La IA Gen busca impactar y beneficiar los procesos y sus flujos de información. Para cumplir con este objetivo ulterior la IA Gen requiere acceder a importantes volúmenes de información y el uso de modelos de lenguaje y aprendizaje afinados. Por lo tanto, es imprescindible asegurar las fuentes, el procesamiento y las salidas de información. Así las cosas, entre otros se precisa trabajar varios frentes en paralelo:
- El desarrollo y afinamiento del modelo o motor de inteligencia. Aunque continúan las mejoras en los modelos, el sesgo y las alucinaciones continúan siendo un reto. Por lo tanto, durante un buen tiempo será necesaria la supervisión y acompañamiento humano para mitigar los riesgos. Adicional, es conveniente hacer revisión también del “sesgo dirigido” evitando así cualquier comportamiento corrupto. Es aquí donde priman la ética y los valores humanos. No solo en la implementación de las reglas y el comportamiento del modelo sino en su desarrollo y aplicación. Se sugiere la conformación de equipos interdisciplinarios que aporten integralmente en la construcción de los modelos. Al igual se precisa de un gobierno y un marco de referencia que guíe la evolución del modelo.
- Apropiada selección del modelo para parte del usuario. Las pruebas y el conocimiento de los modelos son clave para su selección. Por otro lado, entender en detalle el problema trae como consecuencia un adecuado planteamiento del proceso para alcanzar la solución. Al igual que el punto anterior, se recomienda apoyarse en un equipo diverso que integre múltiples acepciones y aportes sobre el mejor modelo a escoger. La distintas perspectivas de equipos heterogéneos enriquecen el proceso de selección.
- Calidad y seguridad de la fuente de datos. Lo primero y más importante es que se le debe dar toda la prioridad a la protección de los datos. Asegurar el cumplimiento de las normas de privacidad es fundamental. Es preciso considerar que el usuario es el dueño del proceso y de la información. Se debe analizar, validar, evaluar, controlar y evitar el uso de datos falsos o pre elaborados cuya intención es desviar o amañar los resultados.
- Conformidad y consistencia de los resultados. Es preciso estar atentos a las salidas y cuestionar permanentemente los resultados. Al comienzo del uso de la IA Gen se recomienda realizar validaciones cruzadas con otros modelos. De igual forma, es prudente usarla inicialmente como apoyo. Los resultados deben estar garantizados por pruebas exigentes a los modelos de AI Gen. La calidad de los resultados es consecuencia de unas pruebas exigentes. Por otro lado, los resultados deben ser fruto de un adecuado uso de los recursos tecnológicos. La protección del medio ambiente y la sostenibilidad deben ser considerados asegurando el equilibrio entre beneficio y costo para la sociedad.
- Aseguramiento del proceso de retroalimentación. La IA Gen debe convertirse en una herramienta de apoyo. No debe ser considerada de facto como un sustituto o reemplazo del hombre. Es prudente permitirle a la IA Gen esbozar ideas y recomendaciones. Que sirva como punto de partida. Sin embargo, es necesario que siempre esté acompañada por el pensamiento crítico del usuario. Es fundamental contar con un ecosistema de normas y reglamentos para guiar el desarrollo, despliegue, evolución y uso responsable de la Inteligencia Artificial.
En conclusión, el uso responsable de la Inteligencia Artificial considera: 0) a la persona y sus derechos humanos como fundamento y prioridad. 1) la mejora en la calidad de vida y condición del hombre. 2) que se debe dar control y autonomía a los usuarios sobre sus propios datos (privacidad). 3) el entendimiento transparente de la forma como se llega a los resultados (conclusiones y recomendaciones). 4) que debe ser garantía para que todos los usuarios sean tratados con equidad. 5) habilitar la supervisión humana para verificar y corroborar la información y decisiones de la IA Gen. 6) el apoyo y soporte en el pensamiento crítico y la capacidad de resolución de problemas del usuario. 7) la protección y el cuidado de las conexiones y relaciones humanas. 8) la realización de pruebas exigentes que aseguren la calidad de los resultados.
niik es una compañía que colabora con sus clientes haciendo un uso responsable de las tecnologías emergentes. En particular, el uso responsable de la Inteligencia Artificial. Permítanos acompañarlos en la implementación de los proyectos que requieren la adopción de estas tecnologías. En niik estamos convencidos que la IA Gen es un habilitador de la estrategia de las organizaciones cuyo uso responsable respecta y mejora la calidad de vida y condición humana.
contactanos@niik.net
+57 3103124796
#ConiikTIC
#TuCompañiaEnElMundoDigital
Deja un comentario