Gobernanza de datos e inteligencia artificial confiable: una propuesta de investigación para las organizaciones

 Aldo Zanabria Gálvez 

Introducción

La inteligencia artificial se ha convertido en uno de los principales componentes de la transformación digital. Actualmente, las empresas, universidades e instituciones públicas buscan incorporar modelos predictivos, asistentes inteligentes, copilotos y agentes capaces de automatizar tareas, analizar información y apoyar la toma de decisiones.

Sin embargo, considero que muchas organizaciones están iniciando este proceso desde una perspectiva incompleta. Se concentran principalmente en la adquisición de herramientas, en la creación de proyectos piloto o en la presentación de soluciones aparentemente innovadoras, pero no siempre evalúan la calidad de los datos, la trazabilidad de los procesos, la seguridad de la información ni las responsabilidades derivadas del uso de estas tecnologías.

La expresión “sin datos no hay inteligencia artificial” resume una parte importante del problema. No obstante, la sola existencia de datos no garantiza resultados confiables. Para que una solución de inteligencia artificial pueda generar valor, necesita información pertinente, actualizada, representativa, protegida y correctamente gobernada.

Desde esta perspectiva, propongo analizar la relación existente entre la gobernanza de datos y el nivel de confiabilidad de los sistemas de inteligencia artificial implementados en las organizaciones. Esta investigación permitiría identificar las condiciones necesarias para que los proyectos piloto puedan convertirse en soluciones sostenibles, seguras y alineadas con los objetivos institucionales.

Planteamiento del problema

En los últimos años se ha incrementado considerablemente la implementación de iniciativas relacionadas con inteligencia artificial. Muchas organizaciones desarrollan chatbots, sistemas de recomendación, modelos de predicción, automatización documental y agentes inteligentes.

A pesar de este crecimiento, una parte importante de estas iniciativas no logra superar la etapa experimental. Los proyectos permanecen como pruebas de concepto, funcionan únicamente en ambientes controlados o son abandonados después de una primera demostración.

El problema no siempre se encuentra en el algoritmo utilizado. En muchos casos, las principales dificultades están relacionadas con la ausencia de una estrategia de datos, la baja calidad de la información, la dispersión de registros, la inexistencia de responsables claramente definidos y la falta de mecanismos para evaluar los riesgos.

Cuando una organización desarrolla inteligencia artificial sobre datos incompletos, desactualizados o sesgados, el sistema puede reproducir y ampliar esos errores. Si además no existe trazabilidad, será difícil determinar de dónde provino una respuesta, qué versión del modelo fue utilizada o quién autorizó la decisión.

La problemática puede resumirse en la siguiente pregunta general:

¿De qué manera la gobernanza de datos influye en la confiabilidad, sostenibilidad y escalabilidad de los sistemas de inteligencia artificial implementados en las organizaciones?

De esta pregunta pueden derivarse otras interrogantes:

• ¿Qué dimensiones de la gobernanza de datos tienen mayor influencia en el funcionamiento de los sistemas de inteligencia artificial?
• ¿Cuál es la relación entre la calidad de los datos y el desempeño de los modelos?
• ¿Cómo influye la trazabilidad en la transparencia y auditabilidad de las decisiones automatizadas?
• ¿Qué responsabilidades deben asumir la alta dirección, el responsable de datos, el área tecnológica y los propietarios de los procesos?
• ¿Por qué algunos proyectos piloto logran pasar a producción mientras otros permanecen en una etapa experimental?

Justificación de la investigación

La investigación se justifica porque existe una brecha entre la rápida adopción de la inteligencia artificial y la capacidad real de las organizaciones para gobernar los datos que utilizan.

En muchos casos se implementan herramientas sin conocer adecuadamente la procedencia de la información, su nivel de calidad, las condiciones bajo las cuales fue obtenida o los riesgos asociados a su procesamiento. Esto puede provocar errores de decisión, filtraciones de información, discriminación algorítmica, incumplimientos normativos y pérdida de confianza.

Desde el punto de vista tecnológico, esta investigación permitirá comprender que el éxito de la inteligencia artificial no depende únicamente del modelo o de la potencia computacional. También depende de la arquitectura de datos, de los mecanismos de control y de la capacidad institucional para mantener el sistema durante todo su ciclo de vida.

Desde el ámbito organizacional, el estudio contribuirá a definir responsabilidades. El responsable de datos o Chief Data Officer puede dirigir la estrategia de gobierno de datos, pero no debería ser considerado el único responsable de los resultados de una solución de inteligencia artificial. La responsabilidad debe ser compartida entre la dirección, los propietarios de los procesos, las áreas tecnológicas, jurídicas, de seguridad, auditoría y los usuarios que toman decisiones.

En el ámbito social, la investigación permitirá fortalecer el uso ético y responsable de la inteligencia artificial, especialmente cuando sus resultados puedan afectar a estudiantes, trabajadores, clientes, ciudadanos o grupos vulnerables.

Objetivo general

Analizar la influencia de la gobernanza de datos en la confiabilidad, sostenibilidad y escalabilidad de los sistemas de inteligencia artificial implementados en organizaciones públicas, privadas o académicas.

Objetivos específicos

1. Identificar las principales dimensiones de gobernanza de datos aplicadas en los proyectos de inteligencia artificial.

2. Evaluar la relación entre la calidad de los datos y el desempeño de los modelos o sistemas inteligentes.

3. Analizar el nivel de trazabilidad existente en el ciclo de vida de los datos y de los modelos.

4. Determinar las responsabilidades de los actores que intervienen en la implementación y supervisión de la inteligencia artificial.

5. Identificar los factores que permiten que un proyecto piloto pueda convertirse en una solución institucional sostenible.

6. Proponer un modelo de evaluación para la gobernanza y confiabilidad de sistemas de inteligencia artificial.

Hipótesis general

Una mayor madurez en la gobernanza de datos influye positivamente en la confiabilidad, sostenibilidad y escalabilidad de los sistemas de inteligencia artificial implementados en las organizaciones.

Como hipótesis específicas se podrían considerar las siguientes:

• La calidad de los datos influye significativamente en la precisión y estabilidad de los modelos de inteligencia artificial.
• La trazabilidad mejora la transparencia, auditabilidad y capacidad de corrección de los sistemas.
• La definición clara de responsabilidades reduce los riesgos técnicos, legales y organizacionales.
• Los proyectos de inteligencia artificial que cuentan con procesos formales de evaluación presentan una mayor probabilidad de pasar de la etapa piloto a producción.
• La aplicación de controles de acceso y seguridad incrementa la confianza institucional en el uso de la inteligencia artificial.

---

Variables de investigación

Variable independiente

Gobernanza de datos

Sus principales dimensiones podrían ser:

• calidad;
• disponibilidad;
• seguridad;
• privacidad;
• trazabilidad;
• interoperabilidad;
• administración de metadatos;
• definición de responsabilidades;
• políticas institucionales;
• control de acceso.

Variable dependiente

Confiabilidad de los sistemas de inteligencia artificial

Esta variable podría evaluarse mediante:

• precisión;
• robustez;
• explicabilidad;
• transparencia;
• equidad;
• seguridad;
• sostenibilidad;
• escalabilidad;
• aceptación de los usuarios;
• cumplimiento de los objetivos institucionales.

También podría incorporarse como variable dependiente complementaria el nivel de madurez de los proyectos de inteligencia artificial, considerando etapas como exploración, piloto, validación, producción y mejora continua.

Propuesta metodológica

La investigación podría desarrollarse mediante un enfoque mixto, porque el problema requiere analizar tanto indicadores cuantitativos como prácticas organizacionales.

El componente cuantitativo permitiría medir la relación entre la gobernanza de datos y el desempeño de los sistemas de inteligencia artificial. Para ello se podrían utilizar cuestionarios, matrices de evaluación, indicadores de calidad y métricas técnicas.

El componente cualitativo permitiría conocer la experiencia de los responsables de datos, especialistas en inteligencia artificial, directivos, auditores y propietarios de los procesos. Se podrían realizar entrevistas semiestructuradas y análisis documental.

El diseño podría ser no experimental, transversal y correlacional. En una etapa posterior, también podría desarrollarse un estudio explicativo o comparativo entre organizaciones con distintos niveles de madurez.

La población estaría constituida por organizaciones que hayan implementado proyectos de inteligencia artificial o analítica avanzada. La muestra podría incluir empresas privadas, universidades y entidades públicas.

Entre las técnicas de recolección de datos podrían considerarse:

• encuestas a responsables de tecnología y datos;
• entrevistas a especialistas;
• revisión de políticas institucionales;
• análisis de inventarios de modelos;
• evaluación de conjuntos de datos;
• revisión de registros de trazabilidad;
• análisis de indicadores de desempeño;
• estudio de proyectos piloto exitosos y fallidos.

Modelo conceptual propuesto

La propuesta parte de la idea de que la inteligencia artificial visible representa únicamente la parte final de un sistema más amplio.

En el nivel superior se encuentran los productos perceptibles por el usuario:

• chatbots;
• copilotos;
• agentes;
• modelos predictivos;
• sistemas de recomendación;
• automatización de procesos.

Debajo se encuentra la infraestructura que sostiene su funcionamiento:

• datos;
• arquitectura tecnológica;
• calidad;
• seguridad;
• privacidad;
• trazabilidad;
• interoperabilidad;
• gobierno;
• responsables;
• supervisión humana.

La investigación podría estructurar este modelo en cinco componentes principales.

1. Gobierno institucional

Comprende la estrategia, las políticas, la asignación de responsabilidades y el compromiso de la alta dirección.

2. Gobierno de datos

Incluye calidad, catálogo, metadatos, procedencia, acceso, interoperabilidad y protección de la información.

3. Gestión del ciclo de vida de la IA

Considera diseño, entrenamiento, validación, despliegue, monitoreo, actualización y retiro del sistema.

4. Gestión de riesgos

Incluye riesgos técnicos, legales, éticos, operativos, de seguridad y reputacionales.

5. Evaluación de resultados

Permite medir el desempeño técnico, el impacto institucional, la aceptación de los usuarios y la creación de valor.

El problema de los proyectos piloto

Uno de los temas centrales de esta propuesta es analizar por qué muchas organizaciones acumulan proyectos piloto sin lograr una verdadera transformación.

Un piloto puede demostrar que una tecnología funciona bajo determinadas condiciones, pero no garantiza que pueda operar de manera continua. Para escalar una solución se necesita integración con los sistemas existentes, seguridad, presupuesto, personal capacitado, mantenimiento y mecanismos de supervisión.

Por ello, la investigación podría evaluar los proyectos de inteligencia artificial mediante una matriz que incluya los siguientes criterios:

Dimensión	Aspecto por evaluar
Valor institucional	Capacidad para resolver un problema real
Calidad de datos	Exactitud, completitud y representatividad
Desempeño	Precisión, estabilidad y comparación con la línea base
Seguridad	Protección contra accesos y manipulaciones
Privacidad	Uso legítimo y proporcional de los datos
Trazabilidad	Capacidad para reconstruir el proceso
Equidad	Ausencia o reducción de sesgos injustificados
Supervisión humana	Existencia de mecanismos de revisión
Sostenibilidad	Capacidad técnica y económica para mantenerse
Escalabilidad	Posibilidad de ampliar usuarios y procesos
Cumplimiento	Adecuación a las normas aplicables
Plan de salida	Capacidad para suspender o reemplazar el sistema

Un proyecto debería pasar a producción cuando exista evidencia suficiente de cumplimiento en estas dimensiones y no únicamente cuando presente una demostración atractiva.

Responsabilidad compartida en la inteligencia artificial

Otro aspecto relevante es la definición de responsabilidades. Considero insuficiente afirmar que el responsable de datos debe responder por toda la inteligencia artificial.

El gobierno de la IA requiere una estructura compartida:

• la alta dirección aprueba la estrategia;
• el propietario del proceso responde por el resultado institucional;
• el responsable de datos establece políticas y estándares;
• el equipo técnico construye y valida el modelo;
• el área jurídica analiza la legalidad;
• seguridad de la información controla los riesgos;
• auditoría verifica el cumplimiento;
• los usuarios mantienen la responsabilidad sobre las decisiones finales.

Esta distribución evita que la responsabilidad quede concentrada en una sola persona y permite establecer mecanismos claros de rendición de cuentas.

Resultados esperados

La investigación podría generar los siguientes resultados:

1. Un diagnóstico del nivel de madurez de gobernanza de datos en las organizaciones estudiadas.

2. La identificación de los factores que influyen en la confiabilidad de los sistemas de inteligencia artificial.

3. Una matriz para evaluar proyectos piloto antes de su despliegue.

4. Un modelo de roles y responsabilidades para el gobierno de la inteligencia artificial.

5. Un conjunto de indicadores para medir calidad, trazabilidad, seguridad y sostenibilidad.

6. Una propuesta metodológica para implementar inteligencia artificial de manera responsable.

7. Recomendaciones para organizaciones públicas, privadas y académicas.

Aporte de la investigación

El principal aporte sería demostrar que la inteligencia artificial no debe analizarse únicamente desde la perspectiva algorítmica. Su confiabilidad depende de un sistema institucional compuesto por datos, normas, personas, procesos y controles.

La investigación podría aportar un modelo integral que relacione gobernanza de datos, gestión de riesgos, responsabilidad organizacional y desempeño de los sistemas de inteligencia artificial.

También permitiría establecer criterios objetivos para decidir cuándo una solución se encuentra preparada para pasar de piloto a producción.

Este aporte sería relevante para las organizaciones peruanas, donde todavía existe una considerable diferencia entre el entusiasmo por adoptar inteligencia artificial y la capacidad institucional para gobernarla.

Conclusión

La inteligencia artificial representa una oportunidad importante para mejorar la productividad, optimizar procesos y apoyar la toma de decisiones. Sin embargo, su implementación no debe reducirse a la adquisición de plataformas o a la acumulación de proyectos piloto.

Considero que la parte más importante de una solución inteligente no siempre es visible. Debajo de cada modelo se encuentran los datos, la arquitectura, las políticas, la seguridad, la trazabilidad y las personas responsables.

Por ello, la propuesta de investigación parte de una premisa central:

Sin datos gobernados no existe inteligencia artificial confiable, y sin responsabilidades claramente definidas no existe verdadera rendición de cuentas.

El reto de las organizaciones no consiste únicamente en incorporar inteligencia artificial, sino en construir las condiciones necesarias para utilizarla de manera responsable, sostenible y orientada al bienestar de las personas.

La inteligencia artificial debe convertirse en una herramienta de apoyo para mejorar las decisiones humanas, pero nunca en un mecanismo que elimine el juicio crítico, la transparencia o la responsabilidad institucional.