Gobernanza de la IA en las empresas: cómo estructurarla en la práctica

En la encuesta Panorama Vibe Coding Brasil, realizada por Skyone con el periódico, la gobernanza aparece como la primera de tres brechas que impiden la escalabilidad segura de la IA en las empresas (las otras dos son el conocimiento técnico y la infraestructura de TI). Las cifras ilustran la magnitud del problema: entre los 1982 encuestados en la base de datos total, solo el 26,4 % confirma tener reglas claras y formalizadas sobre cómo ingresar datos en las herramientas de IA. Entre quienes crean soluciones en el perfil dominante, el 60,9 % afirma no tener directrices claras sobre datos, mientras que el 52,1 % desarrolla automatizaciones y el 49,5 % crea integraciones internas.
IA 13 min de lectura Por: Skyone

En la Panorama Vibe Coding Brasil, realizada por Skyone con el periódico, la gobernanza aparece como la primera de tres brechas que impiden la escalabilidad segura de la IA en las empresas (las otras dos son el conocimiento técnico y la infraestructura de TI). Las cifras ilustran la magnitud: entre los 1982 encuestados en la base de datos total, solo el 26,4 % confirma tener reglas claras y formalizadas sobre cómo ingresar datos en las herramientas de IA. Entre quienes crean soluciones en el perfil dominante, el 60,9 % dice no tener directrices claras sobre datos, mientras que el 52,1 % desarrolla automatizaciones y el 49,5 % crea integraciones internas.

El desafío para los líderes en tecnología, seguridad y finanzas es doble. Si la empresa restringe el uso, pierde productividad y empuja a los equipos a tomar atajos, como se analizó en el artículo anterior de esta serie. Si permite el acceso sin restricciones, expone información corporativa, asume riesgos regulatorios y pierde el control del gasto. La gobernanza de la IA existe para resolver esta tensión sin sacrificar ninguna de las dos partes.

Este texto detalla qué constituye una gobernanza aplicable, qué controles técnicos la respaldan, cómo dividir las responsabilidades y cómo estructurarla para facilitar su uso en lugar de crear obstáculos. Los datos provienen de una encuesta realizada con nuestra propia muestra, que refleja al grupo consultado y no a la totalidad de las empresas brasileñas.

¿Qué es la gobernanza de la IA y por qué debe ir a la par con la velocidad de su adopción?

La gobernanza de la IA es el conjunto de políticas, funciones, controles y procesos mediante los cuales una organización define cómo se puede utilizar la inteligencia artificial, quién la puede utilizar, con qué datos y bajo qué supervisión, así como la forma en que se supervisa y corrige este uso.

Este concepto suele confundirse con dos aspectos afines. La seguridad de la información protege los activos y los datos contra el acceso no autorizado. El cumplimiento normativo verifica la adhesión a las leyes y regulaciones. La gobernanza es el nivel que determina quién es responsable, por qué y cómo se aplican los otros dos aspectos al caso específico de la IA. Esta distinción es el tema central de este artículo.

La velocidad es crucial porque la adopción no espera. Según el informe, el 22 % de las empresas brasileñas encuestadas ya utilizan IA o modelos de aprendizaje automático (MLA) en sus ciclos de desarrollo, y más del 80 % planean aumentar su presupuesto para IA y automatización el próximo año. Cuando el uso se propaga más rápido que las normas, cada nuevo caso de uso surge sin criterios definidos y requiere correcciones posteriores, lo que resulta más costoso.

¿Cuáles son los riesgos de introducir información confidencial en herramientas sin los criterios adecuados?

El principal riesgo reside en perder el control sobre el destino de la información, quién puede acceder a ella y cómo se gestionará. Un contrato con cláusulas confidenciales, una hoja de cálculo de compensaciones, el código fuente de un producto o una base de datos de clientes pueden enviarse a un servicio externo en cuestión de segundos por alguien que no tenía intención de causar daño.

La cifra del 26,4% con reglas formalizadas demuestra que, en la mayoría de la muestra, esta decisión aún depende del criterio individual. Por el contrario, el 73,6% no confirma tener reglas claras. Y el riesgo no se limita al chat: cuando la mitad de quienes lo crean desarrollan automatizaciones (52,1%) e integraciones internas (49,5%), la información también comienza a circular entre sistemas, sin que cada flujo haya sido evaluado.

En el caso de datos personales, se aplica la LGPD (Ley General de Protección de Datos de Brasil) y la empresa es responsable de su tratamiento, incluso cuando lo realicen empleados utilizando herramientas no autorizadas. El envío de datos personales a una herramienta de IA debe tener un propósito, fundamento y protección definidos, y no puede depender de la buena voluntad de cada usuario. Los casos específicos deben evaluarse con el departamento legal y el responsable de protección de datos.

También se observa una mayor concienciación: entre quienes crean más de un tipo de solución, el 27,3 % expresa espontáneamente su preocupación por las filtraciones y la seguridad. Esto indica que el tema cobra mayor importancia a medida que aumenta la madurez.

¿Cómo se define una política de uso de la IA que la gente realmente siga?

Una política eficaz de uso de la IA responde a preguntas prácticas en un lenguaje que el usuario comprende. Normalmente incluye:

  • Las herramientas y plantillas autorizadas, y cómo solicitar la inclusión de otras nuevas;
  • Las categorías de datos que se pueden enviar a la IA, que requieren cuidado y que no se pueden enviar;
  • Usos permitidos, restringidos y prohibidos, con ejemplos por zona;
  • El requisito de revisión humana antes de que el contenido generado por IA se utilice en decisiones, comunicaciones externas o entregables a clientes;
  • Los responsables de las preguntas, excepciones e incidentes;
  • La frecuencia de las revisiones es importante porque las herramientas cambian más rápido que los documentos.

El error más común es redactar la política como un texto legal. Un documento breve con ejemplos concretos (por ejemplo, "puede resumir las actas de una reunión interna; no puede enviarse a la base de datos de clientes") tiene más probabilidades de ser leído y aplicado.

¿Qué controles técnicos sustentan la gobernanza de la IA?

La política sin control depende de la disciplina individual. Cuatro frentes técnicos respaldan lo decidido sobre el papel.

Controlar el acceso, los permisos y las conexiones con las herramientas corporativas

Como en cualquier sistema empresarial, se debe gestionar quién puede usar qué modelos y asistentes, y con qué permisos. El punto clave es la conexión de la IA con el correo electrónico, los repositorios de documentos, el CRM y otras herramientas: cada integración amplía las capacidades del asistente. La cuestión de la gobernanza radica en quién autoriza la conexión, con qué alcance y cómo se revoca. Las conexiones con autenticación individual suelen limitar el acceso de la IA a lo que cada persona ya puede ver, pero esto debe verificarse en cada implementación.

En Skyone Astro, las conexiones se realizan mediante conectores, autenticación OAuth individual y servidores MCP dedicados, con la administración controlando los permisos y las conexiones. En la práctica, el equipo de TI decide qué herramientas se pueden integrar con la IA y supervisa las conexiones, en lugar de dejar que cada usuario las configure por su cuenta. Para quienes desarrollan integraciones y automatizaciones, la plataforma también ofrece Skyone Studio, que centraliza las conexiones con iPaaS y Lakehouse y proporciona gobernanza desde el origen.

Auditoría y visibilidad de las indicaciones, respuestas y actividades

Sin registros, es imposible investigar un incidente o comprender cómo se utiliza la IA. La auditoría permite consultar las solicitudes y respuestas, filtrar por usuario, período o tema y, cuando sea necesario, determinar qué sucedió. Es importante tener en cuenta que este monitoreo maneja datos de empleados y debe tener un propósito claro, acceso restringido a los registros y comunicación transparente con los usuarios, en coordinación con el departamento legal y el responsable de protección de datos.

Esta es la funcionalidad que Skyone Astro ofrece en la capa de auditoría: registro de comandos y consulta de mensajes y respuestas con filtros y exportación a CSV, además de brindar soporte a las investigaciones cuando sea necesario verificar un hecho. La exportación resulta útil para las áreas de seguridad, legal y cumplimiento que trabajan con sus propias herramientas de análisis.

Protección de datos mediante reglas, bloqueos y alertas

Las reglas automáticas (medidas de seguridad) revisan las solicitudes y los archivos enviados, y pueden bloquear el envío o simplemente emitir una alerta, según la gravedad. Un enfoque práctico consiste en comenzar con alertas, observar los falsos positivos y solo entonces ajustar las restricciones para bloquear las categorías de mayor riesgo. Bloquear todo desde el principio suele generar frustración y soluciones alternativas.

En Skyone Astro, las medidas de seguridad actúan sobre las indicaciones y las cargas de datos, y pueden funcionar con bloqueos y alertas, lo que permite el proceso descrito anteriormente. La descripción general añade que la plataforma anonimiza los datos confidenciales (DLP) antes de que las solicitudes lleguen a los modelos.

Control del consumo y seguimiento de las inversiones

El uso de modelos de IA generalmente se factura según el volumen de procesamiento, lo que hace que los costos sean variables y difíciles de predecir sin supervisión. Con más del 80 % de las empresas encuestadas planeando ampliar su presupuesto de IA y automatización, la visibilidad sobre dónde se gasta el dinero ya no es un detalle menor. Los límites de usuarios, las alertas al acercarse a un límite máximo y los informes de consumo permiten al departamento financiero visualizar la inversión y a la dirección comparar costos y resultados por equipo. Este es el aspecto que suele acercar al director financiero a la conversación sobre gobernanza.

Skyone Astro muestra el consumo en reales brasileños (BRL), con límites de usuario y alertas, lo que facilita a los responsables del presupuesto el seguimiento de su inversión. Skyone ofrece dos modelos de suscripción: un modelo estándar para pequeñas y medianas empresas y un modelo empresarial para grandes compañías, cuyas condiciones detalladas se especifican en una propuesta comercial.

¿Quién es el responsable de la gobernanza de la IA en la empresa?

La responsabilidad es compartida, y la falta de un responsable claro para cada parte es una de las causas más comunes de una gobernanza que solo existe en el papel. Una posible división:

PapelResponsabilidad principal
Tecnologías de la información y la tecnologíaPlataformas, integraciones, gestión de accesos y conexiones
seguridad de la informaciónAnálisis de riesgos, normas de protección de datos, respuesta a incidentes
Responsable jurídico y de protección de datosLGPD, contratos con proveedores, límites de monitoreo
Finanzas y controlPresupuesto, límites y control del consumo
líderes de áreaCasos de uso, criterios de calidad y revisión humana por parte de su equipo
UsuariosSiga las directrices e informe de cualquier duda o incidente

En la práctica, conviene designar a una persona o comité para coordinar las demás áreas y tomar decisiones en caso de conflicto entre velocidad y control. La situación actual demuestra que la sobrecarga de los sistemas informáticos es uno de los factores que impulsan a los usuarios a buscar atajos, lo que refuerza la necesidad de distribuir la carga de trabajo y no concentrarla en un solo lugar.

¿Cómo podemos estructurar un sistema de gobernanza que facilite el uso, en lugar de simplemente crear barreras?

El principio fundamental es la proporcionalidad. Los casos de bajo riesgo, como la reescritura de un texto público o el resumen de material interno no confidencial, merecen un tratamiento prioritario. Los casos de mayor riesgo, como los análisis que implican datos de clientes o decisiones que afectan a personas, requieren revisión y controles adicionales.

Tres prácticas ayudan a mantener el equilibrio. Primero, ofrecer una alternativa aprobada y accesible, ya que las reglas sin una opción de uso obligan a los usuarios a recurrir a sus herramientas personales. Segundo, realizar un seguimiento de indicadores sencillos (número de excepciones solicitadas, alertas generadas, consumo por equipo, incidentes) para ajustar las reglas en función de los datos. Tercero, combinar las reglas con la formación: el 52,7 % de la base total de usuarios señala la falta de conocimientos técnicos como el mayor obstáculo, lo que indica que las reglas solo funcionan si se sabe cómo aplicarlas. Skyone asocia este enfoque con Builders by Skyone, un programa de formación y capacitación para ejecutivos.

¿Cómo puede una plataforma corporativa respaldar la gobernanza?

Una plataforma de IA corporativa puede reunir, en un único entorno, los recursos de producción de los equipos y los de administración. Skyone Astro es un ejemplo de este enfoque. La descripción general la presenta como una puerta de enlace de IA corporativa: un portal único donde la empresa controla el acceso de los empleados a múltiples LLM, priorizando el cumplimiento normativo sobre la experimentación libre. Según el material de referencia de Skyone, para los administradores ofrece consultas de respuesta rápida con filtros y exportación a CSV, controles para solicitudes y cargas con bloqueos y alertas, control de consumo con valores en reales (moneda brasileña), límites por usuario y alertas, así como conexiones a través de conectores, OAuth individual y sus propios servidores MCP, con control de permisos. Para los equipos, el entorno proporciona acceso a múltiples modelos y asistentes.

Es prudente considerar esto como un punto de partida para la evaluación, no como una garantía. Ninguna plataforma elimina por sí sola el riesgo de exposición de datos, ni garantiza el cumplimiento automático. La infraestructura, la retención de datos y los requisitos operativos deben verificarse caso por caso, y la evaluación debe utilizar datos sintéticos o autorizados, con los controles que el comité de la empresa considere indispensables. La revisión humana de las decisiones críticas sigue siendo responsabilidad de la organización.

Conclusión: la gobernanza como condición para ampliar el uso

El análisis de Skyone y las noticias ayudan a definir el problema: el uso de la IA y la automatización está en auge, y la inversión se mantiene al ritmo, pero solo el 26,4 % de la muestra confirma la existencia de normas formalizadas sobre datos. Una gobernanza eficaz combina políticas concisas, controles técnicos (acceso, auditoría, protección y consumo de datos) y responsabilidades definidas en TI, seguridad, asuntos legales, finanzas y liderazgo. Cuando está bien calibrada, permite a la empresa aprobar más casos de uso con criterios conocidos, en lugar de basarse en prohibiciones genéricas.

¿Quieres entender cómo estructurar la gobernanza de la IA en tu empresa? Descubre Skyone Astro y el contenido de Skyone sobre IA corporativa, y evalúa el enfoque con un ejemplo real de tu operación.

Preguntas frecuentes

¿Qué es la gobernanza de la IA?

Se trata del conjunto de políticas, roles, controles y procesos que definen cómo se puede utilizar la inteligencia artificial en una organización, quién la utiliza, con qué datos y bajo qué supervisión. Incluye normas de uso, control de acceso, auditoría, protección de datos, seguimiento de costes y asignación de responsabilidades.

¿Cuál es la diferencia entre la gobernanza de la IA y la seguridad de la información?

La seguridad de la información protege los datos y los sistemas contra el acceso y uso no autorizados. La gobernanza de la IA es más amplia: define qué usos están permitidos, quién es responsable de ellos y cómo se abordarán los riesgos relacionados con la seguridad, la privacidad, la calidad y los costos. La seguridad es un componente de la gobernanza.

¿Qué debería contener una política de uso de la IA?

Herramientas autorizadas, categorías de datos permitidas y prohibidas, usos permitidos y prohibidos, requisito de revisión humana en decisiones críticas, responsables de consultas e incidentes, y frecuencia de revisión. Ejemplos concretos por área facilitan la aceptación.

¿Está permitido supervisar las indicaciones y respuestas de los empleados?

Depende del propósito, la transparencia y la proporcionalidad del monitoreo, y debe evaluarse con el departamento legal y el responsable de protección de datos. Las buenas prácticas incluyen una comunicación clara con los usuarios, la restricción del acceso a los registros y el uso de los datos únicamente para los fines indicados, como la seguridad y la investigación de incidentes.

¿Cómo pueden las empresas controlar el coste del uso de la IA?

Al establecer límites por usuario o equipo, configurar alertas cuando se acerca el límite y supervisar los informes de consumo por período, la monitorización regular le permite correlacionar el gasto y los resultados antes de ampliar el acceso.

Skyone
Escrito por Skyone

Empiece a transformar su empresa

Prueba la plataforma o programa una conversación con nuestros expertos para comprender cómo Skyone puede acelerar tu estrategia digital.

Suscríbete a nuestro boletín

Manténgase actualizado con el contenido de Skyone

Hablar con ventas

¿Tienes alguna pregunta? Habla con un especialista y resuelve todas tus dudas sobre la plataforma.