La gouvernance de l'IA en entreprise : comment la structurer en pratique

D'après l'enquête Panorama Vibe Coding Brasil, menée par Skyone en partenariat avec le média, la gouvernance apparaît comme le premier des trois obstacles à un déploiement sécurisé de l'IA en entreprise (les deux autres étant les connaissances techniques et l'infrastructure informatique). Les chiffres sont éloquents : sur les 1 982 répondants de la base de données, seuls 26,4 % confirment disposer de règles claires et formalisées concernant la saisie des données dans les outils d'IA. Parmi les créateurs de solutions appartenant au profil dominant, 60,9 % déclarent ne pas avoir de directives claires sur les données, tandis que 52,1 % développent des automatisations et 49,5 % mettent en place des intégrations internes.
IA 13 min de lecture Par : Skyone

D'après l' Panorama Vibe Coding Brasil, menée par Skyone en partenariat avec le média local, la gouvernance apparaît comme le premier des trois obstacles à un déploiement sécurisé de l'IA en entreprise (les deux autres étant les connaissances techniques et l'infrastructure informatique). Les chiffres sont éloquents : sur les 1 982 répondants de la base de données, seuls 26,4 % confirment disposer de règles claires et formalisées concernant la saisie des données dans les outils d'IA. Parmi les créateurs de solutions appartenant au profil dominant, 60,9 % déclarent ne pas avoir de directives claires sur les données, tandis que 52,1 % développent des automatisations et 49,5 % mettent en place des intégrations internes.

Le défi pour les dirigeants des secteurs de la technologie, de la sécurité et de la finance est double. Si l'entreprise restreint l'utilisation de l'IA, elle perd en productivité et incite les équipes à prendre des raccourcis, comme évoqué dans l'article précédent de cette série. Si elle autorise un accès illimité, elle expose des informations confidentielles, s'expose à des risques réglementaires et perd le contrôle de ses dépenses. La gouvernance de l'IA vise à résoudre cette tension sans compromettre aucune des deux parties.

Ce texte détaille la gouvernance applicable, les contrôles techniques qui la soutiennent, la répartition des responsabilités et sa structuration afin d'en faciliter l'utilisation plutôt que d'y créer des obstacles. Les données proviennent d'une enquête menée auprès de notre échantillon, représentatif du groupe consulté et non de l'ensemble des entreprises brésiliennes.

Qu’est-ce que la gouvernance de l’IA et pourquoi doit-elle suivre le rythme de son adoption ?

La gouvernance de l'IA désigne l'ensemble des politiques, rôles, contrôles et processus par lesquels une organisation définit comment l'intelligence artificielle peut être utilisée, par qui, avec quelles données et sous quelle supervision, ainsi que la manière dont cette utilisation est surveillée et corrigée.

Ce concept est souvent confondu avec deux aspects voisins. La sécurité de l'information protège les actifs et les données contre les accès non autorisés. La conformité vérifie le respect des lois et des réglementations. La gouvernance, quant à elle, détermine les responsabilités de chacun, les raisons de ces responsabilités et la manière dont les deux autres s'appliquent au cas spécifique de l'IA. Cet article se concentre sur cette distinction.

La rapidité est essentielle car l'adoption ne s'arrête pas. Selon l' étude, 22 % des entreprises brésiliennes interrogées utilisent déjà l'IA ou les LLM dans leurs cycles de développement, et plus de 80 % prévoient d'augmenter leur budget IA et automatisation l'année prochaine. Lorsque l'usage se propage plus vite que les règles établies, chaque nouveau cas d'usage apparaît sans critères prédéfinis et nécessite des corrections ultérieures, ce qui engendre des coûts supplémentaires.

Quels sont les risques liés à la saisie d'informations confidentielles dans des outils sans critères appropriés ?

Le principal risque réside dans la perte de contrôle sur la destination des informations, les personnes autorisées à y accéder et la manière dont elles seront traitées. Un contrat comportant des clauses sensibles, un tableau de répartition des indemnisations, le code source d'un produit ou une base de données clients peuvent être transmis en quelques secondes à un service externe par une personne n'ayant aucune intention malveillante.

Le chiffre de 26,4 % concernant l'existence de règles formalisées montre que, dans la plupart des cas, cette décision repose encore sur le jugement individuel. À l'inverse, 73,6 % confirment ne pas disposer de règles claires. Le risque ne se limite pas aux messageries instantanées : lorsque la moitié de leurs créateurs développent des automatisations (52,1 %) et des intégrations internes (49,5 %), l'information circule également entre les systèmes, sans que chaque flux n'ait été évalué.

En matière de données personnelles, la LGPD (Loi générale brésilienne sur la protection des données) s'applique et l'entreprise est responsable de leur traitement, y compris lorsqu'il est effectué par des employés utilisant des outils non autorisés. La transmission de données personnelles à un outil d'IA doit avoir une finalité, une base juridique et des mesures de protection clairement définies, et ne peut dépendre de la bonne volonté de chaque utilisateur. Chaque cas particulier doit être examiné avec le service juridique et le délégué à la protection des données.

On observe également une prise de conscience : parmi ceux qui créent plusieurs types de solutions, 27,3 % expriment spontanément des inquiétudes concernant les fuites et la sécurité. Cela indique que la question prend de l’importance à mesure que la maturité s’accroît.

Comment définir une politique d'utilisation de l'IA que les gens suivront réellement ?

Une politique d'utilisation efficace de l'IA répond aux questions pratiques dans un langage compréhensible par l'utilisateur. Elle comprend généralement :

  • Les outils et modèles autorisés, et comment demander l'ajout de nouveaux ;
  • Les catégories de données qui peuvent, qui nécessitent et qui ne peuvent pas être envoyées à l'IA ;
  • Les utilisations autorisées, restreintes et interdites, avec des exemples par zone ;
  • L’exigence d’une vérification humaine avant l’utilisation de contenu généré par l’IA dans les décisions, les communications externes ou les livrables aux clients ;
  • Les personnes chargées des questions, des exceptions et des incidents ;
  • La fréquence des révisions est importante car les outils évoluent plus vite que les documents.

L'erreur la plus fréquente consiste à rédiger la politique comme un texte juridique. Un document court, assorti d'exemples concrets (par exemple : « elle peut servir de résumé au compte-rendu d'une réunion interne ; elle ne peut être transmise à la base de données clients »), a plus de chances d'être lu et appliqué.

Quels sont les mécanismes de contrôle technique qui sous-tendent la gouvernance de l'IA ?

Une politique sans contrôle repose sur la discipline individuelle. Quatre axes techniques soutiennent ce qui a été décidé sur le papier.

Contrôle des accès, des autorisations et des connexions avec les outils d'entreprise

Comme pour tout système d'entreprise, la gestion des autorisations d'utilisation des modèles et assistants est essentielle. L'intégration de l'IA aux messageries électroniques, aux systèmes de gestion documentaire, aux CRM et autres outils est cruciale : chaque intégration étend les capacités de l'assistant. La question de la gouvernance porte sur l'autorisation des connexions : qui les autorise, avec quel périmètre et comment les révoquer ? Les connexions avec authentification individuelle limitent généralement l'accès de l'IA aux informations visibles par chaque utilisateur, mais ce point doit être vérifié pour chaque implémentation.

Dans Skyone Astro, les connexions s'effectuent via des connecteurs, des authentifications OAuth individuelles et des serveurs MCP dédiés, l'administration gérant les autorisations et les connexions. Concrètement, l'équipe informatique détermine les outils intégrables à l'IA et supervise les connexions, évitant ainsi à chaque utilisateur de se charger de la configuration. Pour les développeurs d'intégrations et d'automatisations, Skyone Studio centralise les connexions avec les plateformes iPaaS et Lakehouse et assure la gouvernance à la source.

Audit et visibilité des invites, des réponses et des activités

Sans enregistrements, il est impossible d'enquêter sur un incident ou de comprendre l'utilisation de l'IA. L'audit permet de consulter les messages et les réponses, de filtrer par utilisateur, période ou sujet et, le cas échéant, de déterminer ce qui s'est passé. Une précaution s'impose : ce suivi concerne les données des employés et doit avoir un objectif clair, un accès restreint aux enregistrements et une communication transparente avec les utilisateurs, en accord avec le service juridique et le délégué à la protection des données.

Skyone Astro propose, au niveau de la couche d'audit, la journalisation des commandes, l'interrogation des invites et des réponses avec filtres et exportation CSV, ainsi que la prise en charge des enquêtes nécessaires à la vérification des faits. L'exportation est particulièrement utile pour les services de sécurité, juridiques et de conformité qui utilisent leurs propres outils d'analyse.

Protection des données par le biais de règles, de blocages et d'alertes

Des règles automatiques (garde-fous) vérifient les invites et les fichiers envoyés et peuvent bloquer l'envoi ou simplement émettre une alerte, selon la gravité du problème. Une approche pratique consiste à commencer par les alertes, à observer les faux positifs, puis à renforcer les restrictions pour bloquer les catégories à haut risque. Tout bloquer dès le départ a tendance à générer de la frustration et à engendrer des solutions de contournement.

Dans Skyone Astro, des garde-fous agissent sur les invites et les chargements et peuvent fonctionner avec des blocages et des alertes, permettant ainsi la progression décrite ci-dessus. La présentation ajoute que la plateforme anonymise les données sensibles (DLP) avant que les requêtes n'atteignent les modèles.

Contrôle de la consommation et suivi des investissements

L'utilisation des modèles d'IA est généralement facturée en fonction du volume de traitement, ce qui rend les coûts variables et difficiles à prévoir sans suivi. Plus de 80 % des entreprises interrogées prévoient d'augmenter leur budget IA et automatisation ; la visibilité sur les dépenses est donc devenue essentielle. Les limites d'utilisateurs, les alertes en cas d'atteinte d'un plafond et les rapports de consommation permettent aux services financiers de suivre l'investissement et à la direction de comparer les coûts et les résultats par équipe. C'est généralement cet aspect qui implique davantage le directeur financier dans les discussions sur la gouvernance.

Skyone Astro affiche la consommation en réaux brésiliens (BRL), avec des limites d'utilisateurs et des alertes, facilitant ainsi le suivi des investissements pour les responsables du budget. Skyone propose deux formules d'abonnement : une formule standard pour les PME et une formule entreprise pour les grandes entreprises, dont les conditions détaillées figurent dans une proposition commerciale.

Qui est responsable de la gouvernance de l'IA au sein de l'entreprise ?

La responsabilité est partagée, et l'absence d'un responsable clairement identifié pour chaque partie est l'une des causes les plus fréquentes d'une gouvernance purement théorique. Une répartition possible :

PapierResponsabilité principale
Informatique et technologiesPlateformes, intégrations, gestion des accès et connexions
sécurité de l'informationAnalyse des risques, règles de protection des données, réponse aux incidents
Responsable juridique et de la protection des donnéesLGPD, contrats avec les fournisseurs, limites de surveillance
Finance et contrôleBudget, limites et suivi de la consommation
responsables de zoneCas d'utilisation, critères de qualité et examen humain par votre équipe
UtilisateursSuivez les consignes, signalez les questions et les incidents

En pratique, il est judicieux de désigner une personne ou un comité chargé de coordonner les autres domaines et de trancher en cas de conflit entre rapidité et contrôle. La situation actuelle montre que la surcharge des services informatiques est l'un des facteurs incitant les utilisateurs à prendre des raccourcis, ce qui renforce la nécessité de répartir la charge de travail et de ne pas la concentrer dans un seul domaine.

Comment structurer un système de gouvernance qui facilite l'utilisation, plutôt que de simplement créer des obstacles ?

Le principe est celui de la proportionnalité. Les cas à faible risque, comme la réécriture d'un texte public ou la synthèse de documents internes non sensibles, bénéficient d'une procédure accélérée. Les cas à risque plus élevé, comme les analyses impliquant des données clients ou les décisions ayant un impact sur les personnes, nécessitent un examen approfondi et des contrôles supplémentaires.

Trois pratiques contribuent à maintenir l'équilibre. Premièrement, proposer une alternative approuvée et accessible, car les règles sans option d'utilisation incitent les utilisateurs à privilégier leurs outils personnels. Deuxièmement, suivre des indicateurs simples (nombre d'exceptions demandées, alertes générées, consommation par équipe, incidents) afin d'ajuster les règles en fonction des données. Troisièmement, associer les règles à la formation : 52,7 % des utilisateurs considèrent le manque de connaissances techniques comme le principal obstacle, ce qui indique que les règles ne sont efficaces que si les utilisateurs savent les appliquer. Skyone associe cette approche à Builders by Skyone, un programme de formation et de mise en pratique destiné aux cadres.

Comment une plateforme d'entreprise peut-elle soutenir la gouvernance ?

Une plateforme d'IA d'entreprise peut centraliser, au sein d'un environnement unique, les ressources de production des équipes et celles de l'administration. Skyone Astro illustre cette approche. La présentation la décrit comme une passerelle d'IA d'entreprise : un portail unique où l'entreprise contrôle l'accès des employés à de multiples modèles d'IA, la conformité primant sur l'expérimentation libre. Selon la documentation de Skyone, elle offre aux administrateurs des requêtes instantanées et des réponses avec filtres et exportation CSV, des garde-fous pour les requêtes et les chargements avec blocages et alertes, un contrôle de la consommation avec des valeurs en reais (monnaie brésilienne), des limites par utilisateur et des alertes, ainsi que des connexions via des connecteurs, des serveurs OAuth individuels et ses propres serveurs MCP, avec gestion des permissions. Pour les équipes, l'environnement donne accès à de multiples modèles et assistants.

Il est prudent de considérer cela comme un point de départ pour l'évaluation, et non comme une garantie. Aucune plateforme n'élimine à elle seule le risque de fuite de données, ni n'assure automatiquement la conformité. L'infrastructure, la conservation des données et les exigences opérationnelles doivent être vérifiées au cas par cas, et l'évaluation doit s'appuyer sur des données synthétiques ou autorisées, avec les contrôles jugés indispensables par le comité de l'entreprise. La responsabilité de l'organisation demeure également de procéder à un examen humain des décisions critiques.

Conclusion : la gouvernance comme condition à l'expansion de l'usage

L'analyse de Skyone et les actualités permettent de mieux cerner le problème : l'utilisation de l'IA et de l'automatisation est en pleine croissance, et les investissements suivent le même rythme, mais seulement 26,4 % des entreprises interrogées confirment l'existence de règles formalisées en matière de données. Une gouvernance efficace repose sur une politique claire, des contrôles techniques (accès, audit, protection et utilisation des données) et des responsabilités clairement définies au sein des services informatiques, de sécurité, juridiques, financiers et de la direction. Bien calibrée, elle permet à l'entreprise d'accepter davantage de cas d'usage répondant à des critères précis, au lieu de se fier à des interdictions génériques.

Vous souhaitez comprendre comment structurer la gouvernance de l'IA dans votre entreprise ? Découvrez Skyone Astro et les contenus de Skyone sur l'IA en entreprise, et évaluez l'approche à l'aide d'un exemple concret issu de votre activité.

Foire aux questions

Qu’est-ce que la gouvernance de l’IA ?

Il s'agit de l'ensemble des politiques, rôles, contrôles et processus qui définissent comment l'intelligence artificielle peut être utilisée au sein d'une organisation, par qui, avec quelles données et sous quelle supervision. Cela inclut les règles d'utilisation, le contrôle d'accès, l'audit, la protection des données, le suivi des coûts et l'attribution des responsabilités.

Quelle est la différence entre la gouvernance de l'IA et la sécurité de l'information ?

La sécurité de l'information protège les données et les systèmes contre tout accès et utilisation non autorisés. La gouvernance de l'IA est plus large : elle définit les usages autorisés, les responsables et la manière dont les risques liés à la sécurité, à la confidentialité, à la qualité et aux coûts seront gérés. La sécurité est un élément de la gouvernance.

Que doit contenir une politique d'utilisation de l'IA ?

Outils autorisés, catégories de données permises et interdites, utilisations autorisées et interdites, exigence d'un examen humain pour les décisions critiques, personnes responsables des questions et des incidents, et fréquence des examens. Des exemples concrets par domaine favorisent l'adhésion.

Est-il permis de surveiller les messages et les réponses des employés ?

Cela dépend de la finalité, de la transparence et de la proportionnalité du suivi, et doit être évalué en concertation avec le service juridique et le délégué à la protection des données. Les bonnes pratiques consistent notamment à communiquer clairement avec les utilisateurs, à limiter l'accès aux données et à n'utiliser ces dernières qu'aux fins déclarées, telles que la sécurité et les enquêtes sur les incidents.

Comment les entreprises peuvent-elles maîtriser le coût de l'utilisation de l'IA ?

En définissant des limites par utilisateur ou par équipe, en configurant des alertes lorsque la limite est atteinte et en surveillant les rapports de consommation par période, un suivi régulier vous permet de corréler les dépenses et les résultats avant d'étendre l'accès.

Skyone
Écrit par Skyone

Commencez à transformer votre entreprise

Testez la plateforme ou planifiez une conversation avec nos experts pour comprendre comment Skyone peut accélérer votre stratégie numérique.

Abonnez-vous à notre newsletter

Restez informé(e) des contenus de Skyone

Contactez le service commercial

Vous avez une question ? Parlez-en à un spécialiste et obtenez des réponses à toutes vos questions concernant la plateforme.