Artificial Intelligence n’est plus une technologie expérimentale. À la maison, nous lisons des articles sur l’IA, la consultons, nous demandons comment elle est utilisée et cherchons constamment des moyens d’optimiser ses capacités. Quelque chose de similaire se produit dans les entreprises : l’IA intervient activement dans les décisions liées aux approbations de crédit, à la détection des fraudes, à la tarification, à la création de contenus écrits, graphiques et audiovisuels, à l’automatisation des processus métier, au service client et à de nombreuses autres fonctions spécialisées.
Ce qui, toutefois, ne progresse pas au même rythme, c’est le débat sur la manière dont ces décisions sont réglementées, contrôlées, et auditées. Cela se produit aussi bien au sein de chaque organisation qu’aux niveaux national et mondial.
Parmi les nombreuses conséquences que cela entraîne, et que nous n’aborderons pas dans cet article, j’aimerais me concentrer sur la gouvernance algorithmique, un facteur essentiel pour la réputation, la conformité et l’avantage concurrentiel.
Algorithmic governance
La gouvernance algorithmique peut être définie comme un ensemble de processus, de politiques, et de mécanismes de supervision qui permettent aux organisations de gérer le cycle de vie des modèles d'IA. Si nous voulons que ces modèles influencent les décisions financières, contractuelles ou commerciales au sein d'une entreprise, et que nous nous attendons à ce qu'ils le fassent, il est important de comprendre comment ils fonctionnent et comment ils devraient être encadrés.
Bien sûr, cette question varie selon le secteur d’activité. Dans des secteurs tels que la banque, l’assurance et le secteur de la santé, par exemple, un modèle d’IA peut déterminer qui obtient l’approbation d’un prêt, quel niveau de risque est attribué à un client, et bien plus encore. Il est stratégiquement important de comprendre la logique derrière chaque modèle, ainsi que ses biais. Cela implique de comprendre d’où proviennent les données, leur qualité, leur représentativité et la manière dont elles peuvent être surveillées pour garantir qu’elles respectent les normes que chaque organisation cherche à maintenir.
La gouvernance algorithmique est donc étroitement liée à la conformité réglementaire, mais elle contribue également à atténuer des risques plus subtils, ceux qui peuvent émerger avant même qu’une violation ne se produise. C’est pourquoi la traçabilité des données est si importante : les organisations doivent comprendre la logique qui sous-tend les décisions qu’elles automatisent.
AI governance in Latin America
Le Latin American Artificial Intelligence Index (ILIA 2025), qui a analysé l’état de l’IA dans 19 pays de la région en évaluant les cadres institutionnels, l’engagement international et les cadres réglementaires, met en évidence la nature fragmentée de notre région.
Il existe différentes réalités et des défis importants dans le processus d’adoption, mais le principal problème est un écart entre les engagements annoncés et la maturité réelle. Alors que les entreprises cherchent à déployer à grande échelle des solutions d’IA, elles se heurtent à des stratégies dépourvues de financement adéquat, à des goulets d’étranglement des infrastructures et à l’absence de normes mondiales.
Des pays tels que le Brésil, le Chili et l’Uruguay ont élaboré des stratégies avec une vision à long terme. Cependant, selon l’ILIA 2025, environ sept pays de la région n’ont pas encore défini de feuille de route pour le développement de l’IA. Même parmi ceux qui ont établi des stratégies, rares sont ceux qui ont réalisé des progrès significatifs dans l’allocation de budgets ou dans l’élaboration de plans d’action pour une réglementation efficace.
Dans ce contexte, et compte tenu du retard de la réglementation des pouvoirs publics, le Forum économique mondial (WEF) suggère que la gouvernance devrait commencer au sein de l’organisation. Les dirigeants d’entreprise ne peuvent pas se permettre d’attendre l’adoption de lois spécifiques ; la gouvernance des données doit être considérée comme une priorité.
Face au risque d’ autophagie de l’IA, phénomène par lequel les modèles se dégradent lorsqu’ils sont entraînés sur des données générées par l’IA, les entreprises doivent donner la priorité aux systèmes de traçabilité des données afin de s’assurer qu’elles mettent en place des structures d’information organiques et fiables, intégrées aux opérations quotidiennes. Le même rapport du WEF mentionné ci-dessus avertit qu’à mesure que les frontières entre les données réelles et synthétiques continuent de s’estomper, la confiance dépendra de plus en plus d’une gouvernance solide.
AI governance and opportunity
Considérer la confiance comme un actif stratégique constitue la première étape. Les entreprises capables de démontrer le fonctionnement de leurs modèles, la façon dont elles gèrent les contrôles et dont elles atténuent les risques seront les mieux placées pour monter en charge grâce à la puissance de l’IA. Selon le rapport du WEF, la confiance devient le véritable facteur limitant de l’expansion de l’IA, et 81 % des entreprises n’en sont encore qu’aux premières étapes de la mise en place de pratiques de gouvernance responsable.
Alors que la région s’oriente vers des normes mondiales, les entreprises latino-américaines ont l’opportunité de se positionner en créant de nouvelles voies pour instaurer la confiance et la légitimité. La gouvernance est à la fois un enjeu social, lié à la confiance, et un enjeu technique, soutenu par les centres de données et les infrastructures. Les systèmes de traçabilité et de provenance des données, associés à une gouvernance participative, peuvent contribuer à renforcer l’engagement et la légitimité.
AI governance and competitive advantage
Une fois la confiance établie, les organisations peuvent exploiter en toute sécurité les données synthétiques—des données générées par des modèles d’IA qui peuvent être combinées à des données du monde réel. Son utilisation peut servir de moteur à l’innovation et permettre aux entreprises de changer d’échelle à long terme.
Par exemple, les données synthétiques peuvent être utilisées pour reproduire les schémas statistiques observés dans des données réelles, sans exposer d’informations personnelles. Cela peut également aider à prendre en compte les groupes démographiques sous-représentés, les problèmes de santé ou d’autres facteurs, afin d’améliorer l’équité dans le secteur financier. Ainsi, les entreprises peuvent développer des modèles et exécuter des simulations pour accélérer l’innovation, tout en réduisant les risques associés à l’utilisation de données réelles.
Pour que cet avantage soit durable, les entreprises doivent faire de l’investissement dans des systèmes de provenance et de traçabilité des données une priorité. Ces capacités peuvent contribuer à atténuer le risque que les biais existants soient amplifiés, ou que les modèles se dégradent au fil du temps. Si les entreprises souhaitent se développer rapidement, elles doivent veiller à ce que les données circulent aussi efficacement que possible.
AI governance and access
Une entreprise qui met en œuvre des mécanismes de transparence active se démarque immédiatement. De nombreuses entreprises latino-américaines qui vendent des services à des chaînes de valeur mondiales, ou qui en font partie, doivent être en mesure de démontrer la manière dont elles gouvernent et contrôlent les systèmes d'IA qu'elles utilisent.
Il est peu probable qu’une entreprise pharmaceutique mondiale, une grande banque internationale, ou une multinationale délègue des processus critiques à des prestataires qui ne disposent pas de mécanismes d’explicabilité et de supervision, ainsi que de la capacité de détecter les erreurs, de les corriger, et d’activer des mécanismes pour y remédier. Prenez l’exemple de Natura et de son initiative visant à démocratiser l’information au sein des différents domaines de l’entreprise et auprès des fournisseurs, afin de bénéficier d’une plus grande évolutivité sans perdre de vue la gouvernance. L’entreprise comprend que les données n’ont que peu de valeur si elles ne peuvent pas être tracées.
Alors que d'autres concurrents peuvent être limités par des restrictions d'accès aux données ou des préoccupations réglementaires, ces organisations disposeront d'une plateforme sécurisée sur laquelle expérimenter, entraîner des modèles et développer de nouveaux services. L'avantage concurrentiel fondé sur la confiance est la meilleure voie vers une croissance durable et une véritable innovation—le genre d'entreprises dont nous avons besoin pour l'avenir.
Produit SAP
Repensez la manière dont le travail est effectué avec l’IA
Joule permet de mener une transformation pilotée par les agents de manière fiable et conforme.
manual
link-target-same
secondary