Alors que les sociétés de companies financiers continuent d’accélérer l’adoption de l’IA, la maturité de la gouvernance est à la traîne. Les cadres existants autour des modèles, des données et de la technologie n’ont pas été conçus pour le paysage actuel de l’IA : modèles probabilistes, dépendances tierces opaques et, de plus en plus, systèmes brokers autonomes. En conséquence, les entreprises qui tentent de faire évoluer l’IA en utilisant des approches de gouvernance traditionnelles peuvent se retrouver exposées à des risques difficiles à détecter, quantifier ou contrôler.
Une mauvaise gouvernance de l’IA peut se traduire directement par des décisions d’investissement mal informées, des vulnérabilités en matière de sécurité et, à terme, des pertes financières et de réputation. À l’inverse, les entreprises qui mettent en place des cadres de gouvernance efficaces peuvent mieux aligner l’IA sur leurs objectifs commerciaux, gérer les risques de baisse et créer un avantage concurrentiel plus sturdy.
Pour relever ce défi, je suggest un cadre de gouvernance de l’IA à deux niveaux qui intègre une surveillance au niveau du programme avec des contrôles spécifiques aux cas d’utilisation. Tout comme les approches complémentaires descendantes et ascendantes en matière d’investissement, cette construction permet à la fois une cohérence à grande échelle et une précision dans l’exécution.
La composante au niveau du programme se concentre sur trois actions principales :
Découvrez vos actifs d’IA afin de les gouverner efficacement Établir des buildings et des mécanismes de gouvernance au niveau de l’entreprise Concentrer la gouvernance au niveau de l’entreprise sur quelques domaines critiques
Découvrir : une étape fondamentale consiste à établir des inventaires complets des actifs, des cas d’utilisation et des brokers d’IA. Ceux-ci serviront de base aux processus de gouvernance, tant au niveau du programme qu’au niveau des cas d’utilisation, et devraient être liés aux mécanismes et outils globaux de gouvernance et de gestion des risques de l’entreprise. Alors que nous regardons vers l’avenir, il devient essentiel d’appliquer à la gestion des brokers d’IA certains des mêmes processus institutionnels et organisationnels que ceux que nous appliquons couramment à la gestion des personnes, ce qui est presque unattainable sans la mise en place de ces inventaires.
Établir : les mécanismes de surveillance entrent dans cette catégorie, notamment les politiques et procédures, les déclarations d’appétit pour le risque, la chaîne d’autorité et de remontée d’informations, ainsi que la création d’un programme d’initiation à l’IA en entreprise. Ces éléments définissent les « règles de la route » et constituent une première ligne de défense contre les pressions internes et externes qui surgiront inévitablement lors de la mise en œuvre de l’IA.
Objectif : La prolifération rapide des cadres et des contrôles de gouvernance de l’IA peut donner l’impression qu’une gouvernance efficace nécessite une approche « faire bouillir l’océan ». En pratique, cela n’est ni réalisable ni nécessaire. La gouvernance de l’IA doit plutôt être délibérément définie et alignée sur le profil de risque, le modèle opérationnel et les priorités stratégiques spécifiques d’une organisation. L’objectif n’est pas l’exhaustivité mais l’efficacité.
