La gouvernance de l’IA passe des équipes IT au conseil d’administration, une étape majeure
Bien qu’encore sous-estimée, la responsabilité en matière d’IA se concrétise, les organisations reconnaissant de plus en plus la nécessité de structures de gouvernance robustes. Le BSI britannique a enquêté.
Une nouvelle étude du groupe institutionnel britannique révèle que la responsabilité en matière d’IA passe de la théorie à la pratique, les organisations reconnaissant de plus en plus la nécessité de structures de gouvernance robustes et de chaînes de responsabilité claires.
L’année dernière, BSI avait mis en lumière un manque préoccupant de gouvernance concernant l’IA. Aujourd’hui, une nouvelle étude montre que, malgré la multiplication des offres d’emploi pour des postes Chief AI Officer et les annonces de nominations de haut niveau, la gouvernance de l’IA, autrefois rattachée aux fonctions informatiques ou stratégiques, devient une préoccupation majeure pour le conseil d’administration et la direction.
Une ambiguïté
L’étude explore la prise de conscience croissante que l’IA n’est pas un simple outil, mais représente un profond réalignement des entreprises. Plus de 20 000 intitulés de postes de direction (CxO) sur LinkedIn incluent « IA » ou « Intelligence Artificielle ». Malgré cela, la responsabilité en matière d’IA reste fragmentée dans la plupart des organisations. La stratégie, les risques et la supervision de l’IA sont souvent répartis entre différents rôles et fonctions, ce qui crée une ambiguïté quant à la propriété, la responsabilité et la prise de décision, notamment en cas de problème.
Le rapport de BSI, qui recense différents modèles de responsabilisation, suggère qu’aucune approche « idéale » ne s’est encore imposée. Actuellement, certaines entreprises ont un AI Director, d’autres ont élargi les responsabilités des CIO/CDO, mis en place des conseils de gouvernance fédérés ou confié la responsabilité à des unités opérationnelles. Les grandes entreprises et les secteurs à haut risque, comme les services financiers, adoptent plus rapidement une formalisation de la responsabilisation et de la gouvernance, tandis que les petites entreprises privilégient des approches plus souples, axées sur les compétences.
La maturité de l’IA favorise la maturité de la gouvernance
Le rapport conclut qu’une bonne gouvernance repose moins sur un titre officiel, tel que Chief AI Officer, que sur l’autonomie de la personne ou de l’équipe concernée, sa capacité à collaborer de manière transversale et les ressources et compétences nécessaires pour une mise en œuvre efficace et responsable de l’IA.
Pour le BSI, la maturité de l’IA favorise la maturité de la gouvernance et invite les organisations à renforcer leur supervision formelle lors de leur passage de l’expérimentation à une utilisation généralisée de l’IA.
« La responsabilité en matière d’IA ne se limite pas à un titre ; elle implique que les organisations doivent faire preuve d’une responsabilité crédible, opérationnelle et à la hauteur de leurs ambitions, estime Tim McGarr, Market Development Manager for Digital, BSI. À mesure que l’IA se déploie à l’échelle des entreprises et s’intègre aux modèles commerciaux, la formalisation des responsabilités, les contrôles et la désignation de responsables désignés deviennent essentiels. »
Gouvernance, le parent pauvre
Une précédente étude du BSI avait révélé que moins d’un quart des organisations disposaient d’un programme de gouvernance de l’IA et que moins de la moitié d’entre elles affirmaient que son utilisation était encadrée par des processus formels.
BSI a ouvert la voie à un écosystème d’IA responsable en publiant fin 2023 la première norme mondiale d’engagement auditable en matière d’IA, la norme ISO/IEC 42001. Ce cadre, de plus en plus adopté à travers le monde, favorise une transition vers la responsabilisation et une gouvernance renforcée.
