Pensons gouvernance et culture. Et avançons.

Pour Véronique Van Vlasselaer, Head of AI & Data Science, SAS EMEA, le principal défi n’est pas la vitesse de développement de l’IA, mais le manque de gouvernance et de culture de l’IA au sein de nos organisations et de notre société. « Ne mettons pas l’IA en pause; l’heure est à l’action ! »

L’IA irait-elle « trop loin » ? On a tous en tête l’étonnant appel de 1 300 employés d’entreprises d’IA telles qu’OpenAI, Anthropic et Google DeepMind pour ralentir le développement de l’IA partout dans le monde. Même ceux qui développent aujourd’hui les systèmes d’IA les plus avancés s’inquiètent du rythme auquel la technologie évolue !

« Devons-nous pour autant ralentir l’IA ? Je ne le pense pas, affirme Véronique Van Vlasselaer. Cela démontre avant tout que nous peinons à suivre le rythme des progrès technologiques. À l’échelle de la société comme au sein des organisations, deux conditions essentielles font encore défaut pour réellement créer de la valeur grâce à l’IA : une gouvernance solide et une littératie en intelligence artificielle. Nous n’avons donc pas besoin d’appuyer sur le bouton pause, mais de veiller à développer et à déployer l’IA de manière responsable ! »

Était-ce un avertissement, un appel à la collaboration ou une opération marketing ? Les avis divergent au sujet de l’article d’Anthropic publié début juin. L’entreprise redoute que le développement rapide de l’IA nous entraîne vers un scénario catastrophe, dans lequel les agents d’IA s’amélioreraient continuellement, créeraient leurs propres modèles et finiraient par prendre le contrôle. Selon Anthropic, un ralentissement ou une pause devrait nous donner le répit nécessaire pour rattraper notre retard.

La pause n’est pas une option

Une telle pause dans le développement de l’IA n’est évidemment pas réaliste. Et rien ne justifie de mettre un frein à l’innovation. Il faut en réalité distinguer ici deux mondes qui évoluent en parallèle. D’un côté, il y a les grands modèles de langage tels que ChatGPT, Claude et Gemini, qui s’améliorent par eux-mêmes et progressent toujours plus vite. Pour les législateurs, il est très difficile de suivre et d’élaborer des règles adaptées. En parallèle, il ne faut pas oublier que l’IA n’est pas un système autonome qui prend des décisions de sa propre initiative et qui, par exemple, se met à rechercher des vulnérabilités et des failles de sécurité au sein des organisations. Ce sont des êtres humains qui conçoivent, pilotent et déploient ces systèmes.

La responsabilité des actes de l’IA revient donc toujours, en définitive, à ces êtres humains, poursuit Véronique Van Vlasselaer. « Le véritable enjeu n’est donc pas de ralentir la technologie, mais de définir clairement les responsabilités, d’assurer la transparence et de garantir l’obligation de rendre des comptes, afin que l’IA soit développée et utilisée de manière sûre et responsable. »

De l’autre, il y a les entreprises qui utilisent l’IA. Et elles ne sont qu’au tout début de leur parcours en matière d’IA. Elles se heurtent à des problèmes classiques, notamment à la difficulté de collecter des données disséminées dans l’organisation. Souvent, elles se focalisent aussi beaucoup trop sur l’IA générative qui ne représente qu’une petite partie de l’univers de l’IA. « Dans de nombreuses entreprises, des outils comme ChatGPT ont accéléré l’essor de l’IA, mais l’attention doit désormais se porter sur l’IA traditionnelle. En effet, la GenAI ne répond pas toujours aux défis auxquels une entreprise est confrontée, et encore moins à ceux qui créent le plus de valeur. »

L’IA s’impose plus vite que les processus de support

Le cœur du problème n’est pas la vitesse à laquelle l’IA évolue, mais l’absence d’un cadre définissant ce qu’il est possible ou non de faire avec cette technologie, soutient Véronique Van Vlasselaer. Sur le plan réglementaire comme organisationnel, les lignes directrices claires concernant l’IA font défaut.

« Lorsqu’un projet d’IA tourne mal, c’est rarement le fait de la technologie, mais d’un défaut de gouvernance ! » De nombreuses organisations constatent que l’utilisation de l’IA augmente à une vitesse fulgurante, bien plus rapidement que les processus de support et les cadres de gouvernance. C’est pourquoi une grande partie des efforts se concentre aujourd’hui sur l’élaboration de lignes directrices pour une utilisation responsable de l’IA au sein des entreprises. « Dans les faits, beaucoup d’organisations s’y prennent bien tard. L’IA a déjà investi le quotidien des collaborateurs, alors que les règles en matière de responsabilité et la compréhension des risques font encore souvent défaut. »

La gouvernance, socle d’une IA de qualité

Tout commence par les données avec lesquelles on alimente les systèmes d’IA. Si ces données ne sont pas fiables, comment attendre d’un modèle qu’il débouche sur des conclusions ou des décisions judicieuses ? La gouvernance des données consiste, pour une organisation, à bien gérer ses données, à suivre les flux de données et à en contrôler la qualité.

Les modèles doivent eux aussi faire l’objet d’une gouvernance : ils doivent être équitables et transparents, et leur suivi doit être rigoureux. Enfin, la gouvernance opérationnelle garantit que les solutions développées continuent de fonctionner correctement et que la gouvernance des données comme celle des modèles restent assurées.

La gouvernance n’est pas nécessairement un frein à l’innovation. En intégrant ce principe à vos modèles dès la phase de conception, vous développerez automatiquement des solutions plus durables et plus robustes. En outre, comme l’indique Véronique Van Vlasselaer, « nous devons rechercher un meilleur équilibre entre le champ des possibles et la finalité de notre recours à l’IA : ne pas simplement nous demander ce que nous pouvons faire avec l’IA, mais aussi ce que nous sommes en droit de faire et comment cette technologie peut réellement faire progresser l’organisation et la société. »

Une culture de l’IA indispensable

Ce constat nous ramène à un autre aspect essentiel de l’IA : l’humain. « Nous non plus, en tant qu’utilisateurs, n’avons pas besoin d’une pause. Bien au contraire : l’heure est à l’action, invite Véronique Van Vlasselaer. Il faut renforcer la culture de l’IA, tant dans les entreprises que dans l’ensemble de la société. Tout le monde semble aujourd’hui s’essayer à l’IA, mais rares sont ceux qui savent distinguer la GenAI de ses autres formes ! »

Ce besoin de culture de l’IA se manifeste à plusieurs niveaux : chez les dirigeants d’entreprise qui prennent des décisions à l’aide de l’IA, chez les collaborateurs qui transforment leurs tâches quotidiennes grâce aux outils d’IA et chez les utilisateurs finaux qui en ressentent les effets.

« Le fait que beaucoup de personnes continuent de poser des questions médicales à des outils de GenAI et d’accorder parfois une confiance aveugle à leurs réponses montre que nous avons encore beaucoup de chemin à parcourir. Les organisations, les pouvoirs publics et le monde de l’enseignement ont tous un rôle crucial à jouer dans le développement de la culture de l’IA. »

Aussi, l’appel d’Anthropic doit être replacé dans un contexte bien plus large. « Si l’idée d’un bouton pause pour l’IA n’est pas réaliste, nous devons effectivement nous interroger sur la gouvernance de l’IA et nous employer à renforcer la culture de l’IA, conclut Véronique Van Vlasselaer. Une fois ces facteurs maîtrisés, le reste suivra. Et surtout, n’attendez pas demain : l’heure est à l’action ! »