Les dirigeants sont de plus en plus inquiets de ce qu’ils perçoivent comme une « infiltration silencieuse » d’outils d’IA générative au sein de leur organisation.

95 % des C-Levels interrogés par Kaspersky dans le cadre d’une étude sur l’utilisation de l’intelligence artificielle générative dans l’entreprise estiment que de tels outils sont régulièrement utilisés par leurs employés. Et 53 % d’entre eux déclarent que l’IA générative « pilote » désormais certaines lignes d’activité. Pour la majorité, c’est une  « infiltration silencieuse » qui élève leur niveau de cyber-risque !

Les C-Levels semblent avoir perdu le contrôle du déploiement, de la supervision et des objectifs de l’IA générative au sein de leurs organisations, constate Kaspersky. Or, d’après l’Isaca, association professionnelle internationale dont l’objectif est d’améliorer la gouvernance des systèmes d’information, 28 % seulement des organisations autorisent expressément l’usage de l’IA générative. Plus significatif encore :  10 % seulement ont mis en place une politique formelle encadrant cette utilisation…

Shadow AI… ou violation interne

Des règles pour encadrer les usages ? Seulement 22 % des répondants y songent. C’est extrêmement peu, alors que 91 % d’entre eux estiment avoir besoin de mieux comprendre comment les données internes sont utilisées par les employés, afin de se protéger des risques de sécurité critiques ou des fuites de données.

En soi, la question du shadow AI n’est pas nouvelle. Plus tôt cette année, un rapport d’Imperva avait soulevé des préoccupations similaires, affirmant qu’une violation interne dans une grande organisation résultant d’une personne utilisant l’IA générative de manière officieuse n’était qu’une affaire de temps.

Demeure le risque

« Tout comme le BYOD, la génération IA offre d’énormes avantages en termes de productivité aux entreprises. Mais même si nos résultats révèlent que les dirigeants des conseils d’administration reconnaissent clairement sa présence dans leur organisation, l’étendue de son utilisation et son objectif sont entourés de mystère », estime David Emm, Principal Security Researcher, Kaspersky.

Demeure donc le risque. Étant donné que l’évolution rapide de GenAI ne montre actuellement aucun signe de ralentissement, plus ces applications fonctionneront longtemps sans contrôle, plus elles deviendront difficiles à contrôler et à sécuriser.