Intervention exceptionnelle de Bruce Schneier à l’Université de Luxembourg
Auteur et conférencier mondial, Bruce Schneier compte parmi les penseurs les plus visionnaires au monde en matière de sécurité. Le 12 mai, au Campus de Belval au travers du CLUSIL et d’ICTLuxembourg, il abordera la question de la sécurité sous l’angle du de la démocratie.
Et Mythos ? Oui, Mythos, l’IA d’Anthropic, aujourd’hui au cœur de la polémique ? Il n’est pas un sujet qui échappe à Bruce Schneier. Dans « Schneier on security », son blog, le « security guru » -selon The Economis- aborde bien évidemment le sujet.
Expert en sécurité informatique de renommée internationale et auteur à succès de plus d’une douzaine d’ouvrages, dont son dernier livre, « Click Here to Kill Everybody », qui explore les risques et les implications de notre nouvelle ère hyperconnectée, Bruce Schneier sera présent sur le Campus de Belval le 12 mai au travers des associations CLUSIL et ICTLuxembourg. Pour aborder Mythos, on l’imagine, mais pas seulement. Le sujet du jour sera plus large, nous concernant directement : « Europe at the crossroads of AI, Power & the Future of Democracy ».
Démocratie ou respect de nos idéaux
Chercheur associé au Berkman Klein Center et conférencier à la Harvard Kennedy School, Bruce Schneier invite les dirigeants mondiaux à repenser la manière dont la technologie, le pouvoir et la confiance s’entrecroisent. Il travaille à l’intersection de la sécurité, de la technologie et des relations humaines. Ses livres, comme ses conférences à travers le monde, explorent la cryptographie, la sécurité informatique et le réseau, également la confiance et les interactions entre sécurité, technologie et société. Sa vision est donc des plus larges.
Les échanges qui suivront à l’Université de Luxembourg seront d’autant plus intéressants que nous entrons dans une ère où la technologie redéfinit entièrement notre façon de vivre, de travailler et de communiquer. Et tout s’accélère. Aussi, une nouvelle priorité émerge : garantir que l’IA, les technologies et nos interactions quotidiennes restent fiables, cohérentes et ancrées dans nos idéaux démocratiques.
Dans une récente conférence en mars, intitulée « The Coming AI Hackers », Bruce Schneier s’est intéressé à l’émergence des « pirates de l’IA », notion qui, pour lui, doit désormais inclure des systèmes complexes tels que les cadres juridiques, les marchés financiers ou encore les organisations politiques. La question, aujourd’hui, porte sur la capacité de nos sociétés à prévoir et encadrer ces risques.
Mythos ou le besoin de transparence
Et donc, Mythos, si performant pour détecter et exploiter les failles logicielles qu’Anthropic a jugé sa diffusion publique trop dangereuse ? Son annonce, voici peu, a suscité une avalanche d’anecdotes alarmantes : des milliers de vulnérabilités découvertes sur tous les principaux systèmes d’exploitation et navigateurs, dont un bug vieux de 27 ans dans OpenBSD et une faille de 16 ans dans FFmpeg. Mythos a notamment pu exploiter un ensemble de vulnérabilités découvertes dans le navigateur Firefox pour créer 181 attaques concrètes, alors que le précédent modèle phare de l’éditeur n’en avait réalisé que deux…
A entendre Bruce Schneier, il faut une plus grande transparence et un partage accru de l’information avec la communauté au sens large. Cela ne signifie pas nécessairement rendre largement accessibles des modèles puissants comme Mythos. Il s’agit plutôt de partager un maximum de données et d’informations afin de prendre collectivement des décisions éclairées.
Politique au sens grec du terme, « polis »
En somme, nous avons besoin de cadres coordonnés à l’échelle mondiale pour l’audit indépendant, la publication obligatoire d’indicateurs de performance agrégés et un accès financé pour les chercheurs universitaires et de la société civile.
Avec Bruce Schneier, le sujet devient vite politique au sens grec du terme, « polis », la gestion des affaires communes. Tant que cela ne changera pas, estime-t-il, chaque nouvelle version de Mythos placera le monde au bord d’un précipice, sans que l’on sache s’il existe une solution de repli, ni si cette fois-ci la chute sera fatale. Ce n’est pas un choix qu’une entreprise à but lucratif devrait être autorisée à faire dans une démocratie. Une telle entreprise ne devrait pas non plus pouvoir restreindre la capacité de la société à faire des choix concernant sa propre sécurité. Bref, il y a matière à discussion.
Dans « Rewiring Democracy – How AI Will Transform Our Politics, Government, and Citizenship », livre co-écrit avec Nathan E. Sanders, paru en octobre, on comprend que nous sommes face à un choix pour ainsi dire binaire : l’IA peut nous aider à bâtir une démocratie plus forte et plus participative… ou le contraire. Et c’est maintenant qu’il faut décider.
