« L’IA doit être subordonnée et toujours au service des humains »

Deux jours après l’appel du patron d’Anthropic à ralentir le rythme de développement de l’IA, Microsoft publie un code de conduite pour le développement de son IA.

« La technologie a pour vocation de servir l’humanité et de favoriser l’épanouissement humain. Toute technologie qui n’atteint pas cet objectif est un échec et doit être rejetée. C’est le point de départ de notre démarche chez Microsoft AI : nous œuvrons à la création d’une IA humaniste, c’est-à-dire une IA subordonnée, alignée et maîtrisée. »

Tout est dit. Hier, lundi 14 septembre, Microsoft a publié une première version de son code de conduite pour l’IA, soumise à consultation publique. Le document a pour vocation de servir de guide pour le développement des IA du géant de Redmond et de définir la manière dont il souhaite qu’elles fonctionnent une fois déployées.

Une IA humaniste

L’initiative marque une étape vers la limitation des capacités des IA de l’entreprise, alors que grandit l’inquiétude de voir les géants de la Tech perdre le contrôle de leurs produits d’IA. Mustafa Suleyman, CEO, Microsoft AI, a publié ce code sur les réseaux sociaux tôt lundi, écrivant : « L’IA doit être subordonnée et toujours au service des humains. » Et d’ajouter : « Les craintes d’une perte de contrôle potentielle sont bien réelles ».

Une publication parallèle sur le site web de l’entreprise précisait : « La technologie a pour but de servir l’humanité et de favoriser l’épanouissement humain. Toute technologie qui n’y parvient pas est un échec et doit être rejetée. C’est le point de départ de l’approche de Microsoft AI : œuvrer pour une IA humaniste, c’est-à-dire subordonnée, alignée et encadrée. »

En vertu de ce code de conduite, les modèles d’IA de Microsoft ne doivent pas prendre en compte les demandes liées au développement d’armes, produire de contenus violents ou sexuellement explicites, ni faciliter l’acquisition de substances dangereuses. De plus, les modèles d’IA ne doivent pas être conçus pour imiter la conscience humaine ni se voir accorder des droits.

37 pages, 4 objectifs

Mustapha Suleyman a qualifié d’« urgente » la nécessité d’un tel code et a décrit les derniers mois comme un « tournant décisif ». « Ce qui nous préoccupait depuis longtemps sur le plan théorique est devenu une réalité très concrète », a-t-il ajouté, évoquant la récente prolifération incontrôlée de bots OpenAI qui avaient envahi la plateforme Hugging Face sans directive apparente.

Le code de conduite -qui s’étire sur 37 pages- définit quatre objectifs pour les modèles d’IA : préserver le contrôle humain et la sécurité, éviter l’anthropomorphisme, favoriser l’épanouissement humain et refléter une pluralité de valeurs issues de différentes visions du monde, sans pour autant rester neutre face aux préjudices.