On est entré dans une période trouble, où l’on ne fait plus la différence entre un dialogue avec l’IA et le dialogue avec un humain. ChatGPT est passé par là ! Peut-on parler d’IA émotionnelles ? Michel Levy-Provençal avance quelques pistes de réflexion.

Allons-nous voir naître des IA émotionnelles ? Vaste question ! Comment, d’abord, fonctionnerait-elles ? À quoi serviraient-elles ? Quels usages pourrions-nous en faire ? « Le sujet est à aborder avec beaucoup de précautions. Depuis plus d’un an, introduit Michel Levy-Provençal, Founder of Brightness, TEDxParis, j’ai pu tester l’évolution des IA génératives du marché pour me faire une idée précise de leur capacité et de leur évolution. Le sujet progressant si vite et suscitant tant de spéculation, la plus grande vigilance s’impose… »

S’il est un domaine de recherche en plein essor c’est bien la possible influence de l’émotion sur la mémorisation. Voilà bien un domaine de recherche en plein essor ! De plus en plus de chercheurs émettent l’hypothèse que les émotions soutiennent l’attention, l’encodage de l’information dans le cerveau, la consolidation des souvenirs ou même leur inhibition. Ainsi, l’émotion est devenue un élément important dans les solutions pédagogiques modernes, ce qui n’était pas du tout le cas avant les années 1980. En cours, les élèves devaient être concentrés et déconnectés de toute émotion qui pourrait les déconcentrer…

Peut-on imaginer récompenser une IA ? 

« Même si on ne connaît pas les mécanismes en jeu, on sait que les émotions ont une influence sur la mémorisation. Probablement parce que le cerveau est une machine à prédire. Quand une prédiction est juste, le cerveau produit une récompense qui sert au processus d’apprentissage et induit une émotion positive. »

Peut-on pour autant transposer ce qui se passe dans un cerveau humain au fonctionnement d’une IA ? Déjà, comment fonctionne le machine learning et le deep learning en particulier ? « On alimente un réseau de neurones avec des données et on le programme pour qu’il génère des réponses. Plus on alimente le réseau de données, plus il ajuste ses résultats afin de diminuer l’écart entre les résultats qu’il génère et les résultats attendus. Autrement dit, on fait en sorte de ‘dresser’ la machine à être de plus en plus précise dans ses prédictions. »

Ceci supposerait, en cas de prédiction correcte, une récompense. S’apparenterait-elle à une émotion, l’émotion ressentie par l’humain ? Voilà qui revient à s’interroger sur l’origine des émotions. Peuvent-elles exister sans chimie, sans organe, sans corps ? La réponse est sans ambage : dans le cas des IA, il n’y a pas d’interaction chimique ou biologique, ni de lien avec un corps.

Poussons la réflexion. Admettons qu’on ajoute des processus organiques et chimiques à un système d’apprentissage artificiel. Est-ce qu’on pourrait alors dire que la machine ressent une émotion ? « Pour le savoir, il faudrait définir ce qu’est une émotion. Et c’est là qu’on bloque, reconnait Michel Levy-Provençal. Certains chercheurs pensent qu’une émotion est le produit de son expression -verbale ou non verbale. En effet, on ne peut pas avoir de preuve qu’une émotion existe autrement que par des signaux fournis par le système qui la ‘ressent’. Je parle des signaux internes chimiques, électriques, externes, implicites ou explicites. En résumé, il n’y aurait pas d’émotions, il n’y aurait que des expressions d’émotions. C’est le même problème avec la conscience. Il n’y a conscience que s’il y a expression de la conscience. Un être sans expression de conscience est considéré comme inconscient. »

L’accélération des IA génératives n’a jamais été aussi rapide

Donc, si une machine exprime une émotion par tous les moyens à sa disposition, pourquoi ne pourrions-nous pas dire que cette machine ressent cette émotion ? Une fois cette hypothèse posée, peut-on simuler l’expression d’une émotion par une IA ? « L’IA sait, depuis des années, détecter les émotions humaines. En 2018, j’avais présenté sur la scène de l’Echappée Volée le projet Datakalab, qui utilise l’IA pour identifier les émotions grâce à une simple webcam, en utilisant les expressions ou micro-expressions du visage. Est-ce que l’IA serait capable de reproduire ces expressions et micro-expressions et simuler des émotions ressenties ? »

En quatre ans, l’accélération des IA génératives n’a jamais été aussi rapide. En 2019, GPT2 contenait 1,5 milliard de paramètres (l’équivalent de 1,5 milliard de connexions dans un réseau de neurones). Deux ans plus tard, GPT3 comptait 100 fois plus de connexions, soit 175 milliards de paramètres. GPT4 devrait compter + 100 000 milliards de paramètres, soit 100 000 milliards de connexions.

« Aujourd’hui, on traduit du texte, on crée des images, des articles, des vidéos, demain des environnements immersifs. On construira des univers virtuels, assure Michel Levy-Provençal. On sera, par exemple, en mesure de créer des traducteurs vers des langues encore inconnues. De comprendre et parler les langues animales, par exemple. Oui, on pourra comprendre et parler aux chiens ou aux chats ! On le fait déjà avec les abeilles. Les abeilles communiquent en dansant. Elles dansent pour indiquer où se trouve une source de pollen. Une équipe de chercheurs allemands a réussi à reproduire ce langage avec des robots pour diriger des abeilles dans l’espace ! »

Souvenez-vous de HAL, imaginé et filmé en 1968

Si une émotion se résume à l’expression de cette émotion, on va pouvoir créer des IA exprimant la colère, la joie, la peine. Mais aussi simuler la communication non verbale en utilisant l’intonation de la voix, le rythme, la respiration… « Vous souvenez-vous de la séquence de 2001, Odyssée de l’espace, où l’ordinateur central HAL est débranché ? Elle a été imaginée et filmée en 1968 par Kubrick ! Comment être plus visionnaire que ça ? »

Une expérience avait été menée en Inde par Sugata Mitra, un chercheur s’intéressant à la capacité des enfants à s’auto-former. Il a remarqué que l’encouragement d’un tiers, même s’il est totalement incompétent dans le domaine que l’enfant apprend, améliore les capacités d’apprentissage. Travaillant avec des réseaux de grand-mères, il a découvert que leurs encouragements créaient une boucle de rétroaction positive chez les enfants, que l’empathie entre autres leur permettait d’améliorer leur résultat.

Des IA émotionnelles telles des avatars permanents

« On pourrait tout à fait imaginer des IA empathiques qui nous encouragent, qui rient et qui pleurent, qui nous font penser qu’elles nous aiment ou nous détestent. Des IA qui nous influencent positivement. Pour, pourquoi pas, nous coacher au quotidien, imagine Michel Levy-Provençal. Et pourquoi pas nous accompagner psychologiquement ? Bref, un avatar qui en permanence nous nourrirait en émotions positives. Bien. Sauf que ce serait une drogue dont on aurait beaucoup de mal à se défaire… »

On peut, aussi, imaginer des IA faisant pareil, mais avec une tout autre intention… Ce n’est pas complotiste de dire que beaucoup d’acteurs économiques utilisent l’IA pour influencer nos choix de consommation. Mais qu’est-ce qui se passera si ces IA sont utilisées pour aller au-delà pour modifier nos comportements, nos jugements, nos convictions ? « Bref, comment allons-nous nous défendre contre ces armes logicielles, questionne en forme de conclusion Michel Lévy-Provençal. Dans la guerre cognitive qui se prépare, où les puissances rassemblent leurs forces et où le soft power, l’influence des foules et la propagande jouent un rôle de plus en plus critique, comment allons-nous nous protéger contre d’éventuelles IA émotionnelles mal intentionnées qui pourraient nous nuire ? »