Une intelligence artificielle peut-elle contrôler le monde ?

Un Français sur quatre serait d’accord pour être gouverné par une intelligence artificielle. Ces chiffres proviennent d’une étude de l’université espagnole IE menée auprès de 2 500 personnes en Europe. Mais est-ce une possibilité ? Aujourd’hui, nous savons que les intelligences artificielles savent gagner des parties de dames ou de go, mais peuvent-elles gouverner le monde ? D’après Nick Bostrom, enseignant à l’université d’Oxford, cela pourrait arriver. D’après une hypothèse appelée “singleton”, l’ordre mondial pourrait évoluer vers une gouvernance unique pour l’ensemble des pays du monde cela prendrait la forme d'un gouvernement unique fait d'humains ou d'une intelligence artificielle.

Le Dr Ben Goertzel reprend la théorie de gouvernance par l'intelligence artificielle. Spécialiste du sujet, l'auteur et chercheur américain appelle cette évolution le "Now AI". Il s’attèle à travers les entreprises pour lesquelles il travaille, comme Novamente LLC, à construire des robots pourvus d’intelligence.

Une gouvernance par l’intelligence artificielle est une utopie

Laurence Devillers, autrice de Vague IA à l’Elysée, n’est pas d’accord avec cette théorie : “Cette idée, s’appuie sur la science-fiction, qui nous envoie ces utopies et dystopies, elle biaise le discours scientifique et raisonné”. Afin de se faire comprendre par les non-initiés, les ingénieurs utilisent parfois des métaphores qui participent à la projection qu’ont les Hommes sur les capacités de l’intelligence artificielle. Selon Laurence, cette façon de s’exprimer autour de l’IA "vend du rêve, des émotions et de la peur. Les discours deviennent donc très ambigus et il est important que les termes utilisés par les scientifiques soient mieux précisés".

La première expression à modifier est l’”IA”. Pour Laurence, ce n’est pas “l’intelligence artificielle” mais “l’imitation artificielle”. Elle s’explique : "c’est une intelligence, qui imite et calcule, elle est très différente de la nôtre”. La distinction entre l’Homme et le robot se retrouve : “Si on montre du feu à un enfant, il va y mettre la main deux fois, il va comprendre que ça brûle et il ne va plus y aller. La machine, il faudra qu’elle le fasse un nombre incalculable de fois pour que son système engage des calculs, il n’y a pas d’intuition, elle n’a pas de corps, pas d’histoire et elle n’a pas de sens commun". Laurence estime que l’apprentissage des machines n’est pas similaire à celui des enfants. L’intelligence artificielle assimile les données transmissent par l’Homme, des “traces”, mais elle est dépourvue d’intelligence émotionnelle. “Ce sont des programmes qui imitent ce qui s’est déjà passé et qui n’inventent pas de nouvelles choses”.

Un système ne remplace pas un humain 

Les machines ne sont donc pas aussi évoluées que ce que l’on imagine. "Aujourd’hui, avec les machines que l’on a fondé sur des processeurs binaires, on n’a aucune chance d’arriver vers l’émergence d’une conscience”, Laurence n’a aucun doute, “il n'y a pas de pilote dans l’avion”. Les machines n’ont pas d’intuitions ni de capacités d'être en intelligence collective. D’après Laurence, les robots ne peuvent pas éprouver d’émotions, ils imitent sans ressentir. Cependant, les émotions sont indispensables à la gouvernance. Pour Charles-Antoine Barbeau-Meunier, sociologue, l’empathie est un élément essentiel lors des crises sociales. Une intelligence artificielle ne pourrait donc pas gérer ces crises.

L’IA ne pourra donc jamais gouverner ? “Un système ne remplace pas un humain”, Laurence Devillers est claire, les machines d’aujourd’hui n’en ont pas la capacité. Elles pourront cependant être un complément. Ces systèmes peuvent faire des erreurs qui ne sont pas les mêmes que les nôtres. Leur atout repose sur leur fulgurance de calcul : “c’est nouveau, ce qui mettait un mois, peut mettre aujourd’hui une heure sur certaines machines”.

Elisa DESPRETZ

Pour aller plus loin :

Westworld saison 4 ou quand les IA auront une conscience ! - Futura sciences