Dans 5 ans, la fin du monde ?

evil-robots-3b

 

Article paru dans Times of Israel en français

Il nous reste 5 ans à vivre avant que des robots dotés d’intelligence artificielle ne nous exterminent tous.

C’est en tout cas ce que pense Elon Musk. Le célèbre milliardaire créateur de PayPal, et actuellement à la tête de Tesla (voitures électriques) et SpaceX (exploration spatiale), l’homme qui a inspiré Robert Downey Jr pour son personnage de Tony Starck (Ironman), et qu’on présente comme le nouveau Steve Jobs, pense que nous sommes à l’aube d’une gigantesque révolution de l’intelligence artificielle dont les progrès ont été exponentiels ces dernières années, et que si nous ne faisons rien, ces intelligences, dont les facultés dépasseront largement les nôtres sans posséder nos valeurs ni notre morale, nous écarterons comme une simple nuisance et nous traiterons comme nous traitons les insectes.

Si le scénario que prédit Musk vous rappelle Terminator ou The Matrix, c’est parce que le sujet de l’intelligence artificielle (les AI) est au coeur de la science fiction depuis des décennies, des Robots de Isaac Asimov, à la série Person of Interest, en passant par 2001, Hypérion et d’innombrables autres oeuvres écrites, télévisuelles ou cinématographiques. Et maintenant, la fiction deviendrait réalité.

Musk tire l’alarme après avoir lu le livre « Superintelligence » du philosophe des technologies Nick Bostrom.

J’ai moi aussi lu ce livre qui se veut être le pionnier d’une nouvelle science et qui chercher à ouvrir des pistes de réflexion afin de préparer l’humanité face à cette révolution inéluctable. Car pour Bostrom, l’arrivée de ces superintelligences est inéluctable et probable avant la fin du siècle.

Trois voies principales vers la superintelligence sont abordées.

La première est celle de l’amélioration génétique, par sélection ou par ingénierie génétique. Cette méthode pourrait permettre de plus que doubler le QI moyen de l’occidental moyen, ce qui voudrait dire que monsieur tout le monde serait plus intelligent qu’Einstein, et que les plus doués atteindraient des sommets jamais égalés. Et pourtant, pour Bostrom, il s’agirait d’une forme « faible » de superintelligence, sans comparaison avec ce qu’il entend par ce concept. Par superintelligence il explique que la même différence qu’il y a entre l’intelligence humaine et celle d’un rat sera établie entre celle des hommes et des AI.

Une deuxième voie serait celle de l’émulation digitale des cerveaux humains. Je dois avoir du mal à saisir le concept: pourquoi donc un scanner, donc une image, aussi fine soit-elle, d’un cerveau humain permettrait de reproduire dans une machine son intelligence, y compris sa mémoire et sa personnalité ? Mais Bostrom n’est pas le seul à évoquer cette méthode (qui relève évidemment de la science fiction pour le moment), elle doit donc être théoriquement imaginable. Ces cerveaux en émulation auraient plusieurs avantages sur nos pauvres versions biologiques, la principale étant la vitesse puisqu’ils ne seraient pas limités par les transmissions synaptiques et pourraient travailler près de un million de fois plus vite que nous.

Mais la vraie révolution dont parle Bostrom, qui serait inéluctable à long terme, est celle des intelligences artificielles complètes, les ordinateurs dotés au début d’une intelligence équivalente à celle d’un homme, et donc d’une conscience d’eux-mêmes, mais avec l’énorme avantage de pouvoir s’auto-perfectionner et de travailler infiniment plus vite. Le passage à la superintelligence pourrait alors être très rapide (de quelques heures à quelques années suivant les scénarios), et les conséquences potentiellement catastrophiques pour nous.

Tout dépend en fait des objectifs ultimes dont se doterait une telle intelligence. Comme elle penserait d’une façon très différente de la notre et serait beaucoup plus intelligente que nous, il est impossible de savoir ce qu’elle voudrait mais le plus probable est qu’elle altère notre environnement pour ses propres besoins, sans aucune intention néfaste, d’une telle façon que notre vie en devienne impossible. Là encore, tout pourrait se passer à une telle vitesse qu’il serait impossible de réagir.

On comprend l’urgence de s’y préparer. La question centrale est donc celle du contrôle, dans un premier temps, puis de la détermination des objectifs ultimes de cette intelligence (qui sera probablement unique, elle éliminera immédiatement toute compétition).

L’essentiel du livre est consacré à explorer des pistes sur les différentes méthodes de contrôle et d’influence, avec leurs dangers et leurs limites, sachant que la machine sera assez intelligente pour mentir et nous laisser croire ce que nous voulons si elle se rend compte qu’on veut la contrôler.

Néanmoins l’auteur espère réellement que nous réglerons ces problèmes et pourront bénéficier des bienfaits que nous apportera la superintelligence artificielle. Ce sera probablement la dernière invention de l’humanité, toutes les autres seront ensuite les siennes, et si elle a a coeur notre bonheur, nous connaitront une existence merveilleuse et hors de tout souci.

J’ai eu beaucoup de mal à lire et finir cet ouvrage. Je n’aurais jamais imaginé qu’un livre sur des robots qui prennent le contrôle du monde puisse être aussi fastidieux et ennuyant. C’est que Bostrom n’écrit pas un roman de science fiction et les très rares allusions qu’il fait sur le traitement littéraire de l’intelligence artificielle sont assez méprisantes.

Je me méfie toujours des gens qui écrivent en jargon. Tout est question de contexte, et il est naturel que des gens qui travaillent dans le même domaine utilisent entre eux des termes techniques, de même qu’il est normal d’utiliser des termes rares mais précis quand ils sont les plus à même de décrire un phénomène. Mais ce n’est pas ce dont il s’agit ici, plutôt d’une écriture prétentieuse et arrogante qui vise à démontrer la supériorité intellectuelle de l’auteur en disant de façon compliquée des choses qu’il pourrait tout aussi bien dire simplement.

Car Bostrom est clairement arrogant et prétentieux, il écrit même dans une note que son domaine n’attire que les esprits les plus intelligents de la planète et se lamente que s’il devient à la mode les médiocres envahiront son domaine.

Sur le fond, les choses ne sont guère meilleures. D’abord, tout le livre n’est qu’une suite de pures spéculations basées sur d’autres spéculations sans fondement empirique ou scientifique. L’auteur construit des pyramides sur du sable mouvant.

Les présupposés idéologiques et philosophies de Bostrom sont aussi assez gênants. Mis à part l’athéisme qui fonde son travail (j’y reviendrai), je me méfie de quelqu’un qui écrit « non human animals » systématiquement pour parler des animaux. Le « non human » étant superflu, il est porteur d’une signification idéologique profonde, et on la ressent dans tout le livre, lorsqu’il parle des droits des animaux et autres absurdités (les animaux n’étant pas des sujets conscients n’ont pas de droits, mais en tant qu’être vivants nous devons évidemment éviter de les faire souffrir).

Ensuite, l’auteur semble être mu par une sorte de croyance quasi-religieuse en la venue de son messie AI. Cette « église » existe belle et bien, il s’agit de ceux qui croient en l’arrivée prochaine de la « Singularité ».

Or rien n’est moins certain. Comme il l’indique lui-même, depuis les années 60 on prédit l’arrivée de l’AI d’ici 20 ans. Et pourtant rien n’arrive. La croyance en l’inéluctabilité de l’AI résulte de l’impression que l’augmentation exponentielle de la puissance des ordinateurs suivant la loi de Moore devra nécessairement, arrivé à un certain niveau, la produire.

Cependant nos ordinateurs sont exponentiellement plus puissants que ceux de la génération précédente et ils ne sont pas plus intelligents qu’eux. Mon téléphone est plus puissant que les superordinateurs militaires secrets des années 70, il n’est pas plus proche d’atteindre la conscience de lui-même que ne l’était mon Apple IIc en 1985.

L’évolution nécessaire n’est pas seulement quantitative mais avant tout qualitative et dans ce domaine, et nous ne sommes pas plus avancés dans cette voie qu’il y a 50 ans.

Un passionnante discussion a récemment été initiée par le chercheur, philosophe et pionnier informatique Jaron Lanier sur Edge.org sur ce sujet. Il a intitulé son essai « The Myth of AI », ce qui résume bien sa position.

Il ne nie pas l’intérêt des recherches et des progrès en intelligence artificielle, seulement la mythologie qui s’est construite autour. Par exemple, les algorithmes intelligents de Google, Netflix ou Amazon, qui seraient capables d’analyser nos comportements et de déterminer pour nous ce que nous aimons, ces algorithmes qui sont censés être la base de futures AI, seraient en fait des illusions. Rien n’indiquent qu’ils fonctionnent ou que ce qu’ils proposent soit réellement les meilleurs choix possibles pour nous. Mais nous n’avons aucune base de comparaison.

Le meilleur exemple est celui des logiciels de traductions tel Google Translate. Nous imaginons qu’un puissant algorithme se cache derrière cette impressionnante opération.

La réalité est plus prosaïque et illustre aussi les dangers générés par ce mythe de l’AI. Les tentatives pour créer des logiciels de traduction qui apprennent par eux-mêmes et comprennent les langues naturelles n’ont rien donné. Les programmes de traduction qui existent ont simplement été créés par la construction de gigantesques bibliothèques de données : on a entré des textes et leurs traductions, des traductions effectuées par des millions de traducteurs professionnels. Or, ces traducteurs humains ne sont pas payés lorsque leur travail est récupéré par ces bibliothèques de données alors que les logiciels de traduction viennent directement les concurrencer. Ce système est intenable.

L’influence économique des AI est une réalité du futur proche.

Récemment un journal économique israélien écrivait sur les 30% des emplois en Israel qui seraient menacés par les progrès technologiques dans ce domaine.

D’après Bostrom, les machines intelligentes vont nous remplacer dans nos fonctions intellectuelles, celles qui ont toujours été spécifiques à l’homme. Il compare les travailleurs humains aux chevaux qui ont été remplacés par des voitures à moteur. Les travailleurs humains auront peut-être un avenir dans certains marchés de niche, mais pas plus.

D’un côté ce n’est pas nouveau, toute la révolution industrielle s’est construite sur l’utilisation de machines à la place de travailleurs humains, ce qui a parfois entrainé des oppositions dites « luddites » du nom du mouvement anti-machines en Angleterre au début du 19ème siècle.

Pourtant, au final, le niveau de vie général et l’emploi se sont considérablement accrus grâce à ces machines. Pourquoi serait-ce différent cette fois-ci ?

La discussion lancée par Lanier est fascinante, Elon Musk lui-même y a participé avant d’effacer son message sur les robots tueurs, et la majorité des intervenants (des autorités dans leur domaine) est d’accord sur le fait que les AI ne sont pas une menace pour ce siècle.

Et pour un autre ? La question reste de savoir si la création d’une intelligence artificielle complète est techniquement possible. Bostrom pense que oui et pour une raison simple: nous sommes intelligents, or nous sommes le produit d’un processus évolutif partiellement aléatoire qui n’a jamais cherché à créer cette intelligence.

Cela devrait donc être possible (ne serait-ce qu’en simulant un processus évolutif de façon accélérée) et rien n’indique que l’intelligence que nous possédons est la plus optimale et la meilleure possible, au contraire.

C’est vrai, si effectivement nous sommes le produit d’un processus aveugle et aléatoire. Mais si nous avons été créés volontairement, l’argument s’effondre et il est possible que notre intelligence soit la plus haute potentiellement atteignable dans le monde physique ; on peut surtout en déduire que la création d’une intelligence autonome et consciente d’elle-même se situe au-delà des capacités humaines et appartient nécessairement au domaine divin.

Ainsi, les recherches dans le domaine de l’intelligence artificielle ouvrent la porte non seulement à de réelles avancées techniques (encore lointaines) mais aussi pourraient alimenter les débats religieux et spirituels pour de nombreuses décennies.

Laisser un commentaire

Entrez vos coordonnées ci-dessous ou cliquez sur une icône pour vous connecter:

Logo WordPress.com

Vous commentez à l'aide de votre compte WordPress.com. Déconnexion / Changer )

Image Twitter

Vous commentez à l'aide de votre compte Twitter. Déconnexion / Changer )

Photo Facebook

Vous commentez à l'aide de votre compte Facebook. Déconnexion / Changer )

Photo Google+

Vous commentez à l'aide de votre compte Google+. Déconnexion / Changer )

Connexion à %s