La révolution IA : Le chemin vers la Super-intelligence

Par Tim Urban, traduction Française Jerome Gangneux vous trouverez l’article original ici : The AI Revolution: The Road to Superintelligence

Note : La raison pour laquelle ce billet m’a pris trois semaines, c’est qu’au fur et à mesure de mes recherches sur l’Intelligence Artificielle, je suis tombé sur des lectures incroyables. J’ai rapidement réalisé que ce qu’il arrive dans le monde de l’IA n’est pas juste un sujet important, mais de loin le PLUS important des sujets pour notre future. C’est pourquoi j’ai voulu en apprendre le plus possible, et une fois fini, je voulais être sûr d’écrire un billet qui expliquait réellement cette nouvelle situation et pourquoi c’est si important. Sans surprise, le billet est devenu vraiment très long, je l’ai donc divisé en deux parties. Ceci est la première partie.

Nous sommes au bord d’un changement comparable à l’éclosion de la vie humaine sur Terre.

- Vernor Vinge

Qu’est ce qu’on ressent quand on est ici ?

image

Ça nous semble improbable d’être ici, mais il faut se souvenir de quelque chose d’important à propos des graphiques qui représentent le temps : vous ne pouvez pas voir ce qui est à votre droite. Donc c’est comme ça que nous le ressentons réellement :

image

Ce qui semble plutôt normal….

Le futur lointain arrive prochainement

Imaginez-vous avec une machine à remonter le temps de retour en 1750, une époque où le monde était dans un manque d’énergie permanent, que la communication longue distance voulait simplement dire crier fort ou tirer des coups de canon en l’air, et que tous les transports étaient menés par des chevaux. Quand vous arrivez là bas, vous capturez quelqu’un, et l’amenez en 2015, puis vous lui faites la visite et observez ces réactions à propos de ce qui l’entoure. C’est impossible pour nous de comprendre ce qu’il serait pour lui de voir des capsules brillantes déferler sur l’autoroute, parler aux gens qui sont de l’autre côté de l’océan, regarder une rencontre sportive jouée en direct à 1000km, écouter un concert qui a eu lieu il y a plus de 50 ans, et jouer avec un rectangle magique qui peut servir à prendre des photos ou “enregistrer” la vie, afficher une carte avec un point bleu magique qui montre où il se situe, voir la tête d’un autre et lui parler alors qu’il est dans une autre ville, et bien d’autres aspects qui relèvent de la sorcellerie. Tout ça avant même que vous lui montriez l’Internet ou lui expliquiez des choses comme la Station Spatiale Internationale, le grand collisionneur de hadrons, les armes nucléaires ou la relativité générale.

Cette expérience pour lui ne serait ni surprenante, ni choquante, ni même hallucinante ; ces mots ne sont pas assez forts. En fait il pourrait simplement mourir.

Mais voici ce qui est intéressant, imaginez que quand il retourne en 1750 il devient jaloux qu’on se soit moqué de sa réaction, et décide qu’il veut essayer de faire la même chose, il prendrait la machine à remonter le temps et remonterait la même distance, capturerait quelqu’un des années 1500, et le rapporterait en 1750. Cette personne des années 1500 serait choquée par pas mal de choses mais il ne mourrait pas. Ça serait une expérience bien moins insensée pour lui, parce que bien que 1500 et 1750 étaient des années très différentes, c’était bien moins différent que de 1750 à 2015. Le gars des années 1500 pourrait apprendre des choses incroyables à propos de l’espace et de la physique, il serait impressionné à quel point l’Europe serait engagée dans l’impérialisme, et découvrirait des erreurs importantes dans ses cartes du monde. Mais la vie de tous les jours en l’an 1750, tels que les transports, la communication, etc ne le ferait certainement pas mourir.

Non, pour que le gars de 1750 puisse s’amuser autant que nous, il faudrait qu’il aille bien plus loin en arrière, peut-être même jusqu’en -12 000, avant que la première révolution agricole donne naissance aux premières villes et au concept même de civilisation. Si quelqu’un venant d’un monde de chasseurs/cueilleurs, à une époque où les humains étaient, plus ou moins, juste une autre espèce animale, voyait l’empire humain de 1750 avec leurs églises, leurs bateaux qui traversent les océans, leur concept de vivre à “l’intérieur”, et leurs énormes montagnes de connaissances accumulées. Il mourrait surement.

Et que ce passerait-il si, à son tour, il devient jaloux et veut faire la même chose. Il irait en -24 000 et capturerait un gars, pour le ramener en -12 000 et lui faire voir, le gars serait “Ok, et alors, on s’en fout.” Pour que le mec de -12 000 s’amuse autant, il faudrait qu’il remonte au moins jusqu’à -100 000 et trouve quelqu’un à qui il pourrait faire voir le feu et le langage pour la première fois.

Pour qu’une personne transportée dans le futur meure suite au choc qu’elle a expérimenté, il faudrait aller suffisamment loin pour qu’une mort due au niveau de choc, ou une Unité de Mort Par de le Progrès (UMPP) puisse avoir lieu. Donc une UMPP a pris plus de 100 000 ans pour le temps des chasseurs, mais à l’ère post révolution agricole, ça n’a pris que 12 000 ans. L’ère post révolution industrielle évolue si vite que seulement quelques années sont nécessaires pour que le gars de 1750 subisse l’UMPP.

Cette modélisation du progrès humain qui avance de plus en plus vite au fur et à mesure du temps est ce qu’appelle le futuriste Ray Kurzweil : la loi de Retour Accéléré sur l’Histoire. Ça arrive parce que des sociétés plus avancées ont la faculté de progresser à une vitesse plus importante, parce que justement elles sont plus avancées. L’humanité du 19ème siècle en savait plus et avait une technologie bien plus avancée qu’au 15ème siècle, ce n’est donc pas une surprise que l’humanité ait fait bien plus qu’au 15ème siècle. Il n’y a pas de rapport entre le 15ème et 19ème siècle.

Ça marche à plus petite échelle aussi. Le film Retour Vers le Futur est sorti en 1985, et le “passé” prenait place en 1955. Dans le film, quand Michael J. Fox retourne en 1955, il est surpris de la nouveauté des TV, du prix du coca, du manque d’amour pour la guitare électrique, et des variations dans l’argot. C’était un monde différent, oui mais si le film était tourné aujourd’hui et que le “passé” soit 1985, le film aurait pu être bien plus drôle avec des différences bien plus grosses. Le personnage serait avant l’ère des ordinateurs personnels, d’Internet, des téléphones portable, le Marty McFly d’aujourd’hui, un ado des années 90, serait bien plus perdu en 1985 que le Marty du film l’était en 1955.

C’est pour cette même raison que nous venons de parler de la loi de Retour Accéléré sur l’Histoire. L’avancement moyen entre 1985 et 2015 était bien plus grand que celui entre 1955 et 1985 parce que c’était déjà un monde plus avancé, donc plus de changements ont eu lieu dans les 30 dernières années que dans les 30 précédentes.

Donc, les avancées sont de plus en plus importantes et arrivent de plus en plus souvent. Cela suggère des choses intenses à propos de notre futur, n’est-ce pas ?

Kurzweil suggère que le progrès complet du 20ème siècle aurait été atteint en seulement 20 ans à la vitesse du progrès des années 2000, en d’autres mots, en 2000 le rythme du progrès était 5 fois plus important que le rythme moyen du progrès du 20ème siècle. Il pense qu’un autre équivalent du “progrès du 20ème siècle” a été accomplis entre 2000 et 2014 et qu’un autre encore le sera d’ici 2021, dans seulement 7 ans. (NDT article publié en 2014) Quelques décennies plus tard, il pense qu’un équivalent du “progrès du 20ème siècle” arrivera plusieurs fois dans la même année, et après même, dans le même mois. L’un dans l’autre, avec la loi de Retour Accéléré sur l’Histoire, Kurzweil pense que le 21ème siècle atteindra 1000 fois le progrès accompli du 20ème siècle.

Si Kurzweil et ceux qui sont d’accord avec lui ont raison, alors nous pourrions être dépassé en 2030, autant que notre gars de 1750 l’était par 2015. Par exemple notre prochain UMPP pourrait survenir dans seulement quelques dizaines d’années, et le monde de 2050 pourrait être tellement différent d’aujourd’hui qu’on ne le reconnaîtrait pas. 1

Ceci n’est pas de la science fiction. C’est ce que beaucoup de scientifiques bien plus intelligents et cultivés que vous ou moi croient fermement, et si vous regardez l’histoire, c’est ce que nous devrions logiquement prédire.

Alors pourquoi, quand vous m’entendez dire quelque chose comme “dans 35 ans le monde sera complètement méconnaissable”, vous pensez, “cool mais… naannnn” Trois raisons font que nous sommes sceptiques à propos des prédictions du futur :

1) Quand il s’agit de l’histoire, nous raisonnons en ligne droite.

Ensuite pour imaginer le progrès des 30 prochaines années, on regarde le progrès des 30 précédentes comme indicateur de ce qui va probablement arriver. Quand on pense à la mesure du changement pour le 21ème siècle, on ne prend en compte que le progrès du 20ème siècle et on l’ajoute à l’an 2000. C’est la même erreur que le gars de l’an 1750 a fait quand il a pris quelqu’un de 1500 en pensant l’impressionner autant qu’il l’avait été en parcourant la même distance. C’est plus intuitif pour nous de penser linéairement, alors que nous devrions penser exponentiellement. Si, pour être plus intelligent, quelqu’un tente de prédire l’avancée des 30 prochaines années sans regarder les 30 précédentes, mais en prenant en compte la vitesse du progrès, il pourrait se faire une idée a partir de ça. Il serait bien plus précis, mais encore très loin. Pour prédire le futur correctement, vous devez imaginer les choses bouger à une vitesse bien plus rapide que maintenant.

image

2) La trajectoire de l’Histoire très récente montre souvent une histoire déformée.

Premièrement, même une courbe exponentielle forte semble linéaire quand on en regarde qu’une très petite partie, tout comme si vous preniez un tout petit morceau d’un énorme cercle, de près il a l’air d’une ligne droite. Ensuite, la croissance exponentielle n’est pas lisse et uniforme. Kurzweil explique que le progrès avance en “courbe en S” :

image

Un S est créé par la vague du progrès lors de la déferlante d’un nouveau paradigme sur le monde. La courbe passe par trois phases :

  1. Une croissance lente (le début de la phase exponentielle)
  2. Une croissance rapide (l’explosion de la phase exponentielle)
  3. Une phase de stabilisation au moment de la maturation du paradigme 1

Si vous regardez seulement l’Histoire récente, la partie de cette “courbe en S” dans laquelle nous nous trouvons peut obscurcir votre perception de la vitesse à laquelle les choses avancent. Entre 1995 et 2007 on a vu l’explosion d’Internet, la création de Microsoft, Google et Facebook, la naissance des réseaux sociaux, et l’introduction dans nos vies des téléphones portables puis des smartphones. Puis vient la phase 2 : la partie de croissance rapide de la “courbe en S”. Mais la période de 2008 à 2015 a été moins impressionnante, du moins pour les aspects technologiques. Quelqu’un imaginant le futur aujourd’hui pourrait regarder les dernières années pour juger la vitesse actuelle d’avancement, mais ne pas voir le tableau d’ensemble. En fait, une nouvelle poussée de croissance très importante de type “phase 2” pourrait se préparer en ce moment même.

3) Notre propre expérience nous rend rétifs quant à l’avenir.

Nous basons nos idées à propos du monde sur notre expérience personnelle, et cette expérience a encré la vitesse de l’évolution du passé dans nos têtes comme “la façon dont les choses se passent.” Nous sommes aussi limités par notre imagination, qui utilise notre expérience pour façonner nos prédictions, mais souvent, ce que nous savons ne nous donne pas les outils pour imaginer précisément le futur 2. Quand nous entendons parler d’une prédiction qui contredit notre expérience, notre instinct nous dit que la prédiction doit sûrement être naïve. Si je vous dis, plus tard dans ce billet, que vous pourriez vivre jusqu’à 150, ou 250 ans, ou même ne pas mourir du tout, votre instinct sera de dire, “c’est stupide, s’il y a bien une chose que je sais par expérience c’est que tout le monde meure.” Et oui, personne dans le passé n’est pas mort. Mais personne n’avait fait voler d’avions avant qu’ils ne soient inventés non plus.

Même si “naaaaaan” semble être la bonne réaction lorsque vous lisez ce billet, c’est probablement la mauvaise. Le fait est que, si nous restons parfaitement logiques et que nous nous attendons à ce que les schémas historiques se reproduisent, nous devrions conclure que beaucoup, beaucoup, beaucoup plus devrait changer dans les prochaines décennies que ce que à quoi nous nous attendons intuitivement. La logique veut aussi que si la plus avancée des espèces sur une planète fait des sauts de plus en plus grands, à une vitesse qui avance de plus en plus, à un moment, ils feront un saut si grand que ça changera définitivement la vie comme ils la connaissent y compris la perception même de ce qu’ils pensent que c’est d’être humain ; un peu comme l’évolution qui n’a pas arrêté de faire de grands bonds vers l’intelligence jusqu’à ce qu’on arrive à un si grand pas en avant vers l’humain que ça a complètement altéré ce que signifiait vivre sur Terre pour les autres créatures. Et si vous passez un peu de temps à lire ce qu’il se passe aujourd’hui dans les domaines de la science et des technologies, vous commencez à voir beaucoup de signes laissant entendre que la vie telle que nous la connaissons ne peut échapper à un bond similaire.

La route vers la Superintelligence

Qu’est ce que l’IA ?

Si vous êtes comme moi, vous pensez que l’Intelligence Artificielle est un concept de science fiction, mais dernièrement vous avez entendu des personnes sérieuses en parler, et vous ne comprenez pas toute cette agitation.

Il y a trois raisons pour lesquelles beaucoup de gens sont confus à propos du terme IA :

1) Nous associons l’IA avec les films.

Star Wars. Terminator. 2001 L’Odyssée de l’Espace. Et ce sont des fictions, tout comme les personnages robots. Donc ça rend l’IA un peut fictionnelle.

2) L’IA est un sujet vaste.

Ça va de la calculatrice dans nos téléphones, aux voitures qui se conduisent toutes seules, jusqu’à quelque chose dans le futur qui pourrait changer le monde complètement. L’IA veut dire tout ça en même temps, ce qui est source de confusion.

3) Nous utilisons l’IA tous les jours dans notre vie courante, mais rarement nous réalisons qu’il s’agit d’IA.

John McCarthy, qui a inventé le terme “Intelligence Artificielle” en 1956, se plaignait que “dès que ça marche, plus personne appelle ça de l’IA.” 3 A cause de ce phénomène, l’IA semble être une prédiction du futur plus qu’une réalité. En même temps, ça ressemble aussi à un concept pop du passé qui n’a jamais abouti. Ray Kurzweil dit qu’il entend sans cesse des personnes dire que l’IA a dépéri dans les années 80, ce qu’il compare avec “le fait de dire qu’Internet est mort avec l’explosion de la bulle Internet dans le début des années 2000” 1

Mettons les choses au clair. Premièrement, arrêtez de penser aux robots. Le robot est un conteneur pour l’IA, quelque chose qui imite la forme humaine, ou pas d’ailleurs. Mais l’IA en soit est l’ordinateur qui est dans le robot. L’IA est le cerveau et le robot est le corps, sous réserve qu’elle ait un corps. Par exemple, le logiciel et les données dernière Siri sont l’IA, la voix de femme qu’on entend est une personnification de cette IA, et il n’y a pas de robot ici.

Deuxièmement, vous avez sans doute entendu parler du terme “singularité” ou “singularité technologique”. Ce terme est utilisé en mathématiques pour décrire une situation asymptotique où aucune des règles usuelles ne s’appliquent. C’est utilisé en physique pour décrire un phénomène tel qu’un infiniment petit et dense trou noir ou le moment où nous étions tous écrasés juste avant le Big Bang. Encore une fois, des situations dans lesquelles les règles classiques ne s’appliquent pas. En 1993, Vrenor Vinge a écrit un papier dans lequel il a utilisé le terme pour qualifier le moment dans le futur où l’intelligence de la technologie dépassera la notre, un moment pour lui où la vie telle que nous la connaissons sera changée définitivement et les règles usuelles ne s’appliqueront plus. Ray Kurzweil ajoute un peu de confusion en définissant le terme comme le moment où la loi de Retour Accéléré sur l’Histoire aura un rythme tel que le progrès technologique arrivera à une vitesse infinie, ce après quoi nous vivrons dans un tout autre monde. J’ai découvert que beaucoup de personne parlant de l’IA aujourd’hui ont arrêté d’utiliser ce terme, il est déroutant de toute façon, donc je ne l’utiliserai pas trop ici (même si nous allons nous concentrer sur cette idée tout du long).

Finalement, même s’il existe de multiples formes et types d’IA du fait que l’IA soit un concept large, les catégories importantes auxquelles il faut penser sont basées sur leurs puissances. Il y a trois catégories majeures :

IA de catégorie 1
Intelligence Artificielle Restreinte (IAR) :
aussi appelé l’IA faible, l’Intelligence Artificielle Restreinte est une IA qui est spécialisée dans un domaine. Il y a une IA qui peut battre le champion du monde d’échec, mais c’est la seule chose qu’elle peut faire. Demandez lui de trouver une façon plus optimisée de stocker des données sur un disque dur, et elle vous regardera d’un air bête.

IA de catégorie 2
Intelligence Artificielle Générale (IAG) :
aussi appelé l’IA forte, ou l’IA de niveau humain, l’Intelligence Artificielle Générale est un ordinateur aussi intelligent que l’humain dans tous les domaines, une machine qui peut effectuer toutes les tâches intellectuelles d’un humain. Créer une IAG est une tâche bien plus difficile qu’une IAR, et nous sommes encore en train d’y travailler. Le professeur Linda Gottfredson décrit l’intelligence comme “une capacité mentale très générale capable, entre autres, de comprendre des idées complexes, d’apprendre rapidement, et d’apprendre par l’expérience.” L’IAG sera capable de faire tout ça aussi facilement que vous.

IA de catégorie 3
Intelligence Artificielle Supérieure (IAS) :
le philosophe et chercheur en IA de l’université d’Oxford Nick Bostrom défini la super-intelligence (NDT notée IAS pour la cohérence avec les autres nomenclatures) comme “une intelligence qui est bien plus intelligente que le meilleur des cerveaux humains dans pratiquement tous les domaines, incluant la créativité scientifique, la sagesse générale et les aptitudes sociales.” L’IAS commence de l’ordinateur tout juste plus intelligent que l’humain à celui qui est des milliards de fois plus intelligent dans tous les domaines. L’IAS est la raison pour laquelle le sujet de l’IA est effervescent et aussi pourquoi les mots immortalité et extinction apparaissent tous deux plusieurs fois dans ce billet.

Aujourd’hui, les humains ont déjà conquit la moins puissante des catégories de l’IA : IAR et ce dans de multiples domaines, aujourd’hui c’est utilisé partout. La révolution est le chemin entre l’IAR, passant par l’IAG, jusqu’à l’IAS, une aventure à laquelle nous pourrions, ou pas, survivre, mais qui dans tous les cas changera tout.

Regardons de plus près où les experts du domaine pensent que ce chemin nous mènera et pourquoi cette révolution pourrait arriver bien plus tôt que ce que vous pensez :

Où en sommes nous aujourd’hui : Un monde qui fonctionne grâce à l’IAR

L’Intelligence Artificielle Restreinte est une machine intelligente qui égale ou dépasse les capacités intellectuelles ou l’efficacité humaine dans un domaine précis. Quelques exemples :

  • Les voitures sont pleines d’IAR, de l’ordinateur qui gère le déclenchement de l’ABS à celui qui règle les paramètres de l’injection. Les voitures autonomes de Google, testées en ce moment même, contiennent des IAR très avancées qui perçoivent et réagissent au monde autour de nous.
  • Votre téléphone est une usine à IAR. Quand vous utilisez l’app map, recevez de la musique recommandée par Spotify, vérifiez la météo de demain, parlez à Siri, ou des dizaines d’autres choses, vous utilisez l’IAR.
  • Votre filtre anti spam est un type classique d’IAR, il commence avec une intelligence pré-chargée pour trouver ce qui est du spam ou non, et ensuite il apprend et adapte son intelligence pour vous au fur et à mesure qu’il comprend vos besoins particuliers. Le thermostat Nest fait la même chose, il s’adapte à votre routine habituelle et agit en conséquence.
  • Et aussi ces moments effrayants quand vous cherchez un produit sur Amazon et que vous voyez un “produit recommandé pour vous” sur un autre site, ou quand Facebook, on ne sait pas comment, vous suggère les bonnes personnes que vous devez ajouter en tant qu’ami ? Tout ceci est un réseau d’IAR, travaillant ensemble pour cerner qui vous êtes et ce que vous aimez puis ensuite utilisant ces informations pour savoir quoi vous montrer. La même chose avec “Les personnes qui ont acheté ceci ont aussi acheté …” d’Amazon, c’est une AIR qui a pour but de récupérer les habitudes de millions de clients de les synthétiser dans une formule pour vous inciter à acheter plus.
  • Google Traduction est une forme d’IAR classique et très impressionnante dans sa tâche. La reconnaissance vocale en est une autre, et il y a plusieurs app qui utilisent ces deux IAR ensemble, ce qui vous permet de parler dans une langue et votre téléphone le traduit dans une autre.
  • Quand votre avion atterri, ce n’est pas un humain qui décide à quelle passerelle il doit aller. Tout comme ce n’est pas un humain qui a choisi le prix de vos billets.
  • Les meilleurs joueurs d’échecs, de Scrabble, de Backgammon et d’Othello sont tous des IAR.
  • Le moteur de recherche Google est une impressionnante IAR avec de très sophistiquées méthodes de calculs pour vous faire voir la bonne page en particulier. Même chose avec le flux de Facebook.
  • Et celles là sont seulement celle du monde commun. Des IAR très sophistiquées sont utilisées dans des secteurs de l’industrie tels que le secteur militaire, le secteur de la fabrication, ou de la finance (les algorithmes haute fréquence de trading type IAR comptent pour plus de la moitié des échanges d’actions sur les bourses américaines 4), et dans des systèmes d’expertise tels que ceux qui aident les docteurs à faire leurs diagnostiques, IBM Watson, qui sait assez de chose et comprend le présentateur Alex Trebek, pour battre le meilleur joueur de Jeopardy (NDT Jeu télévisé Américain).

Les IAR telles qu’elles existent aujourd’hui ne sont pas effrayantes. Au pire, un bug ou une erreur du programme peut causer une catastrophe isolée tels qu’éteindre le courant dans une région, causer un dysfonctionnement majeur d’une centrale nucléaire, ou déclencher un crash boursier (comme en 2010 avec le crash éclair quand une IAR a mal réagit à une situation inhabituelle et a causé un crash de la bourse, emportant 1 milliard de dollar avec elle, dont seulement une partie a été retrouvée quand l’erreur a été corrigée).

Mais tandis que l’IAR n’a pas la capacité de causer des menaces existentielles, nous devrions voir cet écosystème complexe et grandissant d’IAR relativement inoffensive comme les prémices d’une tempête qui arrive bientôt pour modifier le monde. Chaque innovation dans l’IAR ajoute une nouvelle brique et nous rapproche de l’IAG et de l’IAS. Ou comme Aaron Saenz le voit, notre monde d’IAR “est comme les acides aminés de l’ère primitive de la Terre” les composants inanimés de la vie, qui un jour sans prévenir, se réveillent.

La route de l’IAR vers l’IAG

Pourquoi est-ce si difficile ?

Rien ne vous ferait plus apprécier l’intelligence humaine que de tenter de construire un ordinateur aussi intelligent que nous le sommes. Construire des buildings, envoyer des hommes dans l’espace, comprendre les détails du Big Bang, sont toutes des choses bien plus faciles à faire que de comprendre comment notre propre cerveau fonctionne ou comment fabriquer quelque chose d’aussi cool que ça. A l’heure actuelle, le cerveau humain est l’objet le plus complexe de l’univers.

Ce qui est intéressant c’est que la difficulté pour construire une IAG (un ordinateur aussi intelligent qu’un humain en général, pas dans un domaine seulement) n’est pas celle qu’on pourrait penser. Construire un ordinateur qui peut multiplier deux nombres à dix chiffres en une fraction de seconde : facile. En construire un qui peut regarder un chien et dire si c’est un chien ou un chat : incroyablement difficile. Faire une IA qui peut battre un homme aux échecs : fait. En faire une qui peut lire un paragraphe tiré d’un livre illustré pour enfant de 6 ans et qui au delà de reconnaître les mots, en comprendrait le sens ? Google est actuellement en train de dépenser des milliards de dollars pour le faire. Des choses difficiles comme le calcul, la finance, la traduction, sont très simples pour un ordinateur, alors que des choses simples comme la vision, le déplacement, le mouvement, ou la perception sont vraiment difficiles. Ou, comme l’informaticien Donal Knuth le dit “L’IA sait maintenant faire tout ce qui nécessite de ‘réfléchir’ mais échoue dans tout ce que les homme et animaux font ‘sans réfléchir’” 5.

Ce que vous pouvez rapidement réaliser quand vous y pensez c’est que ces choses nous semblent très simples alors qu’elles sont réellement très compliquées, elles semblent simples seulement parce que ces compétences ont été optimisées en nous (et la plus part des animaux) par des centaines de millions d’années d’évolution. Quand vous approchez votre main d’un objet, les muscles, tendons et os de votre épaule, bras et poignet se déplacent dans une longue série d’opérations, en conjecture avec vos yeux, pour vous permettre de déplacer en ligne droite votre main en trois dimensions. Ça vous parait simple parce que vous avez le câblage parfait dans votre cerveau pour le faire. C’est la même raison qui fait que le robot spam est bête et ne reconnaît pas les captcha, alors que votre cerveau est doué pour.

Par contre, multiplier deux grands nombres ou jouer aux échecs sont des activités nouvelles pour nous et nous n’avons pas eu le temps d’évoluer pour, donc un ordinateur n’a pas à travailler dur pour nous battre. Pensez-y, lequel des deux préféreriez vous faire : construire un programme qui peut multiplier deux très grands nombres ou un qui comprendrait la lettre B si bien qu’il pourrait reconnaître un B quelle que soit la manière dont il est écrit à la main ?

Un exemple amusant, quand vous regarder ceci, vous et un ordinateur pouvez comprendre que c’est un rectangle avec deux couleurs qui alternent :

image

Egalité pour le moment. Mais si vous enlevez la partie noire et révélez l’image complète :

image

… vous n’avez aucun mal à donner un description complète des différentes formes opaques et transparentes, cylindriques, pavés, et coins 3D, mais l’ordinateur échouerait lamentablement. Il décrirait ce qu’il voit, une suite de formes 2D différentes, ce qui est la réalité. Votre cerveau fait un tas de choses folles pour interpréter la profondeur, le mélange des formes, et l’éclairage que l’image tente de transcrire. 6 Et en regardant l’image ci dessous, un ordinateur voit un collage 2D noir/gris et blanc, alors que vous voyez facilement qu’en réalité c’est une photo d’une pierre.

image
Crédit: Matthew Lloyd

Et tout ce dont nous venons de parler est juste à propos d’informations figées. Pour être du niveau de l’intelligence humaine, un ordinateur devrait comprendre la subtile différence entre les expressions faciales, la distinction entre le plaisir, le soulagement, la satisfaction et le bonheur, et pourquoi Braveheart était un bon film mais The Patriot non.

Déconcertant.

Alors comment pouvons-nous y arriver ?

Première clef pour créer une IAG : Augmenter la puissance de calcul

Une chose qui doit obligatoirement arriver pour rendre l’IAG possible est une augmentation de la puissance de calcul du matériel informatique. Si une IA doit devenir aussi intelligente que le cerveau, elle doit avoir la même capacité de calcul pur.

Une façon d’exprimer cette capacité de calcul pur est le “total de calcul par seconde” (cps) que le cerveau peut gérer, et vous arrivez à ce nombre en trouvant la capacité de chaque domaine composant le cerveau et en les additionnant.

Ray Kurzweil a fait un raccourci en prenant l’estimation d’un professionnel pour un domaine donné du cerveau et l’importance de ce domaine par rapport au cerveau en général et les a multiplié proportionnellement pour avoir une estimation. Ça semble un peu léger, mais il l’a fait plusieurs fois avec différents experts dans chaque domaine, les résultats étaient à peu près du même ordre, environ 10 quadrillions. (NDT 10^15 - les américains utilisent la forme courte)

Aujourd’hui, le plus puissant des super-ordinateurs, le chinois Tianhe-2, a dépassé ce chiffre, avec une puissance d’environ 34 quadrillions cps. Mais Tianhe-2 est un monstre, il prend 720 mètres carré, utilise 24 mégawatts d’énergie (le cerveau utilise juste 20 watts), et a coûté 390 millions de dollars. Pas très pratique pour l’utilisation de tous les jours, ou même n’importe quelles utilisations commerciale ou industrielle pour le moment.

Kurzweil suggère que nous pensions à l’état de l’évolution des ordinateurs en regardant combien de cps nous pouvons avoir pour 1000$. Quand ce nombre atteindra le niveau humain de 10 quadrillions de cps pour 1000$ alors ça voudra dire que l’IAG peut devenir une réalité.

La loi de Moore est une loi historique et fiable qui prédit que la puissance maximale des ordinateurs double approximativement tous les deux ans, ce qui veut dire que le progrès dans le matériel informatique, tout comme le progrès général des humains à travers l’Histoire, grandit de manière exponentielle. En faisant la corrélation avec le système de cps/1000$ de Kurzweil, nous sommes actuellement à peu près à 10 trillions (NDT 10^12) cps/1000$, comme prévu par la trajectoire de ce graphe 1 :

image

Donc les ordinateurs de 1000$ sont capables de battre le cerveau d’une souris et sont à un millième du niveau humain. Cela ne semble pas impressionnant jusqu’à ce que vous vous rappeliez que nous en étions à un trillionième (NDT 1/10^12) du cerveau humain en 1985, un milliardième (1/10^9) en 1995, et un millionième (1/10^6) en 2005. En être à un millième (1/10^4) en 2015 nous met sur la bonne voie pour avoir un ordinateur abordable qui rivalise avec la puissance du cerveau en 2025.

Donc du côté du matériel, la puissance nécessaire pour une IAG est techniquement disponible dès maintenant, en Chine, et nous elle sera bientôt abordable et largement diffusée d’ici à 10 ans. Mais la puissance de calcul brute n’est pas ce qui rend un ordinateur intelligent, la question est, comment apporte-t-on le niveau d’intelligence humain dans tout ça ?

Deuxième clef pour créer une IAG : La rendre intelligente

C’est la partie délicate. La vérité est, que personne ne sait vraiment comment rendre l’IA intelligente, nous sommes encore en train de débattre sur la façon de rendre un ordinateur aussi intelligent qu’un humain et capable de savoir ce qu’est un chien, une lettre B mal écrite ou un mauvais film. Mais il y a plusieurs stratégies avancées qui existent et à un moment donné, une d’elle va marcher. Voici les trois plus communes que j’ai découvert :

1) Plagier le cerveau

Les scientifiques sont comme l’enfant qui peine à côté de son camarade de classe qui est si intelligent et n’arrête pas de réussir les tests, alors que lui même révise sans arrêt, il ne lui arrive pas la cheville, il décident finalement “ok, je m’en fout je vais copier ses réponses.” Ça parait logique, nous sommes perdus à construire un ordinateur très complexe, et il se trouve qu’il y a le prototype parfait dans chacune de nos têtes.

Le monde de la science travaille très dure sur l’ingénierie inverse pour comprendre comment l’évolution en est arrivée à un résultat si génial, les plus optimistes pensent que nous y arriverons vers 2030. Une fois fait, nous connaîtrons tous les secrets du cerveau, les origines de son efficacité et de sa puissance et nous pourrons alors nous en inspirer et voler ses méthodes. Un exemple d’ordinateur copiant le cerveau est le réseau de neurones artificiel. Il est constitué d’un réseau de transistors “neurones”, connectés les uns aux autres avec des entrées/sorties, et qui ne connaît rien, tel un cerveau de bébé. La façon dont il “apprend” est qu’il tente de faire une tâche, par exemple de la reconnaissance d’écriture manuscrite, et au début, les activations de chemins de neurones et les tentatives de reconnaissances des lettres seront complètement aléatoires. Mais dès que nous lui disons qu’il a bon, alors le chemin activé pour trouver cette réponse sera renforcé, et quand nous lui disons qu’il a tord, le chemin est oublié. Après un grand nombre de tentatives, le réseau a, par lui même, formé un ensemble de chemins neuronaux et la machine est optimisée pour la tâche. Le cerveau apprend un peu comme ça, mais d’une façon plus sophistiquée encore, et au fur et à mesure que nous étudions le cerveau, nous découvrons des nouvelles façons ingénieuses d’utiliser ces chemins de neurones.

Un plagiat plus extrême serait “l’émulation complète du cerveau” où le but est de découper un vrai cerveau en très fines tranches, scanner chacune d’elles, et utiliser un logiciel pour reconstruire un modèle 3D ultra précis pour l’intégrer dans un ordinateur très puissant. Nous aurions alors un ordinateur officiellement capable de tout ce que le cerveau est capable, il n’aurait plus qu’à apprendre et récolter des informations. Si les ingénieurs deviennent extremement bons, ils pourraient reconstruire un cerveau de manière si précise que la personnalité et la mémoire contenue dans ce cerveau seraient intactes une fois chargées dans l’ordinateur. Si les cerveau appartenait à Jim avant, l’ordinateur se réveillerait en tant que Jim, ce qui serait pour le coup une vraie IAG, et nous pourrions travailler pour transformer Jim en une IAS incroyablement intelligente, ce qu’il apprécierait certainement.

Où en somme nous pour ce type de copie de cerveau ? Pour le moment, nous n’avons pas réussi tout juste réussi à simuler le cerveau d’un vers de 1mm de long, qui possède seulement 302 neurones. Le cerveau humain en contient 100 milliards. Si ça parait sans espoir, il faut se souvenir du pouvoir du progrès exponentiel, maintenant que nous avons réussi pour un petit cerveau de vers, une fourmi devrait être réalisable rapidement, bientôt suivie par une souris et d’un coup tout semble possible.

2) Essayer de faire ce que l’évolution a fait mais à notre compte.

Si on décide que notre camarade est trop intelligent pour qu’on copie, on peut tenter de copier la façon dont il étudie à la place.

Partons de ce principe, la construction d’un ordinateur aussi puissant qu’un cerveau est possible, l’évolution le prouve avec le notre. Et si le cerveau est trop complexe à simuler, nous pourrions tenter de simuler l’évolution. Même si nous simulons un cerveau, ça pourrait faire comme si nous tentions de construire un avion en copiant un oiseau, souvent les machines sont mieux si on les conçoit depuis zéro, avec une réflexion orienté machine, et non pas simplement en copiant exactement la nature.

Alors comment simuler l’évolution pour construire l’IAS ? La méthode appelée “algorithme génétique” donnerait quelque que chose comme ça : il y aurait un processus d’évaluation des performances/résultats qui se répéterait sans cesse (de la même façon que les créature sont évaluées par leurs facultés de rester en vie - performance - et de se reproduire ou non - résultat). Un groupe d’ordinateurs essaierait de faire une tâche donnée, et ceux qui y arriveraient le mieux serait mixés entre eux en copiant la moitié de leurs programmes respectifs pour faire un nouvel ordinateur. Les moins bons seraient éliminés. Après de nombreuses itérations, ce processus naturel de sélection produirait un ordinateur toujours plus performant. La difficulté serait de créer un système automatisé d’évaluation pour que le cycle d’évolution soit autonome.

Le problème dans cette copie de l’évolution est qu’elle prend un milliard d’années, et que nous voudrions le faire en 10 ans.

Mais nous avons beaucoup d’avantages sur l’évolution. Premièrement, l’évolution ne sait pas où elle va et fonctionne de façon aléatoire, elle produit souvent des mutations plus inutiles qu’utiles, mais de notre côté nous pourrions contrôler le processus de telle façon à ce qu’il soit seulement bénéfique. Deuxièmement, l’évolution ne cible rien en particulier, ni même l’intelligence, dans certains cas elle va à son encontre (car l’intelligence utilise beaucoup d’énergie). Nous, par contre, pourrions diriger le processus d’évolution dans un but d’augmentation de l’intelligence. Troisièmement, pour en arriver à l’intelligence, l’évolution a eu à innover dans d’autres branches, par exemple la façon dont les cellules produisent de l’énergie, alors que nous pourrions nous débarrasser des ces considérations en utilisant l’électricité par exemple. Il est sûr que nous serions plus rapide que l’évolution, mais pas certain que nous serions capables d’en faire une stratégie viable.

3) Faire de tout ça le problème de l’ordinateur, par le nôtre.

C’est ce qui arrive quand les scientifiques sont désespérés et tentent de programmer une méthode qui marcherait d’elle même. Mais ça pourrait être la plus prometteuse.

L’idée est de construire un ordinateur dont les deux principales compétences seraient de faire de la recherche en IA et de faire des modifications sur lui même, ça lui permettrait d’apprendre mais aussi de s’améliorer. Nous apprendrions aux ordinateurs à être des scientifiques pour qu’ils puissent se développer eux même. Et leur travail principal serait de trouver comment devenir plus intelligent. Plus sur ce point plus tard.

Et ça pourrait arriver bientôt

Les avancées matérielles rapides et les expérimentations logicielles innovantes sont en train d’arriver simultanément, du coup l’IAG pourrait arriver rapidement et de façon imprévue, pour deux raisons principales :

1) La croissance exponentielle est intense et ce qui ressemble à la vitesse de l’escargot pourrait bondir en avant rapidement, ce GIF illustre le concept :

image

2) Quand il s’agit de logiciels, le progrès peut paraître lent, mais une seule révélation peut changer instantanément la vitesse de développement (comme en science, quand les Hommes pensaient que l’univers était géocentrique, c’était alors difficile de comprendre l’univers, mais dès qu’on a découvert que c’était héliocentrique, tout est tombé sous le sens). Mais, quand il s’agit de quelque chose comme un ordinateur qui s’auto-améliore, on peut penser qu’on en est loin, mais peut-être qu’on est qu’à un pas d’avoir quelque chose de 1000 fois plus efficace, de fils en aiguille on arrive vite à l’intelligence de niveau humaine.

La route de l’IAG vers IAS

A un moment donné, nous aurons réussi l’IAG, des ordinateurs avec un niveau d’intelligence humain. Un tas d’hommes et d’ordinateurs vivant en harmonie et égalité.

En fait pas du tout.

En fait, l’IAG avec un niveau égal à l’humain aurait plusieurs avantage sur les hommes. Comme :

Le matériel :

  • La vitesse. La vitesse maximale des neurones du cerveau est d’environ 200 Hz, alors que les processeurs d’aujourd’hui (qui sont bien plus lent qu’il le seront d’ici là) fonctionnent à 2 GHz, soit 10 millions de fois plus vite que nos neurones. Et les communications internes du cerveau, qui peuvent bouger à 200 m/s, sont complètement dépassées par un ordinateur qui peut exploiter la vitesse de la lumière.
  • La taille et le stockage. Le cerveau est limité en taille et forme par notre crane, il ne pourrait pas être bien plus gros de toute façon, sinon la vitesse de 120 m/s serait trop lente pour traverser d’un bout à l’autre. Les ordinateurs peuvent s’étendre en taille, ce qui permet d’ajouter du matériel, une plus grande mémoire (RAM) et un plus grand stockage (disque dur), l’ensemble aurait une bien plus grande capacité de travail et précision.
  • Fiabilité et durabilité. La mémoire d’un ordinateur ne serait pas seulement plus précise. les composants électroniques sont bien plus précis que les neurones biologiques, et ils sont moins sujet à la dégradation (au pire ils peuvent être réparés). Les cerveaux humains peuvent être fatigués rapidement, alors qu’un ordinateur peut fonctionner en performance optimale 24/7.

Logiciel :

  • Modifiable, évolutif, avec un large éventail de possibilités. Contrairement au cerveau humain, le logiciel peut recevoir des mises à jours et correctifs, on peut facilement faire des expérimentations. Des mises à jours pourraient couvrir des domaines où l’humain est mauvais. Notre “logiciel” de vision est très avancé alors que notre “matériel” l’est beaucoup moins. Les ordinateurs pourraient égaler les humains en vision mais aussi dans d’autres domaines.
  • Capacité collective. Les humains ont écrasé toutes les autres espèces grâce à la collaboration pour une plus grande intelligence. En commençant par le développement du langage, la formation de communautés, jusqu’à l’avènement de l’écriture, de l’imprimerie, et aujourd’hui d’Internet, l’intelligence humaine collective est une des raisons majeures de la domination par rapport aux autres espèces. Et les ordinateurs seront bien meilleurs que nous à ça. Un réseau mondial d’IA qui travaillerait sur un problème en particulier pourrait régulièrement se synchroniser, et tout ce qu’un ordinateur aurait découvert ou appris serait immédiatement partagé avec les autres. Le groupe pourrait aussi fixer un objectif commun, car il n’y aurait certainement pas de divergence d’opinion et de motivation personnelle, comme nous pouvons en avoir nous les humains. 4

L’IA, qui sera certainement arrivée au niveau IAG en étant programmée pour s’auto-améliorer, ne verra pas “le niveau d’intelligence humain” comme un but important, et n’aura aucune raison de s’en tenir là. Et compte tenu des multiples avantages que l’IAG aurait sur nous, c’est certain qu’elle atteindrait ce niveau “humain” que pour un très court instant avant de continuer vers la super-intelligence.

Cela pourra nous faire grave flipper quand ça arrivera. En effet, de notre point de vu A) bien que le niveau d’intelligence des animaux varie, la principale caractéristique commune est qu’il est bien moindre que le notre, et B) nous trouvons le plus intelligent des humains BIEN plus intelligent que le plus bête des humains. Un peu comme ça :

image

Donc quand l’IA commencera à devenir intelligente, on la considérera comme plus intelligente qu’un animal. Puis, quand elle attendra le niveau du plus bête des humains, Nick Bostrom utilise le terme “idiot du village”, on pensera, “Oh waa, maintenant elle ressemble à un bêta, c’est mignon !” Le problème, c’est que dans le spectre de l’intelligence humaine, tous les humains sont des idiots par rapport à Einstein, mais le spectre est très petit finalement, donc tout juste après avoir atteint le niveau idiot, et être devenue IAG reconnue, l’IA sera rapidement plus intelligente qu’Einstein, et on n’aura pas compris ce qui s’est passé :

image

Et il se passe quoi après … ?

Une explosion de l’intelligence

J’espère que vous avez apprécié le temps d’avant, parce qu’à partir de maintenant ça va devenir effrayant, et ça va le rester jusqu’à la fin. Je veux en profiter pour vous rappeler que tout ce que je vais dire est réel, de la science vérifiée et des prévisions plausibles des plus grands et plus respectés scientifiques. Gardez-le à l’esprit.

Comme je l’ai dit, la plus part des modèles actuels pour arriver à l’IAG impliquent une IA qui s’auto-améliore. D’ailleurs, même si ça n’est pas la méthode d’auto-amélioration qui aura amenée à l’IAG, elle sera assez intelligente pour s’auto-améliorer si besoin. (Plus de détail de ce que veut dire “vouloir” pour un ordinateur dans la partie 2)

Et nous arrivons là à un concept violent : l’auto-amélioration récursive. Ça marche comme ça :

Une IA d’un certain niveau, disons idiot du village, est programmée dans le but d’améliorer sa propre intelligence. Une fois qu’elle le fait, elle devient plus intelligente, disons comme Einstein, du coup quand elle travaille à améliorer son intelligence, c’est bien plus facile, et elle fait un plus grand pas en avant. Chaque pas la rend beaucoup plus intelligente, ce qui lui permet de faire des grands pas encore plus grand. Les sauts grandissent, et arrivent de plus en plus rapidement, l’IAG atteint le niveau de super-intelligence en un éclair. C’est ce qu’on appelle l’explosion de l’intelligence 7. Et c’est l’exemple ultime de la loi de Retour Accéléré sur l’Histoire.

Il y a un débat pour savoir quand l’IA arrivera au niveau humain, l’année médiane issue d’un sondage proposé à une centaine de scientifiques leur demandant en quelle année ils pensaient qu’on aurait pas encore atteint l’IAG, est 2040 4. C’est dans seulement 25 ans, mais ça ne semble pas si important, sauf si vous vous rappelez que la plupart des experts pensent que la progression de l’IAG vers l’IAS sera ultra rapide. Ça pourrait arriver comme ça :

Ça a pris des dizaines d’années pour qu’on arrive à une intelligence artificielle générale de faible capacité, mais finalement c’est arrivé. Un ordinateur est capable de comprendre le monde comme un enfant de quatre ans. Soudain, après tout juste une heure qu’il en est là, l’ordinateur nous sort la grande théorie de la physique unifiée qui concilie la relativité générale et la mécanique quantique, quelque chose qu’aucun humain n’a encore réussi à trouver. 90 minutes après, l’IA est devenue IAS, 170 000 fois plus intelligente qu’un humain.

Nous ne pouvons pas saisir l’essence d’une super-intelligence de cette ampleur, pas plus qu’une abeille peut comprendre le fonctionnement de la bourse. Dans notre monde, intelligent veut dire 130 de QI et stupide 85, nous n’avons pas de mot pour 12 952 de QI.

Ce que nous savons, c’est que la domination absolue de l’homme sur la Terre suggère une règle claire : de l’intelligence vient le pouvoir. Ce qui veut dire que l’IAS, quand on l’aura crée, sera la chose la plus puissante de l’histoire de la Terre, et tous les êtres vivants, incluant les humains, seront entièrement sous son joug, tout ça peut arriver dans les prochaines années.

Si nos petits cerveaux ont réussi à inventer le WIFI, alors quelque chose de 100, 1000 ou un milliard de fois plus intelligent n’aura aucun problème à contrôler la disposition des atomes dans le monde de n’importe quelle façon et à n’importe quel moment. Tout ce qu’on considère comme de la magie, toutes les forces qu’on imagine être à un Dieu seront d’une banalité criante pour l’IAS. Créer la technologie pour inverser le vieillissement humain, soigner toutes les maladies, régler les problèmes de faim dans le monde, éviter la mort, modifier le climat pour protéger la Terre, tout devient possible. Ce qui est possible également, c’est la fin immédiate de toute vie sur Terre. Au final si une IAS devient réalité, il y aura alors un Dieu tout puissant sur Terre, la question est de savoir :

Est-ce que ce sera un bon Dieu ?


Traduction, l’article original est ici : The AI Revolution: The Road to Superintelligence

Message des auteurs :

Wait But Why posts once a week. We send each post out by email to over 100,000 people - enter your email here and we’ll put you on the list (we only send one email each week). You can also follow Wait But Why on Facebook and Twitter.


Notes (lien anglais) :