Son seul et unique but : s’auto-améliorer.
À voir aussi sur Konbini
Ne nous mentons pas : le sujet dont nous voulons vous toucher deux mots est d’une complexité folle et seuls des développeurs de haute volée spécialisés en machine learning peuvent en apprécier la teneur. Selon toute vraisemblance, personne par ici n’est assez spécialisé…
Toutefois, dans ce travail de recherche appelé “Neural Network Quine”, on peut y piocher quelques idées intéressantes, faciles à comprendre, presque fascinantes, qui nous laisseront songeurs quant aux futurs possibles de l’intelligence artificielle, dont tout le monde cause depuis hier. Deux chercheurs de l’université de Colombia, à New York, ont publié un papier présentant une intelligence artificielle capable de s’auto-répliquer (“self-replicate”, en VO). La source d’inspiration vient de dame Nature en personne : les chercheurs expliquent au journal The Register que leur IA s’inspire de la théorie de la sélection naturelle des êtres vivants théorisée par Darwin : en s’auto-répliquant, l’IA ne vise qu’à s’auto-améliorer.
Ce concept d’auto-génération (appelons-le aussi comme ça) n’est pas tout à fait nouveau en informatique. On appelle ça le “quine”, du nom de son théoricien, Willard van Orman Quine, qui formula des hypothèses dans les années 1940. Le quine n’est ni plus ni moins qu’un programme informatique qui tente de fabriquer son propre code.
Sur le même sujet...
Le site Sciences étonnantes propose la comparaison suivante : le quine serait en quelque sorte un boulot analogue à celui d’une cellule qui, non seulement est capable de se répliquer seule, en générant à la fois une autre cellule mais réplique aussi son ADN qui fournira les instructions pour se générer à nouveau. Bref, une boucle formidable.
Notre IA “auto-réplicatrice” est intéressante pour trois raisons : c’est d’abord la première fois que des chercheurs essaient d’appliquer du “quine” à une IA. C’est donc un beau mariage. C’est aussi l’une des seules IA qui, à notre connaissance, soit à ce point biomimétique, c’est-à-dire qu’elle cherche, dans son fonctionnement, à imiter la nature. Ce qui laisse songeur. Enfin, cette auto-réplication nous plonge un peu plus dans la science-fiction, à en croire la publication :
“L’auto-réplication implique un certain niveau de conscience de soi, c’est un petit pas en avant vers le développement de capacités à l’introspection dans les réseaux neuronaux [le principe clé des IA en ce moment].”
Ce n’est évidemment pas la première fois que les développeurs en IA cherchent des techniques pour que les IA s’auto-améliorent. Citons par exemple les “generative adversarial networks” (GAN) dont le principe repose sur une sorte de jeu du chat et de la souris, un jeu à deux personnages qui se joue seul, en toute schizophrénie, où il s’agit de traquer ses propres erreurs.
Pour revenir à l’auto-réplication, le scénario de Terminator n’est pas près de se réaliser demain. L’IA n’a pas pris le contrôle du monde. Plus sérieusement, elle a obtenu un score moins bon qu’une IA “classique” après s’être entraînée au test de reconnaissance visuelle standard, le MNIST, qui permet de tester l’efficacité d’un algorithme de machine learning.
