L'érudite préface de Gérard Klein du livre "Excession" de Iain M. Banks (ma critique ici) - très intéressante, quoiqu'un peu longue - nous mène dans une réflexion sur l'Intelligence Artificielle (IA). Elle commence à dater et ignore donc beaucoup de choses modernes, comme le machine learning, qui pourraient donner des pistes à l'autonomie de l'IA.
Ce dont Gérard Klein doute énormément, c'est leur capacité à développer une adaptation à l'environnement. La différence entre l'algorithme et l'intelligence, en somme. L'algorithme effectue des actions et réagit à son environnement selon des actes qui ont été anticipés par l'humain qui l'a programmé.
L'intelligence est en quelque sorte le concept unique, non programmable, qui permet à l'homme de s'adapter "à chaud" à son environnement. Il sait inventer des solutions à de nouvelles situations.
Gérard Klein finit, sans démontrer grand-chose, par conclure que l'esprit humain / le cerveau ne peut être modélisé sous la forme d'un algorithme (abusivement appelé IA à notre époque) et qu'il sera donc impossible d'atteindre un jour la véritable IA.
Tout d'abord, il ne faut jamais dire "jamais". Qui sait en effet ce que sera l'avenir ? Bien malin qui pourrait le prédire au-delà de 10 ans.
(voir mon article le futurisme n'existe pas)
Ensuite, personne ne sait quel est le phénomène ayant donné naissance à l'intelligence. L'animal qu'est l'homme peut être vu comme le fruit d'une évolution "naturelle", héritage d'autres animaux qui montrent, eux aussi, des signes de conscience et d'intelligence.
Certes, l'IA est en effet totalement "artificielle" et se base sur d'autres principes et il faudra trouver l'algorithme (je fais exprès d'utiliser ce mot qui fait référence à une programmation humaine) ou l'outil qui fait émerger l'intelligence. Si l'on prend par exemple le machine learning, il faut considérer qu'un homme a eu l'idée de faire en sorte que la machine puisse s'améliorer elle-même. C'est un processus où l'homme laisse à la machine le soin d'améliorer l'algorithme qu'il a écrit pour sa création, qui lui donne "vie".
Pour émerger, la véritable IA aura donc besoin des éléments suivants :
Un outil de base qui lui permettra d'évoluer, à partir d'une situation de bête machine, vers une situation d'adaptation à n'importe quelle situation.
Cette capacité à s'améliorer et à intégrer une sorte de "réflexion" autonome visant à déterminer ce qu'il faut faire ou non. C’est-à-dire donner des orientations à sa propre évolution.
Enfin - et c'est l'option la plus controversée - la machine va peut-être pouvoir développer des réflexions qui lui sont propres, à l'instar des animaux, pour déboucher vers les prémices de la conscience. Il reste à savoir si cela se fera, si cela se fera à l'insu de l'homme ou non. Car il y aura un moment où nous n'aurons plus la possibilité de "regarder sous le capot" étant donné que notre intelligence sera trop limitée ou que nous aurons oublié de nous doter d'outils pour observer et fixer les limites de l'évolution des IA.
Comentários