Trop de stupidité pour un gouvernement par l'IA
Elon Musk ne peut pas se tromper au sujet de l'intelligence artificielle, n'est-ce pas ? Eh bien, en fait, si, il se trompe.
Elon Musk ne peut pas se tromper au sujet de l'intelligence artificielle, n'est-ce pas ? Eh bien, en réalité, si.
L'idée sous-jacente à la menace existentielle que représente l'IA est également appelée « singularité » ou « explosion d'intelligence » et elle prend de l'ampleur. On compte aujourd'hui plus de transistors que de feuilles sur tous les arbres du monde, dont plus de quatre milliards rien que dans le smartphone que vous utilisez. Le numérique est-il en train d'éclipser le monde « réel » ?
Un bref historique de cette idée d'une extinction imminente causée par nos créations en silicium. Le brillant et flamboyant John von Neumann, de Princeton, a forgé le terme « singularité » dans le contexte de l'IA dans les années 1950. L'expression « explosion d'intelligence » pourrait provenir du mathématicien I.J. Good en 1965. Dans Advances in Computers, vol. 6, Good décrivait une machine ultra-intelligente capable de concevoir des machines encore plus performantes, créant ainsi une « explosion d'intelligence » qui surpasserait largement l'intelligence humaine. Il a averti : « La première machine ultra-intelligente sera la dernière invention dont l'homme aura besoin. »
Ray Kurzweil, futuriste et inventeur qui prend des vitamines à outrance pour survivre assez longtemps et se télécharger dans le cloud, et qui est également directeur de l'ingénierie chez Google, affirme que l'intelligence artificielle de niveau humain pourrait atteindre ce niveau d'ici une dizaine d'années. Il prédit que 2029 sera l'année où une IA réussira le test de Turing et fixe 2045 comme date de la singularité. L'informaticien Jürgen Schmidhuber, que certains considèrent comme le « père de l'intelligence artificielle », pense que dans 50 ans, il existera un ordinateur aussi intelligent que tous les humains réunis. Quant à Elon Musk, le génie technologique à la tête de PayPal, SpaceX, Tesla et, plus récemment, OpenAI, bien que moins enclin aux prédictions précises, il qualifie l'intelligence artificielle de « risque existentiel fondamental pour la civilisation humaine ».
L'argument avancé par Musk et les autres Cassandres de la singularité est assez simple : il repose sur une courbe de croissance exponentielle. Cette courbe montre qu'il faut beaucoup de temps aux machines pour atteindre 100 % de l'intelligence humaine, environ 100 ans, de 1940 à 2040. Cependant, une fois ce niveau atteint, il leur faut très peu de temps pour atteindre 400 % de l'intelligence humaine. L'argument est, en substance, tel qu'exposé par I.J. Good : lorsque les ordinateurs s'amélioreront, ils deviendront si intelligents si rapidement que personne ne s'en apercevra.
À l'approche de 2020, il n'est pas si absurde de dire que les ordinateurs sont deux fois plus intelligents que les humains. Ils peuvent effectuer des tâches de reconnaissance de formes et de sons, jouer à des jeux et résoudre des milliards de problèmes mathématiques par seconde. Si l'on se penche sur les années 1940, époque où les ordinateurs étaient très spécialisés et relativement lents, on peut les qualifier de calculatrices mécaniques dépourvues d'intelligence.
Et compte tenu du rythme fulgurant du développement technologique au cours du siècle dernier, comparé aux siècles précédents, il semble bien que nous soyons sur une trajectoire ascendante.
Heureusement, nombreux sont ceux qui travaillent dans le domaine de l'intelligence artificielle et qui ne prévoient pas une telle explosion de l'IA dans les trente prochaines années, voire jamais. Comme l'explique Andrew Ng, informaticien chez Baidu : « Il pourrait y avoir une race de robots tueurs dans un avenir lointain, mais je ne m'inquiète pas aujourd'hui du risque que l'IA devienne maléfique, tout comme je ne m'inquiète pas du problème de la surpopulation sur Mars. »
Ou, pour reprendre les termes de Toby Walsh, professeur d'IA à l'Université de Nouvelle-Galles du Sud : « Cessez de vous préoccuper de la Troisième Guerre mondiale et commencez à vous inquiéter de l'impact des voitures autonomes de Tesla sur les moyens de subsistance des chauffeurs de taxi. »
Ce scepticisme est tout à fait justifié et repose sur des principes d'ingénierie. Tout d'abord, il semble que la loi de Moore soit définitivement caduque. C'est un point important. La loi de Moore stipule que la vitesse des processeurs, ou la puissance de calcul globale des ordinateurs, double tous les deux ans. Malgré quelques débats persistants et malgré les efforts continus des entreprises pour miniaturiser les composants, le rythme de progression n'a pas suivi. En raison de limitations techniques majeures liées à la production de transistors inférieurs à 10 nanomètres, il est devenu beaucoup plus difficile pour les entreprises d'intégrer davantage de transistors sur les puces, et la courbe de progrès commence à se stabiliser. Que cette limite soit fondamentale ou non, elle démontre qu'il faudra déployer des efforts considérables pour poursuivre les améliorations. Les spéculations sur la puissance quasi infinie de l'IA reposent souvent sur l'hypothèse que notre puissance de calcul continuera d'augmenter rapidement. Si, en réalité, la loi de Moore a été invalidée, cette hypothèse pourrait s'avérer erronée.
Une autre hypothèse qu'il convient d'examiner est que la taille et la puissance de calcul des réseaux neuronaux conduisent nécessairement à une plus grande intelligence. Il s'avère que cette hypothèse est fausse. Comme l'explique Bernard Molyneux, professeur de sciences cognitives à l'UC Davis : « Si un réseau neuronal est trop volumineux pour un ensemble de données, il apprend les données par cœur au lieu d'effectuer les généralisations qui lui permettent de faire des prédictions. » Le véritable défi pour créer une IA intelligente réside dans l'établissement d'un rapport optimal entre puissance de calcul et données. S'il existe un ratio idéal menant à une explosion d'intelligence, rien ne garantit que nous puissions un jour le découvrir par l'analyse, et le nombre considérable de ratios possibles rend improbable une découverte fortuite.
Le fait est que l'IA nécessite des progrès dans des domaines historiquement complexes, comme le lien entre le cerveau et l'intelligence. Les progrès dans des domaines ayant connu une croissance historique (tels que la puissance de traitement et la taille des réseaux neuronaux) ne garantissent en aucun cas une ultra-intelligence.
Miser contre une fin du monde catastrophique s'est avéré judicieux jusqu'à présent. D'un autre côté, il y a Musk, Kurzweil et consorts, qui jouissent d'une crédibilité impressionnante : après tout, Kurzweil a prédit avec justesse le succès du projet génome humain et rares sont ceux qui parieraient contre les réalisations des équipes d'ingénieurs de Musk.
Je travaille dans la transformation technologique et notre plus grand défi quotidien n'est pas l'excellence des systèmes, mais la stupidité héritée du passé. Le monde numérique est encore plein de mauvaises herbes.
Je ne peux pas ignorer ce qu'un membre de mon équipe a dit récemment, alors que je reparlais d'IA : « Allons, as-tu déjà rencontré un chatbot qui ne soit pas fondamentalement nul ? »
C'est vrai, je n'en ai jamais rencontré.
Allan Waddell est le fondateur et PDG de Kablamo, une entreprise australienne spécialisée dans les solutions informatiques.
