Elon Musk affrontant le ‘danger’ posé par l'IA woke — y compris l'outil créé par la société qu'il a cofondée

Elon Musk serait en train de constituer une équipe de recherche pour lutter contre ce qu'il a qualifié de menace “mortelle” de l'intelligence artificielle woke. Musk, 51 ans, a contacté un groupe sélectionné de “chercheurs en intelligence artificielle ces dernières semaines au sujet de la formation d'un nouveau laboratoire de recherche pour développer une alternative à ChatGPT,” selon The Information. En décembre, le fondateur de PayPal, Tesla, SpaceX et d'autres entreprises a mis en garde contre les risques potentiels liés à l'essor des outils d'IA comme ChatGPT, que Musk a tweeté comme un exemple de “former l'IA à être woke.” Selon le rapport, Musk — qui a récemment retrouvé son titre d'homme le plus riche du monde — espère recruter un certain nombre de chercheurs en IA de premier plan, notamment Igor Babuschkin, qui a travaillé au sein de l'unité d'IA DeepMind pour la société mère de Google, Alphabet. C'est une sorte de revirement pour Musk, qui a cofondé OpenAI, la société qui a créé ChatGPT, tandis qu'il cherche désormais à construire un concurrent d'une entreprise de sa propre création. Lorsque la PDG de Grit Capital, Genevieve Roch-Decter, a tweeté sur l'ironie des mises en garde de Musk concernant l'IA posant “l'un des plus grands risques pour la civilisation” après qu'il a cofondé OpenAI, Musk a répondu que ce développement n'avait jamais été son intention. “OpenAI a été créé comme une entreprise à but non lucratif en open source (c'est pourquoi je l'ai nommé “Open” AI), pour servir de contrepoids à Google, mais maintenant elle est devenue une entreprise à but lucratif fermé, contrôlée efficacement par Microsoft,” a-t-il répondu. “Ce n'est absolument pas ce que j'avais prévu.” S'exprimant virtuellement au Sommet mondial des gouvernements à Dubaï, Émirats Arabes Unis, plus tôt ce mois-ci, Musk a émis un nouvel avertissement sur le besoin urgent de réguler l'IA. “L'un des plus grands risques pour l'avenir de la civilisation est l'IA,” a déclaré Musk. “Mais l'IA est à la fois positive et négative — elle a un grand potentiel, une grande capacité mais cela comporte aussi de grands dangers.” Les mises en garde de Musk ne sont pas nouvelles : dès 2017, Musk a déclaré qu'il espérait qu'OpenAI, encore naissant, aiderait à minimiser les dangers que la technologie de l'IA pose à l'humanité en tant qu'espèce. Tout en promettant d'aider à empêcher que le monde ne devienne un véritable film “Terminator”, Musk a concédé même à l'époque qu’OpenAI avait les cartes contre elle. “Peut-être qu'il y a une chance de cinq à dix pour cent de succès,” a-t-il déclaré à cette époque. Ses sombres présages ont suscité en quelque sorte un retour de bâton de la part d'experts en IA comme Toby Walsh, professeur d'IA à l'Université de Nouvelle-Galles du Sud, qui a déclaré que Musk avait fait une remarque alarmiste. “Il y a une communauté de recherche saine travaillant à garantir que ces machines ne poseront pas une menace existentielle à l'humanité,” a déclaré Walsh. “Je m'attends à ce qu'ils aient précisément défini les garanties nécessaires d'ici là.” Subbarao Kambhampati, qui enseigne l'informatique à l'Université d'État de l'Arizona, a également décrit les déclarations de Musk comme alarmistes. Kambhampati a déclaré que Musk pensait probablement à une situation de “prise de pouvoir par super-intelligence” impliquant l'IA, qu'il a décrite comme “farfelue” dans une interview avec Inverse. Pour sa part, Musk a proposé des solutions pour toute domination potentielle de l'activité économique par l'IA : le PDG de Tesla a déclaré au Sommet mondial des gouvernements à Dubaï en février 2017 que les humains doivent devenir en partie des machines pour pouvoir interagir et suivre les formes de technologie en constante évolution, ou risquer de devenir obsolètes. Musk a soulevé le scénario d'un emploi massif alors que l'IA pourrait commencer à supplanter le travail humain dans de plus en plus de métiers. À mesure que la technologie d'apprentissage automatique et de robotique s'améliore, “Il y aura de moins en moins de métiers qu'un robot ne pourra pas faire mieux,” a-t-il déclaré. La clé pour maintenir la compétitivité des humains, a ajouté Musk, est “une fusion plus étroite de l'intelligence biologique et de l'intelligence numérique.” Les humains, selon le milliardaire, doivent combler l'écart : “Il s'agit principalement de la bande passante, de la vitesse de connexion entre votre cerveau et la version numérique de vous-même, en particulier la sortie.” Musk avait peut-être cette amélioration biologique en tête lorsqu'il a fondé Neuralink, une société de dispositifs médicaux qui, selon les informations, conçoit un outil non seulement pour “lire” l'activité neuronale mais aussi pour “écrire” des signaux dans le cerveau. À cette époque, Musk a déclaré que la technologie avait été placée dans le cerveau d'un singe et que l'animal avait pu contrôler un ordinateur par ses pensées. Il espérait qu'il serait implanté dans un être humain d'ici la fin de 2019. Cet objectif a finalement été révisé en décembre lorsque Musk a annoncé qu'il s'attendait à ce que Neuralink développe avec succès une puce cérébrale sans fil et commence les essais cliniques chez l'homme pour un tel dispositif d'ici mi-2023. “La raison pour laquelle j'ai créé Neuralink à long terme comme une mesure d'atténuation des risques pour la super-intelligence numérique, est que si nous parvenons à réaliser une symbiose effective avec l'intelligence numérique, alors … la volonté humaine collective est mieux à même de guider les choses dans la direction que nous aimerions, ou même avec une IA bienveillante, au moins de suivre le mouvement,” a-t-il déclaré à The Babylon Bee dans une interview de décembre 2021. “Nous sommes déjà à ce point en partie des cyborgs … en ce sens que nos téléphones, ordinateurs et applications sont une extension numérique de nous-mêmes à ce stade.”