Le PDG de Twitter, Elon Musk, a lancé un avertissement terrifiant sur l’avenir de l’intelligence artificielle (IA) alors qu’il lançait une nouvelle entreprise.
Musk, 52 ans, a longtemps mis en garde contre le potentiel de « destruction civilisationnelle » de l’IA alors que les craintes concernant l’avenir de la puissante technologie continuent de monter.
Il a même déjà appelé les géants de la technologie à briser les freins au développement de l’IA alors que l’inquiétude grandissait.
Mais maintenant, le milliardaire se lance dans sa propre aventure sur le terrain.
Le patron de Twitter et de Tesla a annoncé qu’il lancerait xAI – une plate-forme destinée à rivaliser avec ChatGPT d’OpenAI.
Il a déclaré lors d’une discussion sur Twitter Spaces en annonçant la nouvelle société : « Du point de vue de la sécurité de l’IA… une IA extrêmement curieuse, qui essaie de comprendre l’univers, je pense qu’elle sera pro-humanité.
Musk affirme que le but de sa nouvelle entreprise est « de comprendre la vraie nature de l’univers ».
Mais il a ajouté lors de la discussion Spaces : « Il est important pour nous de nous inquiéter d’un futur Terminator afin d’éviter un futur Terminator. »
Son équipe sera composée de plusieurs anciens ingénieurs et scientifiques de géants de la technologie et de l’IA comme Google, Microsoft et OpenAI.
La start-up a déclaré sur son site Web : « Nous avons travaillé et dirigé le développement de certaines des plus grandes percées dans le domaine, notamment AlphaStar… GPT-3.5 et GPT-4. »
Il est sur le point d’organiser un autre événement Twitter Spaces le 14 juillet pour en dire plus sur la nouvelle entreprise.
Cela vient après qu’une lettre ouverte signée par des centaines de leaders de l’industrie et d’universitaires publiée en mai a averti des conséquences potentiellement graves que l’IA menace de causer.
Musk lui-même a signé la lettre, exhortant les développeurs à s’abstenir de construire de grands modèles d’IA tels que ChatGPT.
ChatGPT est un modèle de langage désormais utilisé par des millions de personnes qui crée un dialogue conversationnel de type humain basé sur les entrées que vous lui fournissez. Il a progressé rapidement depuis sa sortie initiale.
Musk pense désormais faire une pause sur les développements comme ChatGPT et les avancées réalisées ne sont plus « réalistes ».
Il a déclaré: «Si je pouvais appuyer sur pause sur l’IA ou sur la superintelligence numérique de l’IA vraiment avancée, je le ferais. Il ne semble pas que ce soit réaliste, donc xAI va essentiellement construire une IA… dans le bon sens, espérons-le.
La déclaration du Center for AI Safety publiée en mai disait : « Atténuer le risque d’extinction de l’IA devrait être une priorité mondiale aux côtés d’autres risques à l’échelle de la société, tels que les pandémies et la guerre nucléaire.
Parmi les autres signataires figuraient des directeurs généraux de DeepMind de Google et même le développeur ChatGPT lui-même – OpenAI.
Le Dr Geoffrey Hinton, qui a été surnommé le « parrain de l’IA », a également signé la lettre et a quitté Google cette année.
Il a averti que les chatbots pourraient être de « mauvais acteurs » et comporter un « risque existentiel ».
Il a déclaré à la BBC : « Il est capable de produire automatiquement beaucoup de texte, ce qui vous permet d’obtenir de nombreux spambots très efficaces. Cela permettra aux dirigeants autoritaires de manipuler leurs électeurs, des choses comme ça.
Il a ajouté qu’il existe un « risque existentiel de ce qui se passe lorsque ces choses deviennent plus intelligentes que nous ».
