Elon Musk parle de l'IA, des Bots et de l'avenir de l'humanité

Récemment, l'accélérateur de start-up américain Y Combinator a organisé la première école de start-up AI à San Francisco, et a invité plusieurs personnalités influentes de l'industrie de l'IA, y compris Elon Musk et le PDG d'OpenAI, Sam Altman.

Lors d'une interview, Musk a exprimé sans détour que son expérience en tant qu'employé spécial pendant 130 jours au sein du département de l'efficacité gouvernementale ressemblait à une "mission secondaire intéressante", mais que son importance était insignifiante face à la révolution de l'IA imminente. Il a comparé le travail du département de l'efficacité gouvernementale à "nettoyer la plage", tandis que l'IA à venir est une "tsunami de mille pieds".

Elon Musk prévoit que l'intelligence super numérique pourrait arriver cette année ou l'année prochaine, et sera plus intelligente que les humains. De plus, le nombre de robots humanoïdes dans le futur pourrait largement dépasser celui des humains, atteignant peut-être 5 à 10 fois la population humaine. Il a même prédit de manière audacieuse que l'échelle économique alimentée par l'IA sera de milliers voire de millions de fois supérieure à la situation actuelle, et la part de l'intelligence humaine pourrait tomber en dessous de 1 %. Voici quelques points clés de son discours :

• La super-intelligence numérique pourrait arriver cette année ou l'année prochaine, et sera plus intelligente que les humains. Il a souligné que "si cela ne se produit pas cette année, cela se produira certainement l'année prochaine" ;

• Le nombre de robots humanoïdes dans le futur dépassera largement celui des humains, pouvant atteindre 5 fois, voire 10 fois celui des humains ;

• La prévision selon laquelle l'économie alimentée par l'IA sera des milliers, voire des millions de fois plus grande qu'actuellement, propulsant la civilisation vers le type II de Kardashev (niveau d'énergie stellaire), avec une part d'intelligence humaine qui pourrait descendre en dessous de 1 % ;

• Musk souligne que "la rigueur dans la recherche de la vérité" est la pierre angulaire la plus importante pour la sécurité de l'IA, et forcer l'IA à croire des choses irréelles est extrêmement dangereux ;

• En regardant les débuts de SpaceX, le succès du quatrième lancement de fusée après trois échecs consécutifs était un "saut de la mort", et le financement de Tesla a été achevé à la dernière minute avant la faillite en 2008.

Mission des départements d'efficacité gouvernementale accomplie : retour à la "tâche principale"

Lors d'une interview, Musk a avoué que son expérience à Washington DC lui avait fait prendre conscience que "le bruit de fond politique est terrible". Il a décrit son travail à DC comme "une mission secondaire intéressante", mais a finalement décidé de "revenir à la mission principale - construire des technologies, c'est ce que j'aime faire".

Ce milliardaire a expliqué la raison fondamentale de son départ du gouvernement : "Réparer le gouvernement, c'est comme nettoyer une plage - la plage est sale, avec des aiguilles, des excréments et des déchets. Mais en même temps, il y a ce mur d'eau de mille pieds de haut, c'est le tsunami de l'IA. Si vous êtes confronté à un tsunami de mille pieds de haut, à quel point nettoyer la plage est-il vraiment important ? Ce n'est pas si important."

L'IA super intelligente est imminente : elle arrivera certainement cette année ou l'année prochaine.

Elon Musk a donné une prédiction très claire sur l'arrivée de l'intelligence super numérique. Il a déclaré : "Je pense que nous sommes très proches de l'intelligence super numérique. Si cela ne se produit pas cette année, cela se produira certainement l'année prochaine."

Il définit l'"intelligence super numérique" comme "une intelligence qui est plus intelligente que n'importe quel humain dans n'importe quel domaine". Musk prédit que l'IA propulsera l'économie à une croissance exponentielle - "pas dix fois plus grande que l'économie actuelle, mais des milliers de fois, voire des millions de fois".

L'IA va changer l'avenir de manière si profonde que son ampleur est difficile à évaluer. Supposons que nous ne nous soyons pas égarés, que l'IA ne nous ait pas anéantis ni elle-même, alors ce que vous finirez par voir n'est pas une économie dix fois plus grande que l'économie actuelle. En fin de compte, si nos descendants (principalement des descendants machines) deviennent une civilisation de type Kardashev II ou plus avancée, nous parlerons d'une économie qui sera des milliers, voire des millions de fois plus grande que celle d'aujourd'hui.

Il a expliqué plus en détail la place de l'intelligence humaine dans le futur : "À un certain moment, le pourcentage de l'intelligence humaine deviendra assez petit. À un certain moment, la somme totale de l'intelligence humaine sera inférieure à 1 % de toute l'intelligence."

xAI est actuellement en train de former Grok 3.5

Elon Musk a révélé dans une interview que xAI est actuellement en train d'entraîner Grok 3.5, "mettant l'accent sur les capacités de raisonnement".

Compétition matérielle : le miracle d'ingénierie de zéro à cent mille GPU

Elon Musk a résolu le défi matériel de l'entraînement de l'IA en utilisant une pensée de premier principe. Lorsque les fournisseurs leur ont dit qu'il faudrait 18 à 24 mois pour terminer un super cluster d'entraînement de 100 000 GPU H100, l'équipe de Musk a compressé cela à 6 mois.

Ils ont loué une usine abandonnée à Memphis, ont résolu un besoin en électricité de 150 mégawatts en louant des générateurs, ont loué un quart des équipements de refroidissement mobiles des États-Unis, et ont utilisé des Tesla Mega Packs pour lisser les variations de puissance pendant l'entraînement. Musk a même participé personnellement au câblage, "dormant dans le centre de données".

Actuellement, le centre de formation dispose de 150 000 H100, 50 000 H200 et 30 000 GB200, et le deuxième centre de données sera bientôt mis en ligne avec 110 000 GB200.

Multiples visions d'avenir : Bots légion et civilisation interstellaire

Musk prédit qu'il y aura à l'avenir au moins cinq fois le nombre d'êtres humains en robots humanoïdes, "peut-être dix fois". Il a avoué avoir retardé le développement de l'IA et des robots par crainte de "rendre le Terminator réel", mais a finalement réalisé que "peu importe si je le fais ou non, cela se produira. Soit vous êtes un spectateur, soit vous êtes un participant. Je préfère être un participant."

Dans une vision plus large, Musk place la civilisation humaine dans le cadre de l'échelle de Kardashev. Il estime que l'humanité n'utilise actuellement que 1 à 2 % de l'énergie de la Terre, et qu'elle est encore très loin de devenir une civilisation de type I. Devenir une espèce multiplanétaire est une étape clé pour étendre la conscience vers l'interstellaire, "augmentant considérablement la durée de vie potentielle de la civilisation ou de la conscience".

Elon Musk a déclaré que SpaceX prévoyait de transférer suffisamment de matériel vers Mars dans environ 30 ans pour que Mars puisse être autosuffisante, "même si les vaisseaux de ravitaillement en provenance de la Terre cessaient de fonctionner, Mars pourrait continuer à se développer et à prospérer".

Sélection de dialogues

Garry Tan, PDG et président de YC : En parlant de SpaceX, Tesla, Neuralink, xAI, etc. Avant de faire tout cela, y a-t-il eu un moment dans votre vie qui vous a fait sentir que "je dois créer quelque chose de grand" ? Qu'est-ce qui vous a poussé à prendre cette décision ?

Musk : Au départ, je ne pensais pas que je pourrais créer quelque chose de grand. Je voulais juste essayer de faire quelque chose d'utile, mais je ne pensais pas que je pourrais réaliser quelque chose de particulièrement grand. D'un point de vue probabiliste, cela semblait peu probable, mais je voulais au moins essayer.

Garry Tan : Vous êtes maintenant face à une pièce pleine de personnes, toutes des ingénieurs techniques, parmi lesquelles se trouvent certains des meilleurs chercheurs en IA émergents.

Musk : D'accord. Je pense que nous devrions... je préfère le terme "ingénieur" plutôt que "chercheur". Je veux dire, s'il y a une avancée dans les algorithmes fondamentaux, cela compte comme de la recherche, mais à part ça, c'est de l'ingénierie.

Garry Tan : Peut-être que nous devrions commencer par le début. Ce que je veux dire, c'est que vous êtes maintenant confronté à une pièce pleine de jeunes de 18 à 25 ans. C'est plutôt jeune ici, car le groupe des fondateurs devient de plus en plus jeune. Pouvez-vous vous mettre à leur place ? Quand vous aviez 18 ou 19 ans, vous savez, apprendre la programmation, et même avoir eu l'idée de Zip2. Quelle sensation cela vous a-t-il procurée ?

Musk : Oui, dès 1995, j'étais confronté à un choix : soit poursuivre des études de troisième cycle à Stanford, un doctorat en sciences des matériaux, en recherchant des supercondensateurs pour les utiliser dans les voitures électriques, fondamentalement pour résoudre le problème de l'autonomie des voitures électriques ; soit me plonger dans quelque chose que la plupart des gens n'avaient jamais entendu parler à l'époque, appelé "Internet". J'en ai parlé avec mon professeur, Bill Nicks, qui était dans le département de sciences des matériaux, et je lui ai demandé si je pouvais prendre un semestre de congé. Parce que cela (l'Internet) pourrait très bien échouer, et je devrais alors retourner à l'école pour continuer mes études.

Puis il a dit que cela pourrait être notre dernière conversation. Il avait raison. Donc, à ce moment-là, je pensais que les choses échoueraient très probablement, plutôt qu'elles réussiraient. Ensuite, en 95, j'ai écrit essentiellement ce que je pense être la première ou presque la première carte Internet, un guide de routes, un annuaire blanc et un annuaire jaune.

J'ai écrit ce code moi-même, je n'ai même pas utilisé de serveur web. J'ai directement lu le port, parce que je ne pouvais pas me le permettre, et je ne pouvais pas me permettre une ligne T1. Le bureau initial était sur Sherman Avenue à Palo Alto. Il semblait qu'il y avait un ISP (fournisseur d'accès Internet) juste en bas. Alors, j'ai percé un trou dans le sol et j'ai directement tiré un câble réseau connecté à l'ISP.

Puis tu sais, mon frère m'a rejoint, ainsi qu'un autre cofondateur, Greg Kouri, qui est décédé. À l'époque, nous ne pouvions même pas nous permettre un endroit où vivre, alors nous avons... le loyer du bureau était de 500 dollars par mois, nous avons donc dormi dans le bureau et pris des douches au YMCA de Peachmill Road. Oui, nous avons finalement réussi à créer une entreprise qui avait un certain intérêt, Zip2, au début. Nous avons effectivement développé beaucoup de technologies logicielles très, très impressionnantes, mais nous avons d'une certaine manière été "capturés" par les entreprises de médias traditionnels, car des sociétés comme Knight-Ridder et le New York Times étaient à la fois des investisseurs, des clients et siégeaient au conseil d'administration.

Donc ils veulent toujours utiliser notre logiciel à des endroits sans signification. C'est pourquoi je veux m'adresser directement aux consommateurs. Quoi qu'il en soit, je ne vais pas entrer dans les détails de Zip2, mais l'essentiel est que je voulais vraiment faire quelque chose d'utile en ligne. Parce que j'avais deux choix : soit faire un doctorat et regarder les autres construire Internet ; soit participer à la construction d'Internet d'une manière minime. À l'époque, je me suis dit que je pouvais toujours essayer d'abord, et si je échouais, je pourrais retourner faire des études. Quoi qu'il en soit, le résultat est plutôt réussi, non ? J'ai vendu pour environ 300 millions de dollars.

Garry Tan : Je pense qu'un point commun dans votre expérience avec Paypal et Zip2, et votre plongée dans ces start-ups matérielles hardcore, est la capacité à trouver et finalement attirer les personnes les plus intelligentes dans ces domaines spécifiques... vous savez, je parle des personnes ici présentes, certaines n'ont même jamais géré une seule personne. Ils viennent juste de commencer leur carrière. Que diriez-vous à Elon, qui, vous savez, n'a jamais fait ces choses ?

Musk : Je pense généralement qu'il faut essayer de faire des choses utiles autant que possible. Cela peut sembler un peu banal, mais faire des choses utiles est vraiment difficile, surtout si cela doit être utile à beaucoup de gens. Par exemple, la surface sous la courbe de l'utilité totale, c'est à quel point vous êtes utile à vos semblables multiplié par combien de personnes ? C'est comme la définition du "travail réel" en physique. Faire cela est extrêmement difficile. Et je pense que si vous vous engagez à faire du "travail réel", vos chances de succès seront beaucoup plus élevées. C'est comme, ne poursuivez pas la gloire, mais poursuivez le travail.

Garry Tan : Comment juges-tu que c'est un "vrai pouvoir" ? Est-ce basé sur des retours externes ? Par exemple, ce que les autres en pensent ou comment tu sais que le produit est utile pour les gens ?

Musk : Comme vous le savez, lorsque vous cherchez quelqu'un pour travailler, qu'est-ce qui est important pour vous ? Par exemple, vous savez, chercher quelqu'un ou leur capacité est une question différente. Je veux dire, en termes de votre produit final, vous devez simplement dire, si cette chose réussit, à combien de personnes cela sera-t-il utile ? C'est ce que je veux dire. Ensuite, vous faites tout ce que vous devez faire, que vous soyez PDG ou dans n'importe quel rôle d'une start-up, vous faites tout ce qui est nécessaire pour réussir, comme écraser constamment votre ego, comme, intérioriser la responsabilité. Un modèle d'échec majeur est lorsque l'ego par rapport aux capacités est supérieur à 1. Vous savez, si votre ego est trop élevé par rapport à vos capacités, vous avez essentiellement coupé le retour d'information de la réalité. En termes d'IA, vous allez briser votre boucle d'apprentissage par renforcement. Donc, vous ne voulez pas briser votre boucle, vous voulez une boucle d'apprentissage par renforcement solide, ce qui signifie intérioriser la responsabilité et minimiser l'ego, peu importe que la tâche soit noble ou humble, vous le faites.

Garry Tan : Un point clé de la physique semble être : nous devons demander "pourquoi", comprendre les raisons, et défier l'autre personne. Si la réponse qu'ils donnent ne me satisfait pas, je ne l'accepterai pas. Est-ce que c'est ça ?

Musk : Je pense que ces principes généraux de pensée par premiers principes s'appliquent aux logiciels et au matériel, ainsi qu'à tout autre domaine. J'ai simplement utilisé un exemple matériel pour illustrer comment on nous dit que quelque chose est impossible, mais