Elon Musk habla sobre IA, Bots y el futuro de la humanidad

Recientemente, la aceleradora de startups estadounidense Y Combinator celebró en San Francisco la primera escuela de nuevas empresas de IA, e invitó a varias figuras destacadas de la industria de la IA, incluyendo a Elon Musk y al CEO de OpenAI, Sam Altman.

Musk comentó sin rodeos en una entrevista sobre su experiencia como empleado especial durante 130 días en el departamento de eficiencia gubernamental, describiéndola como una "misión secundaria interesante", pero su importancia palidece ante la inminente revolución de la IA. Comparó el trabajo en el departamento de eficiencia gubernamental con "limpiar la playa", mientras que la IA que se avecina es un "tsunami de mil pies de altura".

Elon Musk predice que la superinteligencia digital podría llegar este año o el próximo, siendo más inteligente que los humanos, mientras que en el futuro la cantidad de Bots superará con creces a los humanos, posiblemente alcanzando de 5 a 10 veces la población humana. Además, se atreve a predecir que la escala económica impulsada por la IA será miles o incluso millones de veces la actual, y la proporción de inteligencia humana podría caer por debajo del 1%. A continuación se presentan algunos puntos destacados de su discurso:

• Se predice que la superinteligencia digital podría llegar este año o el próximo, siendo más inteligente que los humanos, enfatizó "no ocurrirá este año, definitivamente ocurrirá el próximo";

• En el futuro, la cantidad de Bots humanoides superará con creces a la de los humanos, pudiendo ser 5 veces o incluso 10 veces mayor.

• Se predice que la escala económica impulsada por la IA será miles o incluso millones de veces mayor que la actual, llevando a la civilización hacia el tipo II de Kardashev (nivel de energía estelar), donde la proporción de inteligencia humana podría caer por debajo del 1%;

• Musk enfatiza que "la rigurosa adherencia a la verdad" es la piedra angular más importante de la seguridad de la IA, y forzar a la IA a creer en cosas no reales es extremadamente peligroso;

• Al revisar los primeros días de SpaceX, el éxito del cuarto lanzamiento de cohetes tras tres fracasos fue "una cuestión de vida o muerte", y la financiación de Tesla se completó en el último momento antes de la quiebra en 2008.

Misión completada del departamento de eficiencia gubernamental: regresar a la "tarea principal"

En una entrevista, Musk admitió que su experiencia en Washington D.C. le hizo darse cuenta de que "el ruido de señales en la política es terrible". Describió su trabajo en DC como "una interesante misión secundaria", pero finalmente decidió "volver a la misión principal: construir tecnología, que es lo que me gusta hacer".

Este multimillonario explicó la razón fundamental por la que dejó su cargo gubernamental: "Reparar el gobierno es como limpiar una playa—la playa está muy sucia, hay agujas, excrementos y basura. Pero al mismo tiempo hay este muro de agua de mil pies de altura, que es el tsunami de IA. Si te enfrentas a un tsunami de mil pies de altura, ¿cuán importante es realmente limpiar la playa? No es tan importante."

La superinteligencia AI está a la vuelta de la esquina: llegará sin duda este año o el próximo.

Elon Musk ha dado una predicción muy clara sobre el momento de la llegada de la superinteligencia digital. Dijo: "Creo que estamos muy cerca de la superinteligencia digital. Si no sucede este año, definitivamente sucederá el próximo."

La "superinteligencia digital" que él define es "una inteligencia que es más inteligente que cualquier ser humano en cualquier cosa". Musk predice que la IA impulsará el crecimiento de la economía a una escala exponencial: "no será diez veces más grande que la economía actual, sino miles de veces, incluso millones de veces".

La IA cambiará el futuro de una manera tan profunda que su grado es difícil de estimar. Supongamos que no nos desviamos del camino, que la IA no nos aniquila a nosotros ni a sí misma, entonces lo que finalmente verás no será una economía diez veces más grande que la actual. Al final, si nuestros descendientes (principalmente los descendientes máquinas) se convierten en una civilización de tipo II de Kardashev o más avanzada, estaremos hablando de un cuerpo económico que es miles de veces, e incluso millones de veces, más grande que la economía de hoy.

Él explicó más a fondo la posición de la inteligencia humana en el futuro: "En algún momento, el porcentaje de inteligencia humana se volverá bastante pequeño. En algún momento, la suma total de la inteligencia humana será menos del 1% de toda la inteligencia."

xAI actualmente está entrenando a Grok 3.5

Elon Musk reveló en una entrevista que xAI está entrenando actualmente a Grok 3.5, "enfocándose en la capacidad de razonamiento".

Competencia de hardware: el milagro de la ingeniería de cero a cien mil GPUs

El equipo de Musk resolvió el desafío de hardware del entrenamiento de IA utilizando el pensamiento de primer principio. Cuando los proveedores les dijeron que necesitaban de 18 a 24 meses para completar un superclúster de entrenamiento de 100,000 GPUs H100, el equipo de Musk lo redujo a 6 meses.

Alquilaron una fábrica abandonada en Memphis, resolviendo la demanda de 150 megavatios de energía a través del alquiler de generadores, alquilaron un cuarto de los equipos de refrigeración móvil de Estados Unidos y utilizaron Tesla Mega Packs para suavizar las variaciones de potencia durante el entrenamiento. Musk incluso participó personalmente en el trabajo de cableado, "durmiendo en el centro de datos".

Actualmente, el centro de entrenamiento cuenta con 150,000 H100, 50,000 H200 y 30,000 GB200, y el segundo centro de datos estará en línea con 110,000 GB200.

Múltiples visiones futuras: Bots de legión y civilización interestelar

Elon Musk predice que en el futuro habrá al menos cinco veces más humanoides que humanos, "quizás diez veces". Admitió que había retrasado en el campo de la IA y los robots por temor a "hacer realidad a los Terminators", pero finalmente se dio cuenta de que "ya sea que lo haga o no, esto va a suceder. O eres un espectador, o eres un participante. Prefiero ser un participante."

En una visión más amplia, Musk sitúa la civilización humana dentro del marco de las escalas de Kardashev. Él cree que la humanidad actualmente solo utiliza entre el 1 y el 2% de la energía de la Tierra, y que está muy lejos de ser una civilización de tipo uno. Convertirse en una especie multiplanetaria es un paso clave para expandir la conciencia hacia lo interestelar, "aumentando enormemente la posible longevidad de la civilización o la conciencia".

Elon Musk declaró que SpaceX planea trasladar suficientes materiales a Marte en aproximadamente 30 años para que Marte pueda ser autosuficiente, "incluso si los barcos de suministro de la Tierra dejan de operar, Marte puede seguir desarrollándose y prosperando".

Selección de diálogos

Garry Tan, CEO y presidente de YC: Hablando de SpaceX, Tesla, Neuralink, xAI, etc. ¿Hubo algún momento en tu vida antes de hacer todo esto que te hiciera sentir "tengo que crear algo grande"? ¿Qué te llevó a tomar esta decisión?

Musk: Al principio, no creía que pudiera hacer algo grandioso. Solo quería intentar hacer algo útil, pero no pensaba que pudiera hacer algo especialmente grandioso. Desde una perspectiva probabilística, eso parecía poco probable, pero al menos quería intentarlo.

Garry Tan: Ahora te enfrentas a un grupo de personas, todos ellos son ingenieros técnicos, entre los cuales hay algunos destacados investigadores de IA que están surgiendo.

Musk: Bueno. Creo que deberíamos... prefiero la palabra "ingeniero" en lugar de "investigador". Quiero decir, si hay algún avance fundamental en algoritmos, eso cuenta como investigación, pero aparte de eso, todo es ingeniería.

**Garry Tan：**Quizás podamos comenzar desde hace mucho tiempo. Quiero decir, ahora te enfrentas a un grupo de jóvenes de entre 18 y 25 años. Aquí es más juvenil, porque el grupo de fundadores se está volviendo cada vez más joven. ¿Puedes ponerte en su lugar? Cuando tenías 18 o 19 años, sabes, aprendiendo a programar, e incluso pensando en la primera idea de Zip2. ¿Cómo se sentía eso para ti?

Musk: Sí, ya en 1995, me enfrenté a una elección: o estudiar un posgrado y doctorado en Stanford, en realidad en el campo de la ciencia de materiales, investigando supercondensadores, con la intención de usarlos en vehículos eléctricos, esencialmente para resolver el problema de la autonomía de los vehículos eléctricos; o sumergirme en algo que en ese momento la mayoría de la gente nunca había oído hablar, llamado "internet". Hablé con mi profesor, que era Bill Nix del departamento de ciencia de materiales, le pregunté, ¿puedo tomarme un semestre sabático? Porque esto (internet) podría fracasar y entonces tendría que volver a la escuela y continuar mis estudios.

Luego dijo que esta podría ser nuestra última conversación. Tenía razón. Así que, pero en ese momento pensé que las cosas probablemente fallarían, y no que tendrían una alta probabilidad de éxito. Luego, en 1995, escribí básicamente lo que creo que es el primer o casi el primer mapa de Internet, guía de direcciones, páginas blancas y páginas amarillas.

Escribí ese código yo mismo, ni siquiera usé un servidor web. Leí directamente el puerto, porque no podía permitírmelo, ni podía pagar una línea dedicada T1. La oficina original estaba en Sherman Avenue en Palo Alto. Parece que había un ISP (proveedor de servicios de Internet) justo abajo. Así que perforé un agujero en el suelo y conecté un cable de red directamente al ISP.

Luego, ya sabes, mi hermano se unió a mí, y había otro cofundador, Greg Kouri, que ya ha fallecido. En ese momento, no podíamos ni siquiera permitirnos un lugar donde vivir, así que... la renta de la oficina era de 500 dólares al mes, y dormíamos en la oficina, y luego nos duchábamos en la YMCA en Peachmill Road. Sí, al final logramos hacer una empresa que resultó ser algo útil, Zip2, en sus inicios. De hecho, desarrollamos mucha tecnología de software realmente, realmente increíble, pero de alguna manera fuimos "capturados" por las empresas de medios tradicionales, porque compañías como Knight-Ridder y The New York Times eran tanto inversores como clientes, y también estaban en la junta.

Así que siempre quieren usar nuestro software en lugares sin sentido. Así que quiero dirigirme directamente al consumidor. En resumen, no entraré en detalles sobre Zip2, pero la esencia es que realmente solo quería hacer algo útil en línea. Porque tenía dos opciones: o hacer un doctorado y ver a otros construir Internet; o participar en la construcción de Internet de alguna manera pequeña. En ese momento pensé, supongo que siempre puedo intentarlo primero, y si fracaso, volveré a hacer un máster. De todos modos, el resultado fue bastante exitoso, ¿verdad? Vendí por unos 300 millones de dólares.

Garry Tan: Quiero decir que, desde su experiencia en Paypal y Zip2, hasta saltar a estas empresas de hardware de alta tecnología, hay un hilo conductor que es la capacidad de encontrar y finalmente atraer a las personas más inteligentes en estos campos específicos... ya sabes, estoy hablando de todos ustedes aquí presentes, algunas personas ni siquiera han gestionado a una sola persona. Apenas están comenzando sus carreras. ¿Qué le dirías a Elon, ya sabes, a ese que nunca ha hecho estas cosas?

Musk: Normalmente pienso que hay que intentar hacer cosas útiles en la medida de lo posible. Puede sonar un poco a cliché, pero realmente es difícil hacer cosas útiles, especialmente para muchas personas. Por ejemplo, el área bajo la curva de utilidad total, ¿cuánto valor tienes para tus semejantes multiplicado por cuántas personas? Es como la definición física del "trabajo real". Lograrlo es sumamente difícil. Y creo que si te propones hacer "trabajo real", tus probabilidades de éxito serán mucho mayores. Es como, no persigas la gloria, persigue hacer trabajo.

Garry Tan: ¿Cómo determinas que eso es "verdadera habilidad"? ¿Es a través de la retroalimentación externa? Por ejemplo, ¿qué opinan los demás o sabes qué utilidad tiene el producto para las personas?

Musk: Como sabes, para ti, ¿qué valoras cuando buscas a alguien para trabajar? Por ejemplo, sabes, buscar a alguien o eso es una cuestión diferente. Quiero decir, en términos de tu producto final, solo tienes que decir, si esta cosa tiene éxito, ¿cuánto valor tendrá para cuántas personas? Eso es lo que quiero decir. Luego, haces cualquier cosa, sabes, ya seas CEO o cualquier rol en una startup, haces cualquier cosa que necesites para tener éxito, así como seguir aplastando tu ego, como, internalizar la responsabilidad. Un patrón de fracaso principal es cuando el ego en comparación con la capacidad es mayor que 1. Sabes, si tu ego es demasiado alto en comparación con tu capacidad, básicamente cortas el circuito de retroalimentación hacia la realidad. En términos de IA, romperías tu circuito de aprendizaje por refuerzo. Así que no quieres romper tu circuito, quieres un circuito de aprendizaje por refuerzo robusto, lo que significa internalizar la responsabilidad y minimizar el ego, sin importar si la tarea es elevada o humilde, simplemente hazlo.

Garry Tan: Un punto clave de la física parece ser: debemos preguntar "por qué", averiguar la razón y desafiar a la otra persona. Si la respuesta que dan no me satisface, no la aceptaré. ¿Es así?

Musk: Creo que estos principios generales del pensamiento de primeros principios son aplicables tanto al software como al hardware, y también a cualquier cosa. Solo utilicé un ejemplo del hardware para ilustrar cómo se nos dice que algo es imposible, pero