Илон Маск говорит об ИИ, Боты и будущем человечества

Недавно американский стартап-акселератор Y Combinator провел в Сан-Франциско первую школу стартапов в области ИИ и пригласил нескольких весомых фигур индустрии ИИ, включая Илона Маска и генерального директора OpenAI Сэма Альтмана.

Маск в интервью откровенно оценил свой опыт работы в качестве специального сотрудника в департаменте эффективности правительства, сравнив его с "интересной побочной задачей", но его важность меркнет на фоне грядущей революции ИИ. Он сравнил работу департамента эффективности правительства с "уборкой пляжа", в то время как грядущий ИИ является "тысячифутовой цунами".

Маск прогнозирует, что цифровой супер интеллект может появиться в этом или следующем году, и он будет умнее человека. В то же время, в будущем количество гуманоидных роботов значительно превысит количество людей, возможно, достигнув 5-10 раз от численности населения человечества. Он также делает смелый прогноз, что масштаб экономики, управляемой ИИ, будет в тысячи и даже миллионы раз больше текущего, а доля человеческого интеллекта может упасть ниже 1%. Ниже приведены основные моменты его речи:

• Прогнозируется, что цифровой суперинтеллект может появиться в этом или следующем году, он будет умнее человека, он подчеркивает: "в этом году не произойдет, в следующем году определенно произойдет";

• В будущем количество человекоподобных Ботов превысит количество людей, возможно, в 5 раз, а может, и в 10 раз;

• Прогнозируется, что экономический масштаб, управляемый ИИ, будет в тысячи или даже миллионы раз больше текущего, что приведет к цивилизации уровня Кардашева II (звёздная энергетика), доля человеческого интеллекта может снизиться до менее 1%;

• Маск подчеркивает, что "строгое соблюдение истины" является важнейшим основанием безопасности ИИ, и заставлять ИИ верить в неистинные вещи крайне опасно;

• Вспоминая ранние годы SpaceX, успех четвертого запуска ракеты после трех неудач стал "на грани жизни и смерти", а финансирование Tesla в 2008 году было завершено в последний момент перед банкротством.

Завершение миссии отдела эффективности правительства: возвращение к "основной задаче"

Маск в интервью признал, что опыт в Вашингтоне заставил его глубоко осознать, что "сигнал шума в политике ужасен". Он описал свою работу в Вашингтоне как "интересную побочную задачу", но в конечном итоге решил "вернуться к основной задаче — созданию технологий, что мне нравится делать".

Этот миллиардер объяснил основную причину своего ухода с государственной должности: "Восстановление правительства похоже на очистку пляжа — пляж очень грязный, на нем есть иглы, фекалии и мусор. Но одновременно есть эта водяная стена высотой в тысячу футов, это цунами ИИ. Если вы сталкиваетесь с цунами высотой в тысячу футов, насколько важно действительно очищать пляж? Не так уж важно."

Искусственный интеллект суперумный на пороге: в этом или следующем году он обязательно появится

Маск дал очень четкий прогноз о сроках прихода цифрового суперинтеллекта. Он заявил: "Я думаю, что мы очень близки к цифровому суперинтеллекту. Если это не произойдет в этом году, то это точно произойдет в следующем."

Он определил "цифровой суперинтеллект" как "интеллект, который умнее любого человека во всем". Маск предсказал, что ИИ будет способствовать экспоненциальному росту экономики — "не в 10 раз больше текущей экономики, а в тысячи, даже миллионы раз".

ИИ изменит будущее настолько глубоко, что степень этого трудно оценить. Предположим, что мы не сбились с пути, и ИИ не уничтожит нас и себя, тогда вы в конечном итоге увидите не экономику, которая в десять раз больше текущей. В конечном итоге, если наши потомки (в основном машинные потомки) станут цивилизацией типа Кардашева II или более высокой, мы будем говорить о экономике, которая в тысячи, даже миллионы раз больше сегодняшней.

Он далее изложил место человеческого интеллекта в будущем: "В какой-то момент процент человеческого интеллекта станет довольно мал. В какой-то момент совокупность человеческого интеллекта составит менее 1% от всего интеллекта."

xAI в настоящее время обучает Боты 3.5

Илон Маск в интервью сообщил, что xAI в настоящее время тренирует Grok 3.5, "основное внимание уделяется способностям к рассуждению".

Аппаратные соревнования: инженерное чудо от нуля до ста тысяч GPU

Илон Маск использовал метод мышления от первых принципов для решения проблем с аппаратным обеспечением для обучения ИИ. Когда поставщики сказали, что им потребуется от 18 до 24 месяцев для завершения суперсистемы обучения из 100000 H100 GPU, команда Маска сократила это время до 6 месяцев.

Они арендовали заброшенный завод в Мемфисе, чтобы решить потребность в 150 мегаваттах электроэнергии, арендовали четверть мобильных охладительных установок в США и использовали Tesla Mega Packs для сглаживания изменений мощности в процессе обучения. Маск даже лично участвовал в проводке, "спал в центре обработки данных".

В настоящее время этот учебный центр располагает 150000 H100, 50000 H200 и 30000 GB200, второй дата-центр скоро откроет 110000 GB200.

Множественные видения будущего: Боты легиона и межзвёздная цивилизация

Маск прогнозирует, что в будущем будет как минимум в 5 раз больше гуманоидных роботов, "возможно, в 10 раз". Он признался, что из-за опасений по поводу "реализации терминации" откладывал свои действия в области ИИ и роботов, но в конечном итоге осознал, что "это произойдет, независимо от того, сделаю я что-то или нет. Ты либо зритель, либо участник. Я предпочитаю быть участником."

В более широком видении Маск поместил человеческую цивилизацию в рамки шкалы Кардашева. Он считает, что человечество в настоящее время использует только 1-2% энергии Земли, и до уровня цивилизации I еще очень далеко. Стать многонациональным видом — это ключевой шаг к расширению сознания до межзвездного, "что значительно увеличивает потенциальный срок жизни цивилизации или сознания".

Маск заявил, что SpaceX планирует переместить достаточное количество материалов на Марс в течение примерно 30 лет, чтобы Марс смог стать автономным, "даже если грузовые корабли с Земли перестанут работать, Марс сможет продолжать развиваться и процветать".

Выбор диалога

Генеральный директор и президент YC Гэрри Тан: Начнем с SpaceX, Tesla, Neuralink, xAI и так далее. Был ли в вашей жизни момент, когда вы почувствовали: "Я должен создать что-то великое"? Что заставило вас принять это решение?

Маск: В начале я не думал, что смогу создать что-то великое. Я просто хотел попробовать сделать что-то полезное, но не считал, что смогу создать что-то особенно великое. Если говорить с точки зрения вероятности, это кажется маловероятным, но я, по крайней мере, хотел бы попробовать.

Гарри Тан: Вы сейчас находитесь в комнате, полной людей, которые являются техническими инженерами, среди которых есть и восходящие звезды в области AI исследований.

Маск: Ладно. Я думаю, что мы должны... мне больше нравится слово "инженер", чем "исследователь". Я имею в виду, если есть какое-то прорывное основание алгоритма, то это считается исследованием, но все остальное - это инженерия.

Гарри Тан: Возможно, мы можем начать с давних времен. Я имею в виду, что сейчас перед вами целая комната молодых людей в возрасте от 18 до 25 лет. Здесь больше молодежи, потому что группа основателей становится все моложе. Можете ли вы представить себя на их месте? Когда вам было 18 или 19 лет, вы знали, что учитесь программированию и даже придумали первую идею для Zip2. Каково это было для вас?

Маск: Да, еще в 95 году я стоял перед выбором: либо учиться в аспирантуре в Стэнфорде, получая степень доктора, на самом деле в области материаловедения, исследуя суперконденсаторы, которые должны были использоваться в электромобилях, по существу, чтобы решить проблему автономности электромобилей; либо погрузиться в то, что в то время большинство людей не слышали, называемое "интернетом". Я говорил с моим профессором, имевшим отношение к кафедре материаловедения, Биллом Никсом, и спросил, могу ли я взять академический отпуск на семестр? Потому что это (интернет) вполне может провалиться, и тогда мне придется вернуться в школу и продолжить учебу.

Затем он сказал, что это может быть нашим последним разговором. Он был прав. Так что, но в тот момент я чувствовал, что вероятность неудачи гораздо выше, чем вероятность успеха. Затем в 95 году я написал в основном то, что я считаю первой или почти первой интернет-картой, маршрутом, белыми страницами и желтыми страницами.

Я сам написал этот код, я даже не использовал веб-сервер. Я напрямую считывал порт, потому что не мог себе этого позволить, а также не мог позволить себе выделенную линию T1. Первоначальный офис находился на Шерман-авеню в Пало-Альто. На первом этаже, кажется, был интернет-провайдер (ISP). Поэтому я просверлил дыру в полу и напрямую протянул сетевой кабель к ISP.

Затем ты знаешь, мой брат присоединился ко мне, и еще один соучредитель Грег Кури, который уже умер. Мы тогда даже не могли позволить себе жилье, поэтому мы... аренда офиса была 500 долларов в месяц, и мы спали в офисе, а затем мы мылись в христианском молодежном центре (YMCA) на Печмир-Роуд. Да, в конце концов мы действительно сделали довольно полезную компанию, Zip2, на раннем этапе. Мы действительно разработали множество очень-очень классных программных технологий, но в некотором смысле мы были "пойманы" традиционными медиа-компаниями, такими как Knight-Ridder и Нью-Йорк Таймс, которые были и инвесторами, и клиентами, и также в совете директоров.

Поэтому они всегда хотят использовать наше программное обеспечение в бессмысленных местах. Поэтому я хочу напрямую работать с потребителями. В общем, о Zip2 не буду подробно говорить, но суть в том, что я действительно просто хотел сделать что-то полезное в интернете. Потому что у меня было два выбора: либо учиться в аспирантуре, наблюдая, как другие строят интернет; либо участвовать в строительстве интернета каким-то незначительным образом. Я тогда подумал, что, наверное, всегда могу попробовать, а если не получится, вернусь к учебе. В любом случае, результат можно считать довольно успешным. Продали примерно на 300 миллионов долларов.

Гарри Тан: Я хочу, чтобы вы рассказали о вашем опыте с Paypal и Zip2, о переходе к этим жестким аппаратным стартапам, о том, что всегда важно находить и в конечном итоге привлекать самых умных людей в этих специфических областях... Знаете, я имею в виду всех вас, некоторые из вас даже никогда не управляли никем. Они только начинают свою карьеру. Что бы вы сказали Элон, который никогда не делал всего этого?

Маск: Я обычно считаю, что следует стараться делать полезные вещи, насколько это возможно. Это может звучать как банальная фраза, но делать полезные вещи действительно сложно, особенно когда они полезны для многих людей. Например, площадь под кривой общей полезности — это насколько ты полезен своим соплеменникам, умноженное на количество людей. Это похоже на физическое определение "реальной работы". Сделать это крайне сложно. И я думаю, что если ты стремишься к "реальной работе", твои шансы на успех будут гораздо выше. Просто не стремись к славе, стремись к делу.

Гарри Тан: Как ты определяешь, что это "настоящее мастерство"? Это основано на внешней обратной связи? Например, на том, как на это смотрят другие, или ты знаешь, какую пользу продукт приносит людям?

Маск: Как ты знаешь, когда ты ищешь кого-то для работы, что для тебя важно? Например, ты знаешь, что искать кого-то или их — это разные вопросы. Я хочу сказать, что с точки зрения твоего конечного продукта, ты просто должен сказать: если это сработает, насколько это будет полезно для людей? Вот что я имею в виду. Затем ты делаешь все, что нужно, ты знаешь, независимо от того, являешься ли ты CEO или занимаешь любую другую роль в стартапе, ты делаешь все, что нужно, чтобы добиться успеха, и постоянно разрушаешь свое «я», как бы, внутренне принимаешь ответственность. Основная модель неудачи — это когда соотношение «я» к способностям больше 1. Ты знаешь, если твое «я» слишком велико, то ты в основном обрываешь обратную связь с реальностью. Говоря терминологией ИИ, ты сломал свою петлю усиленного обучения. Поэтому ты не хочешь ломать свою петлю, ты хочешь мощную петлю усиленного обучения, что означает внутреннее принятие ответственности и минимизацию «я», независимо от того, является ли задача возвышенной или низменной, ты делаешь это.

Гарри Тан: Ключевым моментом в физике, похоже, является то, что мы должны задавать вопрос "почему", выяснять причины и бросать вызов другому человеку. Если их ответ меня не устраивает, я его не принимаю. Так ли это?

Маск: Я считаю, что эти универсальные принципы мышления от первого принципа применимы как к программному, так и к аппаратному обеспечению, а также ко всему остальному. Я просто привел пример из аппаратной области, чтобы показать, как нам говорят, что что-то невозможно, но