Elon Musk Membahas AI, Bot, dan Masa Depan Manusia

Baru-baru ini, akselerator startup AS Y Combinator mengadakan sekolah startup AI pertama di San Francisco, dan mengundang banyak tokoh penting di industri AI, termasuk Elon Musk dan CEO OpenAI Sam Altman.

Musk secara gamblang mengevaluasi pengalamannya sebagai karyawan khusus selama 130 hari di departemen efisiensi pemerintah sebagai "misi sampingan yang menarik" dalam sebuah wawancara, tetapi pentingnya terasa kecil di hadapan revolusi AI yang akan datang. Ia membandingkan pekerjaan di departemen efisiensi pemerintah dengan "membersihkan pantai", sementara AI yang akan datang adalah "tsunami setinggi seribu kaki".

Musk memperkirakan bahwa kecerdasan super digital mungkin akan datang tahun ini atau tahun depan, yang akan lebih cerdas daripada manusia. Sementara itu, jumlah robot humanoid di masa depan akan jauh melebihi jumlah manusia, mungkin mencapai 5-10 kali populasi manusia. Dia bahkan berani meramalkan bahwa skala ekonomi yang didorong oleh AI akan menjadi ribuan bahkan jutaan kali lipat dari yang ada saat ini, dengan proporsi kecerdasan manusia mungkin turun di bawah 1%. Berikut adalah beberapa poin penting dari pidatonya:

• Memperkirakan bahwa kecerdasan super digital mungkin akan muncul tahun ini atau tahun depan, yang akan lebih cerdas daripada manusia, dia menekankan "Jika tidak terjadi tahun ini, pasti akan terjadi tahun depan";

• Jumlah robot humanoid di masa depan akan jauh melebihi jumlah manusia, bisa lima kali, bahkan sepuluh kali jumlah manusia;

• Diperkirakan bahwa skala ekonomi yang didorong oleh AI akan seribu kali atau bahkan jutaan kali lipat dari saat ini, mendorong peradaban menuju tipe Kardashev II (tingkat energi bintang), proporsi kecerdasan manusia mungkin turun di bawah 1%;

• Musk menekankan bahwa "ketekunan terhadap kebenaran" adalah batu penjuru terpenting untuk keamanan AI, memaksa AI untuk mempercayai sesuatu yang tidak nyata sangat berbahaya;

• Mengingat kembali awal SpaceX, keberhasilan peluncuran roket keempat setelah tiga kali gagal adalah "di ujung tanduk", dan pada tahun 2008, pendanaan Tesla berhasil diselesaikan pada detik terakhir sebelum kebangkrutan.

Misi Departemen Efisiensi Pemerintah Selesai: Kembali ke "Tugas Utama"

Dalam wawancara, Musk mengakui bahwa pengalamannya di Washington D.C. membuatnya menyadari bahwa "noise sinyal dalam politik sangat buruk". Dia menggambarkan pekerjaannya di DC sebagai "misi sampingan yang menarik", tetapi akhirnya memutuskan untuk "kembali ke misi utama - membangun teknologi, yang merupakan hal yang saya suka lakukan."

Miliarder ini menjelaskan alasan mendasar dirinya meninggalkan jabatan pemerintah: "Memperbaiki pemerintah itu seperti membersihkan pantai—pantai itu kotor, ada jarum, kotoran, dan sampah. Tetapi pada saat yang sama ada dinding air setinggi seribu kaki, yaitu tsunami AI. Jika Anda menghadapi tsunami setinggi seribu kaki, seberapa penting sebenarnya membersihkan pantai? Tidak begitu penting."

AI superintelligent akan segera hadir: pasti akan datang tahun ini atau tahun depan

Musk memberikan prediksi yang sangat jelas tentang waktu kedatangan kecerdasan super digital. Dia menyatakan: "Saya pikir kita sudah sangat dekat dengan kecerdasan super digital. Jika tidak terjadi tahun ini, pasti akan terjadi tahun depan."

"Kecerdasan super digital" yang dia definisikan adalah "kecerdasan yang lebih pintar daripada manusia dalam hal apapun". Musk memprediksi bahwa AI akan mendorong pertumbuhan skala ekonomi yang eksponensial - "bukan hanya 10 kali lebih besar dari ekonomi saat ini, tetapi ribuan kali, bahkan jutaan kali".

AI akan mengubah masa depan dengan cara yang sangat mendalam, sulit untuk diukur. Asumsikan kita tidak tersesat, AI tidak akan menghancurkan kita dan dirinya sendiri, maka yang akan Anda lihat pada akhirnya bukanlah ekonomi yang sepuluh kali lebih besar dari ekonomi saat ini. Pada akhirnya, jika keturunan kita (terutama keturunan mesin) menjadi peradaban Kardashev tipe II atau lebih tinggi, yang kita bicarakan adalah sebuah entitas ekonomi yang ribuan kali, bahkan jutaan kali lebih besar dari ekonomi hari ini.

Dia lebih lanjut menjelaskan posisi kecerdasan manusia di masa depan: "Pada suatu saat, persentase kecerdasan manusia akan menjadi cukup kecil. Pada suatu saat, jumlah total kecerdasan manusia akan kurang dari 1% dari semua kecerdasan."

xAI saat ini sedang melatih Grok 3.5

Musk mengungkapkan dalam sebuah wawancara bahwa xAI saat ini sedang melatih Grok 3.5, "fokus utama adalah kemampuan penalaran".

Perlombaan perangkat keras: Keajaiban teknik dari nol hingga seratus ribu GPU

Musk menggunakan pemikiran prinsip pertama untuk mengatasi tantangan perangkat keras pelatihan AI. Ketika pemasok memberi tahu mereka bahwa dibutuhkan 18 hingga 24 bulan untuk menyelesaikan supercluster pelatihan 100.000 GPU H100, tim Musk memperpendeknya menjadi 6 bulan.

Mereka menyewa sebuah pabrik terbengkalai di Memphis, menyewa generator untuk memenuhi kebutuhan daya 150 megawatt, menyewa seperempat peralatan pendingin bergerak di Amerika, dan menggunakan Tesla Mega Packs untuk meratakan fluktuasi daya selama proses pelatihan. Musk bahkan terlibat langsung dalam pekerjaan pengkabelan, "tidur di pusat data".

Saat ini, pusat pelatihan ini memiliki 150.000 H100, 50.000 H200, dan 30.000 GB200, pusat data kedua akan segera diluncurkan dengan 110.000 GB200.

Visi Masa Depan Ganda: Bot Legiun dan Peradaban Antarbintang

Musk memprediksi bahwa di masa depan akan ada setidaknya 5 kali jumlah manusia dalam bentuk robot, "mungkin 10 kali". Dia mengakui telah menunda di bidang AI dan robotika karena khawatir "membuat Terminator menjadi kenyataan", tetapi akhirnya menyadari bahwa "terlepas dari apakah saya melakukannya atau tidak, ini akan terjadi. Anda bisa jadi penonton atau peserta. Saya lebih suka menjadi peserta."

Dalam visi yang lebih besar, Musk menempatkan peradaban manusia dalam kerangka tingkat Kardashev. Dia percaya bahwa manusia saat ini hanya memanfaatkan 1-2% energi Bumi, dan masih jauh dari peradaban tingkat satu. Menjadi spesies multi-planet adalah langkah kunci untuk memperluas kesadaran ke interstellar, "secara signifikan meningkatkan kemungkinan umur peradaban atau kesadaran".

Elon Musk menyatakan bahwa SpaceX berencana untuk memindahkan cukup material ke Mars dalam waktu sekitar 30 tahun, sehingga Mars dapat mandiri, "bahkan jika kapal suplai dari Bumi berhenti beroperasi, Mars dapat terus berkembang dan makmur."

Pilihan Percakapan

CEO dan Presiden YC Garry Tan: Mulai dari SpaceX, Tesla, Neuralink, xAI, dan lain-lain. Sebelum Anda melakukan semua ini, apakah ada suatu momen dalam hidup Anda yang membuat Anda merasa "Saya harus membuat sesuatu yang hebat"? Apa yang membuat Anda mengambil keputusan ini?

Musk: Awalnya saya tidak berpikir saya bisa menciptakan sesuatu yang hebat. Saya hanya ingin mencoba membuat sesuatu yang berguna, tetapi saya tidak berpikir saya bisa menciptakan sesuatu yang sangat hebat. Jika dilihat dari probabilitas, itu tampaknya tidak mungkin, tetapi setidaknya saya ingin mencoba.

**Garry Tan：**Anda sekarang menghadapi sekelompok orang, mereka semua adalah insinyur teknik, termasuk beberapa peneliti AI terkemuka yang sedang naik daun.

Musk: Baiklah. Saya rasa kita seharusnya... Saya lebih suka kata "insinyur" daripada "peneliti". Maksud saya, jika ada terobosan algoritma dasar, itu dianggap penelitian, tetapi selain itu, semuanya adalah rekayasa.

**Garry Tan：**Mungkin kita bisa mulai dari zaman yang sangat lama. Maksud saya, sekarang kamu menghadapi sekelompok anak muda berusia 18 hingga 25 tahun. Di sini lebih condong ke arah yang lebih muda, karena kelompok pendiri semakin muda. Bisakah kamu membayangkan diri kamu di posisi mereka? Ketika kamu berusia 18 atau 19 tahun, kamu tahu, belajar pemrograman, bahkan memikirkan ide pertama untuk Zip2. Apa rasanya bagi kamu?

Elon Musk: Ya, pada tahun 95, saya menghadapi sebuah pilihan: apakah saya akan melanjutkan studi pascasarjana dan doktor di Stanford, sebenarnya di bidang ilmu material, meneliti superkapasitor, yang ingin saya gunakan untuk mobil listrik, pada dasarnya untuk menyelesaikan masalah daya tahan mobil listrik; atau saya akan terjun ke dalam sesuatu yang pada waktu itu tidak diketahui oleh kebanyakan orang, yang disebut "internet". Saya telah berbicara dengan profesor saya, Bill Nix, yang merupakan anggota departemen ilmu material, saya berkata, bisakah saya mengambil cuti satu semester? Karena ini (internet) kemungkinan besar akan gagal, dan kemudian saya harus kembali ke sekolah untuk melanjutkan studi.

Kemudian dia berkata, ini mungkin adalah percakapan terakhir kita. Dia benar. Jadi, tetapi saya saat itu merasa bahwa kemungkinan besar segalanya akan gagal, bukan kemungkinan besar akan berhasil. Kemudian pada tahun 95, saya menulis pada dasarnya, yang saya anggap sebagai peta internet pertama atau yang mendekati pertama, panduan rute, buku putih, dan buku kuning.

Saya menulis kode itu sendiri, saya bahkan tidak menggunakan server web. Saya langsung membaca port, karena saya tidak mampu, dan juga tidak mampu untuk satu jalur T1. Kantor awalnya berada di Sherman Avenue, Palo Alto. Sepertinya ada ISP (penyedia layanan internet) di bawah. Jadi saya membuat lubang di lantai dan langsung menarik kabel jaringan ke ISP.

Kemudian, kamu tahu, saudaraku bergabung dengan saya, bersama dengan satu lagi pendiri, Greg Kuri, yang sudah meninggal. Saat itu, kami bahkan tidak dapat membayar tempat tinggal, jadi kami... sewa kantor seharga 500 dolar per bulan, kami tidur di kantor, dan mandi di YMCA di Peach Mill Road. Ya, pada akhirnya kami bisa dibilang mendirikan sebuah perusahaan yang cukup berguna, Zip2, di awal. Kami memang mengembangkan banyak teknologi perangkat lunak yang sangat, sangat hebat, tetapi kami semacam "ditangkap" oleh perusahaan media tradisional, karena perusahaan seperti Knight-Ridder dan New York Times adalah investor, pelanggan, dan juga ada di dewan direksi.

Jadi mereka selalu ingin menggunakan perangkat lunak kami di tempat yang tidak berarti. Jadi saya ingin langsung menyasar konsumen. Singkatnya, saya tidak akan membahas Zip2 secara rinci, tetapi intinya adalah saya benar-benar hanya ingin melakukan sesuatu yang berguna secara online. Karena saya memiliki dua pilihan: atau melanjutkan studi doktoral, melihat orang lain membangun internet; atau terlibat dalam pembangunan internet dengan cara yang kecil. Saat itu saya berpikir, saya rasa saya selalu bisa mencoba terlebih dahulu, jika gagal, saya bisa kembali melanjutkan studi. Bagaimanapun, hasilnya bisa dibilang cukup sukses. Terjual sekitar 300 juta dolar.

**Garry Tan：**Saya ingin tahu dari pengalaman Paypal dan Zip2 Anda, hingga terjun ke perusahaan rintisan perangkat keras yang hardcore, satu hal yang konsisten adalah kemampuan untuk menemukan dan akhirnya menarik orang-orang paling cerdas di bidang tertentu ini... Anda tahu, maksud saya orang-orang di sini, beberapa dari mereka bahkan belum pernah mengelola satu orang pun. Mereka baru saja memulai karir mereka. Apa yang akan Anda katakan tentang Elon yang, Anda tahu, belum pernah melakukan hal-hal ini?

Musk: Saya biasanya berpikir untuk mencoba melakukan hal yang berguna sebanyak mungkin. Ini mungkin terdengar klise, tetapi melakukan hal yang berguna benar-benar sulit, terutama yang berguna bagi banyak orang. Misalnya, luas area di bawah kurva total utilitas, yaitu seberapa besar manfaat yang Anda berikan kepada sesama dikalikan dengan berapa banyak orang? Ini seperti definisi "kerja nyata" dalam fisika. Mencapai hal ini sangat sulit. Dan saya pikir jika Anda bertekad untuk melakukan "kerja nyata", peluang Anda untuk berhasil akan jauh lebih tinggi. Seperti, jangan mengejar kehormatan, tetapi kejar untuk melakukan kerja.

**Garry Tan：**Bagaimana kamu menilai itu adalah "fungsi nyata"? Apakah berdasarkan umpan balik eksternal? Misalnya, bagaimana pendapat orang lain atau apakah kamu tahu produk itu berguna bagi orang?

Musk: Seperti yang kamu tahu, saat kamu mencari seseorang untuk bekerja, apa yang kamu hargai? Misalnya, kamu tahu, mencari orang atau mereka itu adalah dua masalah yang berbeda. Maksud saya adalah tentang produk akhir kamu, kamu hanya perlu bertanya, jika ini berhasil, seberapa besar manfaatnya bagi banyak orang? Itulah maksud saya. Kemudian kamu melakukan apa pun yang perlu kamu lakukan, kamu tahu, apakah kamu CEO atau dalam peran apa pun di startup, kamu melakukan apa pun yang perlu dilakukan untuk berhasil, seperti, dan terus menerus menghancurkan ego kamu, seperti, menginternalisasi tanggung jawab. Salah satu pola kegagalan utama adalah ketika rasio ego terhadap kemampuan lebih besar dari 1. Kamu tahu, jika ego kamu terlalu tinggi dibandingkan kemampuan kamu, maka pada dasarnya kamu memutuskan umpan balik ke realitas. Dalam istilah AI, kamu akan memutuskan sirkuit pembelajaran penguatan kamu. Jadi, kamu tidak ingin memutuskan sirkuit kamu, kamu ingin sirkuit pembelajaran penguatan yang kuat, yang berarti menginternalisasi tanggung jawab dan meminimalkan ego, terlepas dari apakah tugas itu mulia atau rendah, kamu melakukannya.

**Garry Tan：**Salah satu poin kunci dalam fisika tampaknya adalah: kita harus bertanya "mengapa", mencari tahu alasannya, dan menantang orang di seberang. Jika jawaban yang mereka berikan tidak memuaskan saya, saya tidak akan menerimanya. Benarkah begitu?

Musk: Saya percaya bahwa prinsip umum dari pemikiran dasar ini berlaku untuk perangkat lunak dan perangkat keras, serta untuk segala hal. Saya hanya menggunakan contoh dari sisi perangkat keras untuk menjelaskan bagaimana kita diberitahu bahwa sesuatu tidak mungkin, tetapi