Memahami artikel panjang Vitalik: Mengapa orang pintar harus tetap berpegang pada "aturan bodoh"?

Teori "otak galaksi" yang terdengar mampu menjelaskan segalanya sering kali menjadi alasan serba guna yang paling berbahaya. Sebaliknya, aturan "resistensi tinggi" yang terdengar kaku dan dogmatis justru menjadi garis pertahanan terakhir untuk mencegah kita menipu diri sendiri.

Penulis: Zhixiong Pan

Artikel yang diterbitkan Vitalik beberapa minggu lalu, Galaxy Brain Resistance, sebenarnya cukup sulit dipahami, dan saya belum melihat interpretasi yang baik, jadi saya akan mencoba menjelaskannya.

Bagaimanapun, saya melihat pencipta istilah Vibe Coding, Karpathy, juga membaca artikel ini dan membuat catatan, pasti ada sesuatu yang istimewa di dalamnya.

Pertama, mari kita bahas arti judul Galaxy Brain dan Resistance. Setelah memahami judul ini, Anda akan mengerti inti dari artikel ini.

1️⃣ Galaxy Brain diterjemahkan ke dalam bahasa Indonesia sebagai "otak galaksi", namun sebenarnya berasal dari meme internet, mirip dengan gambar (🌌🧠) yang digabungkan, Anda pasti pernah melihatnya.

Pada awalnya, istilah ini tentu bermakna positif, digunakan untuk memuji ide seseorang yang sangat brilian, yaitu cerdas. Namun, seiring penggunaannya yang berlebihan, maknanya perlahan berubah menjadi sindiran, kira-kira berarti "terlalu banyak berpikir, logikanya terlalu berputar-putar".

Vitalik di sini menyebut 🌌🧠, secara khusus merujuk pada perilaku "menggunakan kecerdasan tinggi untuk melakukan akrobatik berpikir, memaksakan sesuatu yang tidak masuk akal menjadi seolah-olah sangat masuk akal". Misalnya:

- Jelas-jelas melakukan PHK besar-besaran untuk menghemat biaya, tapi tetap mengklaim "mengirimkan talenta berkualitas tinggi ke masyarakat".

- Jelas-jelas menerbitkan token tanpa nilai untuk menipu investor, tapi mengklaim "memberdayakan ekonomi global melalui tata kelola terdesentralisasi".

Semua itu bisa dianggap sebagai pola pikir "otak galaksi".

2️⃣ Lalu apa arti Resistance (resistensi)? Konsep ini mudah membingungkan, dalam istilah populer bisa dianalogikan sebagai "kemampuan untuk tidak mudah terbawa arus", atau "kemampuan untuk tidak mudah dibohongi".

Jadi Galaxy Brain Resistance seharusnya berarti Resistance to [becoming] Galaxy Brain, yaitu: "kemampuan untuk menolak (berubah menjadi) otak galaksi (omong kosong)".

Atau lebih tepatnya, digunakan untuk menggambarkan seberapa mudah suatu pola pikir/argumentasi disalahgunakan untuk "membuktikan kesimpulan apa pun yang Anda inginkan".

Jadi "resistensi" ini bisa merujuk pada suatu "teori", misalnya,

- Teori dengan resistensi rendah (Low Resistance): Sedikit saja dianalisis, langsung bisa berubah menjadi logika "otak galaksi" yang sangat tidak masuk akal.

- Teori dengan resistensi tinggi (High Resistance): Tidak peduli seberapa Anda analisis, tetap konsisten, sangat sulit berubah menjadi logika yang tidak masuk akal.

Misalnya, Vitalik mengatakan, dalam hukum masyarakat ideal menurutnya, harus ada garis merah: hanya ketika dapat dijelaskan dengan jelas bagaimana suatu tindakan membahayakan atau berisiko bagi korban tertentu, barulah tindakan itu boleh dilarang. Standar seperti ini memiliki resistensi Galaxy Brain yang tinggi, karena tidak menerima alasan yang sangat subjektif atau kabur seperti "saya tidak suka" atau "melanggar moral".

3️⃣ Vitalik juga memberikan banyak contoh dalam artikelnya, bahkan menggunakan teori yang sering kita dengar, seperti "longtermisme" dan "inevitabilisme".

"Longtermisme" sangat sulit menahan erosi pola pikir 🌌🧠, karena resistensinya sangat rendah, hampir seperti "cek kosong". Karena "masa depan" terlalu jauh, terlalu kabur.

- Pernyataan dengan resistensi tinggi: "Pohon ini akan tumbuh 5 meter dalam 10 tahun". Ini dapat diverifikasi, tidak mudah untuk mengada-ada.

- "Longtermisme" dengan resistensi rendah: "Meskipun saya sekarang akan melakukan sesuatu yang sangat tidak bermoral (misalnya membersihkan sebagian orang, atau memulai perang), tapi ini demi kehidupan utopis umat manusia 500 tahun ke depan. Berdasarkan perhitungan saya, kebahagiaan masa depan tidak terbatas, jadi pengorbanan saat ini bisa diabaikan."

Lihat, selama Anda memperpanjang waktu cukup lama, Anda bisa membenarkan kejahatan apa pun saat ini. Seperti yang dikatakan Vitalik: "Jika argumen Anda bisa membenarkan apa saja, maka argumen Anda sebenarnya tidak membuktikan apa-apa."

Namun, Vitalik juga mengakui bahwa "jangka panjang itu penting", yang ia kritik adalah "menggunakan manfaat jangka panjang yang terlalu kabur dan tidak dapat diverifikasi untuk menutupi kerugian nyata saat ini".

Area masalah lain adalah "inevitabilisme".

Ini juga merupakan senjata favorit Silicon Valley dan dunia teknologi.

Retorikanya seperti ini: "AI menggantikan pekerjaan manusia adalah keniscayaan sejarah, meskipun saya tidak melakukannya, orang lain akan melakukannya. Jadi saya sekarang mengembangkan AI secara agresif bukan untuk mencari uang, tetapi mengikuti arus sejarah."

Di mana resistensinya rendah? Ia sepenuhnya menghilangkan rasa tanggung jawab manusia. Karena "sudah pasti", maka saya tidak perlu bertanggung jawab atas kerusakan yang saya sebabkan.

Ini juga merupakan contoh klasik otak galaksi: membungkus keinginan pribadi "saya ingin kaya/saya ingin berkuasa" menjadi "saya sedang menjalankan tugas sejarah".

4️⃣ Lalu, bagaimana kita menghadapi "jebakan orang pintar" ini?

Solusi yang diberikan Vitalik sangat sederhana, bahkan terkesan "bodoh". Menurutnya, semakin pintar seseorang, semakin perlu aturan dengan resistensi tinggi untuk membatasi diri, agar tidak terjebak dalam akrobatik intelektual sendiri.

Pertama, berpegang pada "Etika Deontologis", yaitu aturan moral tingkat taman kanak-kanak.

Jangan repot-repot menghitung "demi masa depan umat manusia" dengan rumus matematika yang rumit, kembali ke prinsip yang paling kaku:

- Jangan mencuri

- Jangan membunuh orang yang tidak bersalah

- Jangan menipu

- Hormati kebebasan orang lain

Aturan-aturan ini memiliki resistensi yang sangat tinggi. Karena sifatnya hitam-putih, tidak bisa dinegosiasikan. Ketika Anda mencoba menggunakan dalih "longtermisme" untuk menjelaskan mengapa Anda menyalahgunakan dana pengguna, aturan kaku "jangan mencuri" akan langsung membantah Anda: mencuri tetaplah mencuri, jangan berdalih demi revolusi keuangan yang agung.

Kedua, memiliki "posisi" yang benar, bahkan termasuk posisi fisik.

Seperti pepatah, posisi menentukan cara berpikir. Jika Anda setiap hari berada di ruang gema Bay Area San Francisco, dikelilingi oleh para penganut akselerasionisme AI, Anda akan sulit tetap waras. Vitalik bahkan memberikan saran resistensi tinggi secara fisik: jangan tinggal di Bay Area San Francisco.

5️⃣ Kesimpulan

Artikel Vitalik ini sebenarnya memperingatkan para elit yang sangat cerdas: jangan karena Anda merasa pintar, lalu merasa bisa mengabaikan batas moral yang sederhana.

Teori "otak galaksi" yang terdengar mampu menjelaskan segalanya sering kali menjadi alasan serba guna yang paling berbahaya. Sebaliknya, aturan "resistensi tinggi" yang terdengar kaku dan dogmatis justru menjadi garis pertahanan terakhir untuk mencegah kita menipu diri sendiri.