Auteur : Zhixiong Pan
L’article publié par Vitalik il y a quelques semaines, « Galaxy Brain Resistance », est en fait assez obscur et difficile à comprendre, et je n’ai pas vu de bonne interprétation, alors je vais essayer.
Après tout, j’ai vu que Karpathy, le créateur du terme Vibe Coding, a également lu cet article et pris des notes, il doit donc y avoir quelque chose de particulier.
Commençons par le titre : que signifient « Galaxy Brain » et « Resistance » ? Une fois ce titre décrypté, vous comprendrez globalement de quoi parle l’article.
1️⃣ La traduction littérale de Galaxy Brain est « cerveau galaxie », mais cela vient en réalité d’un mème internet, une image combinant (🌌🧠), que vous avez sûrement déjà vue.
Au début, c’était bien sûr un compliment, pour louer l’ingéniosité de quelqu’un, autrement dit, son intelligence. Mais avec le temps et l’usage excessif, c’est devenu une forme d’ironie, signifiant « tu réfléchis trop, ta logique est trop alambiquée ».
Dans ce contexte, Vitalik fait référence à 🌌🧠 pour désigner ce comportement qui consiste à utiliser une intelligence supérieure pour faire des acrobaties intellectuelles et justifier des choses absurdes en leur donnant une apparence de grande logique. Par exemple :
- Licencier massivement pour économiser de l’argent, mais prétendre que c’est « fournir des talents de haute qualité à la société ».
- Émettre des shitcoins pour piéger les investisseurs, mais affirmer que c’est « autonomiser l’économie mondiale grâce à la gouvernance décentralisée ».
Tout cela relève d’une pensée de type « cerveau galaxie ».
2️⃣ Et « Resistance » (résistance), qu’est-ce que cela signifie ? Ce concept peut prêter à confusion, mais pour simplifier, on peut le comparer à la « capacité à résister à l’influence » ou à la « capacité à ne pas se faire embobiner ».
Donc, Galaxy Brain Resistance signifie Resistance to [becoming] Galaxy Brain, c’est-à-dire : la capacité à résister à (devenir) un cerveau galaxie (dire n’importe quoi).
Ou, plus précisément, il s’agit de décrire à quel point il est facile ou difficile d’abuser d’un certain style de pensée ou d’argumentation pour « prouver tout ce que l’on veut ».
Cette « résistance » peut donc s’appliquer à une « théorie » en particulier, par exemple :
- Théorie à faible résistance : dès qu’on la pousse un peu, elle peut facilement se transformer en une logique « cerveau galaxie » complètement absurde.
- Théorie à haute résistance : peu importe comment on la pousse, elle reste inchangée et il est difficile de la transformer en une logique absurde.
Par exemple, Vitalik dit que, dans sa vision idéale du droit, il devrait y avoir une ligne rouge : on ne peut interdire un comportement que si l’on peut expliquer clairement en quoi il cause un préjudice ou un risque concret à une victime. Cette norme a une forte résistance au « cerveau galaxie », car elle n’accepte pas des raisons infiniment extensibles ou floues comme « je n’aime pas ça » ou « c’est immoral ».
3️⃣ Vitalik donne également de nombreux exemples dans son article, y compris des théories que nous entendons souvent, comme le « long-termisme » et « l’inévitabilisme ».
Le « long-termisme » résiste difficilement à l’érosion de la pensée 🌌🧠, car sa résistance est très faible, c’est presque un « chèque en blanc ». Le « futur » est trop lointain, trop flou.
- Exemple à haute résistance : « Cet arbre grandira de 5 mètres dans 10 ans ». C’est vérifiable, difficile à manipuler.
- Exemple à faible résistance, le « long-termisme » : « Même si je dois faire quelque chose de très immoral maintenant (comme éliminer une partie de la population ou déclencher une guerre), c’est pour que l’humanité vive dans une utopie dans 500 ans. Selon mes calculs, le bonheur futur est infini, donc le sacrifice actuel est négligeable. »
Vous voyez, il suffit d’étendre suffisamment la temporalité pour justifier n’importe quelle mauvaise action présente. Comme le dit Vitalik : « Si votre argument peut justifier n’importe quoi, alors il ne justifie rien. »
Cependant, Vitalik reconnaît aussi que « le long terme est important » ; ce qu’il critique, c’est « l’utilisation d’avantages futurs excessivement flous et invérifiables pour masquer des préjudices immédiats et clairs ».
Un autre terrain miné est « l’inévitabilisme » (Inevitabilism).
C’est aussi la technique de défense préférée de la Silicon Valley et du monde de la tech.
Le discours est le suivant : « Le remplacement des emplois humains par l’IA est inévitable dans l’histoire, même si je ne le fais pas, quelqu’un d’autre le fera. Donc, si je développe l’IA de manière agressive, ce n’est pas pour l’argent, mais pour suivre le courant de l’histoire. »
Où est la faible résistance ? Cela dissout parfaitement le sens de la responsabilité individuelle. Puisque c’est « inévitable », je n’ai pas à répondre des dégâts que je cause.
C’est aussi un exemple typique de « cerveau galaxie » : transformer ses désirs personnels de profit ou de pouvoir en « mission historique ».
4️⃣ Alors, face à ces « pièges pour gens intelligents », que faire ?
Le remède proposé par Vitalik est étonnamment simple, voire un peu « bête ». Selon lui, plus on est intelligent, plus on a besoin de règles à haute résistance pour se contraindre, afin d’éviter de se perdre dans des acrobaties intellectuelles.
Premièrement, s’en tenir à la « déontologie » (Deontological Ethics), c’est-à-dire aux règles morales de base apprises à la maternelle.
Inutile de faire des calculs complexes « pour l’avenir de l’humanité », revenons aux principes les plus rigides :
- Ne pas voler
- Ne pas tuer d’innocents
- Ne pas frauder
- Respecter la liberté d’autrui
Ces règles ont une résistance très élevée. Elles sont noires ou blanches, non négociables. Si vous essayez de justifier le détournement de fonds des utilisateurs avec de grands principes « long-termistes », la règle rigide « ne pas voler » vous ramènera à la réalité : voler, c’est voler, inutile de parler de grande révolution financière.
Deuxièmement, avoir la bonne « position », y compris au sens physique.
Comme on dit, la position détermine la pensée. Si vous passez votre temps dans la bulle de la baie de San Francisco entouré de partisans de l’accélérationnisme de l’IA, il sera difficile de rester lucide. Vitalik donne même un conseil de résistance physique : ne vivez pas dans la baie de San Francisco.
5️⃣ Résumé
L’article de Vitalik met en garde les élites les plus intelligentes : ce n’est pas parce que vous êtes très intelligent que vous pouvez contourner les principes moraux fondamentaux.
Les théories « cerveau galaxie » qui semblent tout expliquer sont souvent les excuses universelles les plus dangereuses. Au contraire, ce sont les règles « à haute résistance » qui paraissent rigides et dogmatiques qui constituent notre dernière ligne de défense contre l’auto-illusion.
