La advertencia de Vitalik: Las personas inteligentes necesitan más las reglas "tontas".

Autor: Zhixiong Pan

El artículo “Resistencia del Cerebro Galáctico” publicado por Vitalik hace unas semanas es en realidad bastante oscuro y difícil de entender, y no he visto una buena interpretación, así que voy a intentarlo.

Después de todo, vi que el creador del término Vibe Coding, Karpathy, también leyó este artículo y tomó notas, así que debe haber algo especial al respecto.

Primero hablemos de lo que significan los términos Galaxy Brain y Resistance en el título; una vez que interpretes este título, podrás entender de qué trata aproximadamente este artículo.

1️⃣ La traducción al chino de Galaxy Brain es “银河大脑”, pero en realidad proviene de un meme de internet, similar a la imagen de (???) combinada, que seguramente has visto.

Al principio, esto era por supuesto un elogio, usado para alabar la idea de la otra persona como muy brillante, es decir, inteligente. Pero luego, a medida que su uso se extendió, se convirtió gradualmente en una especie de ironía, y su significado aproximado es “te estás complicando demasiado, la lógica se ha ido demasiado lejos”.

Y Vitalik menciona aquí ???, refiriéndose a ese tipo de “hacer ejercicios mentales utilizando alta inteligencia, haciendo que cosas sin sentido parezcan tener sentido”. Por ejemplo:

• Claramente es para ahorrar dinero despidiendo a gran escala, pero insisten en decir que es «para proporcionar talento de alta calidad a la sociedad».

• Claramente están estafando con monedas sin valor, pero afirman que están “empoderando la economía global a través de la gobernanza descentralizada”.

Se puede considerar como un pensamiento de tipo “cerebro galáctico”.

2️⃣ ¿Y qué significa la resistencia? Este concepto puede ser confuso. En términos populares, se puede comparar a la “capacidad de no dejarse llevar por la corriente” o a la “capacidad de no ser engañado”.

Por lo tanto, la resistencia de Galaxy Brain debería ser resistencia a [becoming] Galaxy Brain, es decir: “la capacidad de resistir (evolucionar hacia) el cerebro galáctico (tonterías)”.

O, más precisamente, se refiere a la facilidad con la que un determinado estilo de pensamiento / argumentación se utiliza para “probar cualquier conclusión que desees”.

Por lo tanto, esta «resistencia» puede ser en relación a alguna «teoría», como,

• Teoría de la baja resistencia (Low Resistance): Con un ligero análisis, se puede transformar en una lógica extremadamente absurda de “cerebro galáctico”.

• La teoría de alta resistencia (High Resistance): No importa cómo la analices, se mantiene igual, es difícil que evolucione hacia una lógica absurda.

Por ejemplo, Vitalik dice que la ley social ideal debería tener una línea roja: solo se puede prohibir una conducta cuando se puede explicar claramente cómo causa daño o riesgo a una víctima específica. Este estándar tiene una gran resistencia Galaxy Brain, ya que no acepta razones infinitamente elásticas o ambiguas como “no me gusta subjetivamente” o “es inmoral”.

3️⃣ Vitalik también citó muchos ejemplos en el artículo, incluso usando teorías que comúnmente escuchamos, como “long-termismo” y “inevitabilismo”.

El “largo plazo” es difícil de resistir a la erosión del pensamiento ??? porque su resistencia es extremadamente baja, es prácticamente un “cheque en blanco”. Porque el “futuro” es demasiado lejano y borroso.

• Declaración de alta resistencia: “Este árbol puede crecer 5 metros después de 10 años”. Esto es verificable y no es fácil de inventar.

• Baja resistencia del “long-termismo”: “Aunque ahora estoy a punto de hacer algo extremadamente inmoral (como eliminar a un grupo de personas o iniciar una guerra), esto es para que la humanidad pueda vivir en una utopía dentro de 500 años. Según mis cálculos, la cantidad total de felicidad futura es infinita, por lo que los sacrificios actuales son insignificantes.”

Mira, siempre que alargues el tiempo lo suficiente, puedes defender cualquier mal acto del presente. Como dijo Vitalik: “Si tu argumento puede demostrar que cualquier cosa es justificada, entonces tu argumento no demuestra nada.”

Sin embargo, Vitalik también reconoce que “a largo plazo es importante”; critica el uso de “beneficios futuros excesivamente vagos e inverificables para ocultar el daño claro en el presente.”

Otra zona de desastre es el “inevitabilismo”.

Esta también es la técnica de defensa favorita en Silicon Valley y el mundo tecnológico.

El discurso es el siguiente: “La sustitución de los humanos por la IA es una inevitabilidad histórica, incluso si yo no lo hago, otros lo harán. Así que ahora estoy desarrollando la IA de manera radical no para ganar dinero, sino para seguir la corriente histórica.”

¿Dónde está la baja resistencia? Disuelve perfectamente el sentido de responsabilidad de las personas. Dado que es “inevitable”, no necesito ser responsable por los daños que he causado.

Esta también es una típica mente galáctica: empaquetar el deseo personal de “quiero ganar dinero / quiero tener el poder” como “estoy cumpliendo una misión histórica”.

4️⃣ Entonces, ¿qué debemos hacer frente a estas “trampas de los inteligentes”?

El antídoto propuesto por Vitalik es sorprendentemente simple, incluso un poco “torpe”. Él cree que cuanto más inteligente es una persona, más necesita reglas de alta resistencia para restringirse a sí misma y evitar que sus acrobacias mentales se descontrolen.

Primero, adherirse a la “ética deontológica”, que son las leyes morales básicas de nivel de jardín de infantes.

Deja de calcular complejas ecuaciones de “por el futuro de toda la humanidad”, y regresa a los principios más rígidos:

• No robes

• No mates a personas inocentes

• No estafes

• Respetar la libertad de los demás

Estas reglas son extremadamente resistentes. Porque son blanco o negro, no hay lugar para la negociación. Cuando tratas de explicar por qué desviaste fondos de los usuarios con la gran teoría del “long-termismo”, la rígida regla de “no robar” te dará un golpe en la cara: robar es robar, no hables de la gran revolución financiera.

En segundo lugar, tener la «posición» correcta, incluso incluyendo la ubicación física.

Como dice el refrán, el trasero decide la cabeza. Si te pasas los días en esa cámara de eco del área de la Bahía de San Francisco, rodeado de personas que promueven el aceleracionismo de la IA, es difícil mantenerte despierto. Vitalik incluso dio un consejo de alta resistencia a nivel físico: no vivas en el área de la Bahía de San Francisco.

5️⃣ Resumen

Vitalik este artículo en realidad es una advertencia para aquellos élites extremadamente inteligentes: no pienses que puedes eludir la simple línea moral solo porque tienes un alto coeficiente intelectual.

Las teorías del “cerebro galáctico” que parecen capaces de explicar todo, a menudo son las excusas universales más peligrosas. En cambio, esas reglas de “alta resistencia” que suenan rígidas y dogmáticas, son la última línea de defensa para evitar que nos engañemos a nosotros mismos.