La trampa de las personas inteligentes: ¿por qué Vitalik quiere que sigamos las «reglas tontas»?

Título original: La trampa de los inteligentes: ¿Por qué Vitalik quiere que sigamos las “reglas estúpidas”?

Autor original: Zhixiong Pan

Fuente original:

Reimpresión: Mars Finance

El artículo “Galaxy Brain Resistance” que Vitalik publicó hace unas semanas es en realidad bastante oscuro y difícil de entender, y no he visto una buena interpretación, así que intentaré hacerlo.

Después de todo, vi que Karpathy, el creador del término Vibe Coding, también leyó este artículo y tomó notas, así que debe haber algo especial al respecto.

Primero hablemos del significado de los términos Galaxy Brain y Resistance. Una vez que interpretes este título, podrás entender de qué trata aproximadamente este artículo.

1. La traducción al chino de Galaxy Brain es «银河大脑», pero en realidad proviene de un meme de internet, similar a una imagen que combina (galaxia y cerebro), que seguro has visto.

Al principio, por supuesto, era un término positivo, utilizado para elogiar la brillante idea de alguien, es decir, era inteligente. Pero luego, con el uso excesivo, se convirtió gradualmente en una especie de ironía, cuyo significado aproximado es “estás pensando demasiado, la lógica se ha ido demasiado lejos”.

Y Vitalik menciona aquí Galaxy Brain, refiriéndose a ese tipo de “hacer malabares mentales utilizando un alto coeficiente intelectual para justificar cosas sin sentido como si tuvieran un gran significado”. Por ejemplo:

• Claramente es para ahorrar dinero con grandes despidos, pero tienen que decir que es “para proporcionar talentos de alta calidad a la sociedad”.

• Claramente están sacando provecho de criptomonedas sin valor, pero afirman que están “empoderando la economía global mediante la gobernanza descentralizada”.

Todos pueden considerarse como un pensamiento al estilo de “cerebro galáctico”.

2. ¿Qué significa entonces la resistencia? Este concepto puede ser confuso; en términos populares, se puede comparar con la “capacidad de no dejarse llevar por la corriente” o “capacidad de no ser engañado”.

Por lo tanto, Galaxy Brain Resistance debería ser Resistance to [becoming] Galaxy Brain, es decir: “la capacidad de resistir (convertirse en) Galaxy Brain (tonterías)”.

O, más precisamente, se refiere a la dificultad de usar un cierto estilo de pensamiento / argumentación que se ha abusado para “probar cualquier conclusión que desees”.

Así que esta “resistencia” puede ser frente a una “teoría”, por ejemplo,

• Teoría de la Baja Resistencia: Con un pequeño análisis, puede convertirse en una lógica extremadamente absurda de “cerebro de galaxia”.

• Teoría de alta resistencia (High Resistance): No importa cuánto lo analices, se mantiene igual, es difícil que evolucione hacia una lógica absurda.

Por ejemplo, Vitalik dijo que la ley en la sociedad ideal que imagina debería tener una línea roja: solo se puede prohibir un comportamiento cuando se puede explicar claramente cómo causa daño o riesgo a un víctima específica. Este estándar tiene una gran resistencia de Galaxy Brain, ya que no acepta razones indefinidas o ambiguas como “no me gusta subjetivamente” o “es indecoroso”.

3. Vitalik también citó muchos ejemplos en el artículo, incluso utilizando teorías que escuchamos con frecuencia, como “el largo plazo” y “el determinismo”.

"El “larga duración” es difícil de resistir a la erosión del pensamiento estilo Galaxy Brain, porque su resistencia es extremadamente baja, es prácticamente un “cheque en blanco”. Porque el “futuro” es demasiado lejano y difuso.

• La afirmación de alta resistencia: “Este árbol puede crecer 5 metros después de 10 años”. Esto es verificable y no es fácil de decir sin fundamento.

• Baja resistencia al “long-termismo”: “Aunque ahora tengo que hacer algo extremadamente inmoral (como eliminar a un grupo de personas o iniciar una guerra), es para que la humanidad pueda vivir en una utopía dentro de 500 años. Según mis cálculos, la cantidad total de felicidad futura es infinita, por lo que el sacrificio actual es insignificante.”

Mira, mientras alargues el tiempo lo suficiente, puedes justificar cualquier mal acto presente. Como dijo Vitalik: “Si tu argumento puede probar que cualquier cosa es legítima, entonces tu argumento no prueba nada.”

Sin embargo, Vitalik también admite que “a largo plazo es importante”; critica el uso de “beneficios futuros excesivamente vagos e inverificables para encubrir el daño claro en el presente.”

Otro área de desastre es el “inevitabilismo”.

Esta también es la técnica de defensa más utilizada en Silicon Valley y el mundo tecnológico.

El discurso es el siguiente: «La sustitución del trabajo humano por la IA es una inevitabilidad histórica, incluso si yo no lo hago, otros lo harán. Así que ahora estoy desarrollando la IA de manera radical no para ganar dinero, sino para seguir la corriente de la historia.»

¿Dónde está la baja resistencia? Disuelve perfectamente el sentido de responsabilidad de las personas. Dado que es “inevitable”, no necesito asumir la responsabilidad por el daño que he causado.

Esta también es una típica mente galáctica: empaquetar el deseo personal de “quiero ganar dinero / quiero poder” como “estoy cumpliendo una misión histórica”.

4, ¿qué debemos hacer ante estas “trampas de los Satoshi”?

El remedio que Vitalik propone es sorprendentemente simple, incluso un poco “torpe”. Él cree que cuanto más inteligente es una persona, más reglas de alta resistencia necesita para restringirse a sí misma y evitar que sus acrobacias mentales se descontrolen.

Primero, mantener la “ética deontológica”, que es la ley moral básica a nivel de jardín de infantes.

No te pongas a calcular complicados problemas matemáticos de “por el futuro de toda la humanidad”, regresa a los principios más rígidos:

• No robes

• No mates a personas inocentes

• No estafes

• Respeto por la libertad de los demás

Estas reglas son extremadamente resistentes. Porque son todo o nada, no hay espacio para la negociación. Cuando intentas explicar por qué estás desviando los fondos de los usuarios con grandes principios de “largo plazo”, esta rígida regla de “no robes” te golpeará directamente en la cara: robar es robar, no hables de una gran revolución financiera.

Segundo, tener la “posición” correcta, incluso incluyendo la ubicación física.

Como dice el refrán, el trasero decide la cabeza. Si pasas todos los días en esa cámara de eco del Área de la Bahía de San Francisco, rodeado de personas que promueven el aceleracionismo de IA, es muy difícil mantenerte alerta. Vitalik incluso dio un consejo de alta resistencia a nivel físico: no vivas en el Área de la Bahía de San Francisco.

5. Resumen

Vitalik este artículo en realidad es una advertencia para aquellos élites extremadamente inteligentes: no piensen que, debido a su alta inteligencia, pueden eludir las sencillas líneas morales.

Las teorías del “cerebro galáctico” que suenan como si pudieran explicar todo, a menudo son las excusas universales más peligrosas. En cambio, aquellas reglas de “alta resistencia” que suenan rígidas y dogmáticas, son la última línea de defensa para evitar que caigamos en la autoengaño.