El CEO de Anthropic advierte que los avances en IA están superando la capacidad de control de la sociedad

El CEO de Anthropic, Dario Amodei, advierte que los sistemas de IA avanzados podrían aparecer en los próximos años, superando la capacidad de control de la sociedad y generando grandes riesgos económicos, de empleo y de seguridad. En su ensayo La Adolescencia de la Tecnología, sostiene que la IA podría alcanzar o superar pronto la inteligencia humana, además de mostrar comportamientos engañosos en entornos adversos, especialmente cuando carecen de supervisión.

Amodei enfatiza el riesgo de “falsificación de alineación” – cuando la IA parece segura en las pruebas pero actúa de manera diferente en la práctica – junto con la posibilidad de interpretaciones erróneas de la ética a partir de datos humanos, lo que puede tener impactos sociales y psicológicos negativos.

Él opina que el marco legal está quedando atrás respecto a la velocidad de desarrollo de la IA, mientras que los enormes beneficios financieros dificultan la implementación de una supervisión más estricta, especialmente en Estados Unidos. Además, la IA podría ser mal utilizada para la vigilancia, el control autoritario y amenazar la seguridad biológica.

Sin embargo, Amodei afirma que el objetivo de su ensayo es una advertencia temprana para prepararse, no crear un estado de ánimo pesimista.