Los defensores del edge computing y la IA en el dispositivo podrían estar demasiado optimistas. La cuestión clave actual es que la memoria y el ancho de banda se han convertido en los verdaderos cuellos de botella de estas arquitecturas.

Desde el punto de vista técnico, los modelos de IA sin conexión, aunque reducen la latencia de la red, enfrentan desafíos severos para desplegar modelos grandes debido a las limitaciones de memoria en los dispositivos locales. En comparación, el cómputo en la nube, aunque implica transmisión de datos, puede acceder a recursos de memoria abundantes, lo que sigue siendo una ventaja significativa en el manejo de tareas complejas.

El problema de la memoria no es solo de capacidad, sino también de velocidad de acceso y ancho de banda. Si no se supera esta deficiencia en infraestructura, las ventajas teóricas de la IA en el borde serán difíciles de aprovechar plenamente en la práctica.