Residual Network (ResNet)
Una Red Residual (ResNet) es una arquitectura de red neuronal profunda que introduce conexiones residuales o skip connections. Estas conexiones permiten que los gradientes se propaguen con mayor facilidad durante el entrenamiento, resolviendo el problema del gradiente desvanecido en redes muy profundas.
Contexto
Propuestas por Kaiming He y su equipo en 2015, las ResNet marcaron un antes y un después en visión por computadora. Con ellas, se pudieron entrenar modelos de más de 100 capas y superar en rendimiento a arquitecturas tradicionales, ganando la competición ImageNet 2015.
Aplicaciones
- Clasificación de imágenes en grandes bases de datos.
- Detección y segmentación de objetos en vehículos autónomos.
- Reconocimiento facial para autenticación y seguridad.
- Imágenes médicas: apoyo al diagnóstico en radiología.
- Adaptaciones en procesamiento de lenguaje natural.
Ventajas y limitaciones
- ✅ Permite redes mucho más profundas y precisas.
- ✅ Establece nuevos estándares en benchmarks.
- ✅ Generaliza bien en distintos dominios.
- ❌ Alto costo computacional y de memoria.
La clave de las ResNet está en la idea de que, en lugar de obligar a una capa a aprender una transformación completa de sus entradas, puede aprender una función residual. En otras palabras, la red aprende la diferencia entre la salida deseada y la entrada original. Este diseño aparentemente simple permite entrenar arquitecturas con cientos o incluso miles de capas sin que los gradientes desaparezcan o exploten, lo que revolucionó la escalabilidad de los modelos profundos.
Tras el éxito inicial, se desarrollaron múltiples variantes de ResNet adaptadas a distintos problemas. Ejemplos incluyen ResNeXt, que introduce bloques modulares más eficientes; Wide ResNet, que aumenta el ancho de las capas en lugar de la profundidad; y Attention-ResNet, que combina skip connections con mecanismos de atención para tareas de mayor complejidad. Estas adaptaciones han permitido aplicar el concepto residual a dominios más allá de la visión, incluyendo el procesamiento de lenguaje y la bioinformática.
En el mundo real, las ResNet son la base de muchos sistemas comerciales y de investigación. Se usan en diagnósticos asistidos por IA en hospitales, en cámaras de seguridad inteligentes que reconocen rostros en tiempo real, en plataformas de redes sociales para clasificar imágenes y videos, e incluso en la exploración espacial, analizando imágenes satelitales. Su robustez y precisión las han convertido en un estándar de facto, al punto de que muchas arquitecturas modernas —incluyendo algunas inspiradas en Transformers— siguen reutilizando principios de las conexiones residuales.
📚 Referencias
- He, K., Zhang, X., Ren, S., & Sun, J. (2016). Deep Residual Learning for Image Recognition.
- Goodfellow, I., Bengio, Y., Courville, A. (2016). Deep Learning.
