Algoritmo meta-heurístico Firefly aplicado al pre-entrenamiento de redes neuronales artificiales
Jairo Rojas Delgado, Rafael Arturo Trujillo Rasúa
Resumen
El campo de investigaciones referente a las redes neuronales artificiales (RNA) ha sido uno de los más activos en la comunidad científica con múltiples aplicaciones. El algoritmo Firefly ha sido empleado con éxito en el pre-entrenamiento de RNAs con el objetivo de evitar la convergencia en mínimos locales de métodos de entrenamiento convencionales como el algoritmo Stochastic Gradient Descent (SGD). Sin embargo, en redes con un considerable número de parámetros, el pre-entrenamiento pasa a ser un problema de optimización en espacios de gran dimensión, y la aplicación del algoritmo Firefly, así como cualquier metaheurística, presenta serias limitaciones computacionales. En este trabajo se investiga una variante del algoritmo Firefly que permite aumentar su velocidad de convergencia respecto al algoritmo original, así como su capacidad de exploración en el espacio de parámetros de una RNA.
Palabras clave
redes neuronales artificiales, pre-entrenamiento, Firefly, mínimo local, aprendizaje profundo
Enlaces refback
- No hay ningún enlace refback.
_________________________________________________________________________________________________________
La Universidad de las Ciencias Informáticas (UCI), a través del sello editorial Ediciones Futuro, publica los contenidos de la Revista Cubana de Ciencias Informáticas (RCCI) bajo licencia Creative Commons de tipo Atribución 4.0 Internacional (CC BY 4.0). Esta licencia permite a otros distribuir, mezclar, ajustar y construir a partir de su obra, incluso con fines comerciales, siempre que le sea reconocida la autoría de la creación original. Saber más
_________________________________________________________________________________________________________