Mi experiencia optimizando modelos con Optuna.

¿Alguna vez has ajustado hiperparámetros “a ojo” o con Grid Search sin saber si estás perdiendo rendimiento? En esta entrada te cuento cómo usé Optuna, una herramienta de optimización automática, para llevar mis modelos al siguiente nivel. Te comparto lo que aprendí, los errores que cometí y consejos útiles si estás empezando.

¿Que es Optuna?

Optuna es una biblioteca de Python para la optimización automática de hiperparámetros. A diferencia de métodos tradicionales como Grid Search o Random Search, Optuna utiliza una técnica llamada optimización bayesiana para explorar inteligentemente el espacio de búsqueda.

Ventajas:

Cómo lo usé en mi proyecto

Estaba trabajando en un modelo CNN híbrido (ECG + datos clínicos) para detectar patologías cardíacas. Los hiperparámetros que quería optimizar incluían:

• Número de filtros y tamaño del kernel
• Tamaño del batch
• Learning rate
• Función de activación
• Parámetros del optimizador

Errores que cometí

1. No fijar semillas: Al principio, no fijé la semilla aleatoria y los resultados eran inconsistentes.
2. Objetivo mal definido: Intenté minimizar la pérdida cuando en realidad lo importante era maximizar el AUC.
3. Espacio de búsqueda muy amplio: Algunos rangos eran demasiado grandes (por ejemplo, lr de 1e-7 a 1e-1) y tardaba mucho en converger.
4. Demasiadas pruebas sin control de overfitting: Hice 100 pruebas seguidas sin usar early stopping o validación cruzada bien definida

Resultado final

Gracias a Optuna, mejoré el AUC de mi modelo de 0.89 a 0.93, y además descubrí combinaciones que jamás habría probado manualmente.

Conclusión

Optuna es una herramienta muy poderosa para cualquier proyecto de machine learning serio. Te ahorra tiempo, mejora resultados y además es muy fácil de integrar. Si estás haciendo tu TFG o cualquier proyecto con modelos, ¡te recomiendo probarlo!