Búsqueda en rejilla no regular

Abstract

El machine learning o aprendizaje automático es una rama de la inteligencia artificial (IA) que proporciona a los sistemas la capacidad de aprender y mejorar automáticamente a partir de la experiencia, sin ser programados de manera explícita. El objetivo principal es reducir el error cometido por estos sistemas, optimizando (minimizando) la función que representa dicho error. Los métodos de optimización usados antes de la aparición de los ordenadores de alta velocidad eran indirectos, se utilizaban las propiedades de la función (derivadas y condiciones de optimalidad). Sin embargo, con el avance de la capacidad de cómputo, se han extendido los métodos directos, en los que la función representa una caja negra y se van realizando sucesivas pruebas observando los valores de entrada y salida de la función, sin usar herramientas analíticas de la misma. Éstos tienen la ventaja de ser muy sencillos de entender, aunque son menos eficientes que los indirectos. Este Trabajo de Fin de Grado se centra en el desarrollo de una modificación del método clásico de búsqueda en rejilla regular, perteneciente a los métodos directos de optimización, pues el proceso original presenta limitaciones y es muy ineficiente a nivel de computación. Para dicha tarea se realizarán variaciones partiendo de la rejilla regular, de forma que los puntos queden distribuidos en el espacio de una forma más estratégica para la posterior evaluación de los hiperparámetros. También se creará una variante de la búsqueda aleatoria para evaluar su rendimiento. Este documento presenta las diferentes fases llevadas a cabo en el diseño inicial, la codificación de la rejillas modificadas, y las posteriores pruebas de rendimiento de las mismas, comparándolas con las originales. Al final, como conclusión, observaremos que nuestras nuevas rejillas no regular y aleatoria modificada se comportarán bien en la minimización de funciones aleatorias. Respecto a la optimización de hiperparámetros en un modelo de aprendizaje automático, las nuevas rejillas tendrán un rendimiento mejor o igual que la regular en nuestros experimentos, superándola claramente en dos de los cuatro experimentos realizados