El Data Mining, o extracción de información útil y no evidente de grandes bases de datos, es una tecnología con un gran potencial para ayudar a las empresas a focalizar sus esfuerzos alrededor de la información importante contenida en sus "data warehouses". En este artículo analizaremos las ideas básicas que sustentan el Data Mining y, más concretamente, la utilización de redes neuronales como herramienta estadística avanzada. Presentaremos también dos ejemplos reales de la aplicación de estas técnicas: predicciones bursátiles y predicción de propagación de fuego en cables eléctrico

Garrido, L.

Latorre, J. I.

El Data Mining, o extracción de información útil y no evidente de grandes bases de datos, es una tecnología con un gran potencial para ayudar a las empresas a focalizar sus esfuerzos alrededor de la información importante contenida en sus "data warehouses".
En este artículo analizaremos las ideas básicas que sustentan el Data Mining y, más concretamente, la utilización de redes neuronales como herramienta estadística avanzada. Presentaremos también dos ejemplos reales de la aplicación de estas técnicas: predicciones bursátiles y predicción de propagación de fuego en cables eléctricos

Garrido, Lluís

Latorre, José Ignacio

UPCommons. Portal del coneixement obert de la UPC

QU¨ESTIIO´, vol. 25, 3, p. 499-508, 2001APLICACIONES EMPRESARIALESDE DATA MININGLLU´IS GARRIDOJOS ´E IGNACIO LATORREUniversitat de Barcelona El Data Mining, o extraccio´n de informacio´n u´til y no evidente de grandesbases de datos, es una tecnologı´a con un gran potencial para ayudar a lasempresas a focalizar sus esfuerzos alrededor de la informacio´n importantecontenida en sus «data warehouses».En este artı´culo analizaremos las ideas ba´sicas que sustentan el Data Mi-ning y, ma´s concretamente, la utilizacio´n de redes neuronales como herra-mienta estadı´stica avanzada. Presentaremos tambie´n dos ejemplos realesde la aplicacio´n de estas te´cnicas: predicciones bursa´tiles y prediccio´n depropagacio´n de fuego en cables ele´ctricos.Data Mining business applicationsPalabras clave: Minerı´a de datos, data mining, redes neuronalesClasificacio´n AMS (MSC 2000): 62-07, 62-09, 62H30, 68T05* Departament d’Estructura i Constituents de la Mate`ria. Universitat de Barcelona. garrido@ecm.ub.es, la-torre@ecm.ub.es.– Recibido en abril de 2001.– Aceptado en noviembre de 2001.4991. ¿QU ´E ES EL DATA MINING?La mayorı´a de compan˜ı´as tienen una gran cantidad de datos almacenados en sus orde-nadores. Estos datos contienen una informacio´n que puede ser de gran utilidad para losresultados de la empresa. La gran abundancia de datos o su deficiente estructura puedehacer muy difı´cil extraer esta informacio´n u´til. El objetivo del Data Mining [1] es laextraccio´n de forma automa´tica de informacio´n relevante, u´til y no evidente contenidaen dichos datos. Existen tres razones fundamentales por las cuales el Data Mining esuna realidad en nuestros dı´as:  Avances tecnolo´gicos en almacenamiento masivo de datos y CPU.  Existencia de nuevos algoritmos para extraer informacio´n en forma eficiente.  Existencia de herramientas automa´ticas que no hacen necesario el ser un expertoen estadı´stica, redes neuronales, o algoritmos matema´ticos para convertirse en un«DataMiner».2. ¿QU ´E PUEDE HACER EL DATA MINING?Una empresa en posesio´n de unas bases de datos de calidad y taman˜o suficiente puedeemplear el Data Mining para generar nuevas oportunidades de negocio, dada su capaci-dad para proporcionar:  Prediccio´n automa´tica de comportamientos.Generalmente se trata de problemas de clasificacio´n. como ejemplo podemos citar elmarketing dirigido. Data Mining usa los resultados de campan˜as de marketing reali-zadas anteriormente para identificar el perfil de los clientes que son ma´s propensosa comprar el producto y de este modo permitirnos substituir el correo masivo por elcorreo dirigido.  Prediccio´n automa´tica de tendencias.Basa´ndonos en base de datos histo´ricas, Data Mining creara´ un modelo para predecirlas tendencias. Como ejemplos podemos citar la prediccio´n de ventas en el futuro ola prediccio´n en mercados de capitales.  Descubrimiento automa´tico de comportamientos desconocidos anteriormente.Las herramientas de Data Mining de visualizacio´n y clustering, permiten «ver» nues-tros datos desde una perspectiva distinta y por ello descubrir nuevas relaciones entreellos.5003. ¿C ´OMO HACER DE DATA MINING? T ´ECNICASTodo proyecto de Data Mining se desarrolla aplicando ciertas te´cnicas de especial in-tere´s en este campo. Las te´cnicas ma´s utilizadas son:  Redes Neuronales. Son modelos no-lineales inspirados en las redes de neuronasbiolo´gicas y se usan generalmente en problemas de clasificacio´n y prediccio´n. Dis-cutiremos su estructura con un poco ma´s de detalle en los ejemplos. ´Arboles de decisio´n. Son estructuras en forma de a´rbol que representan conjuntosde decisiones capaces de generar reglas para la clasificacio´n de los datos.  Algoritmos gene´ticos. Son modelos inspirados en la evolucio´n de las especies y quese aplican generalmente en problemas de optimizacio´n. Permiten incluir fa´cilmenteligaduras complicadas que limitan la solucio´n a un problema.  Clustering. Me´todos de agrupacio´n de datos que nos permiten clasificar los datospor su similitud entre ellos. Son utilizadas con frecuencia para entender los gruposnaturales de clientes en empresas o bancos.4. METODOLOG´IA DE DATA MININGTodo proyecto de Data Mining tiene unas fases bien definidas que van desde la defini-cio´n del problema hasta la ejecucio´n y evaluacio´n del modelo, pasando por el estudiode los datos y la creacio´n de dicho modelo. Dichas fases quedara´n ilustradas en los dosejemplos que se dara´n a continuacio´n.5. REDES NEURONALESUna red neuronal artificial (ver por ejemplo [2, 3] para una introduccio´n) es un mo-delo de computacio´n inspirado en nuestros conocimientos sobre neurociencia, es de-cir, el estudio de las neuronas de nuestro sistema nervioso, aunque sin tratar de serbiolo´gicamente realistas en detalle. En los u´ltimos an˜os estos modelos han experimen-tado un gran desarrollo gracias al descubrimiento de su excelente comportamiento enproblemas de reconocimiento de patrones, prediccio´n y clasificacio´n, entre otros. Lasredes neuronales artificiales son mecanismos matema´ticos que aprenden a reconocer oclasificar patrones y, tal como lo hace nuestro propio cerebro, dicho aprendizaje no des-cansa sobre un modelo preconcebido sino que busca las correlaciones existentes entrelas variables del problema que se esta´ estudiando.Para los ejemplos que seguira´ hemos escogido redes neuronales multicapa entrena-das mediante el algoritmo de la back-propagation [4, 5]. Una arquitectura tı´pica de di-501Figura 1. Esquema de una red neuronal multicapa sencilla.chas redes es similar a la representada en la figura 1. Las neuronas (o unidades) esta´nagrupadas en capas. Existe una primera capa por la que entra la informacio´n, una o va-rias capas ocultas que la procesan, y una capa de salida que proporciona los resultadosde la red. Durante la fase de entrenamiento se le presenta a la red un conjunto de posi-bles valores de entrada juntamente con sus resultados de salida deseados, y el algoritmode back-propagation busca automa´ticamente las correlaciones entre dichas entradas ysus salidas respectivas. Cuando el aprendizaje ha finalizado, la red puede ser aplicadasobre datos que no ha visto previamente, realizando sus propias predicciones.En las redes neuronales multicapa se asocia un peso W  li j a la conexio´n (sinapsis) exis-tente entre la unidad j de la capa l  1 y la unidad i de la capa l. La salida de cadaunidad I li se evalua utilizando la expresio´nI li   F ∑jW  li j I l1j B li donde B li es el llamado umbral de la unidad i de la capa l. La funcio´n F se conoce comofuncio´n de activacio´n, y habitualmente se escoge como la funcio´n identidad (Fx   x)o como una funcio´n sigmoidal (Fx   1(1ex)). En este u´ltimo caso es convenienteescalar las entradas y las salidas deseadas entre los valores 0 y 1.502Para entrenar una red neuronal con L capas se necesita un conjunto de datos de entrena-mientoI Lµ O Lµ µ   1      N, donde O Lµ representa la salida deseada corres-pondiente a la entrada I 0µ. El error de la red para estos datos esE  12N∑µ1∑iI Lµi O Lµi2 donde I Lµ representa la salida de la red despue´s de presentarle una entrada I  0µ. Laback-propagation intenta minimizar este error modificando la intensidad de los pesosy de los umbrales de forma iterativa, en un proceso conocido como de entrenamientode la red neuronal. Existen otros me´todos de entrenamiento, pero la back-propagationes, con diferencia, el ma´s utilizado. De hecho, la back-propagation es un caso particu-lar del bien conocido algoritmo de descenso por el gradiente, que esta´ basado en unamodificacio´n de los pesos segu´n la reglaW  li j  α∂E∂W  li jEs importante tener presente que la aplicacio´n de las redes neuronales no se reduceu´nicamente a su entrenamiento con los datos disponibles: uno de los principales proble-mas es escoger previamente las variables ma´s relevantes, ya que un exceso de variablespuede introducir ruido que oculte las ma´s significativas, mientras que su defecto puedeprovocar una falta de informacio´n.6. PREDICCIONES BURS ´ATILESLa aplicacio´n de redes neuronales a la prediccio´n de series temporales ha atraı´do laatencio´n de mucha gente relacionada con los mercados financieros de todo el mundo.Sin embargo, el hecho de que la evolucio´n de los mercados dependa de multitud devariables, muchas de las cuales son difı´ciles de cuantificar, hace que sea complicadoencontrar situaciones en las que u´nicamente un ana´lisis nume´rico de los datos histo´ricospermita realizar buenas predicciones.Como aplicacio´n pra´ctica de este tipo de redes neuronales, consideraremos el ana´lisisde una accio´n en la bolsa noruega. Seguiremos paso a paso la metodologı´a ba´sica de laaplicacio´n de esta te´cnica.  Definicio´n del problemaDeseamos conocer la evolucio´n de la accio´n PGS a dos dı´as. El primer paso requieredecidir que´ variables sera´n alimentadas a la red neuronal. Hemos optado por conside-rar como variables de entrada: la propia serie PGS, el ı´ndice Nasdaq, la cotizacio´n de503la misma empresa en el mercado americano (PGSUS), el ı´ndice de la bolsa noruegay los tipos de intere´s en Estados Unidos.  Preprocesamiento de las variablesLa red neuronal podra´ extraer informacio´n u´til si las variables que la alimentan esta´ncorrectamente preprocesadas. Hemos decidido considerar transformaciones de lasvariables del tipo considerado en el chartismo (medias mo´viles, ROC, . . . ) y enotras te´cnicas de ana´lisis de datos (Gumbel,...)  Entrenamiento de las redesLas redes neuronales son entrenadas evitando sobreentrenamiento y falta de generali-zacio´n. Es conveniente considerar un entrenamiento que corresponda a mostrar cadapatro´n unos pocos miles de veces a la red neuronal. El entrenamiento breve no logracaptar la ley que subyace al mercado. Un entrenamiento demasiado largo hace que lared aprenda los errores (no la ley general) de cada patro´n. Una forma de evitar sobre-entrenamiento es construir modelos alternativos con redes neuronales pequen˜as. Unared pequen˜a no tiene grados de libertad suficientes para llegar a estar sobreentrenada.  Evaluacio´n del modeloUna vez que nuestra red neuronal es entrenada disponemos de un modelo de pre-diccio´n. Podemos a continuacio´n rastrear el e´xito o fracaso de este modelo en losu´ltimos meses. Es importante lograr que nuestro modelo adema´s de ser rentable searobusto frente pequen˜os cambios de variables o de estructura de la red neuronal. Elmodelo debe tambie´n describir con igual e´xito tanto las subidas como las bajadasdel mercado. Por u´ltimo, el modelo debe proporcionar resultados similares a lo largodel tiempo. Si cualquiera de estos requisitos no se cumple podemos fa´cilmente haberconstruido un modelo que tendra´ pobres resultados.  Definicio´n de estrategia de actuacio´nEl modelo neuronal debe considerarse como una herramienta de prediccio´n que secomplementa con otros me´todos alternativos. Es muy posible que no todos los datosdel mercado queden reflejados en las pocas series que alimentan a la red. Una correc-ta estrategia de actuacio´n debera´ contar con los condicionantes de la agresividad delinversor, de su liquidez, etc.Los resultados obtenidos por las redes neuronales entrenadas siguiendo los pasos ante-riores ofrecen resultados muy satisfactorios. Sobre un periodo de seis meses se logranbeneficios de un 20%, ignorando comisiones de compra. Los beneficios se obtienentanto en operaciones de compra como de venta (en el mercado de futuros).Este ejemplo bursa´til se ha implementado con la herramienta Stocknn (http://www.aernsoft.com) desarrollada conjuntamente por las empresas AERN y CAP GEMINIERNST & YOUNG para la prediccio´n de mercados de capitales con redes neuronales.5047. DATA MINING Y PROPAGACI ´ON DE FUEGOLa aplicacio´n de redes neuronales como herramienta de Data Mining tiene un vastocampo de aplicacio´n. Presentamos un segundo ejemplo del empleo de redes neuronalespara la prediccio´n de la propagacio´n de fuego en cables ele´ctricos. Como en el casoanterior, deseamos describir los pasos en que se organiza el ana´lisis de este problema.  Definicio´n del problemaUna severa normativa regula la construccio´n de cables ele´ctrico de forma que la pro-pagacio´n de un eventual fuego sea lo ma´s reducida posible. El problema consiste enpredecir la propagacio´n de fuego en diferentes cables de nueva construccio´n a partirde los datos de sus componentes. Las variables utilizadas para alimentar la red neuro-nal sera´n, pues, las caracterı´sticas geome´tricas del cable y las propiedades quı´micasde sus componentes.  Seleccio´n de variablesEn este problema el nu´mero de variables es muy elevado. Cada material tiene mu-chas propiedades quı´micas. Se hace necesario realizar una seleccio´n de las variablesma´s interesantes. Para ello hemos construido grandes redes neuronales que, una vezentrenadas, permiten establecer un criterio cuantitativo para evaluar la relevancia decada variable. Un buen criterio es la suma de los valores absolutos de los pesos co-nectados a una cierta neurona i, pi:pi  ∑jW  1i j A mayor sea este peso, mayor sera´ la relevancia de esta variable.  Entrenamiento de la red neuronalEl entrenamiento de una esta red neuronal sigue los pasos del ejemplo anterior. Debeevitarse el sobreentramiento y la falta de entrenamiento.  Construccio´n de un modelo alternativoPara poder evaluar la bondad del modelo neuronal es preciso disponer de un modeloalternativo. En este caso, hemos optado por construir una regresio´n mulitlineal a lasmismas variables que definen el modelo neuronal. La red debe captar las correlacio-nes no lineales y, por lo tanto, ser superior al modelo lineal.  Evaluacio´n de los modelosPara evaluar los modelos se procede a dividir la base de datos en tres partes: datos deentrenamiento, datos de validacio´n y datos de prediccio´n. La red neuronal y el mo-delo lineal son entrenados empleando los datos de entrenamiento. Luego se aplicanambos modelos en los datos de validacio´n. Ası´ se puede evaluar si ambos modelosfuncionan con correccio´n y en que´ medida la red neuronal es mejor que el modelo li-neal. Una vez tenemos una correcta evaluacio´n del modelo, podemos aplicarlo sobrelos datos de prediccio´n.505  ClusteringLos cables forman grupos naturales con respecto a su comportamiento frente a la pro-pagacio´n del fuego. Hemos empleado la te´cnica de Ana´lisis de Componentes Prin-cipales (PCA) que permite construir una proyeccio´n en dos dimensiones del espaciode variables que definen los cables. Cables pro´ximos en cuanto a su construccio´n sonpro´ximos en su proyeccio´n.Las redes neuronales entrenadas para la propagacio´n de fuego logran correlaciones delorden de .8 entre prediccio´n y realidad sobre el conjunto de validacio´n. El porcentajede acierto en el criterio de paso de normativa de fuego se halla por encima del 80% delos cables.Este ejemplo de Data Mining en propagacio´n de fuego se ha implementado con laherramienta QnnM (http://quantium.ecm.ub.es)el grupo Quantium de aplicaciones em-presariales de redes neuronales.8. REFERENCIASCabena, P.; Hadjinian, P.; Stadler, R.; Verhees, J. & Zanasi, A. (1997). Discovering Da-ta Mining from Concept to Implementation, Book & Cd edition, (September 1997).[1]Hertz, J. A.; Krogh, A. & Palmer, R. G. (1991). Introduction to the theory of neuralcomputation, Addison-Wesley, Redwood City, California. [2]Mu¨ller, B. & Reinhardt, J. (1991). Neural networks: an introduction, Springer-Verlag,Berlin. [3]Rumelhart, D. E.; Hinton, G. E. & Williams, R. J. (1986). «Learning representations byback-propagating errors», Nature, 323, 533. [4]Werbos, P. (1974). Beyond regression: new tools for prediction and analysis in the be-havioral sciences, Ph. D. thesis, Harvard University. [5]506ENGLISH SUMMARYDATA MINING BUSINESS APPLICATIONSLLU´IS GARRIDOJOS ´E IGNACIO LATORREUniversitat de Barcelona Data Mining, can be defined as the art of extracting non-obvious, use-ful information from large databases. This emerging field brings a set ofpowerful techniques which are of relevance for companies to focus theirefforts in taking advantage of their data warehouses.In this paper we analyse the basic ideas behind Data Mining and we payspecial attention to the use of neural networks as an advanced statisticaltool. We also present two real world applications of these techniques tostock market predictions and to the study of fire propagation in cables.Keywords: Data Mining, Neural NetworksAMS Classification (MSC 2000): 62-07, 62-09, 62H30, 68T05* Departament d’Estructura i Constituents de la Mate`ria. Universitat de Barcelona. garrido@ecm.ub.es, la-torre@ecm.ub.es.– Received April 2001.– Accepted November 2001.507A company may keep large amounts of high quality information which can be analysedusing Data Mining techniques to uncover new business opportunities, as for instance  Targeted MarketingThis is a typical classification problem. Data Mining analyses results from previousmarketing efforts to identify customer profiles and their predisposition to buy newproducts. These techniques are a profitable substitute for massive spamming.  Characterization and clusteringData can be analysed to visualize and cluster them. Market segmentation and isola-tion of relevant categories of customers are better characterize using non-linear datamining techniques.Data Mining projects are developed using a number of advanced statistical techniques.We here mention a few of them:  Neural NetworksThey provide non-linear models inspired in biological neural networks and they areused in problems of classification and prediction. In the paper we discussed practicalexamples of how to use them.  Decision treesThese are tree structures representing sets of decisions that can generate rules for dataclassification.  Genetic algorithmsThese models are inspired in the evolution of species and are applied to optimisationproblems. They allow for easily introducing constraints which limit the solution to aproblem.  ClusteringThese methods allow for a classification of data given similarities in their patterns.They are used to understand natural groups of customers in large companies andbanks.From the practitioner point of view Data Mining follows well defined phases. The pro-ject must be defined, data must be cleaned, several alternative models must be builtand a strict validation must check the goodness of the final result. These examples andtechniques are discussed in more detail in the paper.508

Aplicaciones empresariales de data mining

Secretaría de Estado de Cultura

El Data Mining, o extracción de información útil y no evidente de grandes bases de datos, es una tecnología con un gran potencial para ayudar a las empresas a focalizar sus esfuerzos alrededor de la información importante contenida en sus "data warehouses".

En este artículo analizaremos las ideas básicas que sustentan el Data Mining y, más concretamente, la utilización de redes neuronales como herramienta estadística avanzada. Presentaremos también dos ejemplos reales de la aplicación de estas técnicas: predicciones bursátiles y predicción de propagación de fuego en cables eléctricos

UPCommons

Revistes Catalanes amb Accés Obert

QU¨ESTIIO´, vol. 25, 3, p. 499-508, 2001
APLICACIONES EMPRESARIALES
DE DATA MINING
LLU´IS GARRIDO
JOS ´E IGNACIO LATORRE
Universitat de Barcelona 
El Data Mining, o extraccio´n de informacio´n u´til y no evidente de grandes
bases de datos, es una tecnologı´a con un gran potencial para ayudar a las
empresas a focalizar sus esfuerzos alrededor de la informacio´n importante
contenida en sus «data warehouses».
En este artı´culo analizaremos las ideas ba´sicas que sustentan el Data Mi-
ning y, ma´s concretamente, la utilizacio´n de redes neuronales como herra-
mienta estadı´stica avanzada. Presentaremos tambie´n dos ejemplos reales
de la aplicacio´n de estas te´cnicas: predicciones bursa´tiles y prediccio´n de
propagacio´n de fuego en cables ele´ctricos.
Data Mining business applications
Palabras clave: Minerı´a de datos, data mining, redes neuronales
Clasificacio´n AMS (MSC 2000): 62-07, 62-09, 62H30, 68T05
* Departament d’Estructura i Constituents de la Mate`ria. Universitat de Barcelona. garrido@ecm.ub.es, la-
torre@ecm.ub.es.
– Recibido en abril de 2001.
– Aceptado en noviembre de 2001.
499
1. ¿QU ´E ES EL DATA MINING?
La mayorı´a de compan˜ı´as tienen una gran cantidad de datos almacenados en sus orde-
nadores. Estos datos contienen una informacio´n que puede ser de gran utilidad para los
resultados de la empresa. La gran abundancia de datos o su deficiente estructura puede
hacer muy difı´cil extraer esta informacio´n u´til. El objetivo del Data Mining [1] es la
extraccio´n de forma automa´tica de informacio´n relevante, u´til y no evidente contenida
en dichos datos. Existen tres razones fundamentales por las cuales el Data Mining es
una realidad en nuestros dı´as:
  Avances tecnolo´gicos en almacenamiento masivo de datos y CPU.
  Existencia de nuevos algoritmos para extraer informacio´n en forma eficiente.
  Existencia de herramientas automa´ticas que no hacen necesario el ser un experto
en estadı´stica, redes neuronales, o algoritmos matema´ticos para convertirse en un
«DataMiner».
2. ¿QU ´E PUEDE HACER EL DATA MINING?
Una empresa en posesio´n de unas bases de datos de calidad y taman˜o suficiente puede
emplear el Data Mining para generar nuevas oportunidades de negocio, dada su capaci-
dad para proporcionar:
  Prediccio´n automa´tica de comportamientos.
Generalmente se trata de problemas de clasificacio´n. como ejemplo podemos citar el
marketing dirigido. Data Mining usa los resultados de campan˜as de marketing reali-
zadas anteriormente para identificar el perfil de los clientes que son ma´s propensos
a comprar el producto y de este modo permitirnos substituir el correo masivo por el
correo dirigido.
  Prediccio´n automa´tica de tendencias.
Basa´ndonos en base de datos histo´ricas, Data Mining creara´ un modelo para predecir
las tendencias. Como ejemplos podemos citar la prediccio´n de ventas en el futuro o
la prediccio´n en mercados de capitales.
  Descubrimiento automa´tico de comportamientos desconocidos anteriormente.
Las herramientas de Data Mining de visualizacio´n y clustering, permiten «ver» nues-
tros datos desde una perspectiva distinta y por ello descubrir nuevas relaciones entre
ellos.
500
3. ¿C ´OMO HACER DE DATA MINING? T ´ECNICAS
Todo proyecto de Data Mining se desarrolla aplicando ciertas te´cnicas de especial in-
tere´s en este campo. Las te´cnicas ma´s utilizadas son:
  Redes Neuronales. Son modelos no-lineales inspirados en las redes de neuronas
biolo´gicas y se usan generalmente en problemas de clasificacio´n y prediccio´n. Dis-
cutiremos su estructura con un poco ma´s de detalle en los ejemplos.
 
´Arboles de decisio´n. Son estructuras en forma de a´rbol que representan conjuntos
de decisiones capaces de generar reglas para la clasificacio´n de los datos.
  Algoritmos gene´ticos. Son modelos inspirados en la evolucio´n de las especies y que
se aplican generalmente en problemas de optimizacio´n. Permiten incluir fa´cilmente
ligaduras complicadas que limitan la solucio´n a un problema.
  Clustering. Me´todos de agrupacio´n de datos que nos permiten clasificar los datos
por su similitud entre ellos. Son utilizadas con frecuencia para entender los grupos
naturales de clientes en empresas o bancos.
4. METODOLOG´IA DE DATA MINING
Todo proyecto de Data Mining tiene unas fases bien definidas que van desde la defini-
cio´n del problema hasta la ejecucio´n y evaluacio´n del modelo, pasando por el estudio
de los datos y la creacio´n de dicho modelo. Dichas fases quedara´n ilustradas en los dos
ejemplos que se dara´n a continuacio´n.
5. REDES NEURONALES
Una red neuronal artificial (ver por ejemplo [2, 3] para una introduccio´n) es un mo-
delo de computacio´n inspirado en nuestros conocimientos sobre neurociencia, es de-
cir, el estudio de las neuronas de nuestro sistema nervioso, aunque sin tratar de ser
biolo´gicamente realistas en detalle. En los u´ltimos an˜os estos modelos han experimen-
tado un gran desarrollo gracias al descubrimiento de su excelente comportamiento en
problemas de reconocimiento de patrones, prediccio´n y clasificacio´n, entre otros. Las
redes neuronales artificiales son mecanismos matema´ticos que aprenden a reconocer o
clasificar patrones y, tal como lo hace nuestro propio cerebro, dicho aprendizaje no des-
cansa sobre un modelo preconcebido sino que busca las correlaciones existentes entre
las variables del problema que se esta´ estudiando.
Para los ejemplos que seguira´ hemos escogido redes neuronales multicapa entrena-
das mediante el algoritmo de la back-propagation [4, 5]. Una arquitectura tı´pica de di-
501
Figura 1. Esquema de una red neuronal multicapa sencilla.
chas redes es similar a la representada en la figura 1. Las neuronas (o unidades) esta´n
agrupadas en capas. Existe una primera capa por la que entra la informacio´n, una o va-
rias capas ocultas que la procesan, y una capa de salida que proporciona los resultados
de la red. Durante la fase de entrenamiento se le presenta a la red un conjunto de posi-
bles valores de entrada juntamente con sus resultados de salida deseados, y el algoritmo
de back-propagation busca automa´ticamente las correlaciones entre dichas entradas y
sus salidas respectivas. Cuando el aprendizaje ha finalizado, la red puede ser aplicada
sobre datos que no ha visto previamente, realizando sus propias predicciones.
En las redes neuronales multicapa se asocia un peso W  li j a la conexio´n (sinapsis) exis-
tente entre la unidad j de la capa l  1 y la unidad i de la capa l. La salida de cada
unidad I li se evalua utilizando la expresio´n
I li   F
 
∑
j
W  li j I
 l1
j B
 l
i

 
donde B li es el llamado umbral de la unidad i de la capa l. La funcio´n F se conoce como
funcio´n de activacio´n, y habitualmente se escoge como la funcio´n identidad (Fx   x)
o como una funcio´n sigmoidal (Fx   1(1ex)). En este u´ltimo caso es conveniente
escalar las entradas y las salidas deseadas entre los valores 0 y 1.
502
Para entrenar una red neuronal con L capas se necesita un conjunto de datos de entrena-
miento

I Lµ O Lµ µ   1      N

, donde O Lµ representa la salida deseada corres-
pondiente a la entrada I 0µ. El error de la red para estos datos es
E  
1
2
N
∑
µ1
∑
i

I Lµi O
 Lµ
i
2
 
donde I Lµ representa la salida de la red despue´s de presentarle una entrada I  0µ. La
back-propagation intenta minimizar este error modificando la intensidad de los pesos
y de los umbrales de forma iterativa, en un proceso conocido como de entrenamiento
de la red neuronal. Existen otros me´todos de entrenamiento, pero la back-propagation
es, con diferencia, el ma´s utilizado. De hecho, la back-propagation es un caso particu-
lar del bien conocido algoritmo de descenso por el gradiente, que esta´ basado en una
modificacio´n de los pesos segu´n la regla
W  li j  α
∂E
∂W  li j
Es importante tener presente que la aplicacio´n de las redes neuronales no se reduce
u´nicamente a su entrenamiento con los datos disponibles: uno de los principales proble-
mas es escoger previamente las variables ma´s relevantes, ya que un exceso de variables
puede introducir ruido que oculte las ma´s significativas, mientras que su defecto puede
provocar una falta de informacio´n.
6. PREDICCIONES BURS ´ATILES
La aplicacio´n de redes neuronales a la prediccio´n de series temporales ha atraı´do la
atencio´n de mucha gente relacionada con los mercados financieros de todo el mundo.
Sin embargo, el hecho de que la evolucio´n de los mercados dependa de multitud de
variables, muchas de las cuales son difı´ciles de cuantificar, hace que sea complicado
encontrar situaciones en las que u´nicamente un ana´lisis nume´rico de los datos histo´ricos
permita realizar buenas predicciones.
Como aplicacio´n pra´ctica de este tipo de redes neuronales, consideraremos el ana´lisis
de una accio´n en la bolsa noruega. Seguiremos paso a paso la metodologı´a ba´sica de la
aplicacio´n de esta te´cnica.
  Definicio´n del problema
Deseamos conocer la evolucio´n de la accio´n PGS a dos dı´as. El primer paso requiere
decidir que´ variables sera´n alimentadas a la red neuronal. Hemos optado por conside-
rar como variables de entrada: la propia serie PGS, el ı´ndice Nasdaq, la cotizacio´n de
503
la misma empresa en el mercado americano (PGSUS), el ı´ndice de la bolsa noruega
y los tipos de intere´s en Estados Unidos.
  Preprocesamiento de las variables
La red neuronal podra´ extraer informacio´n u´til si las variables que la alimentan esta´n
correctamente preprocesadas. Hemos decidido considerar transformaciones de las
variables del tipo considerado en el chartismo (medias mo´viles, ROC, . . . ) y en
otras te´cnicas de ana´lisis de datos (Gumbel,...)
  Entrenamiento de las redes
Las redes neuronales son entrenadas evitando sobreentrenamiento y falta de generali-
zacio´n. Es conveniente considerar un entrenamiento que corresponda a mostrar cada
patro´n unos pocos miles de veces a la red neuronal. El entrenamiento breve no logra
captar la ley que subyace al mercado. Un entrenamiento demasiado largo hace que la
red aprenda los errores (no la ley general) de cada patro´n. Una forma de evitar sobre-
entrenamiento es construir modelos alternativos con redes neuronales pequen˜as. Una
red pequen˜a no tiene grados de libertad suficientes para llegar a estar sobreentrenada.
  Evaluacio´n del modelo
Una vez que nuestra red neuronal es entrenada disponemos de un modelo de pre-
diccio´n. Podemos a continuacio´n rastrear el e´xito o fracaso de este modelo en los
u´ltimos meses. Es importante lograr que nuestro modelo adema´s de ser rentable sea
robusto frente pequen˜os cambios de variables o de estructura de la red neuronal. El
modelo debe tambie´n describir con igual e´xito tanto las subidas como las bajadas
del mercado. Por u´ltimo, el modelo debe proporcionar resultados similares a lo largo
del tiempo. Si cualquiera de estos requisitos no se cumple podemos fa´cilmente haber
construido un modelo que tendra´ pobres resultados.
  Definicio´n de estrategia de actuacio´n
El modelo neuronal debe considerarse como una herramienta de prediccio´n que se
complementa con otros me´todos alternativos. Es muy posible que no todos los datos
del mercado queden reflejados en las pocas series que alimentan a la red. Una correc-
ta estrategia de actuacio´n debera´ contar con los condicionantes de la agresividad del
inversor, de su liquidez, etc.
Los resultados obtenidos por las redes neuronales entrenadas siguiendo los pasos ante-
riores ofrecen resultados muy satisfactorios. Sobre un periodo de seis meses se logran
beneficios de un 20%, ignorando comisiones de compra. Los beneficios se obtienen
tanto en operaciones de compra como de venta (en el mercado de futuros).
Este ejemplo bursa´til se ha implementado con la herramienta Stocknn (http://www.
aernsoft.com) desarrollada conjuntamente por las empresas AERN y CAP GEMINI
ERNST & YOUNG para la prediccio´n de mercados de capitales con redes neuronales.
504
7. DATA MINING Y PROPAGACI ´ON DE FUEGO
La aplicacio´n de redes neuronales como herramienta de Data Mining tiene un vasto
campo de aplicacio´n. Presentamos un segundo ejemplo del empleo de redes neuronales
para la prediccio´n de la propagacio´n de fuego en cables ele´ctricos. Como en el caso
anterior, deseamos describir los pasos en que se organiza el ana´lisis de este problema.
  Definicio´n del problema
Una severa normativa regula la construccio´n de cables ele´ctrico de forma que la pro-
pagacio´n de un eventual fuego sea lo ma´s reducida posible. El problema consiste en
predecir la propagacio´n de fuego en diferentes cables de nueva construccio´n a partir
de los datos de sus componentes. Las variables utilizadas para alimentar la red neuro-
nal sera´n, pues, las caracterı´sticas geome´tricas del cable y las propiedades quı´micas
de sus componentes.
  Seleccio´n de variables
En este problema el nu´mero de variables es muy elevado. Cada material tiene mu-
chas propiedades quı´micas. Se hace necesario realizar una seleccio´n de las variables
ma´s interesantes. Para ello hemos construido grandes redes neuronales que, una vez
entrenadas, permiten establecer un criterio cuantitativo para evaluar la relevancia de
cada variable. Un buen criterio es la suma de los valores absolutos de los pesos co-
nectados a una cierta neurona i, pi:
pi  ∑
j
W  1i j 
A mayor sea este peso, mayor sera´ la relevancia de esta variable.
  Entrenamiento de la red neuronal
El entrenamiento de una esta red neuronal sigue los pasos del ejemplo anterior. Debe
evitarse el sobreentramiento y la falta de entrenamiento.
  Construccio´n de un modelo alternativo
Para poder evaluar la bondad del modelo neuronal es preciso disponer de un modelo
alternativo. En este caso, hemos optado por construir una regresio´n mulitlineal a las
mismas variables que definen el modelo neuronal. La red debe captar las correlacio-
nes no lineales y, por lo tanto, ser superior al modelo lineal.
  Evaluacio´n de los modelos
Para evaluar los modelos se procede a dividir la base de datos en tres partes: datos de
entrenamiento, datos de validacio´n y datos de prediccio´n. La red neuronal y el mo-
delo lineal son entrenados empleando los datos de entrenamiento. Luego se aplican
ambos modelos en los datos de validacio´n. Ası´ se puede evaluar si ambos modelos
funcionan con correccio´n y en que´ medida la red neuronal es mejor que el modelo li-
neal. Una vez tenemos una correcta evaluacio´n del modelo, podemos aplicarlo sobre
los datos de prediccio´n.
505
  Clustering
Los cables forman grupos naturales con respecto a su comportamiento frente a la pro-
pagacio´n del fuego. Hemos empleado la te´cnica de Ana´lisis de Componentes Prin-
cipales (PCA) que permite construir una proyeccio´n en dos dimensiones del espacio
de variables que definen los cables. Cables pro´ximos en cuanto a su construccio´n son
pro´ximos en su proyeccio´n.
Las redes neuronales entrenadas para la propagacio´n de fuego logran correlaciones del
orden de .8 entre prediccio´n y realidad sobre el conjunto de validacio´n. El porcentaje
de acierto en el criterio de paso de normativa de fuego se halla por encima del 80% de
los cables.
Este ejemplo de Data Mining en propagacio´n de fuego se ha implementado con la
herramienta QnnM (http://quantium.ecm.ub.es)el grupo Quantium de aplicaciones em-
presariales de redes neuronales.
8. REFERENCIAS
Cabena, P.; Hadjinian, P.; Stadler, R.; Verhees, J. & Zanasi, A. (1997). Discovering Da-
ta Mining from Concept to Implementation, Book & Cd edition, (September 1997).
[1]
Hertz, J. A.; Krogh, A. & Palmer, R. G. (1991). Introduction to the theory of neural
computation, Addison-Wesley, Redwood City, California. [2]
Mu¨ller, B. & Reinhardt, J. (1991). Neural networks: an introduction, Springer-Verlag,
Berlin. [3]
Rumelhart, D. E.; Hinton, G. E. & Williams, R. J. (1986). «Learning representations by
back-propagating errors», Nature, 323, 533. [4]
Werbos, P. (1974). Beyond regression: new tools for prediction and analysis in the be-
havioral sciences, Ph. D. thesis, Harvard University. [5]
506
ENGLISH SUMMARY
DATA MINING BUSINESS APPLICATIONS
LLU´IS GARRIDO
JOS ´E IGNACIO LATORRE
Universitat de Barcelona 
Data Mining, can be defined as the art of extracting non-obvious, use-
ful information from large databases. This emerging field brings a set of
powerful techniques which are of relevance for companies to focus their
efforts in taking advantage of their data warehouses.
In this paper we analyse the basic ideas behind Data Mining and we pay
special attention to the use of neural networks as an advanced statistical
tool. We also present two real world applications of these techniques to
stock market predictions and to the study of fire propagation in cables.
Keywords: Data Mining, Neural Networks
AMS Classification (MSC 2000): 62-07, 62-09, 62H30, 68T05
* Departament d’Estructura i Constituents de la Mate`ria. Universitat de Barcelona. garrido@ecm.ub.es, la-
torre@ecm.ub.es.
– Received April 2001.
– Accepted November 2001.
507
A company may keep large amounts of high quality information which can be analysed
using Data Mining techniques to uncover new business opportunities, as for instance
  Targeted Marketing
This is a typical classification problem. Data Mining analyses results from previous
marketing efforts to identify customer profiles and their predisposition to buy new
products. These techniques are a profitable substitute for massive spamming.
  Characterization and clustering
Data can be analysed to visualize and cluster them. Market segmentation and isola-
tion of relevant categories of customers are better characterize using non-linear data
mining techniques.
Data Mining projects are developed using a number of advanced statistical techniques.
We here mention a few of them:
  Neural Networks
They provide non-linear models inspired in biological neural networks and they are
used in problems of classification and prediction. In the paper we discussed practical
examples of how to use them.
  Decision trees
These are tree structures representing sets of decisions that can generate rules for data
classification.
  Genetic algorithms
These models are inspired in the evolution of species and are applied to optimisation
problems. They allow for easily introducing constraints which limit the solution to a
problem.
  Clustering
These methods allow for a classification of data given similarities in their patterns.
They are used to understand natural groups of customers in large companies and
banks.
From the practitioner point of view Data Mining follows well defined phases. The pro-
ject must be defined, data must be cleaned, several alternative models must be built
and a strict validation must check the goodness of the final result. These examples and
techniques are discussed in more detail in the paper.
508


Aplicaciones empresariales de data mining

Abstract

Similar works

Full text

Available Versions

UPCommons. Portal del coneixement obert de la UPC

Secretaría de Estado de Cultura

UPCommons

Revistes Catalanes amb Accés Obert