El presente trabajo es el primer eslabón de un proyecto en proceso que apunta a analizar la dinámica de distintos conceptos, desde un enfoque semántico, buscando identificar patrones temporales comunes en varios corpus de texto. Como primer paso utilizaremos textos provenientes de libros o subtítulos de películas, sin embargo este análisis puede extenderse a cualquier corpus de texto. En este trabajo en particular estudiaremos la evolución semántica de conceptos a lo largo de las distintas novelas de la saga Harry Potter con el objetivo último de analizar variaciones del contenido semántico en textos utilizando herramientas de Procesamiento de Lenguaje Natural (PLN). En este contexto, mostraremos una primera aproximación a la comprensión del alcance y de las limitaciones de las herramientas clásicas de PLN para cuantificar la evolución del concepto “oscuridad” con el avance temporal de los libros. La saga de novelas de Harry Potter resulta ser un corpus de texto ideal para testear estas herramientas debido a que es de público conocimiento que dicha saga presenta un aumento gradual de la “oscuridad” a medida que se suceden los libros.Sociedad Argentina de Informática e Investigación Operativa (SADIO

Altszyler, Edgar

Brusco, Pablo

Spanish

El Servicio de Difusión de la Creación Intelectual

ASAI 2015, 16° Simposio Argentino de Inteligencia Artificial.
Análisis de la dinámica del contenido semántico
de textos
Edgar Altszyler y Pablo Brusco
Laboratorio de Inteligencia Artificial Aplicada, Departamento de Computación, 
Facultad de Ciencias Exactas y Naturales, Universidad de Buenos Aires, C1428EGA
Buenos Aires, Argentina 
edgaralts@gmail.com, pbrusco@dc.uba.ar
Resumen El presente trabajo es el primer eslabón de un proyecto en 
proceso que apunta a analizar la dinómica de distintos conceptos, desde 
un enfoque semantico, buscando identificar patrones temporales comu­
nes en varios corpus de texto. Como primer paso utilizaremos textos 
provenientes de libros o subtítulos de películas, sin embargo este analisis 
puede extenderse a cualquier corpus de texto. En este trabajo en par­
ticular estudiaremos la evolucion semantica de conceptos a lo largo de 
las distintas novelas de la saga Harry Potter con el objetivo ultimo de 
analizar variaciones del contenido semantico en textos utilizando herra­
mientas de Procesamiento de Lenguaje Natural (PLN). En este contexto, 
mostraremos una primera aproximacióon a la comprensióon del alcance y 
de las limitaciones de las herramientas claósicas de PLN para cuantificar 
la evolucion del concepto “oscuridad” con el avance temporal de los li­
bros. La saga de novelas de Harry Potter resulta ser un corpus de texto 
ideal para testear estas herramientas debido a que es de puóblico conoci­
miento que dicha saga presenta un aumento gradual de la “oscuridad” a 
medida que se suceden los libros.
Palabras Clave: Latent Semantic Analysis, Text Data Mining, Natural 
Language Processing.
1. Introducción
En los últimos años se ha incrementado intensamente el volumen de texto 
escrito digitalizado, especialmente debido al contenido masivo generado en las 
redes sociales. Tanto en la comunidad científica como en sector privado existe un 
fuerte interes en la identificación de la informaciún valiosa que se esconde detras 
de la gran masa de datos disponible. A raíz de esto, el minado masivo de textos 
y el Procesamiento de Lenguaje Natural (PLN) estún recibiendo una creciente 
atencion [Chen et al., 2014].
Dentro del campo del Procesamiento del Lenguaje Natural, la extraccion de 
significados de textos escritos es, al día de hoy, un tema de gran interes. Den­
tro de esta sub-úrea, los metodos de cuantificacion de distancia semantica entre 
palabras y /o  documentos cumplen un rol fundamental. Existe una gran diversi­
dad de algoritmos capaces de cuantificar la similitud semaúntica entre palabras,
44 JAIIO - ASAI 2015 - ISSN: 2451-7585 256
ASAI 2015, 16° Simposio Argentino de Inteligencia Artificial.
II
varios de los cuales parten del supuesto de que las palabras semánticamente re­
lacionadas tenderán a utilizarse en contextos similares, y consecuentemente, a 
coexistir en documentos. Un algoritmo muy utilizado que parte de estas mismas 
hipátesis es el Análisis Semántico Latente (LSA por sus siglas en ingles) [Deer- 
wester et al., 1990], que describe a cada palabra o conjunto de palabras en un 
espacio vectorial de dimensián reducida. En el mismo, palabras semanticamente 
similares se encontraraán espacialmente cerca.
La tecnica de LSA toma como entrada la matriz de frecuencias de palabras 
en los distintos documentos, sobre la cual, suele aplicarse la transformación tf-idf 
para reducir el peso de palabras muy frecuentes y poco significativas. Luego, a 
esta matriz se le aplica una descomposiciáon en valores singulares y una reduc- 
cion de la dimensionalidad, obteniendo así una representacián vectorial tanto de 
las palabras como de los documentos. De esta manera, se podra cuantificar la 
similaridad semáantica de dos palabras tomando el coseno del aángulo que sus­
tentan las representaciones vectoriales de cada una de ellas, produciendo valores 
contenidos en el rango de -1 (palabras distantes en su semáantica) y 1 (palabras 
semanticamente similares). Resulta relevante remarcar que debido al proceso de 
reduccián de dimensionalidad, el LSA es capaz de identificar la cercanía de una 
palabra a un texto incluso en el caso en que el documento no contenga esa pa­
labra.
Si bien el LSA fue desarrollado en un contexto de búsqueda y recuperacion de 
informaciáon, tambiáen resulta uátil para la cuantificaciáon de cercanáa entre concep­
tos y documentos. En el trabajo de Diuk et al. [Diuk et al., 2012] se mostro que 
esta táecnica resulta exitosa en la cuantificaciáon de la evoluciáon temporal de con­
ceptos de alto nivel, como lo es el caso de la “introspeccion” . Resulta relevante 
destacar que la cuantificacion de la dinamica temporal de un concepto con LSA 
resulta un avance significativo respecto a la cuantificacion segun la frecuencia 
de aparicion de una palabra a lo largo del tiempo [Wolff et al., 1999, Greenfield, 
2013]. Esto se debe a que el LSA es capaz de identificar el contenido latente de 
un concepto en un texto a pesar de que este no contenga la palabra en cuestiáon.
Siguiendo el mismo lineamiento de trabajo, nos proponemos explorar las 
capacidades y limitaciones del LSA para estudiar la evoluciáon temporal de con­
ceptos abstractos en corpus de texto. En particular analizaremos la similitud 
semáantica entre el concepto de oscuridad y los conceptos que aparecen en los 
diferentes libros de la saga de Harry Potter en idioma ingles.
44 JAIIO - ASAI 2015 - ISSN: 2451-7585 257
ASAI 2015, 16° Simposio Argentino de Inteligencia Artificial.
III
2. Metodología
Para la generación de la métrica de distancias del LSA, es de gran relevancia 
la elección tanto del corpus de entrenamiento como de la dimensión del espació 
vectorial. Como es usual en la aplicaciones del LSA, utilizamos el corpus de tex­
to de TASA (Touchstone Applied Science Associates, Inc), que contiene 37651 
documentos formados por una colección de material educativo de EEUU y otros 
textos tales como novelas y noticias. Con respecto a las dimensiones del LSA, 
Landaur y Dumas [Landauer and Dumais, 1997] estudiaron el efecto de este 
parámetro sobre el desempeño del mismo en examenes de idioma, encontrando 
un móximo alrededor de las 300 dimensiones.
Para el entrenamiento del LSA al corpus de texto crudo se le aplico un filtra­
do de palabras frecuentes (se filtraron los “stopwords” del paquete NLTK [Bird 
et al., 2009] para el idioma ingles) y se llevaron las palabras a su raíz con el 
algoritmo de Porter [Porter, 1980]. Luego se entrenó un LSA de 300 dimensiones 
sobre la matriz de frecuencias tóerminos-documentos normalizada seguón tf-idf. 
Finalmente, utilizamos la similitud coseno como metrica para la medicion de 
distancias entre los distintos conceptos y los libros.
Al igual que al corpus de entrenamiento, a los textos crudos de Harry Potter 
se les aplicóo el filtro de palabras frecuentes, se llevaron las palabras a su raóz y 
se eliminaron las palabras “Potter” , “Ron” y “Dark Lord” para evitar aportes 
espurios en los cóalculos de distancia debido a la incapacidad de detectar polise­
mia del algoritmo.
Luego, con el fin de cuantificar la “oscuridad” presente en los libros de la saga 
de Harry Potter en idioma ingles, seguimos el mismo lineamiento que Diuk et 
al. [Diuk et al., 2012]. Un punto importante a notar es que la palabra “oscuridad” 
es polisemica, y hace referencia tanto a “maldad” , como a “ignorancia” o a la 
“falta de luz” . En este trabajo nos interesa la primera de las tres acepciones 
presentadas. Debido a que el LSA describe cada concepto como un punto en el 
espacio vectorial, este metodo no es capaz de lidiar con la polisemia, por lo que 
desglosamos al concepto “oscuridad” en una lista de 12 palabras representativas 
(darkness, gloom, desolation, sinful, misery, evil, wickedness, vile, cruelty, harm, 
demon, malicious). Las palabras de esta lista las seleccionamos con ayuda del 
programa wortsurfer, que dada una palabra, brinda una red con las palabras 
semóanticamente móas cercanas. A partir de las redes semaónticas centradas en 
“darkness” y “evil” seleccionamos las que consideramos que mejor representaban 
al concepto de “oscuridad” .
3. Resultados
Como primer paso, a cada palabra dentro la lista de palabras “oscuras” le 
calculamos su similitud coseno con cada libro. En la Figura 1 mostramos a modo
44 JAIIO - ASAI 2015 - ISSN: 2451-7585 258
ASAI 2015, 16° Simposio Argentino de Inteligencia Artificial.
IV
de ejemplo la “similitud coseno” de cada libro respecto a la palabra “evil” ( “mal” 
en idioma ingles), en particular podemos observar un incremento de la cercanía 
semantica de los libros sucesivos a esta palabra. Con el fin de cuantificar esta 
variación, realizamos una regresión lineal de los puntos y tomamos la pendiente 
como medida de este efecto. De esta manera, pendientes positivas evidencian 
incrementos de la similitud semantica entre los libros sucesivos y la palabra se­
leccionada, mientras que pendientes negativas indican una disminucion en dicha 
relacion. Cabe remarcar que sólo estamos interesados en capturar el comporta­
miento a primer orden de las variaciones semóanticas, es decir, si globalmente la 
similitud semantica crece o no. Es por ello que no nos focalizaremos en estudiar 
la forma funcional especifica que tiene la similitud semóantica a lo largo de los 
libros.
Figura 1. Gráfico de similitud coseno entre la palabra “evil” ( “mal” en idioma inglés) y 
cada libro (en puntos negros). Se puede observar un incremento de la cercanía semantica 
de los libros sucesivos a la palabra “evil” . Se realizo una regresión lineal (línea roja), 
donde la pendiente (m=0.0063) será utilizada para reportar el comportamiento global 
de la palabra “evil” a lo largo de los libros. En la region superior izquierda se reporta 
el p-valor (P=0.02) para la hipotesis nula de que la pendiente de la regresion lineal es 
cero.
Luego, con el fin de estudiar la dinamica del concepto de “oscuridad” , cal­
culamos la pendiente de los graóficos de similitud coseno para todas las palabras 
“oscuras” . Representamos en un diagrama de cajas (Figura 2) este conjunto de 
pendientes, comparadas con las pendientes obtenidas para una lista de pala-
44 JAIIO - ASAI 2015 - ISSN: 2451-7585 259
ASAI 2015, 16° Simposio Argentino de Inteligencia Artificial.
V
bras de neutras, es decir independientes del concepto de “oscuridad” , en este 
caso utilizamos frutas. De esta manera, podemos cuantificar el incremento de 
la oscuridad a lo largo de los libros con el valor promedio de las pendientes, 
obteniendose así una pendiente promedio de 0.0038. Para mostrar que la dis­
tribución de las pendientes de las palabras oscuras tiene una media distinta de 
cero se utilizo un t-test de muestra ónica, obteniendose un p-valor=0.00036. En 
contraposicióon, para la distribucióon de pendientes de las palabras neutras se ob­
tuvo un valor medio de -0.00039 y p-valor=0.48 para el t-test de muestra ónica, 
por lo que no resulta significativamente distinto de cero.
Figura 2. Diagrama de cajas del Incremento de la cercanía semántica a lo largo los 
libros de las palabras que integran el concepto de “oscuridad” , su antónimo y las pa­
labras consideradas neutras. El incremento de la cercanía semantica de una palabra a 
lo largo de los libros esta medido como la pendiente de la regresián lineal del gráfico 
de similitud coseno entre la palabra y cada libro. Los valores medios de las distribu­
ciones de pendientes de las palabras “oscuras” , sus antónimos y palabras “neutras” son 
respectivamente 0.0038, 0.001 y -0.00039, con un p-valor de 0.00036, 0.3 y 0.48 para 
un t-test de muestra unica con hipátesis nula de que la media es cero. Las palabras 
representativas de los tres conceptos son: Palabras Oscuras: darkness, gloom, desola- 
tion, sinful, misery, evil, wickedness, vile, cruelty, harm, demon, malicious. Antónimos 
de Palabras oscuras: lightness, happiness, joy, admirable, pleasure, virtuous, kindness, 
friendly, compassion, niceness, benefit, saint, benevolent. Palabras neutras (frutas): 
grape, banana, strawberry, peach, plum, melon, tangerine, mango, pear, watermelon, 
apple, orange. En el apendice se muestran los gráficos de similitud coseno entre los 
libros y las distintas palabras que integran las tres categoráas de conceptos.
44 JAIIO - ASAI 2015 - ISSN: 2451-7585 260
ASAI 2015, 16° Simposio Argentino de Inteligencia Artificial.
VI
Finalmente, incluimos en el diagrama de cajas de la Figura 2 las pendientes 
de los gráficos de similitud coseno para el conjunto de antónimos de las palabras 
oscuras. En esta figura se puede observar un ligero corrimiento de la distribucion 
de pendientes hacia los valores positivos, con un valor medio de 0.001 y un p- 
valor=0.3. A pesar de que este corrimiento no resulto significativo cabe remarcar 
que se ha demostrado que el LSA asigna alto grado de similitud semantica tanto 
a los conceptos similares como a los opuestos [Landauer, 2002], por lo que podría 
esperarse un cierto corrimiento de la distribucion de pendientes hacia los valores 
positivos.
4. Conclusiones
En este trabajo nos hemos focalizamos en cuantificar la evolución semantica 
del concepto de “oscuridad” a lo largo de las distintas novelas de la saga Harry 
Potter (en idioma ingles) utilizando herramientas de Procesamiento de Lenguaje 
Natural.
La saga de novelas de Harry Potter resulta ser un corpus de texto ideal para 
testear las capacidades y limitaciones de las herramientas clóasicas de PLN para 
cuantificar la presencia y evolucioón de conceptos abstractos en textos escritos. 
Esto se debe a que es de puóblico conocimiento que dicha saga presenta un au­
mento gradual de la “oscuridad” a medida que se suceden los libros.
En este contexto, buscamos cuantificar mediante un algoritmo de LSA la 
evolución del concepto de “oscuridad” a traves de los 7 libros. Para lidiar con 
el caróacter polisóemico de la palabra “oscuridad” , desglosamos este concepto en 
una lista de 12 palabras representativas y a cada una de ellas le calculamos su 
cercanóa semóantica a cada uno de los 7 libros. Luego, calculamos las pendientes 
de los gráficos de similitud semantica en función del numero de libro y toma­
mos el promedio de las pendientes como indicador global de la evolucióon de la 
cercanía semóntica del concepto de “oscuridad” . De esta manera, se obtuvo una 
pendiente promedio de 0.0038, la cual resulta significativamente distinta de cero 
con p-valor=0.00036 para un t-test de muestra unica. Finalmente, la obtencion 
de un incremento significativo en la cercanóa semóantica entre el concepto de 
“oscuridad” y los libros sucesivos, resulta acorde al incremento de “oscuridad” 
esperado, evidenciando la capacidad de este móetodo de cuantificar la evolucióon 
semaónticas de conceptos abstractos.
Como continuacion de la presente línea de investigacion nos proponemos 
establecer un metodo automótico para la seleccion del conjunto de palabras 
que representa cada concepto. A su vez, pretendemos extender este enfoque al 
anóalisis de distintos conceptos en diversos corpus de texto, pudiendo asó identifi­
car patrones semóanticos comunes entre distintos textos pertenecientes al mismo 
genero.
44 JAIIO - ASAI 2015 - ISSN: 2451-7585 261
ASAI 2015, 16° Simposio Argentino de Inteligencia Artificial.
VII
Referencias
Bird et al., 2009. Bird, S., Klein, E., and Loper, E. (2009). Natural language processing 
with Python. Reilly Media, Inc.
Chen et al., 2014. Chen, M., Mao, S., and Liu, Y. (2014). Big data: A survey. Mobile 
Netw Appl, 19(171-209).
Deerwester et al., 1990. Deerwester, S. ., Dumais, S. T., Landauer, T., Furnas, G., and 
Harshman, R. (1990). Indexing by latent semantic analysis. JAsls, 41(6).
Diuk et al., 2012. Diuk, C. G., Slezak, D. F., Raskovsky, I., Sigman, M., and Cecchi, 
G. A. (2012). A quantitative philology of introspection. Frontiers in integrative 
neuroscience, 6.
Greenfield, 2013. Greenfield, P. M. (2013). The changing psychology of culture from 
1800 through 2000. Psychological Science, 24(1722-1731).
Landauer, 2002. Landauer, T. K. (2002). On the computational basis of learning and 
cognition: Arguments from lsa. Psychology of learning and motivation, 41.
Landauer and Dumais, 1997. Landauer, T. K. and Dumais, S. T. (1997). A solution 
to plato’s problem: The latent semantic analysis theory of acquisition, induction, and 
representation of knowledge. Psychological review, 104(2).
Porter, 1980. Porter, M. F. (1980). An algorithm for suffix stripping. Program, 14(3).
Wolff et al., 1999. Wolff, P., Medin, D. L., and Pankratz, C. (1999). Evolution and 
devolution of folkbiological knowledge. Cognition, 73(177 - 204).
Apéndice
F iguraA l. Graficos de “similitud coseno” entre las palabras que integran el concepto 
de “oscuridad” y cada libro (en puntos negros). Para cada palabra se realizo una 
regresion lineal (línea roja) donde la pendiente reporta el incremento de la cercanía 
semántica a lo largo los libros. En cada caso se muestra el p-valor para la hipotesis 
nula de que la pendiente de la regresion lineal es cero.
44 JAIIO - ASAI 2015 - ISSN: 2451-7585 262
ASAI 2015, 16° Simposio Argentino de Inteligencia Artificial.
VIII
Figura A2. Gráficos de “similitud coseno” entre cada libro y las palabras opuestas a 
las que integran el concepto de “oscuridad” (en puntos negros). Para cada palabra se 
realizo una regresión lineal (línea roja) donde la pendiente reporta el incremento de 
la cercanía semantica a lo largo los libros. En cada caso se muestra el p-valor para la 
hipótesis nula de que la pendiente de la regresión lineal es cero. La distribución de estas 
pendientes se encuentran graficadas en el diagrama de cajas de la figura 2.
Figura A3. Gráficos de “similitud coseno” entre cada libro y distintas frutas (en pun­
tos negros). Estas palabras fueron seleccionadas como un conjunto neutro, bajo la 
hipótesis de que no tendrían ninguna dinamica relevante. Para cada palabra se realizo 
una regresión lineal (línea roja) donde la pendiente reporta el incremento de la cercanía 
semaóntica a lo largo los libros. En cada caso se muestra el p-valor para la hipóotesis nula 
de que la pendiente de la regresioón lineal es cero. La distribucióon de estas pendientes 
se encuentran graficadas en el diagrama de cajas de la figura 2.
44 JAIIO - ASAI 2015 - ISSN: 2451-7585 263


Análisis de la dinámica del contenido semántico de textos

http://sedici.unlp.edu.ar/bitstream/handle/10915/52169/Documento_completo.pdf?sequence=1

Análisis de la dinámica del contenido semántico de textos

Abstract

Similar works

Full text

Available Versions

El Servicio de Difusión de la Creación Intelectual