Caracterizar las arquitecturas multiprocesador distribuidas (Clusters, Multiclusters, Grids, Clouds), en particular las basadas en procesadores de múltiples núcleos (“multicores”), con el objetivo de modelizarlas, estudiar su escalabilidad, analizar y predecir perfomance de aplicaciones paralelas y estudiar esquemas de tolerancia a fallas en las mismas. Desarrollar software de base para clusters de multicores, tratando de optimizar perfomance de las arquitecturas, suponiendo diferentes modelos de programación paralela y diferentes esquemas o paradigmas de resolución de aplicaciones. Es de hacer notar que este proyecto se coordina con otros dos proyectos en curso en el III-LIDI y relacionados con Algoritmos Distribuidos/Paralelos y Sistemas de Software Distribuido.Eje: Procesamiento distribuido y paraleloRed de Universidades con Carreras en Informática (RedUNCI

Bria, Oscar N.

Chichizola, Franco

De Giusti, Armando Eduardo

De Giusti, Laura Cristina

Denham, Mónica Malén

Frati, Fernando Emmanuel

Iglesias, Luciano

Leibovich, Fabiana Yael

Montezanti, Diego Miguel

Naiouf, Marcelo

Pettoruti, José Enrique

Rodriguez, Ismael Pablo

Sanz, Victoria María

Tinetti, Fernando Gustavo

Villagarcía Wanza, Horacio A.

Servicio de Difusión de la Creación Intelectual

Arquitecturas Multiprocesador Distribuidas. Modelos, Simulación, Software de Base y Aplicaciones.   Armando  De Giusti, Fernando Tinetti, Marcelo Naiouf, Horacio Villagarcía, Oscar Bría, Franco Chichi-zola, Laura De Giusti, Mónica Denham, Luciano Iglesias, Ismael Rodriguez, Diego Montezanti, Victoria Sanz, Fabiana Leibovich, Emmanuel Frati, José Pettorutti    Instituto de Investigación en Informática LIDI (III-LIDI)  Facultad de Informática – UNLP {degiusti, ftinetti, mnaiouf,  hvw, onb, francoch, ldgiusti, mdenham, li, ismael, dmontezanti, vsanz, fleibovich, fefrati, josep}@lidi.info.unlp.edu.ar,    CONTEXTO  Esta línea de Investigación está dentro del proyecto “Arquitecturas Multiprocesador Distribuidas. Modelos, Software de Base y Aplicaciones” acreditado por el Ministerio de Educación y de proyectos específicos apoyados por organismos nacionales e in-ternacionales. En el tema hay cooperación con varias  Universidades de Argentina  y se está traba-jando con Universidades iberoamericanas con apoyo de CyTED y AECID. Se participa en iniciativas como LAGrid y EELA2 y se tiene financiamiento de la Fundación YPF, de Telefónica de Argenti-na e IBM. Por último a partir del año 2009,  los temas del proyecto están incluidos en el programa Pablo Neruda de intercambio de Profesores y Alumnos de Doctorado entre Universida-des de América Latina y Europa.                          RESUMEN  Caracterizar las arquitecturas multiprocesa-dor distribuidas (Clusters, Multiclusters, Grids, Clouds), en particular las basadas en procesadores de múltiples núcleos (“multi-cores”), con el objetivo de modelizarlas, es-tudiar su escalabilidad, analizar y predecir perfomance de aplicaciones paralelas y es-tudiar esquemas de tolerancia a fallas en las mismas. Desarrollar software de base para clusters de multicores, tratando de optimizar perfo-mance de las arquitecturas, suponiendo di-ferentes modelos de programación paralela y diferentes esquemas o paradigmas de re-solución de aplicaciones. Es de hacer notar que este proyecto se co-ordina con otros dos proyectos en curso en el III-LIDI y relacionados con Algoritmos Distribuidos/Paralelos y Sistemas de Soft-ware Distribuido.  Keywords: Sistemas Paralelos. Paradigmas de programación paralela. Multicores. Cluster, Multicluster, Grid y Cloud Compu-ting. Modelos y predicción de performance. Scheduling. Virtualización. Aplicaciones.                      1. INTRODUCCION La investigación en Sistemas Distribuidos y Paralelos es una de las líneas de mayor de-sarrollo en la Ciencia Informática actual [1][2]. En particular la utilización de arqui-tecturas multiprocesador configuradas en clusters, multiclusters y grids y soportadas por redes de diferentes características y to-pologías se ha generalizado, tanto para el desarrollo de algoritmos paralelos como pa-ra el de servicios WEB distribuidos [3] [4][5]. En la misma línea están los desarro-llos en cloud computing [6]. El cambio tecnológico, fundamentalmente a partir de los procesadores multicore, ha im-                      617WICC 2010 - XII Workshop de Investigadores en Ciencias de la Computaciónpuesto la necesidad de investigar en mode-los mixtos o híbridos, en los cuales coexis-ten esquemas de memoria compartida con mensajes [7][8]. Es importante en este contexto investigar la modelización del comportamiento de esta clase de sistemas paralelos, así como des-arrollar nuevos paradigmas y herramientas para la programación eficiente de aplica-ciones. Por otra parte la heterogeneidad que carac-teriza las redes y las arquitecturas Grid, se puede extender también a los procesadores multicore (buscando optimizar la funciona-lidad de cada uno de los núcleos), lo que genera restricciones y desafíos para la mo-delización y también para problemas clási-cos como el scheduling y la optimización de los algoritmos [9]. Aquí reaparece el te-ma del multithreading interno de los proce-sadores y la posibilidad de su manejo desde la aplicación [10].  Asimismo los problemas de virtualización crecen en complejidad al considerar siste-mas paralelos con componentes multicore [11].   1.1 Definiciones básicas  Un procesador multicore  surge a partir de integrar dos o más núcleos computacionales dentro de un mismo “chip” [12]. La moti-vación de su desarrollo se basa en los pro-blemas de consumo de energía y generación de calor que aparecen al escalar la veloci-dad de un procesador. Un procesador multi-core incrementa el rendimiento de una apli-cación al dividir el  trabajo de cómputo en-tre los núcleos disponibles [22]. Un cluster es un  sistema de procesamiento paralelo compuesto por un conjunto de computadoras interconectadas vía algún ti-po de red, las cuales cooperan configurando un recurso que se ve como “único e inte-grado”, más allá de la distribución física de sus componentes. Cada “procesador” puede tener diferente hardware y sistema operati-vo, e incluso puede ser un “multiprocesa-dor” [13]. Cuando se conectan dos o más clusters sobre una red tipo LAN o WAN, se tiene un multicluster [14]. La configuración más simple a considerar es la conexión de clusters homogéneos sobre una red LAN o WAN, utilizando un sistema operativo co-mún [15]. Un Grid es un tipo de sistema distribuido  que permite seleccionar, compartir e inte-grar recursos autónomos geográficamente distribuidos [16]. Un Grid es una configu-ración colaborativa que se puede adaptar dinámicamente según lo requerido por el usuario, la disponibilidad y potencia de cómputo de los recursos conectados. El Grid puede verse como un “entorno de pro-cesamiento virtual”, donde el usuario tiene la visión de un sistema de procesamiento “único” y en realidad trabaja con recursos dispersos geográficamente [17][18]. Algunos autores consideran que un Grid es un “Cluster de Clusters”, lo que resulta una definición algo restrictiva pero útil para el desarrollo de un proyecto relacionado con Sistemas Paralelos que migren  aplicaciones paralelas de Clusters a Grid. Las arquitecturas de Cloud se basan en la idea (especialmente de los fabricantes de grandes servidores) de concentrar los recur-sos de alta perfomance, de modo de poner los mismos al alcance de miles de usuarios distribuidos que trabajan en paralelo contra servidores distribuidos [23][24].   1.2 Aspectos de interés  ? En un cluster normalmente se configura una única máquina paralela virtual que puede estar ejecutando una aplicación dedicada. Un Grid permite configurar múltiples máquinas paralelas virtuales para varios usuarios/aplicaciones simul-táneas. Sin embargo, este concepto de virtualización se está extendiendo a clus-ters (incluso a multicores) al aumentar el número de núcleos involucrados [19]. ? Tanto clusters como Grids se basan en procesadores heterogéneos. Sin embargo en Grid esta heterogeneidad se extiende a la red de comunicaciones y al tipo de componentes en cada nodo que pueden                       618WICC 2010 - XII Workshop de Investigadores en Ciencias de la Computaciónser procesadores (mono o multi core), instrumentos, sensores, etc. La heteroge-neidad aparece reforzada al considerar el caso de procesadores multicore que son internamente heterogéneos. ? El middleware necesario para Grid es más complejo que el de los clusters. Fundamentalmente, para configurar la máquina paralela virtual es necesario una etapa de identificación de recursos físi-cos y su ubicación, así como la caracte-rización de los procesos usuarios por prioridades. Estos problemas básicos pa-ra el scheduling se están extendiendo a clusters y multicores. ? Las herramientas para el desarrollo de aplicaciones requieren un mayor nivel de abstracción en Grid, por la complejidad y variedad de los múltiples usuarios que pueden utilizar la arquitectura [20]. ? La definición de los paradigmas de pro-gramación paralela y de los compilado-res de lenguajes para sistemas paralelos está fuertemente impactada por el desa-rrollo de los multicores: el tema de la op-timización de los recursos a nivel proce-sador se vuelve esencial, más allá que la aplicación sea de muy alto nivel (tipo transacción WEB contra un servidor multicore). Es interesante notar que una estructura de multicluster, visualizada como un número limitado de clusters dedicados que coope-ran en una única aplicación paralela, es un punto intermedio entre clusters y Grid y re-quiere algunos servicios especiales en su middleware.  Este tipo de configuración es considerada para las aplicaciones a investigar desde las Universidades que cooperan en esta línea de I/D. Más aún cuando cada uno de los clusters puede estar formado por computadoras multicore, homogéneas o heterogéneas.  1.3  Sistemas Paralelos sobre arquitectu-ras distribuidas  El desarrollo de sistemas paralelos sobre arquitecturas distribuidas (normalmente dé-bilmente acopladas y comunicadas por una red heterogénea) presenta algunos  desafíos, entre los que pueden mencionarse: ? La heterogeneidad de las comunicacio-nes y su tiempo de respuesta variable se-gún los nodos a conectar dificulta la asignación óptima de tareas a procesado-res y el balance dinámico de la carga. ? La incorporación de procesadores con diferente potencia y velocidad, que pue-den ser multiprocesadores con memoria compartida, hace difícil el balance de carga y muy crítica la localidad de datos y/o procesos. ? Los modelos para predicción de perfor-mance son complejos y agregan incerti-dumbre si existen conexiones no dedica-das. ? La granularidad óptima a emplear de-pende de la relación entre potencia de cómputo local y remota.  ? El modelo cliente-servidor (paradigma muy empleado en algoritmos paralelos sobre clusters) se torna ineficiente al in-crementar el número de nodos. Esto re-quiere la reformulación de algoritmos que ejecutan sobre clusters y grids. En particular el paradigma “peer to peer” resulta atractivo para investigar, así co-mo esquemas mixtos dentro del mismo sistema paralelo [21]. ? Las herramientas de software más gene-ralizadas en clusters están evolucionando para ser utilizables en multicluster y Grid ya que  tienen restricciones al tratar de emplearlas en topologías que conec-tan diferentes redes. ? A su vez, a nivel de procesadores multi núcleo es necesario replantear los temas de scheduling, migración de procesos, comunicaciones sincrónicas/asincrónicas y desarrollo de lenguajes y compiladores que exploten la arquitectura [25][26].     2. LINEAS DE INVESTIGACION y DESARROLLO                       619WICC 2010 - XII Workshop de Investigadores en Ciencias de la Computación 2.1  Temas de Estudio e Investigación  ? Arquitectura de procesadores multicore. Software de base. Multhreading sobre multicore. ? Modelos de predicción de performance para arquitecturas “híbridas”. Aplica-ción a clusters de multicores. ? Simulación de arquitecturas. ? Paradigmas y Lenguajes de programa-ción paralela orientados a arquitecturas distribuidas débilmente acopladas.  ? Arquitecturas de cluster y multicluster. Arquitecturas de multicluster dedicados. Caracterización de las comunicaciones. Relojes distribuidos. ? Tecnología GRID. Middleware de GRID. Migración dinámica de proce-sos. Optimización de rendimiento en GRID. ? Impacto de la heterogeneidad de los procesadores en el rendimiento de mul-ticores,  clusters, multiclusters y GRID. Predicción de performance consideran-do la heterogeneidad de procesadores y comunicaciones. ? Técnicas de mapeo para arquitecturas de cluster y multicluster con multicores. ? Técnicas de virtualización en arquitec-turas de cluster y grid con multicores. ? Escalabilidad de algoritmos paralelos en arquitecturas distribuidas, considerando procesadores de múltiples núcleos. ? Métricas de eficiencia en algoritmos pa-ralelos sobre multicores, clusters y mul-ticlusters. ? Análisis de complejidad en algoritmos paralelos, considerando procesadores de múltiples núcleos (potencialmente hete-rogéneos). ? Dependencia de la eficiencia respecto de las comunicaciones intra-cluster e in-ter-cluster. ? Procesamiento Paralelo sobre arquitec-turas Grid. Modelos paramétricos. Ser-vicios WEB distribuídos. Data Mining distribuido. ? Cloud computing. Análisis comparativo con cluster y grid computing.  ? Paralelización de Web Services.  ? Tolerancia a Fallos en sistemas multi-procesador distribuidos.   2.2- Investigación experimental  ? Desarrollo y prueba de un cluster de multicores (64 y 128 núcleos), inclu-yendo el estudio de las alternativas de lenguajes de programación y bibliotecas de comunicación/sincronización. ? Pruebas con el GRID configurado como “Cluster de Clusters” con  UNLP, UN-Sur, UNComahue, UN San Luis, UC-Madrid, UPValencia  y UABarcelona. ? Análisis de algoritmos no numéricos sobre esquemas de cluster de multicores y  multi-cluster. Migración de algorit-mos desarrollados para un cluster clási-co homogéneo.  ? Investigación de aplicaciones de simu-lación paramétrica, en particular de mo-delos medioambientales complejos.    3. FORMACION DE RECURSOS HUMANOS En cooperación con las Universidades miembros del proyecto CyTED “Tecnolo-gía Grid como motor de desarrollo regio-nal” se ha implementado una Especializa-ción en Cómputo de Altas Prestaciones y Tecnología Grid que se inició en 2007 en la UNLP con Profesores europeos y de las 4 Universidades argentinas vinculadas al pro-yecto. En 2009 se ha aprobado la Maestría en Cómputo de Altas Prestaciones.  En esta línea de I/D existe cooperación a nivel nacional e internacional. Hay 10 In-vestigadores realizando su Doctorado en Ciencias Informáticas. Asimismo hay 4 Te-sistas de Maestría y 4 de Especialista en curso, y 3  alumnos avanzados están traba-jando en su Tesina de Grado de Licenciatu-ra.                        620WICC 2010 - XII Workshop de Investigadores en Ciencias de la Computación  4. BIBLIOGRAFIA  1. Grama A, Gupta A, Karypis G, Kumar V. “In-troduction to parallel computing”. Second Edi-tion. Pearson Addison Wesley, 2003. 2. Jordan H, Alaghband G. “Fundamentals of paral-lel computing”. Prentice Hall, 2002. 3. Dongarra J, Foster I, Fox G, Gropp W, Kennedy K, Torczon L, White A. “The Sourcebook  of Pa-rallel Computing”. Morgan Kauffman Publish-ers. Elsevier Science, 2003. 4. Z. Juhasz (Editor), P. Kacsuk (Editor), D. Kranzlmuller (Editor). “Distributed and Parallel Systems: Cluster and Grid Computing” . Sprin-ger; 1 edition (September 21, 2004). 5. Di Stefano M. “Distributed data management for Grid Computing”. John Wiley & Sons Inc (29 Jul 2005). 6. Miller Michael Web Based applications that change the way you work online”. Que Publish-ing. USA 2009. 7. Mc. Cool Michael “Programming models for scalable multicore programming”. 2007.  http://www.hpcwire.com/features/17902939.html  8. Lei Chai, Qi Gao, Dhabaleswar K. Panda. “Un-derstanding the Impact of Multi-Core Architec-ture in Cluster Computing: A Case Study with Intel Dual-Core System”.  IEEE International Symp. on Cluster Computing and the Grid 2007 (CCGRID 2007), pp. 471-478 (May 2007).   9. Suresh Siddha, Venkatesh Pallipadi, Asit Mal-lick. “Process Scheduling Challenges in the Era of Multicore Processors”Intel Technology Jour-nal, Vol. 11, Issue 04, November 2007. 10. Marek Olszewski, Jason Ansel, Saman Amaras-inghe. “Kendo: Efficient Determistic Multi-threading in Software”. Architectural Support for Programming Languages and Operating Systems (ASPLOS ‘09) 11. L. De Giusti, “Mapping sobre Arquitecturas Heterogéneas”, Ph.D. thesis, Universidad Nacio-nal de La Plata, La Plata, Argentina, 2008.  12. AMD. “Evolución de la tecnología de múltiple núcleo”. http://multicore.amd.com/es-ES/AMD-Multi-Core/resources/Technology-Evolution (2009). 13. Foster I., Kesselman C., Kaufmann M. “The Grid 2: Blueprint for a New Computing Infrastruc-ture”. The Morgan Kaufmann Series in Com-puter Architecture and Design. 2 edition (No-vember 18, 2003). 14. M. L. Bertogna , “Planificación dinámica sobre entornos Grid”, Ph.D. thesis, Universidad Nacio-nal de La Plata, La Plata, Argentina, 2010.  15.    Grid Computing and Distributed Systems (GR-IDS)     Laboratory - Department of Computer Science and Software Engineering (University of Melbourne). “Cluster and Grid Computing”. 2007. http://www.cs.mu. oz.au/678/. 16. Berman F., Fox G., Hey A. “Grid Computing: Making The Global Infrastructure a Reality”. John Wiley & Sons (April 8, 2003). 17. The Globus Alliance: http://www.globus.org  18. Grid Computing Infocentre: http://www.grid computing.com/  19. Bertogna M., Grosclaude E., Naiouf M., De Giusti A., Luque E. “Dynamic on Demand Vir-tual Clusters in Grids” 3rd Workshop on Virtual-ization in High-Performance Cluster and Grid Computing. VHPC 08 – España. Agosto 2008.  20. J. C. Cunha, P. Kacsuk, S. Winter, “Parallel Pro-gram development for cluster computing: meth-odology, tools and integrated environments”. Nova Science Pub., New York, 2001. 21. Ghosh S. “Distributed System. An Algorithmic Approach”. Chapman & Hall/CRC Computer and Information Science Series. 22. T. W. Burger, “Intel Multi-Core Processors: Quick Reference Guide”, http://cachewww.intel. com/cd/00/ 00/23/19/231912_231912.pdf 23. Dikaikos M. et al. “Distributed InterNet Computing for IT and Scientific Research”  Internet Computing IEEE. Vol 13, Nro. 5, pp 10-13 24. Ardissono L., Goy A., Petrone G., Segnan M. “From Service Clouds to User-centric Personal Clouds” 2009 IEEE Second International Conference on Cloud Computing. 25. Song Y., Kalogeropulos S., Tirumalai P.  “De-sign and Implementation of a Compiler Frame-work for Helper Threading on Multi-core Proc-essors”  Proceedings of the 14th International Conference on Parallel Architectures and Compilation Tech-niques; Sept. 2005.  26. Shirako J. et al. “Compiler Control Power Saving Scheme for Multi Core Processors  LNCS Mayo 2007 – pp. 362-376                        621WICC 2010 - XII Workshop de Investigadores en Ciencias de la Computación

Arquitecturas multiprocesador distribuidas : Modelos, simulación, software de base y aplicaciones

SEDICI - Repositorio de la UNLP

Arquitecturas Multiprocesador Distribuidas. Modelos, 
Simulación, Software de Base y Aplicaciones. 
 
 
Armando  De Giusti, Fernando Tinetti, Marcelo Naiouf, Horacio Villagarcía, Oscar Bría, Franco Chichi-
zola, Laura De Giusti, Mónica Denham, Luciano Iglesias, Ismael Rodriguez, Diego Montezanti, Victoria 
Sanz, Fabiana Leibovich, Emmanuel Frati, José Pettorutti 
 
  
Instituto de Investigación en Informática LIDI (III-LIDI) 
 Facultad de Informática – UNLP 
{degiusti, ftinetti, mnaiouf,  hvw, onb, francoch, ldgiusti, mdenham, li, ismael, dmontezanti, vsanz, fleibovich, 
fefrati, josep}@lidi.info.unlp.edu.ar, 
 
 
 
CONTEXTO 
 
Esta línea de Investigación está dentro del 
proyecto “Arquitecturas Multiprocesador 
Distribuidas. Modelos, Software de Base y 
Aplicaciones” acreditado por el Ministerio 
de Educación y de proyectos específicos 
apoyados por organismos nacionales e in-
ternacionales. 
En el tema hay cooperación con varias  
Universidades de Argentina  y se está traba-
jando con Universidades iberoamericanas 
con apoyo de CyTED y AECID. 
Se participa en iniciativas como LAGrid y 
EELA2 y se tiene financiamiento de la 
Fundación YPF, de Telefónica de Argenti-
na e IBM. 
Por último a partir del año 2009,  los temas 
del proyecto están incluidos en el programa 
Pablo Neruda de intercambio de Profesores 
y Alumnos de Doctorado entre Universida-
des de América Latina y Europa. 
 
 
                       RESUMEN 
 
Caracterizar las arquitecturas multiprocesa-
dor distribuidas (Clusters, Multiclusters, 
Grids, Clouds), en particular las basadas en 
procesadores de múltiples núcleos (“multi-
cores”), con el objetivo de modelizarlas, es-
tudiar su escalabilidad, analizar y predecir 
perfomance de aplicaciones paralelas y es-
tudiar esquemas de tolerancia a fallas en las 
mismas. 
Desarrollar software de base para clusters 
de multicores, tratando de optimizar perfo-
mance de las arquitecturas, suponiendo di-
ferentes modelos de programación paralela 
y diferentes esquemas o paradigmas de re-
solución de aplicaciones. 
Es de hacer notar que este proyecto se co-
ordina con otros dos proyectos en curso en 
el III-LIDI y relacionados con Algoritmos 
Distribuidos/Paralelos y Sistemas de Soft-
ware Distribuido. 
 
Keywords: Sistemas Paralelos. Paradigmas 
de programación paralela. Multicores. 
Cluster, Multicluster, Grid y Cloud Compu-
ting. Modelos y predicción de performance. 
Scheduling. Virtualización. Aplicaciones.  
                   
 
1. INTRODUCCION
 
La investigación en Sistemas Distribuidos y 
Paralelos es una de las líneas de mayor de-
sarrollo en la Ciencia Informática actual 
[1][2]. En particular la utilización de arqui-
tecturas multiprocesador configuradas en 
clusters, multiclusters y grids y soportadas 
por redes de diferentes características y to-
pologías se ha generalizado, tanto para el 
desarrollo de algoritmos paralelos como pa-
ra el de servicios WEB distribuidos [3] 
[4][5]. En la misma línea están los desarro-
llos en cloud computing [6]. 
El cambio tecnológico, fundamentalmente a 
partir de los procesadores multicore, ha im-
                      617WICC 2010 - XII Workshop de Investigadores en Ciencias de la Computación
puesto la necesidad de investigar en mode-
los mixtos o híbridos, en los cuales coexis-
ten esquemas de memoria compartida con 
mensajes [7][8]. 
Es importante en este contexto investigar la 
modelización del comportamiento de esta 
clase de sistemas paralelos, así como des-
arrollar nuevos paradigmas y herramientas 
para la programación eficiente de aplica-
ciones. 
Por otra parte la heterogeneidad que carac-
teriza las redes y las arquitecturas Grid, se 
puede extender también a los procesadores 
multicore (buscando optimizar la funciona-
lidad de cada uno de los núcleos), lo que 
genera restricciones y desafíos para la mo-
delización y también para problemas clási-
cos como el scheduling y la optimización 
de los algoritmos [9]. Aquí reaparece el te-
ma del multithreading interno de los proce-
sadores y la posibilidad de su manejo desde 
la aplicación [10].  
Asimismo los problemas de virtualización 
crecen en complejidad al considerar siste-
mas paralelos con componentes multicore 
[11]. 
 
 
1.1 Definiciones básicas 
 
Un procesador multicore  surge a partir de 
integrar dos o más núcleos computacionales 
dentro de un mismo “chip” [12]. La moti-
vación de su desarrollo se basa en los pro-
blemas de consumo de energía y generación 
de calor que aparecen al escalar la veloci-
dad de un procesador. Un procesador multi-
core incrementa el rendimiento de una apli-
cación al dividir el  trabajo de cómputo en-
tre los núcleos disponibles [22]. 
Un cluster es un  sistema de procesamiento 
paralelo compuesto por un conjunto de 
computadoras interconectadas vía algún ti-
po de red, las cuales cooperan configurando 
un recurso que se ve como “único e inte-
grado”, más allá de la distribución física de 
sus componentes. Cada “procesador” puede 
tener diferente hardware y sistema operati-
vo, e incluso puede ser un “multiprocesa-
dor” [13]. Cuando se conectan dos o más 
clusters sobre una red tipo LAN o WAN, se 
tiene un multicluster [14]. La configuración 
más simple a considerar es la conexión de 
clusters homogéneos sobre una red LAN o 
WAN, utilizando un sistema operativo co-
mún [15]. 
Un Grid es un tipo de sistema distribuido  
que permite seleccionar, compartir e inte-
grar recursos autónomos geográficamente 
distribuidos [16]. Un Grid es una configu-
ración colaborativa que se puede adaptar 
dinámicamente según lo requerido por el 
usuario, la disponibilidad y potencia de 
cómputo de los recursos conectados. El 
Grid puede verse como un “entorno de pro-
cesamiento virtual”, donde el usuario tiene 
la visión de un sistema de procesamiento 
“único” y en realidad trabaja con recursos 
dispersos geográficamente [17][18]. 
Algunos autores consideran que un Grid es 
un “Cluster de Clusters”, lo que resulta una 
definición algo restrictiva pero útil para el 
desarrollo de un proyecto relacionado con 
Sistemas Paralelos que migren  aplicaciones 
paralelas de Clusters a Grid. 
Las arquitecturas de Cloud se basan en la 
idea (especialmente de los fabricantes de 
grandes servidores) de concentrar los recur-
sos de alta perfomance, de modo de poner 
los mismos al alcance de miles de usuarios 
distribuidos que trabajan en paralelo contra 
servidores distribuidos [23][24]. 
 
 
1.2 Aspectos de interés 
 
? En un cluster normalmente se configura 
una única máquina paralela virtual que 
puede estar ejecutando una aplicación 
dedicada. Un Grid permite configurar 
múltiples máquinas paralelas virtuales 
para varios usuarios/aplicaciones simul-
táneas. Sin embargo, este concepto de 
virtualización se está extendiendo a clus-
ters (incluso a multicores) al aumentar el 
número de núcleos involucrados [19]. 
? Tanto clusters como Grids se basan en 
procesadores heterogéneos. Sin embargo 
en Grid esta heterogeneidad se extiende 
a la red de comunicaciones y al tipo de 
componentes en cada nodo que pueden 
                      618WICC 2010 - XII Workshop de Investigadores en Ciencias de la Computación
ser procesadores (mono o multi core), 
instrumentos, sensores, etc. La heteroge-
neidad aparece reforzada al considerar el 
caso de procesadores multicore que son 
internamente heterogéneos. 
? El middleware necesario para Grid es 
más complejo que el de los clusters. 
Fundamentalmente, para configurar la 
máquina paralela virtual es necesario una 
etapa de identificación de recursos físi-
cos y su ubicación, así como la caracte-
rización de los procesos usuarios por 
prioridades. Estos problemas básicos pa-
ra el scheduling se están extendiendo a 
clusters y multicores. 
? Las herramientas para el desarrollo de 
aplicaciones requieren un mayor nivel de 
abstracción en Grid, por la complejidad 
y variedad de los múltiples usuarios que 
pueden utilizar la arquitectura [20]. 
? La definición de los paradigmas de pro-
gramación paralela y de los compilado-
res de lenguajes para sistemas paralelos 
está fuertemente impactada por el desa-
rrollo de los multicores: el tema de la op-
timización de los recursos a nivel proce-
sador se vuelve esencial, más allá que la 
aplicación sea de muy alto nivel (tipo 
transacción WEB contra un servidor 
multicore). 
Es interesante notar que una estructura de 
multicluster, visualizada como un número 
limitado de clusters dedicados que coope-
ran en una única aplicación paralela, es un 
punto intermedio entre clusters y Grid y re-
quiere algunos servicios especiales en su 
middleware.  
Este tipo de configuración es considerada 
para las aplicaciones a investigar desde las 
Universidades que cooperan en esta línea de 
I/D. 
Más aún cuando cada uno de los clusters 
puede estar formado por computadoras 
multicore, homogéneas o heterogéneas. 
 
1.3  Sistemas Paralelos sobre arquitectu-
ras distribuidas 
 
El desarrollo de sistemas paralelos sobre 
arquitecturas distribuidas (normalmente dé-
bilmente acopladas y comunicadas por una 
red heterogénea) presenta algunos  desafíos, 
entre los que pueden mencionarse: 
? La heterogeneidad de las comunicacio-
nes y su tiempo de respuesta variable se-
gún los nodos a conectar dificulta la 
asignación óptima de tareas a procesado-
res y el balance dinámico de la carga. 
? La incorporación de procesadores con 
diferente potencia y velocidad, que pue-
den ser multiprocesadores con memoria 
compartida, hace difícil el balance de 
carga y muy crítica la localidad de datos 
y/o procesos. 
? Los modelos para predicción de perfor-
mance son complejos y agregan incerti-
dumbre si existen conexiones no dedica-
das. 
? La granularidad óptima a emplear de-
pende de la relación entre potencia de 
cómputo local y remota.  
? El modelo cliente-servidor (paradigma 
muy empleado en algoritmos paralelos 
sobre clusters) se torna ineficiente al in-
crementar el número de nodos. Esto re-
quiere la reformulación de algoritmos 
que ejecutan sobre clusters y grids. En 
particular el paradigma “peer to peer” 
resulta atractivo para investigar, así co-
mo esquemas mixtos dentro del mismo 
sistema paralelo [21]. 
? Las herramientas de software más gene-
ralizadas en clusters están evolucionando 
para ser utilizables en multicluster y 
Grid ya que  tienen restricciones al tratar 
de emplearlas en topologías que conec-
tan diferentes redes. 
? A su vez, a nivel de procesadores multi 
núcleo es necesario replantear los temas 
de scheduling, migración de procesos, 
comunicaciones sincrónicas/asincrónicas 
y desarrollo de lenguajes y compiladores 
que exploten la arquitectura [25][26]. 
  
 
 2. LINEAS DE INVESTIGACION y 
DESARROLLO 
                      619WICC 2010 - XII Workshop de Investigadores en Ciencias de la Computación
 
2.1  Temas de Estudio e Investigación 
 
? Arquitectura de procesadores multicore. 
Software de base. Multhreading sobre 
multicore. 
? Modelos de predicción de performance 
para arquitecturas “híbridas”. Aplica-
ción a clusters de multicores. 
? Simulación de arquitecturas. 
? Paradigmas y Lenguajes de programa-
ción paralela orientados a arquitecturas 
distribuidas débilmente acopladas.  
? Arquitecturas de cluster y multicluster. 
Arquitecturas de multicluster dedicados. 
Caracterización de las comunicaciones. 
Relojes distribuidos. 
? Tecnología GRID. Middleware de 
GRID. Migración dinámica de proce-
sos. Optimización de rendimiento en 
GRID. 
? Impacto de la heterogeneidad de los 
procesadores en el rendimiento de mul-
ticores,  clusters, multiclusters y GRID. 
Predicción de performance consideran-
do la heterogeneidad de procesadores y 
comunicaciones. 
? Técnicas de mapeo para arquitecturas 
de cluster y multicluster con multicores. 
? Técnicas de virtualización en arquitec-
turas de cluster y grid con multicores. 
? Escalabilidad de algoritmos paralelos en 
arquitecturas distribuidas, considerando 
procesadores de múltiples núcleos. 
? Métricas de eficiencia en algoritmos pa-
ralelos sobre multicores, clusters y mul-
ticlusters. 
? Análisis de complejidad en algoritmos 
paralelos, considerando procesadores de 
múltiples núcleos (potencialmente hete-
rogéneos). 
? Dependencia de la eficiencia respecto 
de las comunicaciones intra-cluster e in-
ter-cluster. 
? Procesamiento Paralelo sobre arquitec-
turas Grid. Modelos paramétricos. Ser-
vicios WEB distribuídos. Data Mining 
distribuido. 
? Cloud computing. Análisis comparativo 
con cluster y grid computing.  
? Paralelización de Web Services.  
? Tolerancia a Fallos en sistemas multi-
procesador distribuidos. 
 
 
2.2- Investigación experimental 
 
? Desarrollo y prueba de un cluster de 
multicores (64 y 128 núcleos), inclu-
yendo el estudio de las alternativas de 
lenguajes de programación y bibliotecas 
de comunicación/sincronización. 
? Pruebas con el GRID configurado como 
“Cluster de Clusters” con  UNLP, UN-
Sur, UNComahue, UN San Luis, UC-
Madrid, UPValencia  y UABarcelona. 
? Análisis de algoritmos no numéricos 
sobre esquemas de cluster de multicores 
y  multi-cluster. Migración de algorit-
mos desarrollados para un cluster clási-
co homogéneo.  
? Investigación de aplicaciones de simu-
lación paramétrica, en particular de mo-
delos medioambientales complejos. 
 
 
 
3. FORMACION DE RECURSOS 
HUMANOS
 
En cooperación con las Universidades 
miembros del proyecto CyTED “Tecnolo-
gía Grid como motor de desarrollo regio-
nal” se ha implementado una Especializa-
ción en Cómputo de Altas Prestaciones y 
Tecnología Grid que se inició en 2007 en la 
UNLP con Profesores europeos y de las 4 
Universidades argentinas vinculadas al pro-
yecto. En 2009 se ha aprobado la Maestría 
en Cómputo de Altas Prestaciones. 
 
En esta línea de I/D existe cooperación a 
nivel nacional e internacional. Hay 10 In-
vestigadores realizando su Doctorado en 
Ciencias Informáticas. Asimismo hay 4 Te-
sistas de Maestría y 4 de Especialista en 
curso, y 3  alumnos avanzados están traba-
jando en su Tesina de Grado de Licenciatu-
ra. 
 
                      620WICC 2010 - XII Workshop de Investigadores en Ciencias de la Computación
 
 
4. BIBLIOGRAFIA 
 
1. Grama A, Gupta A, Karypis G, Kumar V. “In-
troduction to parallel computing”. Second Edi-
tion. Pearson Addison Wesley, 2003. 
2. Jordan H, Alaghband G. “Fundamentals of paral-
lel computing”. Prentice Hall, 2002. 
3. Dongarra J, Foster I, Fox G, Gropp W, Kennedy 
K, Torczon L, White A. “The Sourcebook  of Pa-
rallel Computing”. Morgan Kauffman Publish-
ers. Elsevier Science, 2003. 
4. Z. Juhasz (Editor), P. Kacsuk (Editor), D. 
Kranzlmuller (Editor). “Distributed and Parallel 
Systems: Cluster and Grid Computing” . Sprin-
ger; 1 edition (September 21, 2004). 
5. Di Stefano M. “Distributed data management for 
Grid Computing”. John Wiley & Sons Inc (29 
Jul 2005). 
6. Miller Michael Web Based applications that 
change the way you work online”. Que Publish-
ing. USA 2009. 
7. Mc. Cool Michael “Programming models for 
scalable multicore programming”. 2007.  
http://www.hpcwire.com/features/17902939.html  
8. Lei Chai, Qi Gao, Dhabaleswar K. Panda. “Un-
derstanding the Impact of Multi-Core Architec-
ture in Cluster Computing: A Case Study with 
Intel Dual-Core System”.  IEEE International 
Symp. on Cluster Computing and the Grid 2007 
(CCGRID 2007), pp. 471-478 (May 2007).   
9. Suresh Siddha, Venkatesh Pallipadi, Asit Mal-
lick. “Process Scheduling Challenges in the Era 
of Multicore Processors”Intel Technology Jour-
nal, Vol. 11, Issue 04, November 2007. 
10. Marek Olszewski, Jason Ansel, Saman Amaras-
inghe. “Kendo: Efficient Determistic Multi-
threading in Software”. Architectural Support for 
Programming Languages and Operating Systems 
(ASPLOS ‘09) 
11. L. De Giusti, “Mapping sobre Arquitecturas 
Heterogéneas”, Ph.D. thesis, Universidad Nacio-
nal de La Plata, La Plata, Argentina, 2008.  
12. AMD. “Evolución de la tecnología de múltiple 
núcleo”. http://multicore.amd.com/es-ES/AMD-
Multi-Core/resources/Technology-Evolution 
(2009). 
13. Foster I., Kesselman C., Kaufmann M. “The Grid 
2: Blueprint for a New Computing Infrastruc-
ture”. The Morgan Kaufmann Series in Com-
puter Architecture and Design. 2 edition (No-
vember 18, 2003). 
14. M. L. Bertogna , “Planificación dinámica sobre 
entornos Grid”, Ph.D. thesis, Universidad Nacio-
nal de La Plata, La Plata, Argentina, 2010.  
15.    Grid Computing and Distributed Systems (GR-
IDS)     Laboratory - Department of Computer 
Science and Software Engineering (University of 
Melbourne). “Cluster and Grid Computing”. 
2007. http://www.cs.mu. oz.au/678/. 
16. Berman F., Fox G., Hey A. “Grid Computing: 
Making The Global Infrastructure a Reality”. 
John Wiley & Sons (April 8, 2003). 
17. The Globus Alliance: http://www.globus.org  
18. Grid Computing Infocentre: http://www.grid 
computing.com/  
19. Bertogna M., Grosclaude E., Naiouf M., De 
Giusti A., Luque E. “Dynamic on Demand Vir-
tual Clusters in Grids” 3rd Workshop on Virtual-
ization in High-Performance Cluster and Grid 
Computing. VHPC 08 – España. Agosto 2008.  
20. J. C. Cunha, P. Kacsuk, S. Winter, “Parallel Pro-
gram development for cluster computing: meth-
odology, tools and integrated environments”. 
Nova Science Pub., New York, 2001. 
21. Ghosh S. “Distributed System. An Algorithmic 
Approach”. Chapman & Hall/CRC Computer 
and Information Science Series. 
22. T. W. Burger, “Intel Multi-Core Processors: 
Quick Reference Guide”, http://cachewww.intel. 
com/cd/00/ 00/23/19/231912_231912.pdf 
23. Dikaikos M. et al. “Distributed InterNet 
Computing for IT and Scientific Research”  
Internet Computing IEEE. Vol 13, Nro. 5, pp 10-
13 
24. Ardissono L., Goy A., Petrone G., Segnan M. 
“From Service Clouds to User-centric Personal 
Clouds” 2009 IEEE Second International 
Conference on Cloud Computing. 
25. Song Y., Kalogeropulos S., Tirumalai P.  “De-
sign and Implementation of a Compiler Frame-
work for Helper Threading on Multi-core Proc-
essors”  
Proceedings of the 14th International Conference 
on Parallel Architectures and Compilation Tech-
niques; Sept. 2005.  
26. Shirako J. et al. “Compiler Control Power Saving 
Scheme for Multi Core Processors  LNCS Mayo 
2007 – pp. 362-376 
 
                      621WICC 2010 - XII Workshop de Investigadores en Ciencias de la Computación


Spanish

http://sedici.unlp.edu.ar/bitstream/handle/10915/19593/Documento_completo.pdf?sequence=1

Arquitecturas multiprocesador distribuidas : Modelos, simulación, software de base y aplicaciones

Abstract

Similar works

Full text

Available Versions

Servicio de Difusión de la Creación Intelectual

SEDICI - Repositorio de la UNLP