CoCoPeLia: Communication-Computation Overlap Prediction for Efficient Linear Algebra on GPUs

Graphics Processing Units (GPUs) are well established in HPC systems and frequently used to accelerate linear algebra routines. Since data transfers pose a severe bottleneck for GPU offloading, modern GPUs provide the ability to overlap communication with computation by splitting the problem to fine-grained sub-kernels that are executed in a pipelined manner. This optimization is currently underutilized by GPU BLAS libraries, since it requires an approach to select an efficient tiling size, which in turn leads to a challenging problem that needs to consider routine, system, data, and problem-specific characteristics. In this work, we introduce an elaborate 3-way concurrency model for GPU BLAS offload time that considers previously neglected features regarding data access and machine behavior. We then incorporate our model in an automated, end-to-end framework (called CoCoPeLia) that supports overlap prediction, tile selection and effective tile scheduling. We validate our model's efficacy for dgemm, sgemm, and daxpy on two testbeds, with our experimental results showing that it achieves significantly lower prediction error than previous models and provides near-optimal tiling sizes for all problems. We also demonstrate that CoCoPeLia leads to considerable performance improvements compared to the state of the art BLAS routine implementations for GPUs

PARALiA: a performance aware runtime for auto-tuning linear algebra on heterogeneous systems

Dense linear algebra operations appear very frequently in high-performance computing (HPC) applications, rendering their performance crucial to achieve optimal scalability. As many modern HPC clusters contain multi-GPU nodes, BLAS operations are frequently offloaded on GPUs, necessitating the use of optimized libraries to ensure good performance. Unfortunately, multi-GPU systems are accompanied by two significant optimization challenges: data transfer bottlenecks as well as problem splitting and scheduling in multiple workers (GPUs) with distinct memories. We demonstrate that the current multi-GPU BLAS methods for tackling these challenges target very specific problem and data characteristics, resulting in serious performance degradation for any slightly deviating workload. Additionally, an even more critical decision is omitted because it cannot be addressed using current scheduler-based approaches: the determination of which devices should be used for a certain routine invocation. To address these issues we propose a model-based approach: using performance estimation to provide problem-specific autotuning during runtime. We integrate this autotuning into an end-to-end BLAS framework named PARALiA. This framework couples autotuning with an optimized task scheduler, leading to near-optimal data distribution and performance-aware resource utilization. We evaluate PARALiA in an HPC testbed with 8 NVIDIA-V100 GPUs, improving the average performance of GEMM by 1.7× and energy efficiency by 2.5× over the state-of-the-art in a large and diverse dataset and demonstrating the adaptability of our performance-aware approach to future heterogeneous systems

Η διδασκαλία στην τριτοβάθμια εκπαίδευση: αναστοχαστική και βιωματική προσέγγιση της Πανεπιστημιακής Παιδαγωγικής : [Teaching in tertiary education: reflective and experiential approach of University Pedagogy]

This paper presents the round table speeches and discussions on the theme "University Pedagogy: Thoughts, Proposals, Reflections", at the 2nd International Workshop on Applied Didactics: "Teaching Trends and Challenges in Contemporary Learning Environments". In order to achieve the active and experiential engagement of all participants, a process inspired by The Science Café movement has been applied. Participants were invited to send short comments and questions regarding the issue of University Pedagogy/Teaching and learning in Higher Education. These comments were collected, categorized and discussed immediately after the predetermined speeches, which are presented extensively herein with the following titles: "University Pedagogy: Tracing Teaching in Higher Education", "University Pedagogy in Practice: An Epistemological and Didactical Approach" and "University Pedagogy in Greece: findings of empirical research". The participants then participated in an open discussion based on the questions they had asked before, but also after the prepared lectures. The review of all the contributions during the conversation and the submitted proposals conclude that University Pedagogy can be a powerful means of enhancing the quality of Greek Higher Education, provided that: a) university institutions invest in the continuous improvement of the teaching skills of their staff, and (b) university professors have incentives and the readiness to engage in teaching and learning based on a scientific ground and well-tried methods.Στο κείμενο αυτό παρουσιάζονται τα πεπραγμένα της στρογγυλής τράπεζας με θέμα «Πανεπιστημιακή Παιδαγωγική: Σκέψεις, Προτάσεις, Αναστοχασμοί» από τους τρεις εισηγητές και τον συντονιστή της, η οποία πραγματοποιήθηκε στο πλαίσιο του 2ου Διεθνούς Βιωματικού Συνεδρίου Εφαρμοσμένης Διδακτικής: «Διδακτικές Τάσεις και Προκλήσεις στα Σύγχρονα Περιβάλλοντα Μάθησης». Προκειμένου να επιτευχθεί ενεργητική-βιωματική εμπλοκή όλων των συμμετεχόντων, ακολουθήθηκε διαδικασία που έχει στοιχεία ενός Inverse Science Cafe. Οι συμμετέχοντες είχαν κληθεί να στείλουν από πριν σύντομα σχόλια και ερωτήματα για το θέμα της Πανεπιστημιακής Παιδαγωγικής. Τα σχόλια αυτά συνελέγησαν, κατηγοριοποιήθηκαν και συζητήθηκαν αμέσως μετά από τις προβλεπόμενες εισηγήσεις, οι οποίες παρουσιάζονται λεπτομερέστερα στο παρόν κείμενο με τους ακόλουθους τίτλους: «Πανεπιστημιακή Παιδαγωγική: Ιχνηλατώντας τη διδασκαλία στην τριτοβάθμια εκπαίδευση», «Η Πανεπιστημιακή Παιδαγωγική στην πράξη: επιστημολογική και διδακτική προσέγγιση» και «H Πανεπιστημιακή Παιδαγωγική στην Ελλάδα: ευρήματα εμπειρικών ερευνών». Στη συνέχεια, οι σύνεδροι συμμετείχαν σε ανοιχτή συζήτηση γύρω από τα ερωτήματα που είχαν θέσει πριν, αλλά και μετά τις εισηγήσεις των ομιλητών. Η συγκέντρωση και ανασκόπηση όλων των σκέψεων και προτάσεων που κατατέθηκαν συγκλίνουν στο συμπέρασμα ότι η Πανεπιστημιακή Παιδαγωγική μπορεί να αποτελέσει ένα ισχυρό μέσο αναβάθμισης της Ελληνικής Τριτοβάθμιας Εκπαίδευσης, με την προϋπόθεση ότι: α) τα πανεπιστημιακά ιδρύματα επενδύουν στην συνεχή βελτίωση των παιδαγωγικών προσόντων τού προσωπικού τους, και β) οι πανεπιστημιακοί καθηγητές έχουν τη βούληση και τα απαραίτητα κίνητρα να ασχοληθούν με τη διδασκαλία και τη μάθηση βασίζοντας τις επιλογές τους σε επιστημονικά δεδομένα και στην καταξιωμένη εκπαιδευτική εμπειρία

Η διδασκαλία στην τριτοβάθμια εκπαίδευση: αναστοχαστική και βιωματική προσέγγιση της Πανεπιστημιακής Παιδαγωγικής : [Teaching in tertiary education: reflective and experiential approach of University Pedagogy]

This paper presents the round table speeches and discussions on the theme "University Pedagogy: Thoughts, Proposals, Reflections", at the 2nd International Workshop on Applied Didactics: "Teaching Trends and Challenges in Contemporary Learning Environments". In order to achieve the active and experiential engagement of all participants, a process inspired by The Science Café movement has been applied. Participants were invited to send short comments and questions regarding the issue of University Pedagogy/Teaching and learning in Higher Education. These comments were collected, categorized and discussed immediately after the predetermined speeches, which are presented extensively herein with the following titles: "University Pedagogy: Tracing Teaching in Higher Education", "University Pedagogy in Practice: An Epistemological and Didactical Approach" and "University Pedagogy in Greece: findings of empirical research". The participants then participated in an open discussion based on the questions they had asked before, but also after the prepared lectures. The review of all the contributions during the conversation and the submitted proposals conclude that University Pedagogy can be a powerful means of enhancing the quality of Greek Higher Education, provided that: a) university institutions invest in the continuous improvement of the teaching skills of their staff, and (b) university professors have incentives and the readiness to engage in teaching and learning based on a scientific ground and well-tried methods.Στο κείμενο αυτό παρουσιάζονται τα πεπραγμένα της στρογγυλής τράπεζας με θέμα «Πανεπιστημιακή Παιδαγωγική: Σκέψεις, Προτάσεις, Αναστοχασμοί» από τους τρεις εισηγητές και τον συντονιστή της, η οποία πραγματοποιήθηκε στο πλαίσιο του 2ου Διεθνούς Βιωματικού Συνεδρίου Εφαρμοσμένης Διδακτικής: «Διδακτικές Τάσεις και Προκλήσεις στα Σύγχρονα Περιβάλλοντα Μάθησης». Προκειμένου να επιτευχθεί ενεργητική-βιωματική εμπλοκή όλων των συμμετεχόντων, ακολουθήθηκε διαδικασία που έχει στοιχεία ενός Inverse Science Cafe. Οι συμμετέχοντες είχαν κληθεί να στείλουν από πριν σύντομα σχόλια και ερωτήματα για το θέμα της Πανεπιστημιακής Παιδαγωγικής. Τα σχόλια αυτά συνελέγησαν, κατηγοριοποιήθηκαν και συζητήθηκαν αμέσως μετά από τις προβλεπόμενες εισηγήσεις, οι οποίες παρουσιάζονται λεπτομερέστερα στο παρόν κείμενο με τους ακόλουθους τίτλους: «Πανεπιστημιακή Παιδαγωγική: Ιχνηλατώντας τη διδασκαλία στην τριτοβάθμια εκπαίδευση», «Η Πανεπιστημιακή Παιδαγωγική στην πράξη: επιστημολογική και διδακτική προσέγγιση» και «H Πανεπιστημιακή Παιδαγωγική στην Ελλάδα: ευρήματα εμπειρικών ερευνών». Στη συνέχεια, οι σύνεδροι συμμετείχαν σε ανοιχτή συζήτηση γύρω από τα ερωτήματα που είχαν θέσει πριν, αλλά και μετά τις εισηγήσεις των ομιλητών. Η συγκέντρωση και ανασκόπηση όλων των σκέψεων και προτάσεων που κατατέθηκαν συγκλίνουν στο συμπέρασμα ότι η Πανεπιστημιακή Παιδαγωγική μπορεί να αποτελέσει ένα ισχυρό μέσο αναβάθμισης της Ελληνικής Τριτοβάθμιας Εκπαίδευσης, με την προϋπόθεση ότι: α) τα πανεπιστημιακά ιδρύματα επενδύουν στην συνεχή βελτίωση των παιδαγωγικών προσόντων τού προσωπικού τους, και β) οι πανεπιστημιακοί καθηγητές έχουν τη βούληση και τα απαραίτητα κίνητρα να ασχοληθούν με τη διδασκαλία και τη μάθηση βασίζοντας τις επιλογές τους σε επιστημονικά δεδομένα και στην καταξιωμένη εκπαιδευτική εμπειρία

Feature-based SpMV Performance Analysis on Contemporary Devices

The SpMV kernel is characterized by high performance variation per input matrix and computing platform. While GPUs were considered State-of-the-Art for SpMV, with the emergence of advanced multicore CPUs and low-power FPGA accelerators, we need to revisit its performance and energy efficiency. This paper provides a high-level SpMV performance analysis based on structural features of matrices related to common bottlenecks of memory-bandwidth intensity, low ILP, load imbalance and memory latency overheads. Towards this, we create a wide artificial matrix dataset that spans these features and study the performance of different storage formats in nine modern HPC platforms; five CPUs, three GPUs and an FPGA. After validating our proposed methodology using real-world matrices, we analyze our extensive experimental results and draw key insights on the competitiveness of different target architectures for SpMV and the impact of each feature/bottleneck on its performance

Large-Scale Parallelization of Human Migration Simulation

Forced displacement of people worldwide, for example, due to violent conflicts, is common in the modern world, and today more than 82 million people are forcibly displaced. This puts the problem of migration at the forefront of the most important problems of humanity. The Flee simulation code is an agent-based modeling tool that can forecast population displacements in civil war settings, but performing accurate simulations requires nonnegligible computational capacity. In this article, we present our approach to Flee parallelization for fast execution on multicore platforms, as well as discuss the computational complexity of the algorithm and its implementation. We benchmark parallelized code using supercomputers equipped with AMD EPYC Rome 7742 and Intel Xeon Platinum 8268 processors and investigate its performance across a range of alternative rule sets, different refinements in the spatial representation, and various numbers of agents representing displaced persons. We find that Flee scales excellently to up to 8192 cores for large cases, although very detailed location graphs can impose a large initialization time overhead

MINOTAURUS: A distributed multimedia tourism information system

Summarization: The rapidly expanding technology of mobile computers, wireless data networks, vehicle navigation, multimedia and database systems has caused the development of powerful mobile information systems. These systems, consisting of a portable computer (Laptop, PDA), have large storage capacities, capabilities of wireless connection to a worldwide information network and provide to their users many functionalities like access to WWW, shopping, banking, reservations and other transactions. This paper presents such a mobile system named Minotaurus which combines the above technologies to achieve the development of a mobile, multimedia tourist information system.Presented on