Managing OpenCL Services using Docker Containers

Σημερα, η χρηση server farms για εκτελεση virtualized εφαρμογων ειναι σε ανθηση. Ο καθενας μπορει να νοικιασει ενα instance σε ενα server farm, με περισσοτερους πορους απο τον προσωπικο τους υπολογιστη, για παραδειγμα, μεγαλυτερο ευρος ζωνης για να υποστηριξει τη φιλοξενια ενος δικτυακου τοπου. Μηχανικοι, επιστημονες και οι σχεδιαστες μπορουν να εκμεταλλευτουν τετοια instances για πιο αποδοτικη εκτελεση CPU-intensive η GPU-intensive εφαρμογων. Η ευρεια χρηση καρτων γραφικων βοηθα αρκετα, αξιοποιωντας το framework OpenCL, που επιτρεπει το compilation και την εκτελεση προγραμματων σε ετερογενες υλισμικο, αποτελουμενο απο CPU, GPU, FPGA και αλλο specialized hardware. Η χρηση του Docker μπορει να διευκολυνει τη μεταβαση της εκτελεσης εφαρμογων απο προσωπικο υπολογιστη σε server farm. Επομενως, η δυνατοτητα εκτελεσης OpenCL μεσα σε Docker containers που τρεχουν σε GPU-equipped server farms θα προσφερει αναμφιβολα ενα σημαντικο πλεονεκτημα για ενα ευρυ φασμα πελατων. Ενα βασικο εμποδιο στη διευκολυνση αυτη, ειναι οτι η καθε εταιρια παραγωγης καρτων γραφικων προσφερει το δικο της OpenCL implementation. Στην εργασια αυτη, προτεινουμε μια προσεγγιση που μπορει να υποστηριξει GPU-accelerated OpenCL computing μεσα σε Docker containers που χρησιμοποιουνται απο τους πελατες ενος server farm. Ο βασικος στοχος ειναι να επιτρεψουμε στους πελατες να χρησιμοποιουν OpenCL σε Docker containers. Προσφερουμε ενα εργαλειο διαχειρισης που ενας διαχειριστης server farm μπορει να χρησιμοποιησει, για αποτελεσματικο προγραμματισμο και καταγραφη των GPU- enabled containers. Χρησιμοποιωντας την προταση μας, ο διαχειριστης μπορει να ρυθμισει την καρτα γραφικων και το OpenCL implementation μια φορα, και στη συνεχεια να διευκολυνθει η χρηση containers για εφαρμογες που απαιτουν GPU για την αποτελεσματικη εκτελεση τους. Οι πελατες θα ειναι σε θεση να τρεξουν τα containers τους, χωρις ειδικες απαιτησεις στον προγραμματισμο τους και χωρις την εγκατασταση drivers και OpenCL implementations.Despite the proliferation of general-purpose computing facilities in the form of server farms running on virtualized infrastructures, engineers and designers often find themselves at disadvantage when it comes to efficiently executing their CPU-intensive or renderings tasks. The wide-spread use of GPUs does offer help especially under the OpenCL framework that allows for the synthesis of programs able to run on heterogeneous platforms consisting of CPUs, GPUs, FPGAs and other specialized hardware. The use of Docker can certainly ease the transition of running jobs from a local machine to available clusters. Therefore, enabling OpenCL in Docker containers that can run on GPU-equipped server farms would undoubtedly offer a significant advantage for a wide range of clients. One key problem with setting up OpenCL in such an environment is that individual GPU/hardware makers provide their own implementation. In this paper, we propose an approach that can safely support GPU- accelerated OpenCL computing inside the Docker containers used by clients. The overall objective is to enable clients transparently use OpenCL in their Docker containers. We offer a management tool that a server operator can use to effectively schedule and log the GPU-enabled containers. Using our proposal, the operator can setup the GPU and OpenCL implementations once and is subsequently capable of facilitating service to jobs requiring GPU-computing. Clients will be able to run their containers without imposing for specific scheduling requirements and without worrying about installing OpenCL implementation drivers