Free space intra-datacenter interconnects based on 2D optical beam steering enabled by photonic integrated circuits

Data centers are continuously growing in scale and can contain more than one million servers spreading across thousands of racks; requiring a large-scale switching network to provide broadband and reconfigurable interconnections of low latency. Traditional data center network architectures, through the use of electrical packet switches in a multi-tier topology, has fundamental weaknesses such as oversubscription and cabling complexity. Wireless intra-data center interconnection solutions have been proposed to deal with the cabling problem and can simultaneously address the over-provisioning problem by offering efficient topology re-configurability. In this work we introduce a novel free space optical interconnect solution for intra-data center networks that utilizes 2D optical beam steering for the transmitter, and high bandwidth wide-area photodiode arrays for the receiver. This new breed of free space optical interconnects can be developed on a photonic integrated circuit; offering ns switching at sub-µW consumption. The proposed interconnects together with a networking architecture that is suitable for utilizing those devices could support next generation intra-data center networks, fulfilling the requirements of seamless operation, high connectivity, and agility in terms of the reconfiguration time.Peer ReviewedPostprint (published version

Παραμετρική μελέτη υποστρώματος ανιχνευτικών διατάξεων γερμανίου με χρήση τεχνικών προσομοίωσης Monte Carlo

262 σ.Εθνικό Μετσόβιο Πολυτεχνείο--Μεταπτυχιακή Εργασία. Διεπιστημονικό-Διατμηματικό Πρόγραμμα Μεταπτυχιακών Σπουδών (Δ.Π.Μ.Σ.) “Φυσική και Τεχνολογικές Εφαρμογές”Η παρούσα Μεταπτυχιακή Εργασία (ME) διενεργήθηκε στα πλαίσια του Διατμηματικού Προγράμματος Μεταπτυχιακών Σπουδών (ΔΠΜΣ) “Φυσική και Τεχνολογικές Εφαρμογές” του Εθνικού Μετσοβίου Πολυτεχνείου (ΕΜΠ). Σκοπός της παρούσας ΜΕ ήταν η καλύτερη κατανόηση των μηχανισμών που συντελούν στην παραγωγή του φάσματος σε μία γ-φασματοσκοπική διάταξη. Η κατανόηση αυτών των μηχανισμών θα μπορούσε να οδηγήσει στη λήψη μέτρων για τη βελτίωση των συνθηκών συλλογής του φάσματος, που θα επέτρεπαν την καλύτερη αξιοποίησή του. Ειδικότερα, αντικείμενο της ΜΕ ήταν η παραμετρική μελέτη του υποστρώματος ανιχνευτικών διατάξεων Γερμανίου, με χρήση τεχνικών προσομοίωσης Monte Carlo. Η ΜΕ εστιάζει στο υπόστρωμα της ανιχνευτικής διάταξης που προέρχεται από την ακτινοβολία που εκπέμπεται από το ίδιο το αναλυόμενο δείγμα. Συγκεκριμένα, εξετάζεται η συνεισφορά στη δημιουργία αυτού του υποστρώματος των διαφόρων συνιστωσών της διάταξης. Η γνώση αυτή είναι δυνατό να βοηθήσει στη μείωση του υποστρώματος, με χρήση απλών λύσεων, όπως π.χ. φίλτρων κλπ. Καθώς το δείγμα το οποίο αναλύεται είναι πιθανόν να εκπέμπει τόσο φωτονιακή ακτινοβολία, όσο και ακτινοβολία-β, στα πλαίσια της ΜΕ εξετάσθηκε η συνεισφορά και των δύο ειδών ακτινοβολίας στη δημιουργία του συνεχούς υποστρώματος, είτε λόγω σκέδασης των φωτονίων, είτε λόγω πέδησης των σωματιδίων-β. Η μελέτη που έγινε αφορά σε πραγματικό ανιχνευτή και συγκεκριμένα στο ανιχνευτικό σύστημα XtRa (eXtended Range Germanium detector) του Εργαστηρίου Πυρηνικής Τεχνολογίας του ΕΜΠ (ΕΠΤ-ΕΜΠ). Ο κώδικας προσομοίωσης που χρησιμοποιήθηκε είναι ο κώδικας PENELOPE που προσομοιώνει τις αλληλεπιδράσεις φωτονίων και σωματιδίων-β με την ύλη. Όσον αφορά στις πηγές που προσομοιώθηκαν, επιλέχθηκε μία σειρά από πηγές 40Κ με διαφορετικές γεωμετρίες. Το ισότοπο 40Κ επελέγη διότι, αφενός μεν πρόκειται για ένα ισότοπο που εκπέμπει μόνο ένα φωτόνιο αρκετά υψηλής ενέργειας καθώς και σωματίδια-β με αρκετά υψηλή μέση ενέργεια, και αφετέρου διότι το 40Κ απαντάται πρακτικά σε όλα τα περιβαλλοντικά δείγματα.This Thesis was conducted under the Postgraduate Program "Physics and Technological Applications" of the National Technical University of Athens (NTUA). The purpose of the Thesis was to contribute to the better understanding of the mechanisms of gamma spectrum production in a gamma ray detector. Understanding these mechanisms could lead to measures for improving the spectrum collection, which would allow for the detector’s better utilization. The Thesis was focused on the parametric study of the Germanium detectors background, which is produced by the radiations emitted from the analyzed sample, using Monte Carlo simulation techniques. Other sources of background were not taken into consideration during this work. Since the sample being analyzed is likely to emit both: photon radiation and beta-particles, the contribution of both types of radiation – due to photon scattering and bremsstrahlung radiation – in the creation of the continuous background was examined. For this purpose the XtRa (eXtended Range Germanium detector) of the NTUA Nuclear Engineering Laboratory was simulated using the Monte Carlo simulation code PENELOPE, which simulates the interactions of photons and β-particles with matter. Several source-to-detector geometries were simulated (cylindrical, point sources etc). In all cases, the radionuclide that was chosen for simulation was 40K, since it emits photons and β-particles with significant energies and it is also found in virtually all environmental samples and the background of Ge detectors.Χαρίδημος Α. Χαϊντούτη

LightOn Optical Processing Unit: Scaling-up AI and HPC with a Non von Neumann co-processor

We introduce LightOn's Optical Processing Unit (OPU), the first photonic AI accelerator chip available on the market for at-scale Non von Neumann computations, reaching 1500 TeraOPS. It relies on a combination of free-space optics with off-the-shelf components, together with a software API allowing a seamless integration within Python-based processing pipelines. We discuss a variety of use cases and hybrid network architectures, with the OPU used in combination of CPU/GPU, and draw a pathway towards "optical advantage".Comment: Proceedings IEEE Hot Chips 33, 202

Προηγμένες φωτονικές τεχνολογίες δικτύωσης κέντρων δεδομένων

Data centres are becoming a core technological pillar of the 21st century since the modern way of life results in the production of vast amounts of data that need to be stored and processed in order to empower common everyday operations from online video and music streaming to GPS guidance, e-banking, and social networks. This growth in data generation is not slowing down with new trends like the Internet of Things, Machine Learning applications, autonomous driving, etc. accelerating not only the rate of data generation but the need for more processing as well. As a consequence, the global internet traffic rises, and the intra-data centre traffic rises even faster since each HTTP request of a few Kbytes subsequently generates hundreds or even thousands more Kbytes of intra-data centre network traffic. The total traffic handled by the data centres is putting tremendous pressure on their internal networks. In large data centres with tens of thousands of servers, Top-of-Rack electro-optic switches are used to interconnect servers in a group of 40 per rack, commonly organized in multi-layer architectures. These architectures have intrinsic pain points in terms of bandwidth, latency, costs and power consumption and they are becoming critically limiting figures of merit in the design of future data centre networks. To improve the performance and lower the operation costs, photonic interconnect-based technologies are proposed since they have the potential to efficiently exploit the space, time, and wavelength domains. Photonic interconnects can empower new architectures, based on different network topologies that can lead to significant improvements over traditional electronic network architectures. In this study, we introduce P-Torus, a novel reduced-tier architecture for intra-data centre networks, that is based on 2D Tori interconnected clusters. P-Torus exploits wavelength switching at the packet level, empowered by fast tunable transmitters. The proposed architecture can provide single-hop, contention-less, and low-latency interconnection among all Top-of-Rack switches in a data centre. Through detailed numerical simulations, we show that P-Torus exhibits low end-to-end latency and high throughput, even under high loads and hot-spot traffic. At the same time, P-Torus has significant benefits over other contemporary, wavelength-based switching architectures in terms of CapEx but also OpEx due to the photonics-based passive switching elements. Comparative simulations and cost analysis show that P-Torus provides a very good trade-off between performance and cost compared to other wavelength-based switching architectures targeting small and medium data centres. We also introduce a more advanced variant of the P-Torus architecture, based on the 3- dimensional torus topology. 3D P-Torus achieves even more impressive latency and throughput performance compared to the 2D variant of the P-Torus architecture and other intra-DC architectures that are also based on wavelength switching. Due to the single- hop communication design between On-Rack Switches. All performance features of the 3D P-Torus are calculated through detailed simulations. 3D P-Torus can support, with no need for amplification, medium-sized DCs up to 10k servers, making it an excellent candidate for an Edge Data Centre, considering its excellent low end-to-end latency. Photonic interconnect technologies can offer viable solutions to other problems that current data centres face as well like the lack of reconfigurability and dynamic bandwidth allocation as well as the increasing cable entropy. Thus, we examine the case of using wireless communication solutions for intra-data centre networking as a way to overcome these problems that standard fibre-based solutions suffer from, like cable entropy and lack of reconfigurability and dynamic bandwidth allocation, and we offered a quick overview of the most promising existing approaches. Considering the aforementioned study, we introduce a novel Free Space Optical interconnect solution for intra-data centre networks. Our solution utilizes two-dimensional Optical Beam Steering for the transmitter, and high bandwidth wide-area photodiode arrays for the receiver and can offer ns switching speeds at sub-μW consumption. Moreover, we propose an intra-data centre networking architecture that efficiently utilises those devices and could fulfil the requirements of seamless operation, high connectivity, and agility.Τα κέντρα δεδομένων αποτελούν βασικό τεχνολογικό πυλώνα του 21ου αιώνα, καθώς ο σύγχρονος τρόπος ζωής οδηγεί στην παραγωγή τεράστιων όγκων δεδομένων που πρέπει να αποθηκευτούν και να επεξεργαστούν προκειμένου να πραγματοποιηθούν καθημερινές λειτουργίες: από την online παρακολούθηση βίντεο έως την καθοδήγηση μέσω GPS, τις λειτουργίες e-banking και την πρόσβασή στα κάθε λογής κοινωνικά δίκτυα. Αυτή η αύξηση της παραγωγής δεδομένων επιταχύνεται με νέες τάσεις όπως το Διαδίκτυο των Πραγμάτων / Internet of Things, οι εφαρμογές μηχανικής μάθησης, η αυτόνομη οδήγηση κ.λπ. διογκώνοντας όχι μόνο τον ρυθμό παραγωγής δεδομένων αλλά και την ανάγκη για περισσότερη επεξεργασία αυτών. Κατά συνέπεια, η παγκόσμια κίνηση στο Διαδίκτυο αυξάνεται και η κίνηση στα κέντρα δεδομένων αυξάνεται ακόμη γρηγορότερα αφού κάθε αίτημα HTTP μερικών Kbytes παράγει στη συνέχεια εκατοντάδες ή και χιλιάδες ακόμη Kbytes κίνησης στο δίκτυα εντός των κέντρων δεδομένων. Η συνολική κίνηση που διαχειρίζονται τα κέντρα δεδομένων ασκεί τεράστια πίεση στα εσωτερικά τους δίκτυα. Σε μεγάλα κέντρα δεδομένων με δεκάδες χιλιάδες διακομιστές, οι ηλεκτρο-οπτικοί μεταγωγείς top-of-the-rack χρησιμοποιούνται για τη διασύνδεση διακομιστών που συνήθως οργανώνονται σε αρχιτεκτονικές πολλαπλών επιπέδων. Αυτές οι αρχιτεκτονικές αντιμετωπίζουν εγγενή προβλήματα όσον αφορά το εύρος ζώνης, τον χρόνο καθυστέρησης / latency, το κόστος και την κατανάλωση ενέργειας και καθίστανται εξαιρετικά περιοριστικοί παράγοντες στο σχεδιασμό των δικτύων κέντρων δεδομένων του μέλλοντος. Για τη βελτίωση της απόδοσης και τη μείωση του κόστους λειτουργίας έχουν προταθεί τεχνολογίες βασισμένες σε φωτονικές διασυνδέσεις, δεδομένου ότι αυτές έχουν τη δυνατότητα αποτελεσματικής εκμετάλλευσης της χωρικής και χρονικής πολυπλεξίας, καθώς και της πολυπλεξίας μήκους κύματος. Οι φωτονικές διασυνδέσεις μπορούν να καταστίσουν δυνατή τη δημιουργία νέων αρχιτεκτονικών, βασισμένες σε διαφορετικές τοπολογίες δικτύου, που μπορούν να οδηγήσουν σε σημαντικές βελτιώσεις σε σχέση με τις παραδοσιακές ηλεκτρονικές δικτυακές αρχιτεκτονικές στο εσωτερικό των σύγχρονων κέντρων δεδομένων. Σε αυτήν τη μελέτη, αρχικά παρουσιάζουμε την αρχιτεκτονική P-Torus, μια νέα αρχιτεκτονική για δίκτυα κέντρων δεδομένων με χρήση μειωμένου αριθμού επιπέδων (reduced-tier architecture), που βασίζεται σε διασυνδεδεμένα συμπλέγματα δυσδιάστατης ρομβοειδούς τοπολογίας (2D Tori). Η αρχιτεκτονική P-Torus εκμεταλλεύεται την μεταγωγή μήκους κύματος σε επίπεδο πακέτου, ενισχυμένο από γρήγορους συντονίσιμους πομπούς λέιζερ. Η προτεινόμενη αρχιτεκτονική είναι σε θέση να παρέχει διασύνδεση ενός βήματος, χωρίς συμφόρηση, και χαμηλού χρόνου καθυστέρηση μεταξύ όλων των Top-of-Rack μεταγωγέων στο κέντρο δεδομένων. Λεπτομερείς αριθμητικές προσομοιώσεις δείχνουν ότι η αρχιτεκτονική P-Torus παρουσιάζει χαμηλό χρόνο καθυστέρησης από άκρο σε άκρο και υψηλή απόδοση, ακόμη και σε περιπτώσεις αυξημένης κυκλοφορίας δεδομένων και κυκλοφορία θερμού σημείου / hot-spot traffic. Ταυτόχρονα, η αρχιτεκτονική P-Torus έχει σημαντικά οφέλη σε σχέση με άλλες σύγχρονες αρχιτεκτονικές μεταγωγής με βάση το μήκος κύματος από την άποψη του απαιτούμενου αρχικού κόστους επένδυσης (CapEx) αλλά και του κόστους λειτουργίας (OpEx) λόγω των παθητικών στοιχείων μεταγωγής που βασίζονται σε φωτονικές τεχνολογίες. Συγκριτικές προσομοιώσεις και ανάλυση κόστους δείχνουν ότι η αρχιτεκτονική P-Torus παρέχει μια πολύ καλή αντιστάθμιση μεταξύ απόδοσης και κόστους σε σύγκριση με άλλες αρχιτεκτονικές μεταγωγής με βάση το μήκος κύματος που στοχεύουν κέντρα δεδομένων μικρού και μεσαίου μεγέθους. Επιπλέον παρουσιάζουμε μια πιο εξελιγμένη εκδοχή της αρχιτεκτονικής P-Torus, βασισμένη σε διασυνδεδεμένα συμπλέγματα τρισδιάστατης ρομβοειδούς τοπολογίας (3D Tori). Η αρχιτεκτονική 3D P-Torus παρουσιάζει ακόμη καλύτερες επιδόσεις χρόνου καθυστέρησης και μεταγωγής σε σχέση με την δυσδιάστατη εκδοχή και σε σύγκριση με άλλες αρχιτεκτονικές μεταγωγής με βάση το μήκος κύματος. Όλα τα χαρακτηριστικά απόδοσης της αρχιτεκτονικής 3D P-Torus υπολογίζονται μέσω λεπτομερών προσομοιώσεων και διαπιστώνεται πως μπορεί να υποστηρίξει, χωρίς ανάγκη ενίσχυσης, μεσαίου μεγέθους κέντρα δεδομένων με έως και 10k διακομιστές, αποτελώντας για παράδειγμα μια εξαιρετική λύση για τα αναδυόμενα κέντρα δεδομένων στα άκρα του δικτύου (Edge Data Centres). Οι τεχνολογίες φωτονικής διασύνδεσης μπορούν να προσφέρουν βιώσιμες λύσεις και σε άλλα προβλήματα που αντιμετωπίζουν τα τρέχοντα κέντρα δεδομένων, όπως η έλλειψη δυνατότητας αναδιαμόρφωσης του δικτύου και δυναμικής κατανομής εύρους ζώνης, καθώς και η αυξανόμενη εντροπία της καλωδίωσης. Έτσι, εξετάζουμε την περίπτωση χρήσης λύσεων ασύρματης επικοινωνίας για τη δικτύωση εντός κέντρου δεδομένων ως ένας τρόπος για να ξεπεραστούν αυτά τα προβλήματα που είναι διάχυτα σε τυπικές λύσεις με βάση τις οπτικές ίνες, και προσφέραμε μια γρήγορη επισκόπηση των πιο υποσχόμενων υφιστάμενων προσεγγίσεων. Υπό το πρίσμα της προαναφερθείσας μελέτης, παρουσιάζουμε μια νέα λύση με χρήση οπτικής διασύνδεσης ελεύθερου χώρου (free-space optics) για δίκτυα κέντρων δεδομένων. Η προτεινόμενη λύση χρησιμοποιεί δισδιάστατο οπτικό σύστημα διεύθυνσης δέσμης για τον πομπό και συστοιχίες φωτοδιόδων μεγάλου εύρους ζώνης για τον δέκτη και είναι σε θέση να προσφέρει ταχύτητες εναλλαγής σε επίπεδο ns με κατανάλωση στην τάξη μεγέθους των μερικών μW. Επιπλέον, προτείνουμε μια αρχιτεκτονική δικτύωσης κέντρου δεδομένων η οποία χρησιμοποιεί αποτελεσματικά τις προαναφερθείσες συσκευές και θα μπορούσε να πληροί τις απαιτήσεις της απρόσκοπτης λειτουργίας, της υψηλής συνδεσιμότητας και της ευελιξίας των σύγχρονων δικτύων κέντρων δεδομένων

Free space intra-datacenter interconnects based on 2D optical beam steering enabled by photonic integrated circuits

Data centers are continuously growing in scale and can contain more than one million servers spreading across thousands of racks; requiring a large-scale switching network to provide broadband and reconfigurable interconnections of low latency. Traditional data center network architectures, through the use of electrical packet switches in a multi-tier topology, has fundamental weaknesses such as oversubscription and cabling complexity. Wireless intra-data center interconnection solutions have been proposed to deal with the cabling problem and can simultaneously address the over-provisioning problem by offering efficient topology re-configurability. In this work we introduce a novel free space optical interconnect solution for intra-data center networks that utilizes 2D optical beam steering for the transmitter, and high bandwidth wide-area photodiode arrays for the receiver. This new breed of free space optical interconnects can be developed on a photonic integrated circuit; offering ns switching at sub-µW consumption. The proposed interconnects together with a networking architecture that is suitable for utilizing those devices could support next generation intra-data center networks, fulfilling the requirements of seamless operation, high connectivity, and agility in terms of the reconfiguration time.Peer Reviewe

Free Space Intra-Datacenter Interconnects Based on 2D Optical Beam Steering Enabled by Photonic Integrated Circuits

Data centers are continuously growing in scale and can contain more than one million servers spreading across thousands of racks; requiring a large-scale switching network to provide broadband and reconfigurable interconnections of low latency. Traditional data center network architectures, through the use of electrical packet switches in a multi-tier topology, has fundamental weaknesses such as oversubscription and cabling complexity. Wireless intra-data center interconnection solutions have been proposed to deal with the cabling problem and can simultaneously address the over-provisioning problem by offering efficient topology re-configurability. In this work we introduce a novel free space optical interconnect solution for intra-data center networks that utilizes 2D optical beam steering for the transmitter, and high bandwidth wide-area photodiode arrays for the receiver. This new breed of free space optical interconnects can be developed on a photonic integrated circuit; offering ns switching at sub-μW consumption. The proposed interconnects together with a networking architecture that is suitable for utilizing those devices could support next generation intra-data center networks, fulfilling the requirements of seamless operation, high connectivity, and agility in terms of the reconfiguration time