Efficient gateway implementations for cyber-physical systems.

Abstract

Smart devices with numerous sensors and actuators connected to servers via heterogeneous networks form an increasing technology trend. The transmission, storage, and manipulation or analysis of big data raise many issues which the research community should address. A common practice to lighten a server’s workload is adding an intermediate device (gateway) to (1) synchronize various networks, (2) gather, filter, and preliminarily analyze the data from the sensors, (3) control any local actuators and (4) send the extracted data to the server. Since gateway devices are often portable embedded systems with restricted processing capability to easily function close to sensors, software optimization plays a crucial role in ensuring data integrity and real-time functionality. Parallel execution and concurrent buffers could easily contribute toward that direction. In this study, we investigate the way that concurrent buffers implemented as wait-free single-producer single-consumer queues perform on two different use cases: (1) a Bluetooth-to-Wireless healthcare gateway transferring biosensor (ECG) data, and (2) a CAN-to-CAN in-vehicle gateway transmitting CAN frames. In the Bluetooth-to-Ethernet gateway, we focus on enhancing the performance of biosensor data flows across the gateway by examining lock-free concurrent queues and traditional lock-based circular FIFOs that embody single-producer single-consumer principles. Our results show that for large biosensor rates, the waiting time of the concurrent queue is smaller. Large rates, above 256 pulses/s, are not supported by the biosensor but are examined by designing a self-similar, digital twin process. In the CAN-to-CAN gateway, we examine efficient frame transfer across incoming and outgoing CAN interfaces at the gateway. In our embedded platform prototype, each CAN interface is controlled independently by a corresponding POSIX thread. Inter-thread communication is implemented using shared data structures, namely lock-free concurrent queues, and traditional lock-based circular FIFOs. Our experimentation relies on increasing communication reliability and performance by minimizing frame loss and improving the egress CAN frame rate. Our experiments show that the frame waiting time in the queue is smaller for the concurrent queue, while relaying messages is equally fast, reaching a maximum output rate of ~380 frames/s for large enqueue rates near saturation. Power consumption is higher for the faster concurrent queue implementation.

Οι έξυπνες συσκευές με πολλούς αισθητήρες (sensors) και ενεργοποιητές (actuators) σε ετερογενή δίκτυα οι οποίοι παράγουν και απαιτούν δεδομένα, αντίστοιχα, αποτελούν μία όλο και πιο σύγχρονη τάση στην τεχνολογία και συγκεντρώνουν μεγάλο επιστημονικό και ερευνητικό ενδιαφέρον στις μέρες μας. Ωστόσο, η μετάδοση, η διαχείριση και η ανάλυση αυτού του μεγάλου όγκου δεδομένων (big data) στο διακομιστή εγείρουν πολλά ζητήματα, τα οποία απασχολούν την ερευνητική κοινότητα, στα οποία καλείται να προτείνει λύση. Μια κοινή πρακτική για τη μείωση του φόρτου εργασίας ενός κεντρικού διακομιστή είναι η προσθήκη μιας (ή περισσοτέρων) ενδιάμεσης συσκευής (πύλη-gateway) για: (1) το συγχρονισμό ετερογενών δικτύων, (2) τη συλλογή, τη διαλογή και την ανάλυση των δεδομένων από τους αισθητήρες, (3) τον έλεγχο των ενεργοποιητών και (4) την αποστολή των εξαγόμενων δεδομένων στον κεντρικό διακομιστή. Δεδομένου ότι οι συσκευές πύλης (gateway devices) είναι συνήθως φορητά ενσωματωμένα συστήματα με περιορισμένες επεξεργαστικές δυνατότητες και ικανότητα να λειτουργούν εύκολα κοντά στους αισθητήρες λόγω του μεγέθους και των ενεργειακών τους αναγκών, η βελτιστοποίηση του λογισμικού παίζει κυρίαρχο ρόλο διασφαλίζοντας την ακεραιότητα των δεδομένων και τη λειτουργικότητα σε πραγματικό χρόνο. Η παράλληλη εκτέλεση και η χρήση δομών (buffers) που επιτρέπουν τον ταυτοχρονισμό (concurrency) θα μπορούσε εύκολα να διευκολύνει τη διαδικασία προς αυτή την κατεύθυνση. Στην παρούσα μελέτη, διερευνήσαμε τον τρόπο με τον οποίο οι παράλληλες δομές χωρίς αναμονή ενός παραγωγού και ενός καταναλωτή (wait-free single-producer single-consumer queues) αποδίδουν σε δύο διαφορετικές περιπτώσεις χρήσης: (1) ένα σύστημα μετάδοσης δεδομένων ηλεκτροκαρδιογραφήματος (ECG) μέσω BT-Wireless gateway, και (2) σε ένα εσωτερικό δίκτυο μεταγωγής πακέτων σε ένα σύγχρονο όχημα (in-vehicle CAN-to-CAN gateway). Στην πύλη ECG, εστιάζουμε στη βελτίωση της απόδοσης της ροής δεδομένων ενός βιοαισθητήρα (biosensor) κατά μήκος μιας πύλης Bluetooth-to-Ethernet, εξετάζοντας ταυτόχρονες ουρές χωρίς κλειδαριά (lock-free concurrent queues) και παραδοσιακές κυκλικές FIFO που βασίζονται σε κλειδαριές αμοιβαίου αποκλεισμού (traditional lock-based circular FIFOs) που ενσωματώνουν αρχές μονού παραγωγού μονού καταναλωτή (single-producer singleconsumer). Τα αποτελέσματά μας δείχνουν ότι για υψηλού ρυθμού μετάδοσης δεδομένων ενός βιοαισθητήρα, ο χρόνος αναμονής της παράλληλης ουράς (concurrent queue) είναι μικρότερος. Οι μεγάλοι ρυθμοί, πάνω από 256 παλμούς/δευτ., δεν υποστηρίζονται από το βιοαισθητήρα, αλλά εξετάζονται μέσω μιας πανομοιότυπης (self-similar) διαδικασίας ψηφιακού διδύμου (digital twin process). Στην δεύτερη περίπτωση χρήσης που αφορά στην πύλη CAN, εξετάζουμε την αποτελεσματική μεταφορά πλαισίων (frame transfer) μέσω εισερχόμενων και εξερχόμενων διασυνδέσεων CAN (incoming and outgoing CAN interfaces). Στο πρωτότυπο (prototype) της ενσωματωμένης πλατφόρμας μας, κάθε διεπαφή CAN ελέγχεται ανεξάρτητα από ένα αντίστοιχο νήμα POSIX (corresponding POSIX thread). Η επικοινωνία των νημάτων (Inter-thread communication) υλοποιείται χρησιμοποιώντας κοινόχρηστες δομές δεδομένων (shared data structures), πιο συγκεκριμένα ταυτόχρονες δομές χωρίς κλειδαριές αμοιβαίου αποκλεισμού (lock-free concurrent queues), και παραδοσιακές κυκλικές ουρές βασισμένες σε κλειδαριές αμοιβαίου αποκλεισμού (mutual exclusion lock-based queues). Η πειραματική μας διαδικασία βασίζεται στην αύξηση της αξιοπιστίας και της απόδοσης της επικοινωνίας, ελαχιστοποιώντας την απώλεια πακέτων (frame loss) και βελτιώνοντας το ρυθμό μετάδοσης πακέτων της εξόδου CAN (egress CAN frame rate). Τα πειράματά μας δείχνουν ότι ο χρόνος αναμονής της μετάδοσης των πακέτων στην ουρά είναι μικρότερος για την ταυτόχρονη ουρά (concurrent queue), ενώ η αναμετάδοση μηνυμάτων είναι εξίσου γρήγορη, φτάνοντας ένα μέγιστο ρυθμό εξόδου περίπου 380 πακέτα/δευτερόλεπτο, για μεγάλους ρυθμούς εισόδου κοντά σε κορεσμό (saturation). Τέλος, η κατανάλωση ρεύματος είναι υψηλότερη στην περίπτωση ταχύτερης υλοποίησης ταυτόχρονης ουράς (faster concurrent queue implementation).