Η έκθεση της ΕΕ προειδοποιεί ότι η τεχνητή νοημοσύνη καθιστά τα αυτόνομα οχήματα "εξαιρετικά ευάλωτα" στην επίθεση

Η έκθεση της ΕΕ προειδοποιεί ότι η τεχνητή νοημοσύνη καθιστά τα αυτόνομα οχήματα “εξαιρετικά ευάλωτα” στην επίθεση


Το όνειρο των αυτόνομων οχημάτων είναι ότι μπορούν να αποφύγουν τα ανθρώπινα λάθη και να σώσουν ζωές, αλλά ένας νέος οργανισμός της Ευρωπαϊκής Ένωσης για την ασφάλεια στον κυβερνοχώρο (ENISA) σχέση διαπίστωσε ότι τα αυτόνομα οχήματα είναι “εξαιρετικά ευάλωτα σε ένα ευρύ φάσμα επιθέσεων” που θα μπορούσαν να είναι επικίνδυνα για τους επιβάτες, τους πεζούς και τους ανθρώπους σε άλλα οχήματα. Οι επιθέσεις που εξετάζονται στην αναφορά περιλαμβάνουν επιθέσεις σε αισθητήρες με δέσμες φωτός, συντριπτικά συστήματα ανίχνευσης αντικειμένων, κακόβουλη δραστηριότητα backend και ανταγωνιστικές επιθέσεις μηχανικής μάθησης που παρουσιάζονται σε δεδομένα εκπαίδευσης ή στον φυσικό κόσμο.

«Η επίθεση θα μπορούσε να χρησιμοποιηθεί για να κάνει το AI« τυφλό »στους πεζούς χειραγωγώντας, για παράδειγμα, τη συνιστώσα αναγνώρισης εικόνας για την εσφαλμένη ταξινόμηση των πεζών. Αυτό θα μπορούσε να προκαλέσει καταστροφή στους δρόμους, καθώς τα αυτόνομα αυτοκίνητα μπορούν να χτυπήσουν τους πεζούς στο δρόμο ή τις διαβάσεις πεζών “, αναφέρει η έκθεση.” Η έλλειψη επαρκών γνώσεων και εμπειρογνωμοσύνης για την ασφάλεια μεταξύ προγραμματιστών και σχεδιαστών συστημάτων σχετικά με την ασφάλεια στον κυβερνοχώρο AI είναι ένα σημαντικό εμπόδιο που εμποδίζει. την ένταξη της ασφάλειας στον τομέα της αυτοκινητοβιομηχανίας. “

Η γκάμα συστημάτων τεχνητής νοημοσύνης και αισθητήρων που απαιτούνται για την τροφοδοσία αυτόνομων οχημάτων αυξάνει την επιφάνεια επίθεσης, σύμφωνα με την έκθεση. Για την αντιμετώπιση των τρωτών σημείων, οι συντάκτες της λένε ότι οι υπεύθυνοι χάραξης πολιτικής και οι επιχειρήσεις θα πρέπει να αναπτύξουν μια κουλτούρα ασφάλειας κατά μήκος της αλυσίδας εφοδιασμού αυτοκινήτων, συμπεριλαμβανομένων των τρίτων προμηθευτών. Η έκθεση καλεί τις αυτοκινητοβιομηχανίες να λάβουν μέτρα για τον μετριασμό των κινδύνων ασφάλειας, σκέφτοντας την κατασκευή συστημάτων μηχανικής εκμάθησης ως μέρος της αλυσίδας εφοδιασμού της αυτοκινητοβιομηχανίας.

Η έκθεση επικεντρώνεται σε επιθέσεις ασφάλειας στον κυβερνοχώρο με ανταγωνιστική μηχανική μάθηση που ενέχουν τον κίνδυνο κακόβουλων επιθέσεων που δεν ανιχνεύονται από τον άνθρωπο. Η έκθεση σημειώνει επίσης ότι η χρήση μηχανικής μάθησης σε αυτοκίνητα θα απαιτεί συνεχή αναθεώρηση των συστημάτων για να διασφαλιστεί ότι δεν έχουν τροποποιηθεί κακόβουλα.

“Η ασφάλεια στον κυβερνοχώρο της τεχνητής νοημοσύνης δεν μπορεί να είναι απλώς μια σκέψη, όπου οι έλεγχοι ασφαλείας εφαρμόζονται καθώς τα πρόσθετα και οι στρατηγικές άμυνας είναι αντιδραστικής φύσης”, αναφέρει η εφημερίδα. «Αυτό ισχύει ιδιαίτερα για τα συστήματα τεχνητής νοημοσύνης που συνήθως σχεδιάζονται από επιστήμονες υπολογιστών και εφαρμόζονται περαιτέρω και ενσωματώνονται από μηχανικούς. Τα συστήματα τεχνητής νοημοσύνης θα πρέπει να σχεδιαστούν, να εφαρμοστούν και να αναπτυχθούν από ομάδες στις οποίες συνεργάζονται οι ειδικοί στην αυτοκινητοβιομηχανία, ο ειδικός ML και ο ειδικός στον κυβερνοασφάλεια. “

Τα σενάρια που παρουσιάζονται στην έκθεση περιλαμβάνουν την πιθανότητα επιθέσεων σε αλγόριθμους σχεδιασμού κίνησης και λήψης αποφάσεων και πλαστογράφηση, όπως εκείνοι που μπορούν να ξεγελάσουν ένα αυτόνομο όχημα σε “αναγνώριση” αυτοκινήτων, ανθρώπων ή τειχών που δεν υπάρχουν.

Τα τελευταία χρόνια, ορισμένες μελέτες έχουν δείξει ότι οι φυσικές διαταραχές μπορούν να ξεγελάσουν τα αυτόνομα συστήματα οχημάτων με λίγη προσπάθεια. Το 2017, οι ερευνητές χρησιμοποίησαν σπρέι βαφής ή αυτοκόλλητων ετικετών στο στοπ να ξεγελάσετε ένα αυτόνομο όχημα ώστε να μην αναγνωρίσετε σωστά το σήμα ως σήμα ορίου ταχύτητας. Το 2019, χρησιμοποίησαν ερευνητές ασφαλείας της Tencent αυτοκόλλητα για να κατευθύνουν το Autopilot του Tesla σε λάθος λωρίδα. Και οι ερευνητές έδειξαν πέρυσι ότι θα μπορούσαν να οδηγήσουν ένα αυτοκινούμενο σύστημα οχημάτων να επιταχυνθεί γρήγορα 35 mph έως 85 mph τοποθετώντας στρατηγικά μερικά κομμάτια ταινίας στο δρόμο.

https://www.youtube.com/observe?v=4uGV_fRj0UA

Η έκθεση συν-συντάχθηκε από το Κοινό Κέντρο Ερευνών, έναν σύμβουλο επιστήμης και τεχνολογίας της Ευρωπαϊκής Επιτροπής. Πριν από λίγες εβδομάδες, ο ENISA κυκλοφόρησε μια ξεχωριστή αναφορά που το περιγράφει λεπτομερώς προκλήσεις ασφάλειας στον κυβερνοχώρο που δημιουργούνται από την τεχνητή νοημοσύνη.

Σε άλλες ειδήσεις για αυτοκινούμενα οχήματα, την περασμένη εβδομάδα Ο Waymo άρχισε να δοκιμάζει ρομπότ ταξί στο Σαν Φρανσίσκο. Αλλά μια ομάδα εργασίας του MIT κατέληξε στο περασμένο έτος ότι αυτόνομα οχήματα θα μπορούσε να είναι τουλάχιστον άλλη μια δεκαετία μακριά.

VentureBeat

Η αποστολή της VentureBeat είναι να είναι ένα ψηφιακό τετράγωνο πόλης για τεχνικούς υπεύθυνους λήψης αποφάσεων για να αποκτήσουν πληροφορίες σχετικά με τη μετασχηματιστική τεχνολογία και τις συναλλαγές. Ο ιστότοπός μας παρέχει βασικές πληροφορίες σχετικά με τις τεχνολογίες δεδομένων και τις στρατηγικές για να σας καθοδηγήσει καθώς οδηγείτε τους οργανισμούς σας. Σας προσκαλούμε να γίνετε μέλος της κοινότητάς μας, για πρόσβαση:

  • ενημερωμένες πληροφορίες για θέματα που σας ενδιαφέρουν
  • τα ενημερωτικά δελτία μας
  • Περιεχόμενο περιφραγμένο με κορυφαία σκέψη και μειωμένη πρόσβαση στις πολύτιμες εκδηλώσεις μας, όπως το Rework
  • δυνατότητες δικτύωσης και άλλα

Γίνομαι μέλος



[via]

Αυτός ο ιστότοπος χρησιμοποιεί το Akismet για να μειώσει τα ανεπιθύμητα σχόλια. Μάθετε πώς υφίστανται επεξεργασία τα δεδομένα των σχολίων σας.