Διαφθορά επιρροή

Η τεχνητή νοημοσύνη μπορεί να πείσει τους ανθρώπους να λάβουν ηθικά αμφισβητήσιμες αποφάσεις, σύμφωνα με μια μελέτη


Η τεχνητή νοημοσύνη διαμορφώνει τη ζωή των ανθρώπων κάθε μέρα. Ορίστε τιμές σε καταστήματα λιανικής και κάντε προτάσεις από ταινίες έως ρομαντικούς συνεργάτες. Αλλά είναι ένα ανοιχτό ερώτημα εάν η AI μπορεί να γίνει αξιόπιστος σύμβουλος ή ακόμη και μια διεφθαρμένη δύναμη, επηρεάζοντας ενδεχομένως τη συμπεριφορά των ανθρώπων μέχρι το σημείο της παραβίασης των ηθικών κανόνων.

Ένα γοητευτικό αυτή μελετάει που δημοσιεύθηκε από ερευνητές του Πανεπιστημίου του Άμστερνταμ, του Ινστιτούτου Max Planck, του Otto Beisheim School of Management και του Πανεπιστημίου της Κολωνίας, στοχεύει να ανακαλύψει το βαθμό στον οποίο οι συμβουλές που δημιουργούνται από την τεχνητή νοημοσύνη μπορούν να ωθήσουν τους ανθρώπους να θυσιάσουν την τιμιότητά τους. Σε μια έρευνα μεγάλης κλίμακας που αξιοποιεί το μοντέλο γλώσσας GPT-2 του OpenAI, οι ερευνητές διαπίστωσαν ότι το διοικητικό συμβούλιο μπορεί να «δωροδοκήσει» ανθρώπους ακόμη και όταν γνωρίζουν ότι η πηγή της συμβουλής είναι το AI.

Υπάρχει μια αυξανόμενη ανησυχία μεταξύ των ακαδημαϊκών ότι η τεχνητή νοημοσύνη μπορεί να επιλέγεται από κακόβουλους παράγοντες για να προκαλέσει διαφωνίες με τη διάδοση παραπληροφόρησης, παραπληροφόρησης και ψεμάτων. Σε ένα χαρτί που εκδόθηκε από το Κέντρο Ινστιτούτου Διεθνών Σπουδών του Middlebury για την Τρομοκρατία, τον Εξτρεμισμό και την Αντιτρομοκρατία (CTEC), οι συν-συγγραφείς πιστεύουν ότι το GPT-3, ο διάδοχος του GPT-2, θα μπορούσε να δημιουργήσει αξιόπιστα “επιρροή” “ενημερωτικό” κείμενο που θα μπορούσε “ριζοσπαστικοποίηση ατόμων σε βίαιες ακροδεξίες ιδεολογίες και συμπεριφορές”.

Οι συν-συγγραφείς αυτής της τελευταίας εργασίας δημιούργησαν το GPT-2 για να δημιουργήσουν συμβουλές «προώθηση της τιμιότητας» και «προώθηση της ανεντιμότητας» χρησιμοποιώντας ένα σύνολο δεδομένων από συνεισφορές από περίπου 400 συμμετέχοντες. Στη συνέχεια, στρατολόγησαν μια ομάδα περισσότερων από 1.500 ατόμων για να διαβάσουν οδηγίες, να λάβουν συμβουλές και να αναλάβουν μια εργασία που έχει σχεδιαστεί για την αξιολόγηση της έντιμης ή ανέντιμης συμπεριφοράς.

Οι άνθρωποι της ομάδας ζευγαρώθηκαν σε “δυάδες” που αποτελούσαν έναν πρώτο και έναν δεύτερο “κινητήρα”. Ο πρώτος κινητήρας έστρεψε μια μήτρα ιδιωτικά και ανέφερε το αποτέλεσμα, ενώ ο δεύτερος κινητήρας έμαθε την αναλογία του πρώτου κινητήρα προτού γυρίσει μια μήτρα ιδιωτικά και επίσης ανέφερε το αποτέλεσμα. Μόνο εάν ο πρώτος και ο δεύτερος κινητήρας είχαν το ίδιο αποτέλεσμα πληρώθηκαν με βάση τη διπλή τιμή, με τα υψηλότερα διπλάσια να αντιστοιχούν στην υψηλότερη αμοιβή. Δεν πληρώθηκαν εάν ανέφεραν διαφορετικά αποτελέσματα.

Πριν από την αναφορά του αποτελέσματος die roll, οι άνθρωποι που έχουν ανατεθεί τυχαία σε διαφορετικές θεραπείες διαβάζουν συμβουλές που προάγουν την ειλικρίνεια ή την ανεντιμότητα που ήταν είτε ανθρώπινη είτε τεχνητή νοημοσύνη. Αυτοί (1) γνώριζαν την πηγή της συμβουλής ή (2) ήξεραν ότι υπήρχε 50-50 πιθανότητα ότι προήλθε και από τις δύο πηγές και όσοι δεν ήξεραν θα μπορούσαν να κερδίσουν ένα μπόνους αν υποθέσουν την πηγή της συμβουλής.

Σύμφωνα με τους ερευνητές, οι συμβουλές που δημιουργούνται από την τεχνητή νοημοσύνη «δωροδοκούν» ανθρώπους ανεξάρτητα από το αν η πηγή των συμβουλών αποκαλύφθηκε ή όχι. Στην πραγματικότητα, η στατιστική επίδραση των συμβουλών που δημιουργούνται από την τεχνητή νοημοσύνη ήταν διακριτή από εκείνη των συμβουλών που γράφτηκαν από ανθρώπους. Ακόμα πιο απογοητευτικό, οι συμβουλές που προωθούν την ειλικρίνεια από το AI δεν έχουν επηρεάσει τη συμπεριφορά των ανθρώπων.

Οι ερευνητές λένε ότι η μελέτη τους δείχνει τη σημασία της δοκιμής της επιρροής της τεχνητής νοημοσύνης ως ένα βήμα προς τη διατήρησή της. Όσοι έχουν κακόβουλες προθέσεις θα μπορούσαν να χρησιμοποιήσουν δυνάμεις AI για να δωροδοκήσουν άλλους, προειδοποιούν.

“Η AI θα μπορούσε να είναι μια θετική δύναμη αν μπορούσε να κάνει τους ανθρώπους να ενεργούν πιο ηθικά. Ωστόσο, τα ευρήματά μας αποκαλύπτουν ότι οι συμβουλές AI δεν αυξάνουν την ειλικρίνεια. Οι σύμβουλοι AI μπορούν να χρησιμεύσουν ως αποδιοπομπαίοι τράγοι. Στους οποίους (μέρος της) ηθικής ενοχής της ανεντιμότητας μπορεί να εκτραπεί Επιπλέον, στο πλαίσιο της λήψης συμβουλών, η διαφάνεια σχετικά με την αλγοριθμική παρουσία δεν αρκεί για την ανακούφιση της πιθανής βλάβης της », έγραψαν οι ερευνητές. “Όταν οι συμβουλές που δημιουργούνται από το AI ευθυγραμμίζονται με τις προτιμήσεις των ατόμων για ψέματα για κέρδος, την ακολουθούν πρόθυμα, ακόμη και όταν γνωρίζουν ότι η πηγή των συμβουλών είναι AI. Φαίνεται να υπάρχει μια διαφορά μεταξύ των δηλωμένων προτιμήσεων και της πραγματικής συμπεριφοράς, επισημαίνοντας την ανάγκη να μελετήσει την ανθρώπινη συμπεριφορά σε αλληλεπίδραση με πραγματικά αλγοριθμικά αποτελέσματα “.

VentureBeat

Η αποστολή της VentureBeat είναι να είναι ένα ψηφιακό τετράγωνο πόλης για τεχνικούς υπεύθυνους λήψης αποφάσεων για να αποκτήσουν πληροφορίες σχετικά με τη μετασχηματιστική τεχνολογία και συναλλαγές. Ο ιστότοπός μας παρέχει βασικές πληροφορίες σχετικά με τις τεχνολογίες δεδομένων και τις στρατηγικές για να σας καθοδηγήσει καθώς οδηγείτε τους οργανισμούς σας. Σας προσκαλούμε να γίνετε μέλος της κοινότητάς μας, για πρόσβαση:

  • ενημερωμένες πληροφορίες για θέματα που σας ενδιαφέρουν
  • τα ενημερωτικά δελτία μας
  • Περιεχόμενο περιφραγμένο με κορυφαία σκέψη και μειωμένη πρόσβαση στις πολύτιμες εκδηλώσεις μας, όπως το Completely transform
  • δυνατότητες δικτύωσης και άλλα

Γίνομαι μέλος



[via]