AI Weekly: Το Maxine της Nvidia ανοίγει την πόρτα σε deepfakes και προκατάληψη στις κλήσεις βίντεο

AI Weekly: Το Maxine της Nvidia ανοίγει την πόρτα σε deepfakes και προκατάληψη στις κλήσεις βίντεο


Θα κάνουν AI συνομιλίες βίντεο για το μέλλον Αυτό πρότεινε η Nvidia αυτήν την εβδομάδα με την παρουσίαση του Μαξίν, μια πλατφόρμα που παρέχει στους προγραμματιστές μια σειρά από λογισμικό διασκέψεων AI με επιτάχυνση GPU. Η Maxine προσφέρει εφέ AI, όπως διόρθωση του βλέμματος, σούπερ ανάλυση, ακύρωση θορύβου, αναζωογόνηση προσώπου και πολλά άλλα στους τελικούς χρήστες, μειώνοντας παράλληλα το εύρος ζώνης που καταναλώνεται από τη βιντεοδιάσκεψη. Η συμπίεση που διατηρεί την ποιότητα είναι μια ευπρόσδεκτη καινοτομία σε μια στιγμή που η τηλεδιάσκεψη βοηθά στην καταγραφή της χρήσης εύρους ζώνης. Ωστόσο, τα άλλα πιο αισθητικά χαρακτηριστικά του Maxine εγείρουν δυσάρεστες ερωτήσεις σχετικά με τον αρνητικό – και ενδεχομένως επιζήμιο – αντίκτυπο της AI.

Μια γρήγορη ανακεφαλαίωση: Η Maxine χρησιμοποιεί μοντέλα τεχνητής νοημοσύνης που ονομάζονται γενικά εχθρικά δίκτυα (GAN) για να αλλάξει πρόσωπα στις ροές βίντεο. Τα GAN υψηλής απόδοσης μπορούν να δημιουργήσουν ρεαλιστικά πορτραίτα ατόμων που δεν υπάρχουν, για παράδειγμα, ή στιγμιότυπα εικονικών πολυκατοικιών. Στην περίπτωση της Maxine, μπορούν να βελτιώσουν τον φωτισμό σε μια ροή βίντεο και να αναδιαμορφώσουν τα καρέ σε πραγματικό χρόνο.

Οι μεροληψίες στους αλγόριθμους μηχανικής όρασης είναι διαδεδομένες, με τις εικονικές ταπετσαρίες του Zoom και το εργαλείο αυτόματης περικοπής φωτογραφιών του Twitter που δυσνοεί άτομα με πιο σκούρο δέρμα. Η Nvidia δεν έχει αναλύσει τα σύνολα δεδομένων ή τις τεχνικές εκπαίδευσης του μοντέλου AI που χρησιμοποιούσε για την ανάπτυξη του Maxine, αλλά δεν είναι έξω από τη σφαίρα πιθανότητας ότι η πλατφόρμα δεν μπορεί, για παράδειγμα, να χειριστεί τα μαύρα πρόσωπα τόσο αποτελεσματικά. με ανοιχτόχρωμο πρόσωπο. Φτάσαμε στο Nvidia για σχόλιο.

Πέρα από το πρόβλημα μεροληψίας, υπάρχει το γεγονός ότι οι αλγόριθμοι βελτίωσης του προσώπου δεν είναι πάντα ψυχικά υγιείς. Μελέτες Ιατρικού Κέντρου Βοστώνης ε οι υπολοιποι δείξτε ότι τα φίλτρα και η επεξεργασία φωτογραφιών μπορούν να επηρεάσουν την αυτοεκτίμηση των ανθρώπων και να προκαλέσουν παθήσεις όπως η δυσμορφία του σώματος. Σε απάντηση, νωρίτερα αυτό το μήνα η Google δήλωσε ότι θα απενεργοποιήσει τα φίλτρα ομορφιάς των smartphone από προεπιλογή, τα οποία εξομαλύνουν τα σπυράκια, τις φακίδες, τις ρυτίδες και άλλες ατέλειες του δέρματος. “Όταν δεν γνωρίζετε ότι μια εφαρμογή φωτογραφικής μηχανής ή φωτογραφίας έχει εφαρμόσει φίλτρο, οι φωτογραφίες μπορούν να έχουν αρνητικό αντίκτυπο στην ψυχική ευεξία”, ανέφερε η εταιρεία σε δήλωση. “Αυτά τα προκαθορισμένα φίλτρα μπορούν εύκολα να ορίσουν ένα πρότυπο ομορφιάς με το οποίο αντιμετωπίζουν ορισμένοι άνθρωποι.”

Για να μην αναφέρουμε πώς θα μπορούσε να χρησιμοποιηθεί το Maxine για να παρακάμψει την ανίχνευση deepfake. Πολλά από τα χαρακτηριστικά της πλατφόρμας αναλύουν τα σημεία του προσώπου κατά τη διάρκεια μιας κλήσης και, στη συνέχεια, αναζωογονούν αλγόριθμα τα πρόσωπα στο βίντεο από την άλλη πλευρά, γεγονός που θα μπορούσε να επηρεάσει την ικανότητα ενός συστήματος να αναγνωρίσει εάν έχει γίνει επεξεργασία μιας εγγραφής. Η Nvidia πιθανότατα θα δημιουργήσει διασφαλίσεις για να το αποτρέψει – επί του παρόντος, η Maxine είναι διαθέσιμη μόνο στους προγραμματιστές σε πρώιμη πρόσβαση – αλλά η πιθανότητα κατάχρησης ήταν ένα ερώτημα που δεν έχει ακόμη αντιμετωπίσει η εταιρεία.

Κανένα από αυτά δεν υποδηλώνει ότι το Maxine είναι κακό από τη σχεδίαση. Η διόρθωση του βλέμματος, ο φωτισμός προσώπου, η αναβάθμιση και η συμπίεση φαίνονται χρήσιμα. Όμως, τα ζητήματα που εγείρει η Maxine δείχνουν ότι δεν λαμβάνεται υπόψη η ζημιά που μπορεί να προκαλέσει η τεχνολογία της, μια λάθος βιομηχανία τεχνολογίας. Έτσι Κοινός του γίνομαι ένα στερεότυπο. Το καλύτερο σενάριο είναι ότι η Nvidia λαμβάνει μέτρα (εάν δεν το έχει ήδη κάνει) για να ελαχιστοποιήσει τυχόν αρνητικές επιπτώσεις που θα μπορούσαν να προκύψουν. Το γεγονός ότι η εταιρεία δεν έκανε κράτηση για να αναφέρει αυτά τα βήματα στην παρουσίαση του Maxine, ωστόσο, δεν ενσταλάζει την εμπιστοσύνη.

Για κάλυψη AI, στείλτε συμβουλές ειδήσεων στους Khari Johnson, Kyle Wiggers και Seth Colaner και φροντίστε εσείς εγγραφείτε στο εβδομαδιαίο ενημερωτικό δελτίο AI και προσθέστε το δικό μας Κανάλι AI.

Ευχαριστώ για την ανάγνωση,

Kyle Wiggers

Συγγραφέας προσωπικού AI



[via]

Απάντηση

Αυτός ο ιστότοπος χρησιμοποιεί το Akismet για να μειώσει τα ανεπιθύμητα σχόλια. Μάθετε πώς υφίστανται επεξεργασία τα δεδομένα των σχολίων σας.