Ο Timnit Gebru, επικεφαλής της ηθικής στο Google AI, λέει ότι απολύθηκε μέσω email

Ο Timnit Gebru, επικεφαλής της ηθικής στο Google AI, λέει ότι απολύθηκε μέσω electronic mail


Ο Timnit Gebru, ένας από τους πιο γνωστούς ερευνητές AI και σήμερα είναι επικεφαλής μιας ομάδας δεοντολογίας της Google AI, δεν εργάζεται πλέον για την εταιρεία. Οι λεπτομέρειες εξακολουθούν να συλλέγονται, αλλά σύμφωνα με τον Gebru, απολύθηκε την Τετάρτη επειδή έστειλε ένα μήνυμα ηλεκτρονικού ταχυδρομείου σε “μη εκτελεστικούς υπαλλήλους που δεν συμφωνεί με τις προσδοκίες ενός διαχειριστή της Google” Το VentureBeat επικοινωνούσε με τον Gebru, εκπρόσωπο της Google και τον Jeff Dean, επικεφαλής της Google AI, για σχόλια. Αυτή η ιστορία θα ενημερωθεί εάν ακούσουμε ξανά από εσάς.

Σε ένα δημοσιεύτηκε το tweet λίγες μέρες πριν φύγει από το Google, ο Gebru αναρωτήθηκε αν υπάρχει κανονισμός που προστατεύει τους ανθρώπους από την αποκάλυψη προστασίας νόμου για τους καταγγέλλοντες στα μέλη της κοινότητας δεοντολογίας AI.

Ο Gebru αποχωρεί από την Google την ίδια μέρα το Countrywide Labor Evaluate Board (NLRB) υπέβαλε καταγγελίες κατά της Google ο οποίος διαπίστωσε ότι η εταιρεία κατάσκοψε και απολύθηκε δύο υπαλλήλους που συμμετείχαν στην οργάνωση της εργασίας.

Η Tawana Petty είναι υπέρμαχος της ιδιωτικής ζωής των δεδομένων και της δικαιοσύνης στο Ντιτρόιτ, ο οποίος διορίστηκε Εθνικός Οργανωτικός Διευθυντής Δεδομένων για τις Μαύρες Ζωές αυτή την εβδομάδα. Σήμερα το πρωί έδωσε ομιλία για την κληρονομιά της επιτήρησης της μαύρης κοινότητας με τεχνολογία όπως η αναγνώριση προσώπου και η τοξικότητα της λευκής υπεροχής στη ζωή των ανθρώπων. Αφιέρωσε την κεντρική του διεύθυνση Συνέδριο 100 Excellent Gals in AI Ethics στον Timnit Gebru.

“Απολύθηκε για αυτό που όλοι επιθυμούμε να κάνουμε και να είμαστε”, είπε ο Petty.

Η Mia Shah-Dand, που διοργάνωσε το συνέδριο, χαρακτήρισε την απόλυση του Gebru ως αντανάκλαση της τοξικής κουλτούρας στην τεχνολογία και ένα σημάδι ότι οι γυναίκες, ειδικά οι μαύρες γυναίκες, χρειάζονται υποστήριξη.

Ο Timnit Gebru είναι γνωστός για μερικές από τις πιο σημαντικές εργασίες στην έρευνα της αλγοριθμικής δικαιοσύνης και στην καταπολέμηση της αλγοριθμικής προκατάληψης με τη δυνατότητα αυτοματοποίησης της καταπίεσης. Ο Gebru είναι συνιδρυτής του συνεδρίου Fairness, Accountability and Transparency (FAccT) e Μαύρο σε AI, μια ομάδα που φιλοξενεί συγκεντρώσεις κοινότητας και καθοδηγεί νέους αφρικανικής καταγωγής. Το Black in AI διοργανώνει το ετήσιο σεμινάριό του τη Δευτέρα στο NeurIPS, το μεγαλύτερο ερευνητικό συνέδριο AI στον κόσμο.

Πριν γίνει μέλος της Google, ο Gebru έγινε μέλος του ιδρυτή της Algorithmic Justice League, Pleasure Buolamwini και δημιούργησε το έργο Gender Shades για να αξιολογήσει την απόδοση των συστημάτων αναγνώρισης προσώπου από μεγάλους προμηθευτές όπως η IBM και η Microsoft. Αυτή η εργασία κατέληξε στο συμπέρασμα ότι η αναγνώριση προσώπου τείνει να λειτουργεί καλύτερα στους λευκούς άνδρες και χειρότερα σε γυναίκες με πιο σκούρες επιδερμίδες. Αυτή η έρευνα και η επακόλουθη δουλειά των Buolamwini και Deborah Raji το 2019 είχε μεγάλη επιρροή στους νομοθέτες που αποφασίζουν πώς να ρυθμίσουν την τεχνολογία και τη στάση των ανθρώπων σχετικά με την απειλή που δημιουργεί η αλγοριθμική προκατάληψη.

Ενώ εργαζόταν στη Microsoft Exploration, ήταν η κύρια συγγραφέας του “Φύλλα δεδομένων για σύνολα δεδομένων, “Ένα έγγραφο που προτείνει τη συμπερίληψη ενός τυπικού συνόλου πληροφοριών με σύνολα δεδομένων, προκειμένου να παρέχονται στους επιστήμονες δεδομένων περιβάλλοντα πριν αποφασίσουν να χρησιμοποιήσουν αυτά τα δεδομένα για την εκπαίδευση ενός μοντέλου AI.” Φύλλα δεδομένων για φύλλα δεδομένων “θα έχουν στη συνέχεια λειτούργησε ως κίνητρο για τη δημιουργία προτύπων καρτών.

Ως υπάλληλος της Google, ο Gebru συνεργάστηκε με τους Mitchell, Raji και άλλους το 2019 για να γράψουν ένα άρθρο σχετικά με το Design Boards, ένα πλαίσιο για την παροχή πληροφοριών απόδοσης αναφοράς σε ένα μοντέλο για επαγγελματίες μηχανικής μάθησης που θα αξιολογήσουν πριν χρησιμοποιήστε ένα μοντέλο τεχνητής νοημοσύνης. Το Google Cloud άρχισε να παρέχει κάρτες μοντέλου για ορισμένες από τις AI του πέρυσι και αυτό το καλοκαίρι παρουσίασε το Εργαλειοθήκη καρτών προτύπων να επιτρέψουν στους προγραμματιστές να δημιουργήσουν τις δικές τους κάρτες προτύπων.

Αυτό το καλοκαίρι, ο Gebru και η πρώην συνάδελφός του Emily Denton πραγματοποίησαν ένα σεμινάριο για την ισότητα και την ηθική στην όραση του υπολογιστή στο Computer system Eyesight and Sample Recognition (CVPR), και λίγο αργότερα μπήκαν σε ένα Δημόσια ευθύνη με τον διευθυντή έρευνας του Fb AI Yann LeCun για προκατάληψη της AI.

Τα μέλη της κοινότητας AI και άλλοι αναφέρονται μερικές φορές στο Gebru ως κάποιον επιδιώκει ενεργά να σώσει τον κόσμο. Νωρίτερα φέτος, ο Gebru σκηνοθέτησε ένα βιβλίο που συμπεριλήφθηκε στο βιβλίο “Bedtime Stories for Rebel Girls: 100 Immigrant Gals Who Altered the World”, ένα βιβλίο που κυκλοφόρησε τον Οκτώβριο.





[via]