Ο Arin Bhowmick της IBM εξηγεί γιατί η εμπιστοσύνη στην AI είναι δύσκολο να αποκτηθεί στην επιχείρηση

Ο Arin Bhowmick της IBM εξηγεί γιατί η εμπιστοσύνη στην AI είναι δύσκολο να αποκτηθεί στην επιχείρηση


Ενώ η εκτίμηση του δυνητικού αντίκτυπου που μπορεί να έχει η AI στις επιχειρηματικές διαδικασίες είναι σε εξέλιξη για αρκετό καιρό, η πρόοδος δεν ήταν τόσο γρήγορη όσο πολλές αρχικές προβλέψεις που περίμεναν πολλοί οργανισμοί.

Ο Arin Bhowmick, διευθύνων σύμβουλος της IBM, εξήγησε στην VentureBeat τι πρέπει να γίνει για να φτάσει στο επίπεδο Επεξήγηση AI το οποίο θα χρειαστεί για να πάει το AI στο επόμενο επίπεδο στην επιχείρηση.

Αυτή η συνέντευξη έχει επεξεργαστεί για σαφήνεια και συντομία.

VentureBeat: Φαίνεται ότι πολλοί οργανισμοί εξακολουθούν να μην έχουν πίστη στο AI. Πιστεύεις ότι βελτιώνεται

Άριν Μπάουμικ: Νομίζω ότι έχει βελτιωθεί ή βελτιώνεται. Αλλά έχουμε ακόμη πολύ δρόμο να διανύσουμε. Ιστορικά, δεν καταφέραμε να συνδυάσουμε εμπιστοσύνη, δικαιοσύνη και επεξηγηματική τεχνητή νοημοσύνη σε προϊόντα και εμπειρίες. Από την άποψη της IBM, προσπαθούμε να δημιουργήσουμε αξιόπιστη τεχνολογία που μπορεί να βελτιωθεί [but] δεν αντικαθιστά πραγματικά τη λήψη αποφάσεων από τον άνθρωπο. Πιστεύουμε ότι η εμπιστοσύνη είναι απαραίτητη για την υιοθέτηση. Επιτρέπει στους οργανισμούς να κατανοούν και να εξηγούν συστάσεις και ευρήματα.

Αυτό που ουσιαστικά προσπαθούμε να κάνουμε είναι παρόμοιο με μια διατροφική ετικέτα. Προσπαθούμε να έχουμε παρόμοιο είδος διαφάνειας στα συστήματα τεχνητής νοημοσύνης. Υπάρχει ακόμη δισταγμός στην υιοθέτηση της τεχνητής νοημοσύνης λόγω έλλειψης εμπιστοσύνης. Περίπου το 80-85% ορισμένων από τους επαγγελματίες που συμμετείχαν σε μια έρευνα IBM διαφορετικών οργανισμών δήλωσαν ότι ο οργανισμός τους επηρεάστηκε μάλλον αρνητικά από ζητήματα όπως η μεροληψία, ειδικά στα δεδομένα. Θα έλεγα ότι το 80% ή περισσότερο συμφωνεί ότι οι καταναλωτές είναι πιο πιθανό να επιλέξουν υπηρεσίες από μια εταιρεία που προσφέρει διαφάνεια και ένα ηθικό πλαίσιο για τον τρόπο κατασκευής των μοντέλων AI.

VentureBeat: Ενώ λειτουργεί ένα μοντέλο AI, μπορεί να δημιουργήσει διαφορετικά αποτελέσματα καθώς οι αλγόριθμοι μάθουν περισσότερα για τα δεδομένα. Πόσο επηρεάζει αυτή η έλλειψη συνοχής την εμπιστοσύνη

Bhowmick: Το μοντέλο τεχνητής νοημοσύνης που χρησιμοποιείται για την πρόβλεψη είναι τόσο καλή όσο τα δεδομένα. Δεν είναι μόνο μοντέλα. Πρόκειται για το τι κάνει και τις ιδέες που παρέχει εκείνη τη στιγμή που χτίζει εμπιστοσύνη. Σας λέει γιατί έγινε η πρόταση ή έχει νόημα, πώς επεξεργαστήκατε τις προτάσεις και πόσο ασφαλής είναι Η τεχνητή νοημοσύνη τείνει να είναι αρχείο μαύρο κουτί. Το κόλπο για την ανάπτυξη εμπιστοσύνης είναι να αποκαλύψετε το μαύρο κουτί.

VentureBeat: Πώς φτάνουμε σε αυτό το επίπεδο επεξηγηματικότητας AI

Bhowmick: Είναι δύσκολο. Μερικές φορές είναι δύσκολο ακόμη και να κρίνουμε τη βασική αιτία μιας πρόβλεψης και διαίσθησης. Εξαρτάται από τον τρόπο κατασκευής του μοντέλου. Η επεξήγηση είναι επίσης δύσκολη, διότι όταν παραδίδεται στον τελικό χρήστη, είναι γεμάτη από τεχνικό jumbo mumbo. Δεν είναι στη φωνή και τον τόνο που ο χρήστης κατανοεί πραγματικά.

Μερικές φορές η επεξήγηση είναι επίσης λίγο για το “γιατί”, παρά για το “τι”. Είναι πολύ δύσκολο να δοθεί ένα παράδειγμα επεξηγηματικότητας στο πλαίσιο των δραστηριοτήτων που πραγματοποιεί ο χρήστης. Εκτός αν οι προγραμματιστές που δημιουργούν αυτά τα βασισμένα στο AI [and] τα εγχυμένα συστήματα ακολουθούν πραγματικά την επιχειρηματική διαδικασία, το πλαίσιο δεν θα υπάρχει.

VentureBeat: πώς το μετράμε

Bhowmick: Υπάρχει μια βαθμολογία μετοχών και μια βαθμολογία μεροληψίας. Υπάρχει μια έννοια της ακρίβειας του μοντέλου. Τα περισσότερα από τα διαθέσιμα εργαλεία δεν παρέχουν ρεαλιστική βαθμολογία στοιχείων προκατάληψης. Προφανώς, όσο μεγαλύτερη είναι η μεροληψία, τόσο χειρότερο είναι το μοντέλο σας. Είναι πολύ σαφές για εμάς ότι μεγάλο μέρος της πηγής προκατάληψης βρίσκεται στα δεδομένα και τις παραδοχές που χρησιμοποιούνται για τη δημιουργία του μοντέλου.

Αυτό που προσπαθούσαμε να κάνουμε είναι να βάλουμε κάποια ανίχνευση προκατάληψης και επεξήγηση στα ίδια τα εργαλεία. Θα εξετάσει το προφίλ δεδομένων και θα το συγκρίνει με άλλα στοιχεία και άλλα μοντέλα τεχνητής νοημοσύνης. Θα μπορέσουμε να σας πούμε ότι αυτό που προσπαθείτε να δημιουργήσετε έχει ήδη ενσωματωμένη προκατάληψη και εδώ μπορείτε να κάνετε για να το διορθώσετε.

VentureBeat: Αυτό γίνεται τότε μέρος της εμπειρίας χρήστη

Bhowmick: Ναι, και αυτό είναι πολύ, πολύ σημαντικό. Όποια και αν είναι η προκατάληψη που τροφοδοτεί το σύστημα έχει τεράστιες επιπτώσεις. Δημιουργούμε ηθικές πρακτικές σχεδιασμού σε όλη την εταιρεία. Έχουμε αναπτύξει συγκεκριμένες ασκήσεις και εργαστήρια σκέψης σχεδιασμού. Πραγματοποιούμε σεμινάρια για να βεβαιωθούμε ότι εξετάζουμε την ηθική νωρίς στον κύκλο σχεδιασμού και σχεδιασμού της επιχειρηματικής διαδικασίας Χρησιμοποιούμε επίσης AI για να βελτιώσουμε την AI. Εάν μπορέσουμε να οικοδομήσουμε κάποιο είδος προκατάληψης και επεξηγηματικά σημεία ελέγχου AI στην πορεία, θα έχουμε εγγενώς καλύτερη κλίμακα. Αυτό είναι το σχέδιο παιχνιδιού εδώ.

VentureBeat: Θα ενσωματωθεί σε κάθε εφαρμογή ένα μοντέλο AI

Bhowmick: Δεν πρόκειται για την εφαρμογή, αλλά για να μάθουμε αν υπάρχουν πράγματα μέσα σε αυτήν την εφαρμογή με τα οποία μπορεί να βοηθήσει το AI. Εάν η απάντηση είναι ναι, οι περισσότερες εφαρμογές θα έχουν εγχύσει τεχνητή νοημοσύνη σε αυτές. Οι εφαρμογές είναι απίθανο να μην έχουν AI.

VentureBeat: Οι περισσότεροι οργανισμοί θα ενσωματώσουν κινητήρες AI στις εφαρμογές τους ή απλώς θα χρησιμοποιήσουν εξωτερικές δυνατότητες AI μέσω μιας διεπαφής προγραμματισμού εφαρμογών (API)

Bhowmick: Και τα δύο θα είναι αλήθεια. Νομίζω ότι το API θα ήταν χρήσιμο για άτομα που μόλις ξεκινούσαν. Όμως, καθώς αυξάνεται το επίπεδο ωριμότητας AI, θα υπάρχουν περισσότερες πληροφορίες συγκεκριμένες για μια συγκεκριμένη δήλωση προβλήματος για το κοινό. Για αυτό, πιθανότατα θα πρέπει να δημιουργήσουν προσαρμοσμένα μοντέλα AI. Θα μπορούσαν να επωφεληθούν από τα API και άλλα εργαλεία, αλλά για να έχουν μια εφαρμογή που να κατανοεί πραγματικά τον χρήστη και να φτάνει στο επίκεντρο του θέματος, νομίζω ότι είναι σημαντικό να κατασκευάζεται εσωτερικά.

VentureBeat: Συνολικά, ποια είναι η καλύτερη συμβουλή AI για οργανισμούς

Bhowmick: Εξακολουθώ να διαπιστώνω ότι το επίπεδο επίγνωσής μας για το τι είναι το AI και τι μπορεί να κάνει και πώς μπορεί να μας βοηθήσει, δεν είναι υψηλό. Όταν μιλάμε με πελάτες, όλοι θέλουν να μπει στο AI. Αλλά όταν τους ρωτάτε ποιες είναι οι περιπτώσεις χρήσης, μερικές φορές δεν μπορούν να το αρθρώσουν.

Νομίζω ότι η υιοθέτηση καθυστερεί κάπως λόγω της κατανόησης και της αποδοχής των ανθρώπων από το AI. Αλλά υπάρχουν αρκετές πληροφορίες για τις αρχές της τεχνητής νοημοσύνης για ανάγνωση. Καθώς αναπτύσσετε μια κατανόηση, εξετάστε τα εργαλεία. Πραγματικά έρχεται στην επίγνωση.

Νομίζω ότι είμαστε στον κύκλο διαφημίσεων. Ορισμένοι τομείς έχουν ένα πλεονέκτημα, αλλά αν μπορούσα να δώσω σε όλους συμβουλές, δεν θα επιβάλλει την AI. Βεβαιωθείτε ότι σχεδιάζετε το AI στο σύστημά σας με τρόπο που έχει νόημα για το πρόβλημα που προσπαθείτε να λύσετε.

VentureBeat

Η αποστολή της VentureBeat είναι να είναι ένα ψηφιακό τετράγωνο πόλης για τεχνικούς υπεύθυνους λήψης αποφάσεων για να αποκτήσουν πληροφορίες σχετικά με τη μετασχηματιστική τεχνολογία και συναλλαγές. Ο ιστότοπός μας παρέχει βασικές πληροφορίες σχετικά με τις τεχνολογίες δεδομένων και τις στρατηγικές για να σας καθοδηγήσει καθώς οδηγείτε τους οργανισμούς σας. Σας προσκαλούμε να γίνετε μέλος της κοινότητάς μας, για πρόσβαση:

  • ενημερωμένες πληροφορίες για θέματα που σας ενδιαφέρουν
  • τα ενημερωτικά δελτία μας
  • Περιεχόμενο περιφραγμένο με κορυφαία σκέψη και μειωμένη πρόσβαση στις πολύτιμες εκδηλώσεις μας, όπως το Transform
  • δυνατότητες δικτύωσης και άλλα

Γίνομαι μέλος



[via]

Αυτός ο ιστότοπος χρησιμοποιεί το Akismet για να μειώσει τα ανεπιθύμητα σχόλια. Μάθετε πώς υφίστανται επεξεργασία τα δεδομένα των σχολίων σας.