google
Μια εξέχουσα επιστήμονας υπολογιστών τεχνητής νοημοσύνης, που βοήθησε στην πρωτοποριακή έρευνα σχετικά με την προκατάληψη του λογισμικού αναγνώρισης προσώπου εναντίον έγχρωμων ατόμων, δήλωσε ότι απολύθηκε από την Google επειδή έστειλε ένα μήνυμα ηλεκτρονικού ταχυδρομείου, με το οποίο επέκρινε τη στάση της εταιρείας απέναντι σε μειονότητες, ενώ δήλωσε ότι και η ίδια αισθανόταν συνεχώς έτσι.

Η Timnit Gebru, ανέφερε την απόλυσή της από την εταιρεία στο λογαριασμό της στο Twitter, από τη θέση της αρχηγού της ομάδας Ethical Artificial Intelligence της Google, όπου ηγήθηκε της έρευνας που βοήθησε στην ανάδειξη του στάτους της εταιρείας ως ηγέτη στην αξιολόγηση της δικαιοσύνης και των κινδύνων της τεχνολογίας.

Η Google δεν έχει ακόμα σχολιάσει κάτι σχετικά με το συμβάν. Η Gebru δήλωσε την Τετάρτη ότι απολύθηκε από τον Jeff Dean, επικεφαλής του τμήματος AI της Google, για ένα email που είχε στείλει στο Brain Women and Allies, μια λίστα αλληλογραφίας για ερευνητές της ομάδας AI της εταιρείας γνωστής ως Google Brain.

Η απόλυσή της, έχει αναζωπυρώσει την οργή εναντίον της Google σε σχέση με τον τρόπο που αντιμετωπίζει τους υπαλλήλους της. Μάλιστα δεν είναι η πρώτη φορά που η εταιρεία απολύει εργαζομένους της, επειδή είχαν εκφράσει τη δυσαρέσκειά τους σχετικά με τις πρακτικές της.

Η Inioluwa Deborah Raji, ερευνήτρια AI και συνεργάτιδα της Mozilla που είχε συνεργαστεί μαζί της, δήλωσε ότι η Gebru βοήθησε ώστε η Google να αποκτήσει έναν αέρα νομιμότητας και αξιοπιστίας, καθώς προσπαθούσε να παρουσιαστεί ως δεσμευμένη στην ηθική έρευνα.

Παρά τη φήμη της Google ως ηγέτη στην ηθική της τεχνητής νοημοσύνης στον κλάδο της τεχνολογίας, οι προσπάθειές της έχουν κλονιστεί από διαμάχες και εσωτερική κριτική. Μάλιστα η ίδια διέλυσε το Συμβούλιο Δεοντολογίας AI, ένα εξωτερικό συμβούλιο που είχε δημιουργήσει λίγες εβδομάδες πριν, τον Μάρτιο του 2019, όταν οι υπάλληλοι διαμαρτυρήθηκαν για την ένταξη του προέδρου του Heritage Foundation Kay Cole James, ο οποίος δεν είχε εμπειρία στο AI και είχε πρόσφατα μοιραστεί ρατσιστικές απόψεις κατά των μεταναστών και κατά των τρανσέξουαλ.

Η Gebru είχε καταφέρει να αποκτήσει μία θέση που δεν παίρνουν συχνά έγχρωμα άτομα. Ως μία Αμερικανίδα από την Αιθιοπία, με ανώτερο ρόλο στον τεχνολογικό γίγαντα, έγινε γνωστή για την εργασία της πάνω στις κοινωνικές προκαταλήψεις και επιπτώσεις της τεχνολογίας.

Επίσης ήταν συνιδρύτρια του Black in AI, μιας ομάδας υπεράσπισης που προωθεί περισσότερες θέσεις εργασίας για μαύρους στην ανάπτυξη και την έρευνα της τεχνολογίας AI. Έχει επίσης επικρίνει τακτικά εταιρείες τεχνολογίας, συμπεριλαμβανομένης της Google, για την αδυναμία πρόσληψης περισσότερων έγχρωμων εργαζομένων και τη διαφορετική μεταχείριση τους όταν εργάζονται γι’ αυτές.

Οι εντάσεις μεταξύ της Gebru και της εταιρείας προήλθαν από την έρευνα της ομάδας της, η οποία επέκρινε τα συστήματα AI, γνωστά ως μεγάλα γλωσσικά μοντέλα. Η εταιρεία μπορεί μια μέρα να επιδιώξει να αξιοποιήσει τέτοια συστήματα σε προϊόντα που απευθύνονται στον καταναλωτή και θα μπορούσαν να δημιουργήσουν πειστικά τμήματα κειμένου που είναι δύσκολο να διακρίνει κάποιος ότι δεν προέρχονται από ανθρώπους.

Σε μια ανοιχτή επιστολή την Πέμπτη το απόγευμα, μια ομάδα 236 υπαλλήλων της Google και 350 υποστηρικτών από ακαδημαϊκούς, βιομηχανικούς και κοινωνικούς φορείς εξέδωσε μια λίστα απαιτήσεων προς την ηγεσία της Google Research, συμπεριλαμβανομένου του αιτήματος στον Dean να συναντηθεί με την ομάδα Ethical AI για να εξηγήσει την απόφαση να «Λογοκρίνει» την έρευνα της Gebru. Η ομάδα απαίτησε επίσης ευρύτερη διαφάνεια. «Πρόκειται για θέμα δημόσιας ανησυχίας και πρέπει να υπάρχει δημόσια λογοδοσία για να διασφαλιστεί η εμπιστοσύνη στη Google Research στο μέλλον», αναφέρει η επιστολή.

Ένας από τους υπογράφοντες ήταν και ο Joy Buolamwini, ιδρυτής του Algorithmic Justice League, μιας ομάδας που ευαισθητοποιεί σχετικά με τον αντίκτυπο της τεχνολογίας AI. «Η εκδίωξη της Timnit για το ότι έχει το θράσος να απαιτήσει πνευματική ακεραιότητα υπονομεύει σοβαρά την αξιοπιστία της Google για την υποστήριξη αυστηρής έρευνας και για την ηθική της AI και τον αλγοριθμικό έλεγχο», δήλωσε ο Buolamwini στην Post. Αξίζει πολύ περισσότερα από αυτά που της πρόσφερε η Google και τώρα είναι μια διάσημη και ελεύθερη πράκτορας που θα συνεχίσει να μεταμορφώνει τη βιομηχανία της τεχνολογίας.»

Η Alex Hanna, ερευνήτρια της ομάδας της Gebru, έγραψε στο Twitter ότι ο Dean «έστειλε μήνυμα σε ολόκληρο τον ερευνητικό οργανισμό, διαδίδοντας παραπληροφόρηση και εσφαλμένες αντιλήψεις σχετικά με τις συνθήκες της απόλυσης της Gebru. Πρόσθεσε, “Ερευνητές της Google: μην το πιστέψετε.”

από secnews.gr