Πρόσφατα, μια φοιτήτρια με το όνομα Ροζαλία ανακάλυψε κάτι ανησυχητικό: Ψάχνοντας «για μη επαγγελματικά χτενίσματα για την δουλειά» τα αποτελέσματα που πήρε ήταν σχεδόν μόνο έγχρωμες γυναίκες με φυσικά μαλλιά. Ψάχνοντας για «επαγγελματικά» τα αποτελέσματα εμφάνισαν λευκές γυναίκες. Συχνά, τα χτενίσματα των λευκών γυναικών δεν διέφεραν από αυτά των έγχρωμων, εκτός από το είδος και το χρώμα του δέρματός τους, αναφέρει η Λι Αλεξάντερ από την Guardian.

Στο τουίτ που δημοσίευσε η Ροζαλία την ανακάλυψή της, έχει αναπαραχθεί μερικές χιλιάδες φορές (περισσότερες από 6200 φορές μέσα σε 24 ώρες). Το τουίτ της έγινε αφορμή για να ξεκινήσει η κουβέντα για τις σιωπηρές φυλετικές προκαταλήψεις ενάντια σε έγχρωμους ανθρώπους στο χώρο εργασίας τους. Μπορεί ένας αλγόριθμος να είναι «ρατσιστής» ή απλά αντικατοπτρίζει το γενικότερο κοινωνικό τοπίο;

Φαντάζει πολύ δύσκολο να θυμηθούμε την εποχή που δε «γκουγκλάραμε εικόνες» με μία λέξη ή μια φράση και να δούμε την αντίστοιχή εικόνα στιγμιαία. Σύμφωνα με τον γενικό διευθυντή της Google, Ερικ Σμιντ, η δυνατότητα παρουσιάστηκε για πρώτη φορά το 2000. Και δημιουργήθηκε ως απάντηση στην ξαφνική και εντυπωσιακή ζήτηση για να δει ο κόσμος το πράσινο φόρεμα από τον οίκο Versace που φόραγε η Τζένιφερ Λοπέζ στην τότε εκδήλωση για τα βραβεία Grammy. Ολοι ήθελαν να το δουν. Κανένας δεν το αναζητούσε για να διαβάσει για αυτό αλλά για να το δει.

I saw a tweet saying “Google unprofessional hairstyles for work”. I did. Then I checked the ‘professional’ ones 🙃🙃🙃 pic.twitter.com/5KLg7FZ6Hq

— Rosalia (@BonKamona) April 5, 2016

Πλέον, οι εικόνες της Google αποτελούν αναπόσπαστο κομμάτι στο το πώς χρησιμοποιούμε το Διαδίκτυο. Στιγμιαία, μας προσφέρει μια μεγάλη γκάμα από σχετικές εικόνες, αντιδρώντας σε μια λέξη, μια φράση ή μια ερώτησή μας. Αν ψάξετε για πίτες (Pie), θα δείτε δημιουργίες είτε ολόκληρες είτε κομμένες. Και δεν σταματάει εκεί. Κάνει και άλλες προτάσεις όπως για παράδειγμα, μηλόπιτα ή κρεατόπιτα; Μήπως εννοούσατε τον μαθηματικό τύπο (π); H αναζήτηση της Google σκέφτεται τα πάντα.

Θεωρούσαμε πάντα τις μηχανές αναζήτησης ως απόκρυφά αλλά ουδέτερα πλάσματα. Υπάκουα μόνο στην θέλησή μας και στην πολύτιμη λογική της πληροφορίας. Παλιότερες μηχανές αναζήτησης από την έλευση του Διαδικτύου στην ζωή μας, αντανακλούσαν ακριβώς αυτή την αίσθηση. Θυμάστε το «Ask Jeeves», τον ευγενικό μπάτλερ; Πέρα από αυτήν την φαντασία, οι μηχανές αναζήτησης και οι αλγόριθμοί τους είναι σε θέση να γνωρίζουν και να βρίσκουν αυτά που ζητάμε, επηρεαζόμενοι από το περιεχόμενο που τους δίνουμε. Αυτό σημαίνει ότι αντικατοπτρίζουν τις δικές μας προκαταλήψεις.

Σε βασικό επίπεδο, οι εικόνες της Google αρχικά βρίσκουν ποιος είναι στην εικόνα ή τι δείχνει μία, κρίνοντας από τις λεζάντες και το κείμενο γύρω από αυτή. Είναι πιθανό ότι υπάρχει και μια υποτυπώδης ανάλυση εικόνας – το είδος που καταλαβαίνει και διαχωρίζει ένα πρόσωπο από ένα τοπίο να συμμετέχει στην διαδικασία. Στην περίπτωση μας, ο αλγόριθμος φαίνεται ότι πήρε πολλές φωτογραφίες που έχουν χτενισμένα τα μαλλιά τους μη επαγγελματικά από μπλογκς, άρθρα και από το Pinterest. Και πολλές από αυτές τις εικόνες προέρχονται από έγχρωμα άτομα που συζητούν και διαμαρτύρονται για ρατσιστικές συμπεριφορές για το είδος του χτενίσματός τους. Μία από τις εικόνες οδηγεί σε ένα δημοσίευμα που κριτικάρει το Πανεπιστήμιο του Χάμτον για την απαγόρευση σε χτενίσματα ράστα. Μία άλλη ήταν συνδεδεμένη με μια δημοσίευση που μίλαγε υπέρ των φυσικών μαλλιών και έκραζε την γελοία πίεση να τα ισιώνεις για το γραφείο. Επειδή, οι μεγάλες φυσικές μπούκλες αποσπούν την προσοχή των παρευρισκόμενων σε μια αίθουσα σύνταξης ειδήσεων.

Στην τελική ο αλγόριθμος καθρεφτίζει συζητήσεις σχετικές με προκαταλήψεις για τα «μη επαγγελματικά χτενίσματα», και δεν δημιουργεί τον κανόνα. Στην ουσία, από την ώρα που έγινε απίστευτα δημοφιλές το τουίτ της Ροζαλίας, μια μέρα μετά ακριβώς, «memes» έκαναν την εμφάνισή τους σχετικά με το θέμα, ακόμα και φωτογραφίες του ίδιου του τουίτ της Ροζαλίας. Με αποτέλεσμα να υπερκαλύψουν τις εικόνες του θέματος, δηλαδή τα «μη επαγγελματικά χτενίσματα».

Αλλά εξακολουθεί να εγείρει ερωτήματα για τον ρόλο των αλγόριθμων και πώς χρησιμοποιούμε το Διαδίκτυο, δημιουργώντας μερικές τρύπες στην ουτοπική φαντασία για το τι είναι το Διαδίκτυο και ποια η χρήση του.

Για παράδειγμα κάντε μια αναζήτηση με την λέξη άνδρες (men), και θα πάρετε ως αποτελέσματα εικόνες σχεδόν αποκλειστικά από λευκούς άνδρες σε διάφορες ηλικίες. Κάντε το ίδιο για την λέξη γυναίκα, και θα σας βγάλει νέες λευκές γυναίκες. Λαμβάνοντας υπόψη ότι ο παγκόσμιος πληθυσμός στην πλειονότητά του είναι μη λευκός, βλέπουμε αμέσως πως υπάρχει προκατάληψη στον τρόπο και στα πιστεύω σε επίπεδο κουλτούρας και ομορφιάς από το φύλο και την φυλή. Τ α πολιτιστικά πρότυπα, κυριαρχούν στον τρόπο που το Διαδίκτυο δουλεύει και τι ιστορίες λέει για την ανθρωπότητα.

Ο αλγόριθμος, φυσικά δεν θέλει να είναι ιμπεριαλιστής. Κάνει ότι σχεδιάστηκε να κάνει. Να αντικατροπτίζει το περιεχόμενο που είναι διαθέσιμο. Αλλά το όνειρο ότι το Διαδίκτυο είναι ο μεγάλος ισοσταθμιστής παραμένει μονάχα, μια ουτοπία. Και η φαντασία ότι ένας παγκόσμιος μη επικριτικός ψηφιακός υπηρέτης που δείχνει το πραγματικό μέγεθος και την έκταση του κόσμου, παραμένει ανεκπλήρωτη.

Είναι αυτό κάτι που μπορεί να διορθώσει η Google; Ισως αν αλλάξει την αρχειοθέτηση και την σειρά προτεραιότητας των εικόνων; Και αν ναι, πρέπει; Οι εικόνες της Google δημιουργήθηκαν σε απάντηση του τι ήθελε ο κόσμος να δει. Ισως δεν έχουν αποφασίσει ακόμα τι χρειαζόμαστε περισσότερο να δούμε.

Ακολουθήστε το Protagon στο Google News