Το φθινόπωρο του 2018, ο Τζόνα Περέτι, CEO της εταιρείας πολυμέσων, ειδήσεων και ψυχαγωγίας μέσω διαδικτύου BuzzFeed, έστειλε email σε ένα ανώτατο στέλεχος της Facebook. Σύμφωνα με τον ίδιο, το διχαστικό περιεχόμενο που παρήγαγαν οι εκδότες γινόταν viral στην πλατφόρμα, δημιουργώντας ένα κίνητρο για μεγαλύτερη παραγωγή.
Ο Περέτι επεσήμανε την «επιτυχία» μιας ανάρτησης του BuzzFeed με τίτλο «21 πράγματα που οι περισσότεροι λευκοί σκέφτονται», η οποία έλαβε 13.000 κοινοποιήσεις και 16.000 σχόλια στο Facebook. Πολλά άτομα επέκριναν το BuzzFeed και διαφωνούσαν μεταξύ τους για ρατσισμό. Τα άλλα άρθρα και βίντεο της εταιρείας δεν μπορούσαν να «χτυπήσουν» την ίδια ανταπόκριση.
Ο νέος αλγόριθμος
Στο πλαίσιο αυτό, ο CEO της BuzzFeed ενοχοποίησε μια σημαντική αναθεώρηση που είχε κάνει το Facebook στον αλγόριθμο για το News Feed, που στόχο είχε να ενισχύσει τις «ουσιαστικές κοινωνικές αλληλεπιδράσεις». Το BuzzFeed έστησε την επιχείρησή του δημιουργώντας περιεχόμενο που θα γινόταν viral στο Facebook και σε άλλα μέσα κοινωνικής δικτύωσης, έτσι ενδιαφερόταν για τυχόν αλλαγές αλγορίθμων που θα έβλαπταν τα «νούμερα» του.
Ωστόσο, το email του Περέτι άγγιξε ένα ευαίσθητο νεύρο. Ο διευθύνων σύμβουλος του Facebook, Μαρκ Ζάκερμπεργκ, είπε ότι ο στόχος της αλλαγής αλγορίθμου ήταν να ενισχύσει τους δεσμούς μεταξύ των χρηστών και να βελτιώσει την ευημερία τους. Το Facebook θα ενθάρρυνε τους ανθρώπους να αλληλεπιδρούν περισσότερο με τους φίλους και την οικογένειά τους και να περνούν λιγότερο χρόνο «καταναλώνοντας» επαγγελματικό περιεχόμενο, το οποίο σύμφωνα με την έρευνα ήταν επιβλαβές για την ψυχική τους υγεία.
Εντός της εταιρείας, όμως, οι υπάλληλοι προειδοποίησαν ότι η αλλαγή είχε το αντίθετο αποτέλεσμα, σύμφωνα με έγγραφα που είδαν το φως της δημοσιότητας. Ο νέος αλγόριθμος, έκανε την πλατφόρμα ένα πολύ πιο θυμωμένο μέρος. Οι ερευνητές της εταιρείας ανακάλυψαν ότι εκδότες και πολιτικά κόμματα αναπροσανατολίζουν τις θέσεις τους, με οδηγό την οργή και το σοκ. Αυτή η τακτική παρήγαγε υψηλά επίπεδα σχολίων και αντιδράσεων που μεταφράστηκαν ως επιτυχία στο Facebook. «Η προσέγγισή μας είχε άσχημες παρενέργειες σε σημαντικά κομμάτια του δημόσιου περιεχομένου, όπως η πολιτική και οι ειδήσεις», έγραψε μια ομάδα για τα δεδομένα, επισημαίνοντας τα παράπονα του Περέτι. Σε υπόμνημά τους κατέληξαν στο συμπέρασμα ότι ο νέος αλγόριθμος έκανε τις θυμωμένες φωνές πιο δυνατές. «Η παραπληροφόρηση, η τοξικότητα και το βίαιο περιεχόμενο, ήτα πλέον υπερβολικά διαδεδομένα μεταξύ των αναδημοσιεύσεων».
Την ίδια ώρα, κόμματα στην Ευρώπη είπαν στο Facebook ότι ο αλγόριθμος τους είχε κάνει να αλλάξουν τις θέσεις πολιτικής τους, ώστε να έχουν μεγαλύτερη απήχηση στην πλατφόρμα. «Πολλά κόμματα, συμπεριλαμβανομένων εκείνων που έχουν στραφεί προς το αρνητικό κομμάτι, ανησυχούν για τις μακροπρόθεσμες επιπτώσεις στη δημοκρατία», ναφέρει μια εσωτερική έκθεση του Facebook, η οποία -ωστόσο- δεν κατονομάζει συγκεκριμένα κόμματα.
Οι υπάλληλοι του Facebook συζήτησαν επίσης, άλλο ένα κίνητρο της εταιρείας για αλλαγή: Οι χρήστες είχαν αρχίσει να αλληλεπιδρούν λιγότερο με την ίδια την πλατφόρμα.
Σε συνέντευξή του, ο Λαρς Μπάκστρομ, αντιπρόεδρος μηχανικής του Facebook, είπε ότι κάθε νέος αλγόριθμος ενέχει το ρίσκο να προωθήσει περιεχόμενο που είναι απαράδεκτο ή επιβλαβές για ορισμένους χρήστες.
«Όπως σε κάθε βελτιστοποίηση, υπάρχουν διάφοροι τρόποι με τους οποίους μπορεί να αξιοποιηθεί», είπε. «Αυτός είναι ο λόγος για τον οποίο έχουμε μια ομάδα που προσπαθεί να τους εντοπίσει και να καταλάβει πώς να μετριάσει πιθανές “βλάβες” όσο το δυνατόν πιο αποτελεσματικά».
Οι επιστήμονες της εταιρείας εργάστηκαν σε μια σειρά πιθανών αλλαγών για να περιορίσουν την τάση του αναθεωρημένου αλγορίθμου να επιβραβεύει την οργή και τα ψέματα. Όμως ο Ζάκερμπεργκ αντιστάθηκε σε ορισμένες από τις προτεινόμενες διορθώσεις, δείχνουν τα έγγραφα, επειδή ανησυχούσε ότι θα μπορούσαν να βλάψουν τον άλλο στόχο της εταιρείας – να κάνουν τους χρήστες να ασχοληθούν περισσότερο με το Facebook.
Κριτική για το Καπιτώλιο
Πλέον, η εταιρεία προσπαθεί να μειώσει τον όγκο του πολιτικού περιεχομένου στο Facebook, αφού η εταιρεία δέχθηκε κριτική για τον τρόπο με τον οποίο οι διαδηλωτές των αμερικανικών εκλογών χρησιμοποίησαν την πλατφόρμα για να αμφισβητήσουν τα αποτελέσματα και να οργανώσουν κινητοποιήσεις που οδήγησαν στα επεισόδια του Καπιτωλίου, στην Ουάσιγκτον.
Η αλλαγή αλγορίθμου του 2018 επηρέασε το κεντρικό χαρακτηριστικό του Facebook, το News Feed, από προσωπικά προσαρμοσμένο με αναρτήσεις φίλων, σε ειδήσεις. Η εταιρεία πωλεί αυτήν την προσοχή των χρηστών στους διαφημιζόμενους, τόσο στο Facebook όσο και στην αδελφή πλατφόρμα της Instagram, αντιπροσωπεύοντας σχεδόν όλα τα έσοδα (86 δισ. δολ. το 2020).
Μάλιστα, θεσπίστηκε και μπόνους πόντων, ανάλογα με το πόσο διαδραστικός ήταν κάποιος χρήστης. Τα like έπαιρναν έναν πόντο, τα σημαντικά σχόλια 30 πόντους κ.λπ.
Προτεινόμενες διορθώσεις
Τον Απρίλιο του 2019, ένας επιστήμονας δεδομένων στο Facebook πρότεινε αλλαγές, προκειμένου να εμφανίζονται λιγότερα πολιτικές δημοσιεύσεις στο στο News Feed ενός χρήστη.
«Ενώ η πλατφόρμα προσφέρει στους ανθρώπους την ευκαιρία να συνδεθούν, να μοιραστούν και να συμμετάσχουν, μια ατυχής παρενέργεια είναι ότι τα fake news μπορεί να γίνουν viral, συχνά πριν μπορέσουμε να τα πιάσουμε και να μετριάσουμε τις επιπτώσεις τους», έγραψε. «Επιπλέον, οι πολιτικοί και οι εκδότες μας λένε ότι βασίζονται περισσότερο στον αρνητισμό, λόγω των πρόσφατων αλγοριθμικών αλλαγών που ευνοούν τις αναδημοσιεύσεις».
Οι πρώτες δοκιμές των προτεινόμενων αλλαγών, έδειξαν πώς η μείωση αυτής της πτυχής του αλγορίθμου, συνέβαλε στη μείωση του πολλαπλασιασμού του ψευδούς περιεχομένου.
Όπως αναφέρει η WSJ, το Facebook ήλπιζε ότι η προτεραιότητα στη συμμετοχή των χρηστών στο News Feed θα φέρει τους ανθρώπους πιο κοντά. Αλλά η πλατφόρμα είχε γίνει τόσο πολύπλοκη που η εταιρεία δεν κατάλαβε πώς ήρθε η αποτυχία.