Στο τελευταίο κεφάλαιο του βιβλίου του «Homo Deus», ο ιστορικός Γιουβάλ Νόα Χαράρι μιλάει εκτενώς για μια νέα θρησκεία, τον «δεδομενισμό» (Dataism). Το νέο αυτό δόγμα δεν έρχεται να προστεθεί στα γνωστά μεταφυσικά συστήματα του πολιτισμού μας. Είναι ένα σύστημα πίστης με πολύ πρακτικό χαρακτήρα. Ο δεδομενισμός είναι η ακλόνητη πίστη στα απτά και μετρήσιμα δεδομένα. Εδώ τον ρόλο του πανόπτη κριτή παίζει η επιστήμη, εν προκειμένω η στατιστική και τα μαθηματικά. Κι αν ψάξει κανείς να βρει την αίρεση, θα δυσκολευτεί πολύ, γιατί ο δεδομενισμός έχει κυριαρχήσει παντού. Σε όλο το πολιτικό φάσμα της διακυβέρνησης, τα δεδομένα θεωρούνται η καίρια λύση για όλα τα προβλήματα της ανθρωπότητας, είτε είναι υγειονομικής, περιβαλλοντικής, οικονομικής, ή απλά γραφειοκρατικής φύσης. Δικαίως λοιπόν ο Χαράρι μιλάει για μια νέα θρησκεία.
Τα δεδομένα είναι το στοιχείο που κάνει την πίστη εφικτή, είναι η πρώτη ύλη της πανίσχυρης τεχνολογίας που έρχεται με φόρα από το μέλλον: της τεχνητής νοημοσύνης (Τ.Ν.), και της μηχανικής μάθησης (Μ.Μ.). Για αυτά τα δεδομένα γίνονται συμφωνίες με μεσίτες (data brokers) και διεξάγονται ανελέητοι κρατικοί ανταγωνισμοί. Οργανισμοί ολόκληροι στήνονται προκειμένου να εξάγουν αξία απ’ αυτά (data mining). Εξαιτίας τους συζητάμε σήμερα για την ιδιωτικότητα, την παρακολούθηση και τη διαφάνεια. Τα δεδομένα μπορούν να είναι μεγάλα (big data), ανοικτά (open data) ή και προβληματικά (bad data). Τα δεδομένα εξάσκησης (training data) καθιστούν εφικτή τη λειτουργία των νευρωνικών δικτύων που άνοιξαν τον δρόμο για τη βαθιά μάθηση και την εφαρμοσμένη Τ.Ν. Οι επιστήμονες των δεδομένων γίνονται ανάρπαστο εργατικό δυναμικό, ενώ η δεοντολογία και η ηθική των δεδομένων έρχεται με πλείστες αφορμές στην επικαιρότητα. Σήμερα, πάνω στα δεδομένα χτίζεται η αρχιτεκτονική της σύγχρονης ζωής και της οικονομίας, και είναι λογικό να παρουσιάζονται συχνά σαν το «νέο πετρέλαιο».
Τα δεδομένα αποκαλύπτουν έναν κόσμο που δεν είναι ορατός με γυμνό μάτι, και ίσως γι’ αυτό να δικαιολογούν μια μεταφυσική ανάγνωσή τους. Στις «Αόρατες γυναίκες – Προκαταλήψεις και διακρίσεις σε έναν κόσμο ανδρών» (μτφρ. Κ. Γουλέτη, Β. Μήσιου, εκδ. Μεταίχμιο, 2020), για παράδειγμα, η δημοσιογράφος Κάρολαϊν Κριάντο Πέρεζ πλοηγείται σε «παραμελημένες» βάσεις δεδομένων και αποκαλύπτει συστηματικές αδικίες που υφίστανται οι γυναίκες, αλλά δεν γίνονται εύκολα αντιληπτές. Χρειάζεται γενναία βουτιά στα δεδομένα.
Η ποσοτικοποίηση των προβλημάτων πολλές φορές αποκαλύπτει μια πραγματικότητα, το μέγεθος της οποίας είναι αδύνατο να συλλάβουμε. Στους πανδημικούς καιρούς μας, τα δεδομένα παίζουν έναν κρίσιμο και εξαιρετικά βοηθητικό ρόλο, σε πολλά επίπεδα. Χωρίς αξιόπιστα και πλούσια δεδομένα, θα ήταν αδύνατη η αποτελεσματική διαχείριση μιας τόσο εκτεταμένης υγειονομικής κρίσης.
Για να καταλάβουμε όμως βαθύτερα την τυφλή πίστη στα δεδομένα, πρέπει να στρέψουμε το βλέμμα σ’ εμάς τους ίδιους. Ο δεδομενισμός ξεκινάει με τη δεδομενοποίηση των εαυτών μας. Ο καθηγητής Αμερικανικού Πολιτισμού και Ψηφιακών Σπουδών στο Πανεπιστήμιο του Μίσιγκαν, Τζον Τσένι-Λίπολντ γράφει στο βιβλίο του «We are data – Algorithms and the making of our digital selves» (New York University Press, 2019) ότι είμαστε πλέον όλοι δεδομένα, και ότι αυτό έχει επιπτώσεις κυριολεκτικά παντού. Είμαστε ποσοτικοποιημένοι εαυτοί, ακόμα και παρά τη θέλησή μας.
Ο στόχος είναι η πρόβλεψη και η επιρροή της συμπεριφοράς μας. Αυτό το πρόβλημα λύνουν συχνά οι αλγόριθμοι. «Εξυπνο» σήμερα σημαίνει έλεγχος και διαχείριση της αβεβαιότητας. Σε πολλές περιπτώσεις αυτό είναι εφικτό και επιθυμητό. Για να βρεις λύσεις στην πανδημία, χρειάζεται να έχεις πρόσβαση σε καλά δεδομένα. Για να πάρεις καλές απαντήσεις, χρειάζεσαι καλά δεδομένα. Αλλά δεν λύνονται όλα τα προβλήματα τόσο απλά. Υπάρχουν κόστη, κίνδυνοι, ηθικές διαστάσεις, και τυφλά σημεία.
Ο ειδικός σε θέματα ασφαλείας Μπρους Σνάιερ γράφει στο βιβλίο του «Data and Goliath: The Hidden Battles to Collect Your Data and Control Your World» (W.W. Norton, 2016) ότι η μάχη για την κυριότητα των δεδομένων είναι άνιση. Τα συστήματα είναι πάντα ένα βήμα πιο μπροστά, και ο πολίτης πρέπει να εφευρίσκει τρόπους να προστατεύεται. Φυσικά, από την έκδοση του βιβλίου του και μετά, στην Ευρώπη τουλάχιστον, έχει αναληφθεί μια σοβαρή πρωτοβουλία, που έχει στόχο την προστασία των δεδομένων των πολιτών.
Ακόμα και το GDPR όμως, ενώ είναι μια καλή βάση για τη διασφάλιση των προσωπικών δεδομένων, έχει μερικές αμφιλεγόμενες πλευρές. Eνα μεγάλο πρόβλημα είναι η προστασία των δικαιωμάτων των δεδομένων των παιδιών, για παράδειγμα. Μπροστά στη στιβαρότητα και στην κυριαρχία των δεδομένων μπορεί πράγματι να μοιάζουμε με τον βιβλικό Δαβίδ που έχει απέναντί του πανίσχυρα συστήματα, για τα οποία δεν ξέρει το παραμικρό. Iσως το όπλο που θα νικήσει τον ψηφιακό Γολιάθ να είναι η εκπαίδευση: ο εγγραμματισμός στα δεδομένα (data literacy).
Aμφισβήτηση
Ο Ντέιβιντ Τζ. Χαντ στο εξαιρετικό βιβλίο του «Dark Data – Why what you don’t know matters» (Princeton University Press, 2020) αμφισβητεί την τυφλή πίστη στα δεδομένα και μιλάει για τα «σκοτεινά δεδομένα», αποθησαυρίζοντας 15 τύπους προβληματικών δεδομένων. Ο καθηγητής λέει ότι πρέπει να είμαστε πολύ προσεκτικοί. Αυτά που μας κρύβονται, είναι συχνά πιο σημαντικά από αυτά που βλέπουμε, με αποτέλεσμα να βγάζουμε εντελώς λανθασμένα συμπεράσματα και οι παρεμβάσεις μας να είναι έως και επιβλαβείς.
«Πιθανώς θα ξέρετε το παλιό αστείο με τον μεθυσμένο που ψάχνει τα κλειδιά του κάτω απ’ το πορτατίφ, όχι γιατί τα άφησε εκεί, αλλά γιατί αυτό είναι το μοναδικό φωτεινό σημείο. Το αστείο αυτό αποδίδει περιληπτικά και ξεκάθαρα το πρόβλημα των σκοτεινών δεδομένων. Οι ερευνητές, οι αναλυτές και όλοι όσοι επιχειρούν να εξάγουν νόημα από τα δεδομένα μοιάζουν με τον μεθυσμένο όταν περιορίζονται στα δεδομένα που έχουν. Μέχρι να καταλάβουν πώς προέκυψαν τα δεδομένα και τι μπορεί να λείπει, διατρέχουν σοβαρό κίνδυνο να κοιτάζουν μόνο αυτό που βλέπουν και όχι εκεί όπου μπορεί να βρίσκονται οι απαντήσεις».
Οι υποστηρικτές των μεγάλων καινοτομιών της Τ.Ν. και της Μ.Μ. λένε ότι τα δεδομένα πρέπει να είναι ελεύθερα, ανοιχτά και να μην περιορίζεται η χρήση τους από ασφυκτικές ρυθμίσεις. Αν δεν τα αφήσουμε να κυκλοφορούν ελεύθερα, θα πνιγεί η καινοτομία. Ομως αυτό δεν σημαίνει ότι πρέπει να τα περιβάλλουμε από αγιοσύνη. Η επιστήμη των δεδομένων δεν είναι αλάνθαστη. Το δόγμα της πρέπει να είναι το «αμφίβαλλε και ερεύνα». Τα δεδομένα οφείλουν να εξετάζονται διαρκώς, να κατανοούνται σε βάθος και να χρησιμοποιούνται σε σωστά πλαίσια, λέει ο Χαντ. Γι’ αυτό και είναι σημαντική η διαφάνεια, η λογοδοσία, η εξηγησιμότητα των μοντέλων. Η διαρκής ανάλυσή τους.
Το Κομμουνιστικό Κόμμα Κίνας και οι ηγέτες της Δύσης
Εξετάζοντας αμερόληπτα τα δεδομένα, όπως το κάνει ο Χανς Ρόσλινγκ στο βιβλίο του «Factfulness», καταλαβαίνουμε ότι ο κόσμος έχει προοδεύσει εντυπωσιακά τις τελευταίες δεκαετίες. Σίγουρα, οι σύγχρονες κοινωνίες χρειάζονται την πρώτη ύλη των δεδομένων περισσότερο από ποτέ άλλοτε, για να λειτουργήσουν πιο αποτελεσματικά, ίσως και πιο δημοκρατικά, και πιο δίκαια. Σε πολλές περιπτώσεις, η απουσία του ανθρώπου από την εξίσωση θα μπορούσε να σημαίνει μεγαλύτερη δικαιοσύνη, όπως ελπίζουν οι πιο ενθουσιώδεις θιασώτες του δεδομενισμού, αλλά αυτό δεν είναι πραγματικά εφικτό, αφού οι κατασκευαστές των συστημάτων είναι άνθρωποι. Δεν χρειαζόμαστε μια «δικτατορία των δεδομένων», αλλά έναν ηθικό σχεδιασμό και μια ηθική χρήση τους. Τα δεδομένα μπορούν να χρησιμοποιηθούν με τέτοιο τρόπο, ώστε να δημιουργηθεί η υποδομή μιας τεχνο-τυραννίας.
Αν κάπου θριαμβεύει σήμερα η Τ.Ν. ως ιδεολογία, είναι στην Κίνα. Το περίφημο «σύστημα κοινωνικού σκορ» δεν είναι τίποτα άλλο παρά μια ακραία και άκριτη υιοθέτηση της ιδεολογίας του δεδομενισμού. «Η Τ.Ν. γίνεται καλύτερα κατανοητή σαν μια πολιτική και κοινωνική ιδεολογία παρά σαν ένα σύνολο αλγορίθμων», γράφουν στο περιοδικό Wired οι Γκλεν Βάιλ και Τζέρον Λανιέρ στο άρθρο τους με τίτλο «Η Τ.Ν. είναι ιδεολογία και όχι τεχνολογία». «Η ουσία αυτής της ιδεολογίας είναι ότι μια σειρά τεχνολογιών, που έχουν σχεδιαστεί από μια μικρή τεχνική ελίτ, μπορεί και πρέπει να γίνει αυτόνομη και τελικά να αντικαταστήσει, αντί να συμπληρώσει, όχι απλά τους μεμονωμένους ανθρώπους, αλλά ολόκληρη την ανθρωπότητα.
Δεδομένου ότι κάθε τέτοια αντικατάσταση είναι ένας αντικατοπτρισμός, αυτή η ιδεολογία απηχεί άλλες ιστορικές ιδεολογίες, όπως είναι η τεχνοκρατία και οι μορφές κεντρικού σχεδιασμού του σοσιαλισμού, οι οποίες έβλεπαν ως κάτι επιθυμητό, ή και αναπόφευκτο, την αντικατάσταση του μεγαλύτερου μέρους της ανθρώπινης κρίσης και αυτενέργειας από συστήματα που έχουν δημιουργηθεί από μια μικρή τεχνική ελίτ. Επομένως, δεν αποτελεί έκπληξη το γεγονός ότι το Κομμουνιστικό Κόμμα Κίνας βλέπει την Τ.Ν. ως έναν φιλόξενο τεχνολογικό υποδοχέα της δικής του ιδεολογίας. Αυτό που εκπλήσσει είναι ότι οι ηγέτες της Δύσης, τόσο στις επιχειρήσεις όσο και στις κυβερνήσεις, αποδέχτηκαν τόσο γρήγορα αυτή την ιδεολογία». Είτε δούμε την Τ.Ν. ως θρησκεία, ή ως ιδεολογία, μπορούμε να πάρουμε ένα καλό μάθημα. Αμφότερα τα συστήματα βοήθησαν την ανθρωπότητα να προχωρήσει μπροστά, αλλά και να κάνει σοβαρά βήματα πίσω. Ομοίως, η Τ.Ν. μπορεί να μας βοηθήσει να ζήσουμε καλύτερα, αν τη χρησιμοποιήσουμε συνετά, με κανόνες και αξίες, και με ενδελεχή και διαρκή έλεγχό της, αλλά μπορεί και να γίνει κι ένας άριστος τεχνο-σκοταδιστής. Εμείς διαλέγουμε.