Το καλοκαίρι προσκλήθηκε από την αντιπρόεδρο των ΗΠΑ Κάμαλα Χάρις, σε συνάντηση για τις εξελίξεις στην τεχνητή νοημοσύνη (ΤΝ). Λίγο πριν, το Politico την ονόμασε «Γκρέτα Τούνμπεργκ της AI». Και πολύ πρόσφατα, το περιοδικό Time τη συμπεριέλαβε στη λίστα με τους 100 πιο επιδραστικούς ανθρώπους στην ΤΝ. Για μια 18χρονη που μόλις τελείωσε το σχολείο, τα νέα αυτά είναι μάλλον ασυνήθιστα, αλλά όχι για την Αμερικανίδα Σνέχα Ρεβανούρ. Η νεαρή ακτιβίστρια ασχολείται με την ΤΝ από πολύ μικρή ηλικία και μέσω του διεθνούς οργανισμού της Encode Justice έχει πετύχει ήδη αρκετά. Ο κύριος στόχος της, ωστόσο, είναι να κινητοποιήσει, με επιχειρήματα, τους νέους για ένα από τα πιο «καυτά» θέματα του καιρού μας: την ηθική και δίκαιη ΤΝ.
«Μεγάλωσα στη Σίλικον Βάλεϊ, στην Καλιφόρνια, μέσα στην καρδιά του κόσμου της τεχνολογίας. Αρχισα να ασχολούμαι με την ηθική ΤΝ όταν πήγαινα στο λύκειο. Μπήκα σ’ αυτόν τον κόσμο νωρίς, καθώς και οι δύο γονείς μου εργάζονται στην τεχνολογία ως μηχανικοί λογισμικού. Στην αρχή με ενδιέφερε περισσότερο η επιστήμη των υπολογιστών. Μου άρεσαν τα μαστορέματα κι έμαθα πολύ νωρίς να γράφω κώδικα. Ταυτόχρονα, όμως, έβλεπα ότι ενώ ο κόσμος γύρω μου ενθουσιαζόταν με τις δυνατότητες της τεχνολογίας, δεν συνήθιζε να μιλάει για τις κοινωνικές, ηθικές, πολιτικές ή για τις περιβαλλοντικές επιπτώσεις της. Οι περισσότεροι άνθρωποι σκέφτονταν την ηθική μόνο εκ των υστέρων, δεν την έβαζαν στο επίκεντρο της σκέψης τους από την αρχή της διαδικασίας. Αυτό με προβλημάτισε πολύ».
Η Ρεβανούρ γαλουχήθηκε μέσα σε μια κουλτούρα, που όπως λέει «έχει μια ψηφιακή εφαρμογή για κάθε πρόβλημα». «Αυτή η νοοτροπία ότι η ΤΝ δεν αποτυγχάνει ποτέ», επισημαίνει, «ότι η ΤΝ δεν κάνει ποτέ λάθος και ότι πρέπει να δούμε περισσότερη ΤΝ σε κάθε τομέα της ζωής με ενοχλεί. Νομίζω ότι αυτό που συνδέει τα πάντα, είτε πρόκειται για τη χρήση της ΤΝ στην ποινική δικαιοσύνη, είτε στην υγειονομική περίθαλψη, ή στην εκπαίδευση, είναι το γεγονός ότι οι άνθρωποι δεν σκέφτονται τι θα μπορούσε να πάει στραβά. Αυτό το βρίσκω πολύ ανησυχητικό». Μπορεί στο τέλος της ημέρας να βλέπει την ΤΝ σαν μια μεγάλη ευκαιρία για την ανθρωπότητα, αλλά όσο ωριμάζει κατανοεί ότι εξίσου μεγάλοι είναι και οι κίνδυνοι που απορρέουν από αυτήν. Την ανησυχεί πολύ, για παράδειγμα, ο κίνδυνος της παραπληροφόρησης. «Αν εξαπλωθεί η αυτοματοποιημένη παραπληροφόρηση ακόμη περισσότερο, θα είναι δυνατό να αποσταθεροποιήσει τη δημοκρατία παγκοσμίως και να αρχίσει να παρεμβαίνει σε εκλογές», λέει, «ανησυχώ, επίσης, για τον τρόπο με τον οποίο η ΤΝ θα επηρεάσει το οικοσύστημα της πληροφόρησης και την πρόσβασή μας σε ασφαλείς, αξιόπιστες και υψηλής ποιότητας πληροφορίες».
Η αυξανόμενη απογοήτευσή της την οδήγησε σε πιο κριτικά μονοπάτια. Εψαξε να μάθει τι είναι οι αλγοριθμικές μεροληψίες και τι βλάβες μπορεί να προκαλέσει η ΤΝ. Τότε συνειδητοποίησε ότι η ΤΝ έχει ένα «τεράστιο τίμημα» κι έτσι αποφάσισε να εμπλακεί προσωπικά. «Οι άνθρωποι θα πρέπει να καταλάβουν ότι παρόλο που η ΤΝ είναι ένα θαυμάσιο εργαλείο το οποίο μπορεί να μας βοηθήσει να επιτύχουμε πολλά, έχει επίσης τη δυνατότητα να προκαλέσει τεράστια ζημιά», μου επισημαίνει στη διαδικτυακή μας συνομιλία.
Ξεκίνησε την ακτιβιστική δράση της στην Καλιφόρνια το 2020. Την εποχή εκείνη τέθηκε σε ψηφοφορία ένα μέτρο –ονόματι «Πρόταση 25»– το οποίο επιχειρούσε να εισαγάγει αλγορίθμους στην απονομή δικαιοσύνης. Η νεαρή Ρεβανούρ είχε διαβάσει προηγουμένως κάποιες εκθέσεις, οι οποίες την είχαν πείσει ότι αυτού του είδους οι αλγόριθμοι τείνουν να είναι ρατσιστικοί και να κάνουν διακρίσεις εις βάρος των Αφροαμερικανών κατηγορουμένων. Αποφασίζει να συμμετάσχει ενεργά ενάντια στο μέτρο, οργανώνοντας εκδηλώσεις ενημέρωσης και διαμαρτυρίας. «Θελήσαμε να ξεκλειδώσουμε τη δύναμη της δημοκρατίας», μαρτυράει, «και τελικά κατορθώσαμε την καταψήφιση του μέτρου με διαφορά περίπου 13%».
Επειτα από αυτή την επιτυχία, αποφασίζει να ιδρύσει το Encode Justice (σε ελεύθερη απόδοση: κωδικοποίηση της δικαιοσύνης), διευρύνοντας το πεδίο των ενδιαφερόντων της. «Αρχίσαμε με την ομάδα μου να εξετάζουμε πράγματα όπως τα Deepfakes, τις τεχνολογίες αναγνώρισης προσώπων, τις προκαταλήψεις, την ιδιωτικότητα, την επιτήρηση, την απώλεια θέσεων εργασίας, την παραπληροφόρηση και την αναστάτωση της δημοκρατίας. Από μια παρέα που έμενε κυρίως στην Καλιφόρνια, γίναμε ένας διεθνής οργανισμός, ο οποίος αριθμεί πλέον περίπου 700 μέλη απ’ όλο τον κόσμο. Είναι πραγματικά ένα απίστευτο ταξίδι».
Τα social media
Αν εξαπλωθεί η αυτοματοποιημένη παραπληροφόρηση ακόμη περισσότερο, θα είναι δυνατό να αποσταθεροποιήσει τη δημοκρατία παγκοσμίως και να αρχίσει να παρεμβαίνει σε εκλογές.
Επισημαίνω στη Ρεβανούρ ότι αποτελεί ένα μάλλον μοναδικό παράδειγμα και ότι οι νέοι –τουλάχιστον στην Ελλάδα– δεν δείχνουν να ενδιαφέρονται ιδιαίτερα γι’ αυτά τα ζητήματα. Μου το επιβεβαιώνει. «Νομίζω ότι οι άνθρωποι γενικότερα δεν ανησυχούν γι’ αυτά τα πράγματα, επειδή τα βλέπουν σαν κάτι πολύ μακρινό. Δεν βλέπουν πώς επηρεάζουν την καθημερινή τους ζωή», σημειώνει. «Επίσης, πιστεύουν ότι όλα αυτά αφορούν κυρίως τους ακαδημαϊκούς και τους καθηγητές πληροφορικής. Το ίδιο συμβαίνει κι εδώ στις ΗΠΑ, αλλά και σε όλο τον κόσμο. Ωστόσο, υπάρχουν μερικά ζητήματα που επηρεάζουν ειδικά τους νέους. Το σημαντικότερο όλων είναι τα μέσα κοινωνικής δικτύωσης. Δεν χρειάζεται να σας το πω εγώ αυτό, αλλά τα μέσα κοινωνικής δικτύωσης έχουν πολύ επιβλαβείς επιπτώσεις στην ψυχική υγεία των νέων. Και υπάρχει λόγος που συμβαίνει αυτό. Οι αλγόριθμοι στα μέσα κοινωνικής δικτύωσης εκπαιδεύονται έτσι ώστε να αυξάνουν τη συμμετοχή των χρηστών χωρίς να δίνουν σημασία στις κοινωνικές επιπτώσεις. Υπάρχουν αλγόριθμοι που ενισχύουν το ακραίο περιεχόμενο. Υπάρχουν αλγόριθμοι που ενισχύουν τη ρητορική μίσους. Υπάρχουν αλγόριθμοι που δημιουργούν στους νέους την αίσθηση ότι θέλουν να αυτοκτονήσουν, που τους προκαλούν προβλήματα στην εικόνα του σώματος και στην αυτοεκτίμησή τους. Ολα αυτά είναι προβλήματα που εν μέρει προκαλούνται από τον σχεδιασμό των πλατφορμών των μέσων κοινωνικής δικτύωσης. Προωθώ αυτά τα ζητήματα των νέων και μέσω μιας άλλης ομάδας στην οποία είμαι ενεργό μέλος, που ονομάζεται Design It For Us».
«Η οργάνωσή μας έχει παραρτήματα σε πολλές πολιτείες και χώρες, αλλά όχι στην Ελλάδα», επισημαίνει η Ρεβανούρ, «κι ελπίζω με αυτή την κουβέντα να εμπνεύσουμε νέους στην Ελλάδα, ώστε να αποκτήσουμε ένα παράρτημα του Encode Justice και στη χώρα σας». Ουσιαστικά, η δουλειά του οργανισμού είναι το συστηματικό λόμπινγκ και οι πρωτοβουλίες επιμόρφωσης. Η Ρεβανούρ περνάει μαζί με τους συνομηλίκους της ατελείωτες ώρες στην Ουάσιγκτον, είτε διά ζώσης είτε εικονικά, σε συναντήσεις εργασίας με μέλη της κυβέρνησης και άλλους αξιωματούχους. «Από τις συναντήσεις αυτές έχουν προκύψει πολλές καλές ιδέες για τη νομοθετική ρύθμιση της ΤΝ», λέει, «καθώς στον πυρήνα του το πρόβλημα είναι η έλλειψη κανονισμών». Η νεαρή ακτιβίστρια δεν θέλει να διαλέξει μεταξύ βραχυπρόθεσμων και μακροπρόθεσμων κινδύνων. Πιστεύει ότι πρέπει να δημιουργηθεί ένας διεθνής οργανισμός ΤΝ, ή μια δεσμευτική διεθνής συνθήκη, που θα αντιμετωπίζει τόσο τους μεν όσο και τους δε.
Διεθνείς συμμαχίες
«Ακούω πολλούς να συγκρίνουν την ΤΝ με τα πυρηνικά όπλα», λέει η Ρεβανούρ, «αλλά η αναλογία αυτή δεν θα μπορούσε να είναι πιο λάθος. Ενώ η ΤΝ έχει πάμπολλες θετικές χρήσεις, δύσκολα μπορεί να σκεφτεί κανείς μια θετική χρήση για τα πυρηνικά όπλα. Βέβαια, μπορούμε να διδαχθούμε από τον τρόπο που αντιμετωπίσαμε τα πυρηνικά όπλα, κάνοντας διεθνείς συμμαχίες και διαπραγματεύσεις. Βρισκόμαστε ακόμη στην αρχή αυτής της προσπάθειας. Δεν υπάρχει άλλος τρόπος. Το ζητούμενο για την ΤΝ είναι να υπάρξει λογοδοσία και να θεσπιστούν κανόνες που να ακολουθούνται απ’ όλους, ώστε να μην εκτίθενται άνθρωποι σε κίνδυνο». Υπάρχει και η λύση του μορατόριουμ, της επισημαίνω και μου απαντάει ότι επί της αρχής είναι σύμφωνη με την έκκληση για το εξάμηνο μορατόριουμ της έρευνας. «Πρέπει να επιβραδύνουμε την ανάπτυξή της», λέει χαρακτηριστικά, «αλλά δεν είμαι σίγουρη αν συμφωνώ με το συγκεκριμένο μορατόριουμ. Δεν είμαι σίγουρη ότι έξι μήνες παύσης είναι αρκετός χρόνος για να αναχαιτίσουμε την έρευνα της ΤΝ. Επίσης, κανείς δεν ξέρει πώς θα μπορούσε να εφαρμοστεί κάτι τέτοιο. Εχω ακούσει κάποιους να λένε ότι πρέπει να εξαπολύσουμε επιθέσεις με drones σε κέντρα δεδομένων για να επιβάλουμε αυτό το μορατόριουμ. Φαίνεται ότι δεν έχουμε ιδέα πώς θα επιβάλουμε κάτι τέτοιο».
Η Ρεβανούρ θεωρεί ότι τα εργαστήρια ενημέρωσης και ευαισθητοποίησης που πραγματοποιεί με την οργάνωσή της σε σχολεία έχουν πιο βαθύ αντίκτυπο στην εξέλιξη των πραγμάτων και την κάνουν να αισιοδοξεί, καθώς βλέπει τους νέους να κινητοποιούνται και να δείχνουν διάθεση να εμπλακούν. «Μπαίνουμε σε αίθουσες γυμνασίων και πανεπιστημίων και διδάσκουμε στους μαθητές και τους φοιτητές μας τις κοινωνικές, πολιτικές και περιβαλλοντικές συνέπειες της ΤΝ και τους βοηθάμε επίσης να συζητήσουν με τους συνομηλίκους τους για το πώς θα μπορούσε να είναι το μέλλον μας αν δεν αντιμετωπίσουμε αυτές τις βλάβες από την ΤΝ. Επιπλέον, προσπαθούμε να ασχοληθούμε με την έρευνα και να γίνουμε πιο τεχνικοί. Για τον λόγο αυτό, συνεργαζόμαστε με ακαδημαϊκά ιδρύματα και προσπαθούμε να δημιουργούμε υλικά που μας επιτρέπουν να συμβουλεύουμε τις εταιρείες τεχνολογίας σχετικά με τις πολιτικές τους για την ΤΝ».
Κατά βάσιν, η Ρεβανούρ βλέπει τον εαυτό της σαν καταλύτη. «Θέλω ο ρόλος μου σε αυτό το κίνημα να είναι εποικοδομητικός. Θέλω να διασφαλίσω ότι θα αντιμετωπίσουμε αυτούς τους κινδύνους και αυτές τις προκλήσεις, ώστε να μπορέσουμε να ξεκλειδώσουμε πλήρως το δυναμικό της ΤΝ και να δημιουργήσουμε μια ΤΝ που θα εξυπηρετεί την ανθρωπότητα», καταλήγει. Στο μέλλον θέλει να σπουδάσει νομικά και στη συνέχεια να εργαστεί στη ρύθμιση της ΤΝ. Δεν αποκλείει το να εργαστεί σε κάποια εταιρεία, για να δει, και ίσως να επηρεάσει, «από μέσα» τη λήψη αποφάσεων. Το όραμά της είναι να συμβάλει στη διακυβέρνηση της ΤΝ μέσα από την κοινωνία των πολιτών ή και την κυβέρνηση. «Δεν ξέρω πώς ακριβώς θα γίνει αυτό», μου εκμυστηρεύεται, «αλλά ξέρω ότι θέλω να περάσω το υπόλοιπο της ζωής μου δουλεύοντας πάνω σε αυτά τα θέματα».
Στο τέλος της συνομιλίας μας τη ρωτάω αν πιστεύει ότι πρέπει τελικά να αναπτύξουμε μια πραγματικά σκεπτόμενη μηχανή. «Ειλικρινά, δεν νομίζω ότι συμφωνώ με αυτήν την ιδέα. Οπως έχουν πει και αρκετοί άλλοι, η μηχανή αυτή θα μπορούσε να είναι δυνητικά καταστροφική και επιβλαβής για την ανθρωπότητα. Πιστεύω ότι αυτοί που θέλουν να δημιουργήσουν μια τέτοια μηχανή, από ματαιοδοξία ή από ενθουσιασμό, πρέπει να σκεφτούν τι θα μπορούσε να σημαίνει αυτό για την ανθρωπότητα. Μιλάμε για την απώλεια του ελέγχου και την απώλεια της εξουσίας μας. Νομίζω ότι αυτά τα δύο πράγματα μπορεί να είναι πολύ τρομακτικά για όλους».