Οταν έχεις την ευκαιρία να συναντήσεις, έστω διαδικτυακά, έναν από τους πιο επιφανείς σύγχρονους φιλοσόφους της πληροφορίας, η πρώτη ερώτηση που έρχεται στο προσκήνιο της σκέψης σου αφορά τα δυστοπικά σενάρια ανάπτυξης της τεχνητής νοημοσύνης (Τ.Ν.). Θα επιζήσουμε από τη διαφαινόμενη παντοδυναμία των πανίσχυρων μηχανών; Επειτα, θες να μάθεις αν όντως ευσταθούν κάποιοι άλλοι δημοφιλείς όροι που σχετίζονται με την Τ.Ν., όπως η έννοια του «μαύρου κουτιού». Πώς θα συμφιλιωθούμε με τις εξυπνότερες από εμάς μηχανές, όταν δεν ξέρουμε τον τρόπο που παίρνουν τις αποφάσεις τους; Ο Λουτσιάνο Φλορίντι, καθηγητής Φιλοσοφίας και Ηθικής της Πληροφορίας στο Πανεπιστήμιο της Οξφόρδης και συγγραφέας μιας σειράς σπουδαίων δοκιμίων για την ψηφιακή εποχή και την «ινφοσφαίρα», ξεκαθαρίζει αμέσως το τοπίο.
«Το πρόβλημα είναι ότι τα μέσα επισημαίνουν κυρίως τις διακινδυνεύσεις που φέρει η Τ.Ν.», μου λέει, «περισσότερο από ό,τι τις ευκαιρίες». Και προσθέτει: «Υπάρχουν τρεις μύθοι για την Τ.Ν. Ο ένας είναι ότι μια μέρα θα σκέφτεται εξυπνότερα από τους ανθρώπους, η λεγόμενη “μοναδικότητα”. Δεν ξέρουμε πώς να το κάνουμε αυτό, οπότε ξεχάστε το. Είναι ανόητο. Ο άλλος είναι το “μαύρο κουτί”. Η Τ.Ν. δεν σκέφτεται. Μετασχηματίζει κάποια δεδομένα σε άλλα δεδομένα. Κι ο τρίτος μύθος είναι ότι δεν μπορείς να τη ρυθμίσεις. Κινείται τόσο γρήγορα, είναι πάντα πιο μπροστά, λένε. Ούτε αυτό αληθεύει. Δυστυχώς, αν δεν μιλάς έτσι, δεν πουλάς. Το “μαύρο κουτί” ειδικά, είναι ένα υπαρκτό πρόβλημα για το οποίο σε πέντε χρόνια από σήμερα δεν θα μιλάμε καθόλου, γίνεται τρομερή πρόοδος σε αυτό το πεδίο».
– Οι διακινδυνεύσεις, όμως, είναι υπαρκτές.
– Και βέβαια. Οι βασικότερες μάλιστα είναι δύο. Κάποιες είναι πιο παλιές, όπως το θέμα της ιδιωτικότητας, που είναι ίσως και το κυριότερο. Είχαμε και στο παρελθόν πρόβλημα με την ιδιωτικότητα, τώρα με την Τ.Ν. έχουμε ακόμα μεγαλύτερο. Δεν είναι ένα πρόβλημα που το προκαλεί η Τ.Ν., αλλά που το ενισχύει. Είναι μια μορφή αυτενέργειας που ελέγχοντας τα δεδομένα, μπορεί να εξάγει όλο και περισσότερες πληροφορίες, να συλλέγει όλο και περισσότερα δεδομένα, να τα επεξεργάζεται. Κι είναι παντού. Επειτα, υπάρχουν νεότερες διακινδυνεύσεις, προβλήματα που προκαλούνται από την Τ.Ν. κι όχι από άλλες ψηφιακές τεχνολογίες. Αλγοριθμικές μεροληψίες, αδικίες, λάθη. Ολα αυτά τα προβλήματα είναι επίσης υπαρκτά. Δεν είναι εντελώς νέα βέβαια, αλλά γίνονται όλο και πιο σημαντικά, όσο επεκτείνεται η ίδια η Τ.Ν.
– Υπάρχει άραγε χώρος για εφησυχασμό; Μπορεί να μη μας απειλεί μια φονική υπερνοημοσύνη που θα αρνείται να σβήσει, αλλά συμβαίνει το ίδιο με τις άλλες απειλές;
– Υπάρχουν πράγματα που πρέπει να αρχίσουμε να κοιτάζουμε πιο προσεκτικά γιατί είναι λιγότερο ορατά και είναι πιο μακροπρόθεσμα. Φανταστείτε μια μακροχρόνια ασθένεια που δεν εμφανίζεται ξαφνικά, αλλά σταδιακά χρόνο με τον χρόνο. Αυτή η ασθένεια ονομάζεται διάβρωση της αυτονομίας μας. Φανταστείτε λοιπόν ένα νεογέννητο παιδί που εκτίθεται επί 18 χρόνια σε αυτή την τεχνολογία, την Τ.Ν., ώσπου να γίνει πολίτης και να ψηφίζει. Κάθε μέρα, κάθε στιγμή, για όλα αυτά τα χρόνια η Τ.Ν., δίνει συμβουλές, υπενθυμίσεις, κάνει προτάσεις, χειρισμούς, «αφού σου άρεσε αυτή η σειρά πιθανώς θα σ’ αρέσει κι αυτή η σειρά». «Σου άρεσαν οι περυσινές διακοπές σου στη λίμνη; Πιθανώς θα σου άρεσε να την επισκεφθείς ξανά». Φανταστείτε αυτά τα μικρά πράγματα. Με κάποιο τρόπο λοιπόν είμαστε πολύ εύπλαστοι, πολύ εύθραυστοι. Δεν είναι ότι κάποιος προσπαθεί να κάνει κάτι μοχθηρό, αλλά αυτή η τεράστια δύναμη αυτενέργειας που επηρεάζει τις ανθρώπινες αποφάσεις είναι ένα νέο μακροπρόθεσμο ρίσκο που παίρνουμε.
– Διάβασα μια μελέτη σας, όπου παρουσιάζετε τους ανθρώπους ως μέσα διεπαφής. Αυτό είναι το μεγάλο διακύβευμα της Τ.Ν.;
– Το πρόβλημα είναι η αντιμετώπιση των ανθρώπινων όντων όπως θα έλεγε ο Ιμάνουελ Καντ ως μέσων για την επίτευξη ενός σκοπού, ως εργαλείων για να γίνει κάτι. Δεν με νοιάζεις εσύ ως άνθρωπος, αυτό που με νοιάζει είναι ο στόχος μου, σε χρησιμοποιώ. Κι έτσι εσύ γίνεσαι ένα μέσο διεπαφής μεταξύ αυτού που θέλω και του εαυτού μου. Ετσι λοιπόν, αυτό που θέλω μόνο είναι τα χρήματά σου, τα δεδομένα σου, την ψήφο σου, εσύ ως άτομο δεν με ενδιαφέρεις. Από τη στιγμή που μπορώ να περάσω μέσα από εσένα και να συλλέξω τα δεδομένα σου, τα χρήματά σου, την ψήφο σου, τότε όλα είναι καλά. Αυτό είναι ένα φρικτό σενάριο, αλλά θεωρώ ότι ζούμε σε μια τέτοια κοινωνία ήδη.
– Τι μπορούμε να κάνουμε όλοι εμείς;
– Η αλήθεια είναι ότι μπορούμε να κάνουμε κάποια πράγματα. Το πρώτο είναι να αναγνωρίσουμε το πολύ λυπηρό γεγονός ότι ενώ αξίζει να προσπαθήσουμε να τους σώσουμε όλους, στην πραγματικότητα πολύ λίγοι θα σωθούν. Η κατάσταση μοιάζει με την υποχρεωτική εκπαίδευση. Το κράτος φροντίζει να έχουν όλοι την ευκαιρία να πάρουν γνώσεις. Αξιοποιούν οι πάντες αυτή την ευκαιρία; Οχι. Θέλουμε να τους αναγκάσουμε διά της βίας; Οχι. Αυτή είναι η φιλελεύθερη κοινωνία. Μια κοινωνία που σου παρέχει ευκαιρίες αλλά δεν σου βάζει ένα όπλο στον κρόταφο λέγοντάς σου «τώρα θα κάνεις αυτό ή το άλλο». Αυτό που προβλέπω είναι ότι η αγορά θα μας αντιμετωπίζει ολοένα και περισσότερο ως μέσα διεπαφής, και μόνο κάποιοι λίγοι θα αντιδράμε και θα λέμε όχι δεν θα κάνω αυτό ή το άλλο. Αυτή η στάση όμως προϋποθέτει το εργαλείο αντίδρασης που ονομάζεται κριτική σκέψη.
Εμείς πρέπει να υπερασπιστούμε την αυτονομία, την ελευθερία, το ποιοι θέλουμε να είμαστε, πόσο ανεξάρτητες θα είναι οι αποφάσεις μας. Μπορεί η άμυνά μας να αφορά σε μικρές αποφάσεις, διόλου δραματικές, του στυλ «δεν θέλω να ξαναπάω στη λίμνη, ή δεν θέλω καν να πάω διακοπές, ή δεν μου αρέσει πια το τάδε βιβλίο, ακόμα κι αν μου άρεσε το δείνα, θέλω να το αλλάξω». Αυτό το θέμα είναι για εμένα ίσως το σημαντικότερο, αν και γενικότερα δεν επισημαίνεται όσο πρέπει. Φανταστείτε τις συνέπειες στην άμυνα, την υγεία, κοινωνικά ζητήματα. Επειδή αφορά τον μακρύ ορίζοντα, δεν κάνει μεγάλους τίτλους στις εφημερίδες. Δεν έχει καταστρέψει ακόμα η Τ.Ν. την ανθρώπινη ανεξαρτησία. Μακροπρόθεσμα, όμως, θα το κάνει.
Οι μελλοντικές γενιές θα είναι πιο σοφές με αυτές τις τεχνολογίες
Ο Λουτσιάνο Φλορίντι, καθηγητής Φιλοσοφίας και Ηθικής της Πληροφορίας στο Πανεπιστήμιο της Οξφόρδης, είναι συγγραφέας μιας σειράς δοκιμίων για την ψηφιακή εποχή και την «ινφοσφαίρα».
– Να είμαστε αισιόδοξοι για το μέλλον;
– Δεν είμαι σίγουρος ότι θα μπορέσουν να σωθούν όλοι. Πολλοί άνθρωποι θα χαθούν. Αυτοί για παράδειγμα που ακολουθούν συνέχεια τις μόδες. Κι είναι λυπηρό. Μπορείς βέβαια να δώσεις κριτικά εργαλεία στους ανθρώπους, να τους εκπαιδεύσεις να μην πέφτουν στις παγίδες. Οπως λέει η Βίβλος «πολλοί ακούν το κάλεσμα, αλλά λίγοι θα σωθούν». Εγώ θέλω να είμαι ακόμα πιο περιεκτικός λέγοντας ότι όλοι πρέπει να ακούσουν το κάλεσμα, πρέπει σε όλους να δοθεί η ευκαιρία να έχουν κριτικά εργαλεία, να ζουν μια αυτόνομη, ελεύθερη ζωή. Αλλά πρέπει να είμαστε σκεπτικοί σχετικά με το πόσοι το καταφέρνουν, ακόμα κι εγώ μερικές φορές πέφτω στην παγίδα και βλέπω μια σειρά επειδή μου την πρότεινε το Netflix.
– Υφίσταται ωστόσο και η άλλη όψη του νομίσματος, σωστά;
– Τα πλεονεκτήματα που θα παραγάγει αυτή η τεχνολογία θα είναι θηριώδη. Το θέμα είναι τι θα κάνουμε με αυτήν. Αν αντί να μας χρησιμοποιήσει η τεχνολογία, τη χρησιμοποιήσουμε εμείς, αν την ελέγξουμε, αν είμαστε εμείς υπεύθυνοι για τη λειτουργία της, μπορούμε να κάνουμε περισσότερα, με λιγότερους πόρους και πιο αποδοτικά από ποτέ άλλοτε. Φανταστείτε την περιπλοκότητα μιας πόλης όπως η Αθήνα ή η Ρώμη. Χρειαζόμαστε πολύ ισχυρές τεχνολογίες για να διαχειριστούμε την περιπλοκότητα των πόλεων, την κυκλοφορία, τη μόλυνση, τα απορρίμματα, αλλά επίσης και τη φορολόγηση. Ισως η φορολογία μπορεί να γίνει πιο δίκαιη αν ανατεθεί στην Τ.Ν. Μπορεί αυτή να αναγνωρίσει ευκολότερα τους μπαταχτσήδες ή μπορεί να διανείμει δικαιότερα τους πόρους. Οσο πιο περίπλοκος γίνεται ο κόσμος, τόσο πιο ισχυρά εργαλεία χρειαζόμαστε και η Τ.Ν. μπορεί να είναι μια λύση. Αυτό που λέω τα τελευταία χρόνια είναι ότι πρέπει να βάλουμε μαζί τις τεχνολογίες της Τ.Ν. και γενικότερα τις ψηφιακές τεχνολογίες με κάποια από τα προβλήματα που έχουμε, τα κοινωνικά και περιβαλλοντικά. Να συνδέσουμε μαζί το Πράσινο του φυσικού και κοινωνικού περιβάλλοντος, με το Μπλε των ψηφιακών τεχνολογιών.
– Πώς βλέπετε τον κόσμο στον οποίο θα μεγαλώσει ο πεντάχρονος γιος μου αναφορικά με τις νέες τεχνολογίες;
– Το ερώτημα που τίθεται είναι: ποιο δρόμο παίρνουμε; Είναι σαν να βρισκόμαστε σε ένα σταυροδρόμι. Θα πάμε δεξιά ή αριστερά; Θα χρησιμοποιήσουμε την Τ.Ν. για να προκαλέσουμε χάος ή θα τη χρησιμοποιήσουμε προς όφελός μας; Προς το παρόν, βλέπω ένα μείγμα. Βλέπω εξαίσια πράγματα, αλλά βλέπω και φριχτά πράγματα, όπως τις διακρίσεις στο αμερικανικό δικαστικό σύστημα. Από την άλλη έχουμε στην Οξφόρδη ένα πρόγραμμα που λέγεται «Oxford Programme on AI for the sustainable development goals» το οποίο υποστηρίζει τους βιώσιμους στόχους ανάπτυξης των Ηνωμένων Εθνών και είναι εξαιρετικό. Αυτή τη στιγμή όμως παγκοσμίως κυριαρχεί η σύγχυση. Νομίζω ότι πολλά λάθη που κάνουμε σήμερα στο Διαδίκτυο, με το να μοιραζόμαστε περισσότερα ας πούμε από ό,τι πρέπει, είναι και ζήτημα γενιάς. Μια αναλογία είναι το αυτοκίνητο. Μεγαλώνοντας σε ένα περιβάλλον με αυτοκίνητα, ξέρω πώς να προφυλάσσομαι από αυτά, πώς να τα χρησιμοποιώ, τι πρέπει να προσέχω. Οι μελλοντικές γενιές θα είναι πιο σοφές με αυτές τις τεχνολογίες. Θεωρώ ότι χρειάζεται ήδη από σήμερα να αναλάβουν τις ηγεσίες οι μιλένιαλς. Οι άνθρωποι που είναι σήμερα στα 50 και στα 60 τους, που έχουν σήμερα εξουσία, που διοικούν εταιρείες και κυβερνήσεις, συχνά δεν έχουν μια ξεκάθαρη κατανόηση της τεχνολογίας, των αναγκών. Νομίζω ότι τα πράγματα θα βελτιωθούν κάπως όταν θα εμφανιστούν σε κρίσιμες θέσεις οι μιλένιαλς κι όταν ο πεντάχρονος γιος σας θα διοικεί κάποιον οργανισμό θα κάνει καλύτερη δουλειά.