«Οι μηχανές θα έχουν συναισθήματα, κι όσο περισσότερα θα μαθαίνουν για τα δικά μας συναισθήματα απ’ το Διαδίκτυο, τόσο πιο βαθιά θα γίνονται αυτά». Τα λόγια αυτά ανήκουν στον καθηγητή Ιστορίας και Φιλοσοφίας των Επιστημών Αρθουρ Ι. Μίλερ, ο οποίος μίλησε για αυτό ακριβώς το θέμα, πριν από τρεις εβδομάδες, στο διαδικτυακό φέτος Athens Science Festival. Είχα τη χαρά να προλογίσω την ομιλία του και να συντονίσω τη συζήτηση μετά το τέλος της. «Οι άνθρωποι συνήθως τρομάζουν σ’ αυτή την ιδέα, αλλά δεν θα ’πρεπε. Τελικά, θα συνεργαστούμε με τις μηχανές κι αυτό θα επιφέρει τεράστιες θετικές αλλαγές», μου λέει λίγο πριν ξεκινήσει την ομιλία. Ο Μίλερ πιστεύει ότι τελικά οι μηχανές θα φτάσουν μέχρι του σημείου να κάνουν χιούμορ. Ισως και να το έχουν πετύχει ήδη, σκέφτομαι, καθώς με το που ξεκίνησε την ομιλία του ο Μίλερ, κατέρρευσε το Zoom του. Τελικά η διάλεξη έγινε και στο τέλος έμειναν μερικά λεπτά για ερωτήσεις. Το κοινό του φεστιβάλ δεν έδειξε να αγχώνεται με την προοπτική των συναισθηματικών μηχανών.
Η αλήθεια είναι ότι ούτε κι εγώ ανησυχώ ιδιαίτερα για αυτό συγκεκριμένα το πρόβλημα. Αργά ή γρήγορα θα φτάσουμε και σ’ αυτό το σημείο. Δεν έχουμε την αποκλειστικότητα των συναισθημάτων σ’ αυτό τον πλανήτη. Το πρόβλημα της τεχνητής νοημοσύνης (ΤΝ) έγκειται αλλού. Εντελώς συμπτωματικά, η γνωριμία με τον Μίλερ με βρίσκει να διαβάζω το νέο, ευφυέστατο βιβλίο του Καζούο Ισιγκούρο, το οποίο κυκλοφόρησε ταυτόχρονα και στα ελληνικά (μτφρ. Αργυρώ Μαντόγλου, εκδ. Ψυχογιός) κι εξερευνά επίσης το ενδεχόμενο της μηχανικής συνείδησης. Στο μυθιστόρημα «Η Κλάρα και ο Ηλιος» ακούμε τον εσωτερικό μονόλογο μιας ΤΝ. Ο κάτοχος του Νομπέλ Λογοτεχνίας του 2017 θέτει στο χαρτί μια σειρά κρίσιμων ζητημάτων που αφορούν την τεχνητή ευφυΐα, με τρόπο που μόνο ένας σπουδαίος λογοτέχνης μπορεί να κάνει. Ο Βρετανός συγγραφέας ξεκινάει με την απλή υπόθεση που λέει ότι αν ποτέ κατορθώσουμε να δημιουργήσουμε μηχανές με συνείδηση και συναισθήματα, πιθανότατα θα είναι κι εκείνες σε θέση να αναπαράγουν τις αναμνήσεις τους. Κι έτσι γράφει ένα memoir, τα απομνημονεύματα ενός ρομπότ.
Η Κλάρα είναι ένα ρομπότ συντροφιάς, μια Τεχνητή Φίλη (ΤΦ), η οποία αναγνωρίζει τον κόσμο γύρω της μέσα από μοτίβα. Ο κύριος σκοπός της ύπαρξής της είναι να υπηρετεί ένα νεαρό κορίτσι, την Τζόσι, και να είναι μια «καλή και ωφέλιμη ΤΦ». Απ’ την πρώτη στιγμή καταλαβαίνουμε ότι αυτό το ρομπότ είναι ιδιαίτερο. Στη συνέχεια το βλέπουμε να κάνει τα πάντα προκειμένου να εκπληρώσει τον σκοπό του, να σωθεί δηλαδή η Τζόσι απ’ την ασθένειά της. Ο Ισιγκούρο μάς παρουσιάζει ένα πλήρως λειτουργικό ρομπότ, με κανονικότατα συναισθήματα, το οποίο δεν χρειάζεται να μπει στο Διαδίκτυο για να μάθει τις συμπεριφορές μας. Μαθαίνει διαρκώς παρατηρώντας μας. Τα απομνημονεύματά του αποκαλύπτουν ένα ον με πλούσιο συναισθηματικό κόσμο, άριστες επικοινωνιακές δεξιότητες και πνευματική διαύγεια. Η Κλάρα ανησυχεί, φοβάται, ελπίζει, αλλά δεν θυμώνει, γι’ αυτό και κανείς δεν τη βλέπει σαν απειλή. Ωστόσο, δεν είναι τέλεια. Συχνά, αστοχεί. Την μπερδεύουν τα περίπλοκα μοτίβα του περιβάλλοντος και στην αναγνώριση αντικειμένων λαθεύει. Αλλά ο καλά διαβασμένος Ισιγκούρο βλέπει ένα ακόμα, σημαντικότερο πρόβλημα με την ΤΝ. Αν και είναι καλή στις προβλέψεις, δυσκολεύεται πάρα πολύ με τις σχέσεις αιτιότητας. Αυτό είναι το κεντρικό της πρόβλημα.
Η Κλάρα αδυνατεί να κατανοήσει σε βάθος τους ανθρώπους. Βγάζει ένα συμπέρασμα από μια συσχέτιση γεγονότων, υποθέτοντας ότι υπάρχει αιτιακή σχέση, κι έτσι καταλήγει να πείσει έναν άνθρωπο να καταστρέψει μια μηχανή, αυτήν που ονομάζει «μηχανή Κούτινγκς», ώστε να εξασφαλίσει την ευεργεσία του δικού της θεού, που είναι ο Ηλιος. Μια μηχανή θυσιάζει μια άλλη μηχανή, που δεν έχει συνείδηση, στη θεότητα που την τροφοδοτεί ενεργειακά, τον Ηλιο, για να σώσει έναν άνθρωπο. Τόσο η μαγική δύναμη του Ηλιου όσο και η κακή δύναμη της υποτιθέμενα καταστροφικής μηχανής προκύπτουν στον εγκέφαλο της Κλάρα ως αποτέλεσμα της προσπάθειάς της να καταλάβει τις αιτίες των πραγμάτων. Αυτή είναι η αποτυχία της. Η κατανόηση αιτιακών σχέσεων είναι το τυφλό σημείο ακόμα και της «γενικής ΤΝ».
Επειδή οι μηχανές έχουν ήδη κάποιο χιούμορ, φέρνουν μπροστά στα μάτια μου μια ακόμα ομιλία από το Athens Science Festival, εκείνη του καθηγητή της Επιστήμης των Υπολογιστών στο MIT Κωνσταντίνου Δασκαλάκη, ο οποίος επιβεβαιώνει το ίδιο ακριβώς πράγμα. Η ΤΝ δυσκολεύεται να μας καταλάβει γιατί δεν είναι καλή στην αναγνώριση αιτιακών σχέσεων. Στο τέλος του μυθιστορήματος του Ισιγκούρο, η Κλάρα, η ΤΦ, το παραδέχεται και η ίδια, λέγοντας για τους ανθρώπους: «Δεν κατάφερα να πλησιάσω ποτέ αυτό που ένιωθαν για την Τζόσι στην καρδιά τους». Μπορεί η μηχανή να μην ξέρει γιατί αστοχεί, αλλά το νιώθει. Οταν θα καταφέρει να καταλάβει καλύτερα τα «γιατί», τότε ίσως να μας βοηθήσει να κατανοήσουμε κι εμείς καλύτερα τις δικές μας αστοχίες.