Σύμφωνα με τη Γαλλίδα συγγραφέα Ορελί Ζαν, δεν μπορεί να υπάρξει ποτέ τέλειος αλγόριθμος, αλλά ούτε και πραγματικά ισχυρή τεχνητή νοημοσύνη.
Μπορεί η Ορελί Ζαν να μη χωράει ούτε στο στερεότυπο του σπασίκλα της πληροφορικής, αλλά ούτε και σ’ εκείνο του συγγραφέα δοκιμίων για την τεχνολογία, η ανάλυση όμως που κάνει για το παρόν της τεχνητής νοημοσύνης δεν υπολείπεται σε τίποτα από εκείνη των συναδέλφων της. «Δεν έχω καμία έφεση στα βιντεοπαιχνίδια (εκτός ίσως από το Tetris), δεν παθιάζομαι με τις ταινίες επιστημονικής φαντασίας. Κατά βάθος είμαι το αντίθετο από αυτό που φαντάζεται κανείς για έναν προγραμματιστή. Κατ’ αρχάς είμαι γυναίκα. Είμαι μάλλον ανοιχτή και κοινωνική. Αδιαφορώ για το Σταρ Τρεκ και το Super Mario και αποκοιμήθηκα σε κάθε ταινία της σειράς “Ο Πόλεμος των Αστρων”», εξομολογείται.
Η Ζαν είναι από εκείνους τους ανθρώπους που χρειάστηκε να περιμένουν αρκετά μέχρι να αποκτήσουν τον πρώτο υπολογιστή τους, άπαξ όμως και ήρθε στα χέρια της, το πήρε πολύ στα σοβαρά. Εμαθε γλώσσες προγραμματισμού και δεν έμεινε στη συγγραφή κώδικα, αλλά ενδιαφέρθηκε για τις εσωτερικές λειτουργίες της τρομερής αυτής μηχανής. Η Ορελί Ζαν είναι σήμερα μια αναγνωρισμένη ερευνήτρια, καθηγήτρια και επιχειρηματίας στον τομέα των ηλεκτρονικών υπολογιστών. Το 2019 κυκλοφόρησε το πρώτο της βιβλίο, ένα δοκίμιο για την αλγοριθμική επανάσταση των καιρών μας, το οποίο μεταφράστηκε πρόσφατα και στα ελληνικά, με τίτλο «Από την άλλη πλευρά της μηχανής, ένα ταξίδι στη χώρα των αλγορίθμων» (εκδ. Στερέωμα, μτφρ. Γιώργος Μπολιεράκης).
Απ’ το κείμενό της καταλαβαίνει κανείς ότι το πάθος της Ζαν με τους υπολογιστές και με τη δύναμή τους δεν είναι καθόλου επιφανειακό. Αντίθετα όμως με πολλούς συναδέλφους της, νιώθει την ανάγκη να υπερασπιστεί ενεργά την ηθική διάσταση της επιστήμης των υπολογιστών και να μεταδώσει τη γνώση που έχει κατακτήσει σε όλους. Θεωρεί καθήκον της τη διεύρυνση του ψηφιακού αλφαβητισμού, έτσι ώστε να είναι σε θέση να συμμετέχουν περισσότεροι άνθρωποι στον ψύχραιμο δημόσιο διάλογο που πρέπει να γίνει για τις τεχνολογικές εξελίξεις. Η Ζαν γνωρίζει από πρώτο χέρι ότι η δύναμη που έχει στα χέρια του ο προγραμματιστής συνοδεύεται, όπως λέει ο Μπεν Πάρκερ στο κόμικ Σπάιντερμαν, από μεγάλη ευθύνη. Η ίδια δεν θέλει σε καμία περίπτωση να αποποιηθεί αυτή την παιδαγωγική ευθύνη. Ο στόχος του βιβλίου της είναι να ενισχύσει την εμπιστοσύνη των ανθρώπων στις μηχανές, προβάλλοντάς τους όμως ταυτόχρονα τους κινδύνους.
Η δύναμη που έχει στα χέρια του ο προγραμματιστής συνοδεύεται, όπως λέει ο Μπεν Πάρκερ στο κόμικ Σπάιντερμαν, από μεγάλη ευθύνη.
Ανθρώπων έργα
Μέσα απ’ την αφήγηση του προσωπικού αυτού ταξιδιού στον κόσμο της επιστήμης των υπολογιστών, ο αναγνώστης κατανοεί τη λειτουργία και τη σημασία του υπολογισμού και των αλγορίθμων. «Απ’ την άλλη πλευρά της μηχανής» δεν βρίσκονται μάγοι, αλλά άνθρωποι συγκεκριμένου υπόβαθρου, με συγκεκριμένες παραστάσεις, επιθυμίες, φιλοδοξίες. Η Ζαν θέλει να μας επιστήσει την προσοχή σ’ έναν από τους σοβαρότερους κινδύνους των αλγορίθμων, και κατ’ επέκταση της τεχνητής νοημοσύνης, που είναι οι προκαταλήψεις. «Κάθε αλγόριθμος», αναφέρει, «εξαρτάται εν μέρει από την εικόνα που έχουν για τον κόσμο οι άνθρωποι που τον αναπτύσσουν». Την ίδια στιγμή, τέλειο μοντέλο του κόσμου δεν υφίσταται. Εκτός απ’ τις ρητές διακρίσεις, υπάρχουν και οι υπόρρητες προκαταλήψεις, οι οποίες προκύπτουν μέσα απ’ την περίπλοκη εκπαίδευση των μοντέλων μηχανικής μάθησης. Εδώ, η μηχανή μαθαίνει μέσα από απόπειρες και λάθη, αναπτύσσοντας μόνη της κάποια κριτήρια, τα οποία μπορεί να μεροληπτούν, ή να λανθάνουν. Η Ζαν το λέει όσο πιο απλά γίνεται: «είναι εξαιρετικά δύσκολο να παραχθεί ένα μοντέλο και ένας αλγόριθμος που να στερούνται πλήρως προκαταλήψεων».
Αντί όμως η ερευνήτρια να εξαπολύει κατηγορίες κατά παντός υπευθύνου για την επίμονη εμφάνιση των προκαταλήψεων, υποστηρίζει ότι το πρόβλημα αυτό είναι ο καλύτερος εχθρός των επιστημόνων, γιατί τους αναγκάζει να σκέφτονται ακόμα πιο κριτικά τα μοντέλα τους. «Είναι, κατά κάποιο τρόπο, το μαγικό συστατικό της πνευματικής αυτοάμυνας των επιστημόνων», αναφέρει. Η κριτική ματιά απέναντι στους αλγορίθμους είναι απαραίτητη, υποστηρίζει η Ζαν, καθώς τέλεια λύση δεν υπάρχει. Οι περιορισμοί της τεχνητής νοημοσύνης δεν πρέπει να μας πτοούν. Το ζητούμενο είναι να γνωρίζουμε πώς λειτουργούν τα αλγοριθμικά συστήματα και να μην τους αναθέσουμε τον πλήρη έλεγχο των αποφάσεων της ζωής μας. Η Ζαν πιστεύει ότι ο αλγόριθμος δεν έχει ούτε συνείδηση ούτε αυτονομία, ούτε μαγικές δυνάμεις. Απλώς, κάνει ό,τι του ζητάμε εμείς οι άνθρωποι. Ο πραγματικός ένοχος για όλες τις αστοχίες των συστημάτων είμαστε εμείς, τονίζει.
Ελλειμμα ηθικής παιδείας
Στη ρίζα του προβλήματος εντοπίζεται το μεγάλο έλλειμμα ηθικής παιδείας των επιστημόνων της πληροφορικής. Σύμφωνα με τη Ζαν, πρέπει «οι επιστήμονες να ξαναγίνουν φιλόσοφοι… και οι φιλόσοφοι να ενδιαφερθούν για την επιστήμη!». «Σήμερα» σημειώνει, «για να το πω (λίγο) σχηματικά, οι φιλόσοφοι στοχάζονται πάνω σε έναν κόσμο που τους διαφεύγει, ενώ οι επιστήμονες κατασκευάζουν έναν κόσμο δίχως να στοχάζονται πάνω σε αυτόν». Το 2018, η συνειδητοποίηση αυτή την υποχρέωσε να επινοήσει μαζί με τον Γκρεγκορί Ρενάρ τον όρκο Χόλμπερτον – Τιούρινγκ, το αντίστοιχο του Ορκου του Ιπποκράτη για προγραμματιστές.
Η Ζαν πιστεύει ότι «η ισχυρή ΤΝ δεν υπάρχει ακόμη, και σίγουρα δεν θα υπάρξει ποτέ». «Η ισχυρή ΤΝ δεν μπορεί να υπάρξει, επειδή η νοημοσύνη των υπολογιστών απλώς θα προσομοιώνει τη γνώση χωρίς να την κατέχει», γράφει εφιστώντας μας την προσοχή στους «γκουρού» που κάνουν ανέξοδες προβλέψεις. Αν και δεν τους κατονομάζει, όλοι καταλαβαίνουμε σε ποιους αναφέρεται όταν μιλάει περί «μοναδικότητας». Η συγγραφέας, ωστόσο, δεν υποκύπτει στην εντυπωσιοθηρία ή την πολεμική. Υπηρετεί απ’ την αρχή ώς το τέλος με συνέπεια το παιδαγωγικό της καθήκον. «Ηγέτες, δημοσιογράφοι, καταναλωτές ή πολίτες: όλοι μας, καθένας στο επίπεδό του, πρέπει επειγόντως να βελτιώσουμε την αλγοριθμική παιδεία μας». Συνυπογράφω και με τα δύο χέρια.