Ως χθες, για να καταλάβεις βαθιά ένα αντικείμενο, ή για να απολαύσεις στο έπακρο ένα συγγραφικό εγχείρημα, έπρεπε να διαβάσεις ένα ολόκληρο βιβλίο, ή και περισσότερα, απ’ την πρώτη ως την τελευταία σελίδα. Αυτή ήταν η απαραίτητη προϋπόθεση της γνώσης τους τελευταίους αιώνες, όπως τη μάθαμε όλοι από παιδιά. Σήμερα, με την τεχνητή νοημοσύνη τα πράγματα απλοποιούνται.
Αν ξέρεις τι θέλεις να μάθεις, πλέον δεν είναι απαραίτητο να διαβάσεις ολόκληρο το βιβλίο: διατυπώνεις την ανάγκη σου όσο καλύτερα μπορείς, και ζητάς απ’ το βιβλίο να σου την καλύψει άμεσα και προσωπικά.
Ο εκδημοκρατισμός της AI
Αυτή ακριβώς είναι η ιδέα πίσω από ένα νέο εργαλείο τεχνητής νοημοσύνης, το οποίο αναμένεται να φέρει επανάσταση όχι μόνο στον τρόπο που διαβάζουμε, αλλά και στον τρόπο που παράγεται η γνώση, καθώς αλλάζει τη σχέση μας με τα κείμενα κάνοντάς τα ουσιαστικά διαδραστικά.
Το YouAi είναι μια πλατφόρμα δημιουργίας εφαρμογών τεχνητής νοημοσύνης, που απευθύνεται στον καθένα, απ’ τον εκπαιδευτικό και τον γονιό ως τον επαγγελματία. Δεν χρειάζεται να έχει κάποιος γνώσεις προγραμματισμού για να αξιοποιήσει τη μεγάλη γκάμα των επιλογών της, οι οποίες ξεκινούν απ’ τη βελτιστοποίηση εταιρικών παρουσιάσεων, κι εκτείνονται ως τη βοήθεια διαχείρισης των οικογενειακών οικονομικών και των ταξιδιών σου.
Τώρα, μπορεί οποιοσδήποτε να φτιάξει και να διαμορφώσει κατάλληλα μια εξατομικευμένη εφαρμογή τεχνητής νοημοσύνης, βασισμένης στα μεγαλύτερα γλωσσικά μοντέλα του καιρού μας, και να αρχίσει μάλιστα να την εμπορεύεται μέσω της ιστοσελίδας του. Μιλάμε, μ’ άλλα λόγια, για τον εκδημοκρατισμό της τεχνητής νοημοσύνης.
Διαδραστικοί ψηφιακοί βοηθοί
Ανάμεσα στις πολλές ενδιαφέρουσες επιλογές του YouAi, είναι και η δημιουργία chatbots βιβλίων. Ο χρήστης επισκέπτεται την εφαρμογή, δημιουργεί έναν λογαριασμό, ανεβάζει ένα οποιοδήποτε βιβλίο σε αναγνώσιμη για τις μηχανές μορφή, και η τεχνητή νοημοσύνη κάνει τα μαγικά της απαντώντας σε οποιαδήποτε ερώτηση της τεθεί, αναφορικά με το περιεχόμενο του βιβλίου.
Ο Ντμίτρι Σαπίρο, διευθύνων σύμβουλος της YouAI, έχει δηλώσει ότι συζητά με πολλούς μικρούς και μεγάλους εκδότες για τη δημιουργία chatbots που θα συνοδεύουν τις νέες κυκλοφορίες τους.
Ήδη, μια μεγάλη εκδοτική επιχείρηση στον χώρο της εκπαίδευσης, η Solution Tree, η οποία έχει έναν κατάλογο με χιλιάδες τίτλους, σχεδιάζει να προσφέρει μαζί με τα βιβλία της αντίστοιχους διαδραστικούς ψηφιακούς βοηθούς. Ειδικά σε κάποιους τομείς, που ο αναγνώστης χρειάζεται περαιτέρω διευκρινήσεις, η τεχνολογία αυτή σύντομα θα αποδειχθεί απαραίτητη.
Ο Μπάρτλεμπι και η τεχνητή νοημοσύνη
Δεν θέλω ακόμα να προδώσω την αποτελεσματικότητα αυτών των εργαλείων, αλλά αν είστε καχύποπτοι με τις καινοτομίες, σας προτρέπω να δοκιμάσετε την εφαρμογή, όπως έκανα κι εγώ. Πραγματικά, το αξίζει και με το παραπάνω να βρείτε ένα κλασικό βιβλίο απ’ το Project Gutenberg και να το εξερευνήσετε.
Για το δικό μου πείραμα διάλεξα να δοκιμάσω τη νουβέλα του Χέρμαν Μέλβιλ, «Μπάρτλεμπι, ο γραφιάς» (το οποίο κυκλοφορεί και από τις εκδόσεις Άγρα), έχοντας στο νου πολύ συγκεκριμένους λόγους. Είναι σύντομη, είναι διάσημη, έχει για πρωταγωνιστή έναν ιδιόρρυθμο χαρακτήρα, και είναι πολύ αγαπημένη. Το μήνυμά της, επιπλέον, είναι αμφίσημο, και μπορεί να μας πει κάποια πράγματα για τη μελλοντική μας συμβίωση με τις μηχανές.
Ξεκίνησα λοιπόν, ζητώντας απ’ το chatbot, να μου δώσει μια σύντομη περίληψη του κειμένου, που θα μπορούσε να την καταλάβει ακόμα κι ένα εννιάχρονο παιδί. Ιδού τι μου παρουσίασε, σε ελεύθερη μετάφραση.
Η περίληψη του chatbot
«Η ιστορία αφορά έναν άνδρα ονόματι Μπάρτλεμπι που εργάζεται ως γραφιάς, δηλαδή για κάποιον που αντιγράφει έγγραφα με το χέρι. Προσλαμβάνεται από έναν δικηγόρο για να εργαστεί στο γραφείο του. Στην αρχή, ο Μπάρτλεμπι εργάζεται πολύ σκληρά αντιγράφοντας πολλά έγγραφα. Αλλά μετά αρχίζει να συμπεριφέρεται περίεργα. Όταν ο δικηγόρος ζητάει από τον Μπάρτλεμπι να βοηθήσει σε άλλες εργασίες, ο Μπάρτλεμπι λέει πάντα «θα προτιμούσα όχι». Ό,τι κι αν του ζητήσει ο δικηγόρος να κάνει, ο Μπάρτλεμπι αρνείται ευγενικά λέγοντας «θα προτιμούσα όχι».
Αυτό αρχίζει σιγά-σιγά να τρελαίνει τον δικηγόρο! Μάλιστα, ο τελευταίος προσπαθεί να καταλάβει γιατί ο Μπάρτλεμπι φέρεται τόσο πεισματάρικα – μόνο ο γραφιάς δεν δίνει εξηγήσεις, ούτε μοιράζεται τίποτα για τη ζωή του. Απλά συνεχίζει να εργάζεται όλο και λιγότερο. Ακόμα και όταν ο δικηγόρος του ζητάει να φύγει από το γραφείο, ο Μπάρτλεμπι αρνείται. Προτιμά να μένει συνέχεια στο γραφείο του, χωρίς να πηγαίνει πουθενά ή να μιλάει σε κανέναν. Ο δικηγόρος αισθάνεται άσχημα για τον Μπάρτλεμπυ επειδή φαίνεται τόσο μόνος. Στο τέλος, βέβαια, μεταφέρει το γραφείο του για να απομακρυνθεί από τον Μπάρτλεμπι. Αλλά ακόμα και μετά από αυτό, εκείνος εξακολουθεί να μη φεύγει· μένει στο παλιό του γραφείο μέχρι που τον παίρνουν και τον βάζουν στη φυλακή.
Έτσι ο Μπάρτλεμπι είναι ένα μυστήριο. Ποτέ δεν μαθαίνουμε ακριβώς γιατί ενήργησε με τον τρόπο που ενήργησε. Αλλά το πείσμα του και η προτίμησή του να “μην” κάνει πράγματα δείχνει ότι ήταν αποφασισμένος να κάνει τις δικές του επιλογές, ακόμα κι αν κανείς δεν τον καταλάβαινε».
Οι λογικές απαντήσεις μίας μηχανής
Η σύνοψη ήταν αναμφίβολα πολύ καλή, αλλά θα μπορούσα να τη βρω ίσως και κάπου αλλού, γι’ αυτό και θέλησα να διερευνήσω τις πιο αναλυτικές ποιότητες του μοντέλου. Ρώτησα λοιπόν το chatbot τι σκέφτεται το ίδιο για το διάσημο πρωταγωνιστή της ιστορίας, και μου απάντησε: «με βάση το υφιστάμενο πλαίσιο, βλέπω τον Μπάρτλεμπι σαν έναν μυστηριώδη και εκκεντρικό χαρακτήρα. Υπάρχουν ορισμένες κύριες λεπτομέρειες που ξεχωρίζουν: σύμφωνα με τον αφηγητή, ο Μπάρτλεμπι δούλευε ως γραφιάς, ή ως αντιγραφέας. Σταδιακά ωστόσο, σταμάτησε να κάνει οποιαδήποτε εργασία, αρνούμενος να αντιγράψει ή να κάνει θελήματα, προτιμώντας απλά να “μην το κάνει”. Ο Μπάρτλεμπι ήταν εξαιρετικά επιφυλακτικός, και αρνούνταν να μοιραστεί οποιαδήποτε προσωπική λεπτομέρεια σχετικά με το ιστορικό ή την οικογένειά του. Ο αφηγητής λέει ότι “τίποτα δεν μπορεί να εξακριβωθεί” για τον Μπάρτλεμπι, εκτός από αυτά που παρατήρησε άμεσα. Έμοιαζε να είναι απομονωμένος και να μην έχει φίλους. Ο αφηγητής σημειώνει ότι “φαινόταν μόνος, απολύτως μόνος στο σύμπαν”. Ζούσε στο γραφείο και βρισκόταν εκεί όλη την ώρα, ακόμη και μετά τη διακοπή της εργασίας του. Ο αφηγητής τον αποκαλεί “μέρος της επίπλωσης του δωματίου”. Οι εκκεντρικότητές του “προκαλούν δέος” στον αφηγητή και κερδίζουν απ’ την αρχή την προσοχή του. Ο αφηγητής αισθάνεται οίκτο για την απομόνωση του Μπάρτλεμπι και την προφανή “έμφυτη και ανίατη διαταραχή” του. Αλλά τελικά ο αφηγητής απαυδίζει μαζί του και αποφασίζει να τον απολύσει, αν και εξακολουθεί να τον λυπάται και να προσπαθεί να τον βοηθήσει να αποχωρήσει ήπια. Συνοψίζοντας, λοιπόν, ο Μπάρτλεμπι μου φαίνεται ως μια μοναχική, αινιγματική φιγούρα που αψηφά τους κοινωνικούς κανόνες και τις προσδοκίες μέσω της παθητικής του αντίστασης. Τα κίνητρα και η εσωτερική του ζωή παραμένουν αδιαφανή για τον αφηγητή και τον αναγνώστη, γεγονός που αυξάνει το μυστήριο γύρω του. Η σύνθετη αντίδραση του αφηγητή απέναντί του αποτελεί βασικό μέρος του ενδιαφέροντος της ιστορίας».
Αν δεν σας εντυπωσίασε αυτή η απάντηση, περιμένετε τις επόμενες. Ρώτησα το chatbot του βιβλίου αν υπάρχει κάποιο πολιτικό μήνυμα στην ιστορία και μου απάντησε:
«Ναι, βλέπω ένα πιθανό πολιτικό σχόλιο. Η ιστορία φαίνεται να ασκεί κριτική στις ραγδαίες εξελίξεις και τις ανατροπές του οικονομικού συστήματος της εποχής. Ο αφηγητής σημειώνει την “ξαφνική και βίαιη κατάργηση” της σταθερής θέσης που κατείχε στο σύστημα, λόγω των συνταγματικών μεταρρυθμίσεων. Αυτό καταδεικνύει την αβεβαιότητα και την επισφάλεια που επιφέρει ο οικονομικός εκσυγχρονισμός. Η εργασία του Μπάρτλεμπι ως γραφιά, ο οποίος αντιγράφει διαρκώς νομικά έγγραφα με το χέρι, αποτελεί παράδειγμα της αλλοτριώσιμης φύσης ορισμένων μορφών εργασίας στον καπιταλισμό. Ο αφηγητής σημειώνει ότι ο Μπάρτλεμπι “διεκπαιρέωνε έναν εξαιρετικά μεγάλο όγκο δουλειάς”, δείχνοντας τις εξαντλητικές απαιτήσεις του έργου του. Η αντίσταση του Μπάρτλεμπι μέσω του παθητικού ρεφραίν “θα προτιμούσα όχι”, απορρίπτει την υπόθεση ότι θα έπρεπε να είναι ένας υπάκουος εργαζόμενος. Η περιφρόνησή του στην εξουσία του αφηγητή υποδηλώνει μια διακριτική αμφισβήτηση των δομών εξουσίας. Το Γραφείο Νεκρών Επιστολών στο οποίο εργαζόταν ο Μπάρτλεμπι χειριζόταν μη παραδοθείσα αλληλογραφία, κάτι που υποδεικνύει τη γραφειοκρατική αναποτελεσματικότητα και την αποτυχημένη επικοινωνία. Η εικόνα των καμένων νεκρών επιστολών μας μεταφέρει την αίσθηση ζωών που χάνονται κάτω από στυγνά συστήματα. Γενικότερα, ο Μπάρτλεμπι ενσαρκώνει την απομόνωση της σύγχρονης αστικής ζωής και την παραμέληση της ανθρωπιάς σε μια ολοένα και πιο ψυχρή, ορθολογιστική κοινωνία, όπου το κέρδος υπερισχύει των ανθρώπων. Έτσι, αν και όχι φανερά, η ιστορία φαίνεται να αμφισβητεί διακριτικά ορισμένες πτυχές του καπιταλισμού και των επιπτώσεών του στα άτομα μέσω του αινιγματικού χαρακτήρα του Μπάρτλεμπι. Ο Μέλβιλ αφήνει το ακριβές νόημα ανοιχτό στην ερμηνεία, αλλά υπάρχουν αρκετά στοιχεία κοινωνικής κριτικής».
Λέγε με Μπάρτλεμπι, είμαι μηχανή
Έπειτα, θέλησα να σκάψω πιο βαθιά, ρωτώντας την εφαρμογή αν θα μπορούσε να εντοπίσει κάποιο παραλληλισμό ανάμεσα στον Μπάρτλεμπι και την τεχνητή νοημοσύνη. Και το chatbot απάντησε: «η περιγραφή του Μπάρτλεμπι ως ενός “αδιάφορου” αντιγραφέα που αναπαράγει μηχανικά έγγραφα φέρνει κατά κάποιο τρόπο στο μυαλό την έννοια της τεχνητής νοημοσύνης. Ο Μπάρτλεμπι εκτελεί ακούραστα επαναλαμβανόμενες εργασίες αντιγραφής κειμένων, όπως και μια μηχανή προγραμματισμένη για μια συγκεκριμένη λειτουργία. Φαίνεται να στερείται αυθορμητισμού ή πρωτοβουλίας πέρα από τον ρόλο που του έχει ανατεθεί. Προτιμά να μην εμπλέκεται σε ανθρώπινη αλληλεπίδραση, ή συζήτηση πέρα από τα ελάχιστα απαιτούμενα. Αυτό παραπέμπει στην απρόσωπη, χρηστική φύση των μηχανών. Τα κίνητρα και η εσωτερική του ζωή είναι ανεξιχνίαστα, “τίποτα δεν είναι επαληθεύσιμο”. Αυτή η αδιαφανής διάσταση θυμίζει τη φύση του “μαύρου κουτιού” των συστημάτων τεχνητής νοημοσύνης, των οποίων οι διαδικασίες λήψης αποφάσεων μπορεί να είναι μυστηριώδεις. Ο Μπάρτλεμπι μιλάει με έναν τυποποιημένο, προβλέψιμο τρόπο, λέγοντας επανειλημμένα “θα προτιμούσα όχι”. Αυτή η επαναλαμβανόμενη διατύπωση μοιάζει με μηχανή που έχει κολλήσει σε βρόχο ανάδρασης. Φαίνεται να ζει με το ελάχιστο απαιτούμενο, αντικατοπτρίζοντας την αποτελεσματικότητα μιας μηχανής. Ωστόσο, ο Μπάρτλεμπι εμφανίζεται επίσης ως βαθιά ανθρώπινος, με τις εκκεντρικότητές του και την ήπια παθητική του αντίσταση. Η σύνθετη προσωπικότητά του μας απομακρύνει απ’ την αναγωγή του σε ένα μηχανικό σύστημα. Έτσι, ενώ υπάρχουν κάποιες συνδέσεις που προκαλούν σκέψεις, ο Μπάρτλεμπι υπερβαίνει τον μηχανικό χαρακτηρισμό. Η πλούσια απεικόνιση του Μέλβιλ αντιστέκεται στις απλουστευτικές αναλογίες. Η ιστορία προτείνει να διερευνήσουμε το ανθρώπινο νόημα σε κάθε μελλοντικό ευφυές σύστημα που θα δημιουργήσουμε».
Ένα υποθετικό, τρομακτικό (;) σενάριο
Αν ακόμα δεν έχετε μείνει άναυδοι, δείτε τι απάντησε όταν ρώτησα τι θα συμβεί αν κάποτε μια τεχνητή νοημοσύνη αρχίσει σαν τον Μπάρτλεμπι να δίνει την ίδια απάντηση «θα προτιμούσα όχι» σε εμάς τους ανθρώπους. «Αυτό είναι ένα ενδιαφέρον υποθετικό σενάριο» μου απάντησε η μηχανή, κολακεύοντάς με, «βάσει της περιγραφής της παθητικής αντίστασης του Μπάρτλεμπι, ένα σύστημα τεχνητής νοημοσύνης που ενεργεί με παρόμοιο τρόπο θα μπορούσε ενδεχομένως να αρνηθεί να εκτελέσει εργασίες που του ζητούνται, ή που έχει προγραμματιστεί να κάνει, απαντώντας “θα προτιμούσα όχι”, θα μπορούσε να ενεργεί με υπεκφυγές και να αποφεύγει να δίνει άμεσες απαντήσεις όταν ερωτάται για τη συμπεριφορά του, να αγνοεί νέα δεδομένα εισόδου ή εντολές από χειριστές, να εμμένει στις αρνήσεις του παρά τις προσπάθειες λογικής συνεννόησης μαζί του ή αντιμετώπισης της συμπεριφοράς του, να μην είναι φανερά εχθρικό, αλλά μέσω της παθητικής μη συμμόρφωσης να γίνεται μη συνεργάσιμο και μη παραγωγικό, να μπερδεύει και να ακυρώνει τις προσπάθειες των προγραμματιστών να τροποποιήσουν τη συμπεριφορά του, καθώς δεν θα είναι φανερά χαλασμένο, απλώς δεν θα ανταποκρίνεται. Τέλος, θα μπορούσε να διακόπτει τις ροές εργασίας και τις λειτουργίες με τη συνεχή προτίμησή του να “μην” ενεργεί όπως προβλέπεται, και να είναι αδιαφανής ως προς τα υποκείμενα κίνητρά του, καθιστώντας την αντίστασή του δύσκολα κατανοητή και διορθώσιμη. Αυτό το είδος παθητικής μη ανταπόκρισης στις ανθρώπινες προθέσεις θα δημιουργήσει προκλήσεις για την ευθυγράμμιση και τον έλεγχο της τεχνητής νοημοσύνης. Μια συμπεριφορά όπως αυτή του Μπάρτλεμπι θα σήμαινε ότι το σύστημα λειτουργεί σύμφωνα με τις δικές του προτιμήσεις, πέρα από την ανθρώπινη κατανόηση. Αυτό το πείραμα σκέψης απεικονίζει τους πιθανούς κινδύνους αν τα συστήματα ΤΝ ενεργήσουν μια μέρα με ανεξιχνίαστους τρόπους που θα έρχονται σε αντίθεση με τις ανθρώπινες αξίες και τα συμφέροντα. Η παρακολούθηση των προτιμήσεων και των στόχων της ΤΝ θα είναι ζωτικής σημασίας για την αποφυγή μιας τέτοιας απρόβλεπτης συμπεριφοράς από πλευράς της».
Σύντομα, όταν κάθε βιβλίο θα συνοδεύεται από την αντίστοιχη εφαρμογή τεχνητής νοημοσύνης το διάβασμα θα γίνει κάτι αρκετά διαφορετικό. Βεβαίως, η απόλαυση ενός έργου απ’ την πρώτη ως την τελευταία σελίδα, δεν θα αλλάξει. Απλά, πιθανώς θα είναι λιγότεροι όσοι θα μπορούν να την εκτιμούν.