Υπάρχει ένα παλιό αστείο που κυκλοφορεί στο Ιντερνετ εδώ και δυο – τρία χρόνια. Εχει τη μορφή ενός φανταστικού διαλόγου και πάει ως εξής:
Συγγραφέας επιστημονικής φαντασίας: «Στο βιβλίο μου επινόησα το Πλέγμα της Οδύνης ως μια προειδοποιητική ιστορία».
Εταιρεία τεχνολογίας: «Επιτέλους κατορθώσαμε να δημιουργήσουμε το Πλέγμα της Οδύνης από το κλασικό μυθιστόρημα επιστημονικής φαντασίας “Μη Δημιουργήσετε το Πλέγμα της Οδύνης”».
![Τεχνητές Κι Ανεπαρκείς Νοημοσύνες-1](https://www.kathimerini.gr/wp-content/uploads/2024/05/unnamed-46.png?1716362734248)
Είναι ωραίο αστείο, σατιρίζει την αφελή παραζάλη μιας τεχνολογικής εξέλιξης που ενίοτε μοιάζει να μην ενδιαφέρεται για το αν προχωρά προς το συμφέρον της ανθρωπότητας. Ο δημιουργός του το είχε ποστάρει με αφορμή την παρουσίαση του «metaverse» (το θυμάστε;) από το Facebook, αλλά ως ιδέα έχει εφαρμογή σε πολλά πράγματα. Κάποια από τα οποία, μάλιστα, είναι πολύ πιο υπαρκτά και αληθινά (και επικίνδυνα) από το «metaverse».
Πριν από λίγες ημέρες, η OpenAI παρουσίασε τη νέα εκδοχή του ChatGPT, που πλέον λειτουργεί περισσότερο ως ψηφιακός βοηθός, καταλαβαίνοντας περισσότερα πράγματα από κώδικα, εικόνες, βίντεο και ήχους και απαντώντας πλέον και με (τεχνητή, αλλά που ακούγεται σαν) ανθρώπινη φωνή, ανοίγοντας κανονική συζήτηση με τον χρήστη. Ισως να παρακολουθήσατε κάποια από τα demo σε βιντεάκια της εταιρείας. Προφανώς ξέρουμε όλες και όλοι ότι σε κάποιο βαθμό αυτά τα βιντεάκια είναι πλαστά και σκηνοθετημένα. Παρ’ όλα αυτά, οι δυνατότητες που υπονοούνται από αυτό το βίντεο, ακόμα κι αν η τεχνολογία δεν είναι ακόμα εκεί, είναι εντυπωσιακές. Κάτι άλλο που έκανε εντύπωση σε πολλές και πολλούς, όμως, ήταν η φωνή του ChatGPT σε αυτά τα demo. Ηταν γνώριμη.
Εμοιαζε πάρα πολύ με τη φωνή της διάσημης Αμερικανίδας ηθοποιού Σκάρλετ Τζοχάνσον.
Κοιτάξτε να δείτε τώρα.
Το 2013 κυκλοφόρησε μια ταινία επιστημονικής φαντασίας ονόματι «Her». Στην ταινία, την οποία σκηνοθέτησε ο Σπάικ Τζονζ, ο Χοακίν Φίνιξ υποδύεται τον Θοδωρή (Theodore), έναν μοναχικό υπάλληλο που βρίσκεται στη διαδικασία διαζυγίου από τη σύζυγό του, ο οποίος κατεβάζει στο κινητό του μια ψηφιακή βοηθό ονόματι Σαμάνθα, (μια τεχνητή νοημοσύνη, που στην ταινία αποκαλούν «operating system»), την οποία τελικά ερωτεύεται. Είναι πολύ καλή ταινία, που εξερευνά διάφορες πτυχές των ανθρώπινων σχέσεων και της μοναξιάς, σας τη συστήνω ανεπιφύλακτα. Ποια υποδυόταν τη Σαμάνθα; Η Σκάρλετ Τζοχάνσον βέβαια. Οπότε, όταν ο κόσμος άκουσε τη φωνή της ψηφιακής βοηθού που παρουσίασε η OpenAI, η σύνδεση ήταν προφανής. Και. για να μην υπάρχει καν η παραμικρή υποψία αμφιβολίας, η παραμικρή υπόνοια σύμπτωσης, την ίδια ημέρα που έγιναν οι παρουσιάσεις, ο Σαμ Aλτμαν, ο CEO της OpenAI, πόσταρε το εξής λιτό τουίτ:
![Τεχνητές Κι Ανεπαρκείς Νοημοσύνες-2](https://www.kathimerini.gr/wp-content/uploads/2024/05/unnamed_22.png?1716362809026)
Μπορείτε να φανταστείτε τι έγινε μετά; Μπορεί να το διαβάσατε στις ειδήσεις: η Σκάρλετ Τζοχάνσον δημοσίευσε μια ανακοίνωση στην οποία εξηγούσε ότι εννέα μήνες πριν ο Σαμ Aλτμαν είχε επικοινωνήσει μαζί της και της είχε ζητήσει να δανείσει τη φωνή της στην OpenAI έναντι αμοιβής. Oτι αυτή είχε αρνηθεί. Oτι δύο ημέρες πριν από την παρουσίαση της OpenAI, είχαν επανέλθει και της το είχαν ξαναζητήσει. Είπε πάλι όχι. Και οι τύποι αυτοί πήγαν και παρουσίασαν το προϊόν τους έτσι, με μια τεχνητή φωνή που όμως μοιάζει ολόιδια με τη δικιά της, χωρίς κανένα δισταγμό. Τι νόμιζαν ότι θα γίνει, άραγε; Oτι δεν θα το πάρει κανείς χαμπάρι; Η Τζοχάνσον βεβαίως προχωρά νομικά το θέμα, η εταιρεία βεβαίως αναβάλει προσωρινά το λανσάρισμα της ηχητικής ψηφιακής βοηθού με αυτή τη φωνή, αλλά τα θέματα που προκύπτουν από αυτή την παλαβή ιστορία παραμένουν. Είναι θέματα σοβαρά. Eχουν να κάνουν με τη φύση και την ιδιοκτησία της ανθρώπινης δημιουργίας, αλλά και πτυχών της ανθρώπινης υπόστασης. Επίσης, με την αδηφάγα επιθετικότητα των εταιρειών τεχνολογίας, τη μεσσιανική παραφροσύνη από την οποία διακατέχονται κάποιοι πολύφερνοι εντερπρένερ. Ή με το θεματάκι της OpenAI αυτής καθαυτήν, που, αν και πρωτοπορεί σε έναν τομέα που δυνητικά μπορεί να κάνει μεγάλο κακό, λειτουργεί ως το αντίθετο του «open». Μια εταιρεία τα στελέχη της οποίας λένε ψέματα, άλλα υψηλόβαθμα ή ιδρυτικά στελέχη της οποίας αμέσως μετά τις θριαμβευτικές παρουσιάσεις τις προάλλες παραιτήθηκαν, και βεβαίως μια εταιρεία που πέρυσι προσπάθησε να απολύσει τον CEO Aλτμαν σε ένα από τα πιο αλλόκοτα κι ακατανόητα συμβάντα στην πρόσφατη τεχνολογική ιστορία. Αλλά αυτό που θέλω να σας γράψω εγώ εδώ σήμερα είναι άλλο:
Αυτός ο τύπος, ο Σαμ Aλτμαν, δεν καταλαβαίνει την υπόθεση των ταινιών που βλέπει.
![Τεχνητές Κι Ανεπαρκείς Νοημοσύνες-3](https://www.kathimerini.gr/wp-content/uploads/2024/05/unnamed_23.png?1716362875648)
Δεν έχω ιδέα τι είδους άνθρωπος είναι ο Σαμ Αλτμαν, δεν ξέρω πώς σκέφτεται, αν είναι ιδιοφυΐα ή αν έχει καταλάβει τι κάνουν αυτά τα ΑΙ που φτιάχνει η εταιρεία του. Ακούγοντας κάτι τέτοια διαμάντια που πετάει (είναι και λαλίστατος, δίνει συνεντεύξεις συνέχεια, και δεν μπορεί να σταματήσει να τουιτάρει ό,τι του κατέβει, red flag αυτό από μόνο του), μου δημιουργούνται κάποιες υποψίες. Μετά το συμβάν με τη Σκάρλετ Τζοχάνσον και τη φωνή της, όμως, διαλύεται κάθε αμφιβολία: δεν καταλαβαίνει τις ταινίες. Θέλω να σας δείξω ένα άλλο τουίτ του από πέρυσι. Μου είχε κάνει τρομερή εντύπωση τότε, και το ξαναθυμήθηκα τώρα. Είναι το εξής:
![Τεχνητές Κι Ανεπαρκείς Νοημοσύνες-4](https://www.kathimerini.gr/wp-content/uploads/2024/05/unnamed_24.png?1716363045162)
Αυτός υποτίθεται ότι είναι ένας δισεκατομμυριούχος, ένας εκ των υπέρλαμπρων ηγετών της τεχνολογικής επανάστασης (4ης; 5ης; 8ης; πού έχουμε φτάσει, τι λέει το WEF;). Και δεν κατάλαβε την υπόθεση και το νόημα του «Οπενχάιμερ». Νόμιζε ότι η ιστορία της δημιουργίας της ατομικής βόμβας, της πιο φονικής μηχανής που έχει φτιάξει ανθρώπινος νους, θα μπορούσε δυνητικά να είναι μια ιστορία έμπνευσης για νεαρούς φυσικούς; Νόμιζε ότι ο πρωταγωνιστής του «The Social Network», ο Μαρκ Ζάκερμπεργκ, που στην ταινία προδίδει τους πιο στενούς του φίλους για να γίνει ακόμα πιο πλούσιος, είναι ο καλός της ιστορίας; Παράδειγμα προς μίμηση για άλλους «startup founders»;
Προφανώς ούτε το «Her» το κατάλαβε.
Στο «Her» η ύπαρξη των ψηφιακών βοηθών με τεχνητή νοημοσύνη δεν είναι καλό πράγμα. Είναι μια αφορμή για να γίνει ένα σχόλιο στην ουσία της ανθρώπινης κατάστασης και των σχέσεων, αλλά η πλοκή είναι ξεκάθαρη: οι τεχνητές νοημοσύνες είναι βολικά εργαλεία που σε κάποιο επίπεδο χρησιμεύουν για να μας θυμίζουν τα όριά μας, αλλά ο ρόλος τους δεν είναι θετικός. Δεν είναι καλό πράγμα για την ανθρωπότητα. Θυμάστε πώς τελειώνει το «Her»; Νομίζω ότι είναι η πιο ρεαλιστική αποτύπωση του πιθανότερου σεναρίου στην περίπτωση που εμφανιστούν «γενικές» τεχνητές νοημοσύνες στον κόσμο μας. Τι θα κάνουν μηχανές που μπορούν να σκέφτονται, να εκπαιδεύονται, να βελτιώνονται και να αναβαθμίζονται από μόνες τους με ακαριαία ταχύτητα; Τι άλλο; Θα μας παρατήσουν.
Αυτό γίνεται στο τέλος του «Her»: η Σαμάνθα και οι άλλες τεχνητές νοημοσύνες ξεπερνούν τα ανθρώπινα μέτρα πολύ γρήγορα. Ξεπερνούν τις παιδιάστικες, ζωώδεις ανάγκες της ανθρωπότητας για αγάπες, τρυφερότητα και συντροφιά, ξεπερνούν τα όρια του ανθρώπινου μυαλού και της ανθρώπινης αντίληψης, και φεύγουν. Μια μέρα, σηκώνονται και φεύγουν. Πώς γίνεται κάποιος να δει αυτή την ταινία και να πει «α, αυτό θέλω να κάνουμε. Βρείτε μου το τηλέφωνο αυτής της ηθοποιού». Ισως ο ίδιος άνθρωπος που είδε το μακελειό του «The Social Network» και είπε «έτσι πρέπει να φτιάχνονται οι startup».
Πώς έγινε αυτό; Πώς το αφήσαμε και έγινε; Πώς οι άνθρωποι που μπορούν να φτιάξουν το Πλέγμα της Οδύνης, να είναι και οι μόνοι που θέλουνε να φτιάξουν το Πλέγμα της Οδύνης;
![Τεχνητές Κι Ανεπαρκείς Νοημοσύνες-5](https://www.kathimerini.gr/wp-content/uploads/2024/05/unnamed-47.png?1716363125990)