Σε μια μετακαπιταλιστική κοινωνία η ενσωμάτωση της τεχνητής νοημοσύνης στο οικονομικό σύστημα θα μειώσει δραματικά τον ρόλο του ανθρώπινου παράγοντα. Νέα συστήματα παραγωγής τεχνητής σκέψης και λόγου όπως το ChatGPT, που ανταγωνίζονται την ανθρώπινη νόηση, θέτουν ήδη μια σειρά από γρίφους σε όλο το φάσμα των κοινωνικών επιστημών. Τι θα γίνει αν αυτές οι έξυπνες μηχανές φτάσουν να γίνουν πιο έξυπνες από τους δημιουργούς τους; Πώς θα τις αντιμετωπίσει το νομικό και οικονομικό μας σύστημα; Θα έχουν «δικαιώματα» ή θα είναι οι ψηφιακοί μας σκλάβοι;
Η «Κ» αναζήτησε απαντήσεις από έναν αιρετικό διανοούμενο, θεωρητικό του αναρχοκαπιταλισμού, τον 78χρονο Ντέιβιντ Φρίντμαν. Γιος του θεμελιωτή της Σχολής του Σικάγου, του νομπελίστα Μίλτον Φρίντμαν (1912-2006), που ήταν ο ιθύνων νους πίσω από την οικονομική πολιτική του Ρέιγκαν και της Θάτσερ, στις αρχές της δεκαετίας του ’80, ο Ντέιβιντ Φρίντμαν υποστηρίζει ότι οι κοινωνίες μπορούν να ζήσουν αρμονικά χωρίς κεντρική διακυβέρνηση. Στη συζήτησή μας, επιχειρεί να προβλέψει τις προκλήσεις που θα αντιμετωπίσουν οι κοινωνίες με την επέλαση της τεχνητής νοημοσύνης.
– Καθηγητά Φρίντμαν, θέλετε να μας συνοψίσετε τις απόψεις σας για το αναρχοκαπιταλιστικό σύστημα και τη θεωρία των «ακρατικών» κοινωνιών;
– Στο πρώτο μου βιβλίο, «Machinery of Freedom», είχα περιγράψει ότι όλες οι χρήσιμες λειτουργίες μιας κυβέρνησης πρέπει να παρέχονται ιδιωτικά. Κατά τη γνώμη μου, οι βασικές αυτές λειτουργίες είναι η θέσπιση και η εφαρμογή του νόμου, δηλαδή η επιβολή των ατομικών δικαιωμάτων, καθώς και η διευθέτηση των διαφορών.
Στο σύστημα που σκιαγράφησα, η διευθέτηση αυτή γινόταν με αποκεντρωμένο τρόπο, όπου υπήρχαν επιχειρήσεις που πωλούσαν υπηρεσίες προστασίας των δικαιωμάτων των πελατών τους, καθώς και επίλυσης των διαφορών τους. Οπότε, κάθε άτομο θα επέλεγε να είναι πελάτης μιας τέτοιας επιχείρησης. Κάθε ζεύγος επιχειρήσεων, αναγνωρίζοντας το ενδεχόμενο σύγκρουσης, θα συμφωνούσε εκ των προτέρων για ένα διαιτητή.
Από την άλλη πλευρά, καμία από τις δύο εταιρείες δεν θα ήθελε να αρχίσει να συγκρούεται με την άλλη, διότι ο «πόλεμος» μεταξύ εταιρειών είναι πολύ ακριβός, επομένως είναι λογικό και για τις δύο εταιρείες να δεσμευτούν εκ των προτέρων ότι θα δεχθούν ένα ιδιωτικό δικαστήριο, έναν οργανισμό διαιτησίας, όπου και οι δύο επιχειρήσεις θα ακολουθήσουν τα αποτελέσματα και τις αποφάσεις του.
Στην πραγματικότητα, έχουμε ένα μοντέλο αυτού που περιγράφω στον σύγχρονο κόσμο: τις ασφαλιστικές εταιρείες αυτοκινήτων. Αν το αυτοκίνητό μου πέσει πάνω στο αυτοκίνητό σας, η ασφαλιστική μου εταιρεία θα ήθελε να πιστεύει ότι εσείς φταίτε, ενώ η ασφαλιστική σας εταιρεία θα ήθελε να πιστεύει ότι εγώ φταίω. Και έχουν πραγματικά δύο εναλλακτικούς τρόπους να διευθετήσουν τη διαφορά. Ο ένας από αυτούς είναι να μηνύσει ο ένας τον άλλον και να πάνε στο δικαστήριο. Αυτή είναι μια πολύ δαπανηρή διαδικασία, ενώ ο άλλος τρόπος είναι να έχουν κανόνες που έχουν συμφωνήσει και οι δύο, βάσει των οποίων θα αποφασίσουν ποιος είναι υπεύθυνος και ποιος όχι. Στη σύγχρονη Αμερική αυτές οι υποθέσεις δεν φτάνουν ποτέ στο δικαστήριο. Αυτή είναι η βασική λογική.
– Πώς οι θεμελιώδεις αρχές των ιδεών σας, όπως το πολυκεντρικό δίκαιο, θα μπορούσαν να λειτουργήσουν σε κοινωνίες με αυξημένες νομικές και αμυντικές ανάγκες;
– Οσον αφορά τις νομικές ανάγκες, δεν βλέπω το πρόβλημα. Εχω περιγράψει πώς το νομικό σύστημα αντιμετωπίζεται στην αγορά, επειδή η άσκηση των δικαιωμάτων είναι βασικά ένα ιδιωτικό αγαθό. Εγώ είμαι αυτός που επωφελείται από την προστασία των δικαιωμάτων μου και είμαι πρόθυμος να πληρώσω μια ιδιωτική εταιρεία για να το κάνει αυτό. Αλλά η άμυνα δεν λειτουργεί έτσι και αυτό θα αποτελέσει πρόβλημα.
Πριν από λίγο καιρό, κάποιος μου υπέδειξε μια είδηση σχετικά με μία από τις χώρες της Βαλτικής, πρέπει να ήταν η Εσθονία, στην οποία ένα δημοφιλές άθλημα είναι η εκπαίδευση για ανταρτοπόλεμο. Προφανώς έχουν ένα αρκετά καλά οργανωμένο σύστημα, το οποίο επιδοτείται από την κυβέρνηση, αλλά η εκπαίδευση αυτή γίνεται κυρίως ιδιωτικά.
Ετσι, μέσω κάποιας φιλανθρωπικής δωρεάς, μπορεί να υποστηριχθεί ένας μικρός πυρήνας επαγγελματιών, οι οποίοι θα συντόνιζαν και στη συνέχεια θα οργάνωναν τον πόλεμο και το πεδίο μάχης. Ομως, είναι ένα δύσκολο πρόβλημα και θα ήμουν πολύ λιγότερο αισιόδοξος για την εφαρμογή του συστήματός μου στην Εσθονία από ό,τι θα ήμουν για τις ΗΠΑ, επειδή οι ΗΠΑ έχουν γείτονες που είναι ασθενέστεροι στρατιωτικά και, ως εκ τούτου, δεν χρειάζεται να αυξήσουν την ισχύ τους για να υπερασπιστούν τους εαυτούς τους. Εκτός αυτού, οι Καναδοί δεν έχουν δώσει καμία ένδειξη ότι θέλουν να εισβάλουν στην Αμερική, ούτε και οι Μεξικανοί. Οπότε νομίζω ότι το σύστημά μου θα λειτουργούσε καλύτερα σε μια χώρα που δεν έχει ισχυρούς, επιθετικούς γείτονες.
– Με βάση το βιβλίο σας «Future Imperfect», πώς η τεχνολογία δημιουργεί έναν επεμβατικό και ατελή κόσμο;
Σε 40 ή 50 χρόνια ίσως έχουμε πολύ πιο έξυπνη τεχνητή νοημοσύνη, υπέρτερη του ανθρώπινου επιπέδου, και καλύτερα να ελπίζουμε ότι θα της αρέσουν τα κατοικίδια ζώα.
– Στην πραγματικότητα, συζήτησα ένα από τα προβλήματα της τεχνολογίας στο βιβλίο μου, όπου το επιχείρημά μου ήταν ότι μπορεί κάλλιστα να φτάσουμε στην περίπτωση που θα δημιουργήσουμε προγράμματα για τους υπολογιστές μας που θα είναι ισοδύναμα με τους ανθρώπους. Βέβαια, δεν πρόκειται να μοιάζουν πολύ με τους ανθρώπους, καθώς υπάρχουν διάφορες παράμετροι που πρέπει να ληφθούν υπ’ όψιν, αλλά θα είναι το ίδιο έξυπνα με εμάς. Και αυτό είναι ιδιαίτερα τρομακτικό.
Το πρόβλημα με την τεχνητή νοημοσύνη είναι ότι αυτά τα προγράμματα γίνονται όλο και πιο έξυπνα, ενώ εμείς όχι. Επομένως, αν σε 30 χρόνια αποκτήσουμε τεχνητή νοημοσύνη ανθρώπινου επιπέδου, τότε σε 40 ή 50 χρόνια θα έχουμε πολύ πιο έξυπνη τεχνητή νοημοσύνη, υπέρτερη του ανθρώπινου επιπέδου, και καλύτερα να ελπίζουμε ότι θα τους αρέσουν τα κατοικίδια ζώα.
Υπάρχουν και άλλες ανησυχίες, για παράδειγμα διάφοροι μελετητές που γνωρίζω ανησυχούν για την πιθανότητα μια μεμονωμένη τεχνητή νοημοσύνη να φτάσει την υπεράνθρωπη νοημοσύνη. Ο συλλογισμός του Ελιέζερ Γιουντκόφσκι αναφέρει: «Το πρόγραμμα μεγιστοποίησης της παραγωγής των συνδετήρων στο οποίο κάποιος έχει χρησιμοποιήσει πρόγραμμα τεχνητής νοημοσύνης, υποτίθεται ότι μεγιστοποιεί την παραγωγή συνδετήρων, ενώ ταυτοχρόνως κάνει την τεχνητή νοημοσύνη πιο έξυπνη και τους ανθρώπους εξυπνότερους. Τελικά, όμως, έχουμε μια τεχνητή νοημοσύνη τόσο έξυπνη που μπορεί να ελέγχει τον κόσμο εξαπατώντας τους ανθρώπους να κάνουν αυτό που θέλει εκείνη». Οπότε αποδεικνύεται ότι τα ανθρώπινα όντα δεν είναι το καλύτερο μέσο παραγωγής συνδετήρων. Ετσι, η τεχνητή νοημοσύνη εξαλείφει τους ανθρώπους.
Στον ανθρώπινο οργανισμό, η ύπαρξη της συνείδησης είναι το πρώτο γεγονός στο οποίο έχουμε επίγνωση. Ολα τα υπόλοιπα φιλτράρονται μέσα από αυτό. Αυτό το φιλτράρισμα πιθανότατα να μην μπορούμε να το κάνουμε απλώς προγραμματίζοντας έναν υπολογιστή.
Μέχρι στιγμής, τα πράγματα που έχουν εντυπωσιάσει τους ανθρώπους είναι το ChatGPT και οι επίγονοί του. Ολα αυτά τα προγράμματα δεν μοιάζουν καθόλου με ανθρώπους. Μοιάζουν με έξυπνους τρόπους για να αξιοποιηθεί η ανθρώπινη εργασία, δηλαδή ολόκληρο το σώμα κειμένου προσομοιάζει με την ανθρώπινη λειτουργία. Αλλά αυτό είναι κάτι πολύ διαφορετικό από το να έχεις τη φυσική υπόσταση ενός ατόμου.
– Ποιο θα είναι το μέλλον του καπιταλισμού σε έναν ρομποτικό κόσμο, μετασχηματισμός του συστήματος ή αταξία;
– Αν εννοείτε έναν κυριολεκτικά ρομποτικό κόσμο, έναν κόσμο όπου θα έχουμε αντικατασταθεί από την τεχνητή νοημοσύνη, η εικασία μου είναι ότι θα έχουν το ίδιο πρόβλημα συντονισμού που έχουμε και εμείς. Σε ένα φανταστικό μέλλον, όπου δεν θα υπάρχουν άνθρωποι, παρά μόνο ρομπότ, αυτά τα ρομπότ πιθανώς θα συναλλάσσονται μεταξύ τους, θα συνάπτουν συμβάσεις μεταξύ τους. Ισως ακόμη και να δημιουργήσουν εταιρείες ρομπότ, καθώς το θεμελιώδες και λογικό πρόβλημα ενός συνόλου μεμονωμένων φορέων είναι ότι ο καθένας έχει τους δικούς του στόχους που προσπαθεί να επιτύχει, οι οποίοι πρέπει να συντονιστούν.
Αρα δεν βλέπω κάποιο ιδιαίτερο ζήτημα που να εγείρει η τεχνητή νοημοσύνη, εφόσον πρόκειται απλώς για μηχανές. Τα ενδιαφέροντα ζητήματα εγείρονται όταν η τεχνητή νοημοσύνη γίνει άνθρωπος, αν γίνει ποτέ, και τότε θα πρέπει να αναρωτηθούμε πώς θα τα ενσωματώσουμε στο νομικό μας σύστημα; Είναι σκλάβοι, δηλαδή τo Excel είναι σκλάβος; Το ίδιο θα ισχύει και για το word, το οποίο μερικές φορές συμπεριφέρεται σαν ένας ανυπάκουος σκλάβος που κάνει αυτό που δεν θέλω να κάνει; Αλλά, εφόσον δεν είναι άνθρωποι, τότε ίσως να είναι απλώς σκλάβοι. Εξάλλου οι άνθρωποι είχαν και στο παρελθόν σκλάβους, και αυτό δεν είναι ένα πολύ ελκυστικό σύστημα.
Από την άλλη, αν όντως αυτό το πρόγραμμα-άνθρωπος τρέχει μέσα στον υπολογιστή σας και μπορείτε να το απενεργοποιήσετε όποτε θέλετε, ίσως αυτό το «άτομο» θα έπρεπε να κάνει αυτό που του λέτε.
Το πιο ενδιαφέρον ζήτημα είναι να δημιουργηθεί ένας κόσμος όπου θα αντιμετωπίζονται και αυτοί/-ά ως άνθρωποι, όπου εσείς τότε θα έχετε ένα νομικό σύστημα που θα λαμβάνει, με κάποιο τρόπο, υπόψη τις διαφορές μεταξύ ενός υπολογιστικού προγράμματος και ενός ανθρώπου με σάρκα και οστά.
– Οπότε, προβλέπετε δύο καπιταλιστικά συστήματα, ένα που θα περιλαμβάνει τον ανθρώπινο παράγοντα και ένα που θα περιλαμβάνει τον ρομποτικό παράγοντα, ή ένα σύστημα κεφαλαίου που θα ενσωματώνει και τα δύο;
– Πρέπει να σκεφτείτε αν τα ρομπότ είναι άνθρωποι, αν η τεχνητή νοημοσύνη αφορά ανθρώπους, γιατί το ρομπότ ουσιαστικά προτείνει μια μηχανή με σώμα. Και μπορεί να έχω ή να μην έχω σώμα, αλλά αν η τεχνητή νοημοσύνη δεν αντανακλά έναν άνθρωπο, τότε έχουμε ένα οικονομικό σύστημα ανθρώπων που απλώς χρησιμοποιούν μηχανές.
Υποθετικά, εάν οι άνθρωποι έχουν το δικό τους σύστημα, τότε θα έχουμε ένα οικονομικό σύστημα στο οποίο οι άνθρωποι θα αγοράζουν πράγματα από την τεχνητή νοημοσύνη και η τεχνητή νοημοσύνη θα αγοράζει πράγματα από τους ανθρώπους. Και, ξέρετε, οι άνθρωποι θα απασχολούν υπολογιστές και οι υπολογιστές θα απασχολούν ανθρώπους, ενώ στο κάτω κάτω, σήμερα, έχουμε στο σύστημά μας τους άνδρες και τις γυναίκες και καταφέρνουμε να τους ενσωματώσουμε και τους δύο σε μια ενιαία οικονομία. Ο υπολογιστής είναι πραγματικά τόσο πιο πολύ διαφορετικός από τη σύζυγό μου; Μάλλον, όχι.