Τι θα γίνει αν κατασκευάσουμε μηχανές με ανώτερη νοημοσύνη από την δική μας;

Τι θα γίνει αν κατασκευάσουμε μηχανές με ανώτερη νοημοσύνη από την δική μας;

Μια συζήτηση με τον καθηγητή φιλοσοφίας της Οξφόρδης, Nick Bostrom για τον θαυμαστό, όσο και τρομακτικό, νέο κόσμο της τεχνητής νοημοσύνης

10' 16" χρόνος ανάγνωσης
Ακούστε το άρθρο

Σας προτρέπω να κάνετε μια παύση από τις καθημερινές σας έγνοιες και να σκεφτείτε τον κόσμο όπως μπορεί να είναι σε εκατό, σε διακόσια ή και σε χίλια χρόνια. Τι πιστεύετε ότι μπορεί να έχει συμβεί; Ποια γεγονότα τού σήμερα θα έχουν επηρεάσει αυτό το τόσο μακρινό μέλλον; Πώς θα έχουν επηρεάσει οι σημερινές μας επιλογές τον κόσμο στον ορίζοντα των επόμενων αιώνων; Επειδή δεν τα σκεφτόμαστε αυτά καθημερινά, συνήθως δεν έχουμε και πολλά να πούμε. Ανάλογα με τα ποσοστά της αισιοδοξίας ή της απαισιοδοξίας μας, ζωγραφίζουμε έναν κόσμο όπως θα τον θέλαμε ή όπως τον φοβόμαστε. 

Υπάρχει ωστόσο ένας άνθρωπος, του οποίου το επάγγελμα είναι ακριβώς αυτό: να σκέφτεται πολύ μακροπρόθεσμα. Μπορεί να σας ακούγεται εντελώς άχρηστο, αλλά η δουλειά του έχει πολλά να μας διδάξει, αρκεί βέβαια να τον ακούσουμε προσεκτικά. Στη χώρα μας αυτός ο άνθρωπος, ο Νικ Μπόστρομ, είναι παντελώς άγνωστος. Το πιο πρόσφατο βιβλίο του Superintelligence, Paths, Dangers, Strategies (Υπερνοημοσύνη, Μονοπάτια, Κίνδυνοι, Στρατηγικές) κυκλοφόρησε το 2014, έγινε δεκτό με ενθουσιασμό στον κόσμο της επιστήμης και εκκίνησε μια μεγάλη συζήτηση για το μέλλον της τεχνητής νοημοσύνης (ΤΝ). Παρότι παγκόσμιο best seller, ωστόσο, το βιβλίο δεν έχει κυκλοφορήσει στα ελληνικά, και αυτή είναι η πρώτη συνέντευξη που δίνει σε Έλληνα δημοσιογράφο. Ο Νικ Μπόστρομ γεννήθηκε στη Σουηδία το 1973 και σήμερα ζει και εργάζεται στη Μεγάλη Βρετανία. Πρόκειται για έναν ευρυμαθή στοχαστή, το θεωρητικό υπόβαθρο του οποίου περιλαμβάνει γνώσεις φυσικής, υπολογιστικής νευροεπιστήμης, λογικής, τεχνητής νοημοσύνης και φυσικά φιλοσοφίας. Διδάσκει φιλοσοφία στο πανεπιστήμιο της Οξφόρδης και είναι ο ιδρυτής του Ινστιτούτου για το Μέλλον της Ανθρωπότητας. Η δουλειά του εστιάζει κυρίως στην ασφάλεια της ΤΝ, στη βιοασφάλεια, στη μακροστρατηγική και σε άλλα τεχνολογικά ζητήματα αιχμής.

Κύριε Μπόστρομ, οι περισσότεροι άνθρωποι αρχίζουν να σκέφτονται τον μεγάλο ορίζοντα όταν αποκτούν παιδιά. Πώς προέκυψε σ’ εσάς αυτή η έγνοια;
Σ’ εμένα συνέβη το ακριβώς αντίθετο. Τα παιδιά με αναγκάζουν να σκεφτώ περισσότερο το παρόν. Πάντοτε σκεφτόμουν περισσότερο τις μακροπρόθεσμες προοπτικές.

Και πώς καταλήξατε στη φιλοσοφία;
Έγινε με πολύ φυσικό τρόπο. Όταν ήμουν παιδί, δεν με ενδιέφεραν καθόλου τα βιβλία, γιατί τα είχα συνδέσει με το σχολείο, κι εγώ τότε μισούσα το σχολείο. Γι’ αυτόν τον λόγο έως τα 15 μου δεν έκανα τίποτα. Έπειτα, όμως, είχα αυτή τη μεγάλη διανοητική αφύπνιση. Δεν αντιμετώπισα ποτέ τη φιλοσοφία ως ένα διαφορετικό αντικείμενο. Την έβλεπα πάντα σαν μια προσπάθεια κατανόησης του κόσμου. Με ενδιαφέρει το βάθος των πραγμάτων, τα μεγάλα ερωτήματα, καθώς και οι συνδέσεις μεταξύ τους. Κάποια από όλα αυτά τα ερωτήματα τυχαίνει να είναι και φιλοσοφικά. Με αυτή την έννοια, με ενδιαφέρει η φιλοσοφία, αλλά με ενδιαφέρουν ταυτόχρονα και πολλά άλλα επιστημονικά ζητήματα, όπως επίσης και μη επιστημονικοί τρόποι κατανόησης των εκφάνσεων του κόσμου. Με ενδιαφέρουν πολλές διαφορετικές ερωτήσεις, κι έτσι ψάχνω με πολλούς διαφορετικούς τρόπους, που πατούν σε πολλά πεδία. Αναζητώ απαντήσεις και στην πορεία τις αφήνω να με καθοδηγούν εκεί που θέλουν εκείνες.

Σήμερα μιλάμε περισσότερο για τα βραχυπρόθεσμα προβλήματα της ΤΝ. Συζητάμε για την ηθική ή για τις αλγοριθμικές μεροληψίες για παράδειγμα. Εσείς όμως ασχολείστε με κινδύνους πολύ πιο μακροπρόθεσμους. Μιλάτε για το πρόβλημα του ελέγχου ή των αξιών που πρέπει να εγγράψουμε στις μηχανές. Ποια είναι τα μεγάλα μακροπρόθεσμα ζητήματα που θα αντιμετωπίσουμε; 
Η μετάβαση σε έναν κόσμο που θα κυριαρχείται από τη μηχανική νοημοσύνη, κάτι το οποίο πιστεύω ότι θα δούμε στον αιώνα που ζούμε, θα μεταμορφώσει τα πάντα. Το γεγονός αυτό δημιουργεί μια πληθώρα ζητημάτων, για την οικονομία, την κοινωνία, την ηθική, τη στρατηγική και την ασφάλειά μας. Η ερευνητική μου ομάδα πράγματι ασχολείται κυρίως με αυτά τα πιο μακροπρόθεσμα θέματα. 
 
Δεν μας ενδιαφέρει το iPhone που θα κυκλοφορήσει του χρόνου, ούτε κάποια πρόσφατη ανατροπή ή μια νέα εταιρεία. Μας απασχολεί το τι σημαίνει για την ανθρώπινη κατάσταση η ανάπτυξη μιας ΤΝ που θα έχει τις ίδιες δυνατότητες και την ίδια ικανότητα μάθησης με εμάς. Πιστεύω ότι στην πραγματικότητα υπάρχουν κυρίως τρεις δεξαμενές μέσα στις οποίες προκύπτουν και τα μεγαλύτερα ζητήματα για εμάς. Το ένα είναι το πρόβλημα του ελέγχου. Πώς θα μπορέσουμε να διασφαλίσουμε ότι οι μηχανές αυτές, που θα έχουν αναπτύξει εξαιρετικά ταλέντα, θα ευθυγραμμίζονται με τις ανθρώπινες προθέσεις και τις ανθρώπινες αξίες; Πώς θα διασφαλίσουμε ότι δεν θα τρελαθούν ή ότι δεν θα κάνουν κάτι βλαβερό και αναπάντεχο; Εν πολλοίς, αυτό ήταν το περιεχόμενο του βιβλίου μου για την υπερνοημοσύνη. Έπειτα όμως σκέφτομαι ότι υπάρχει ένα ακόμα ζήτημα, σχετικά με το τι μπορούμε να κάνουμε εμείς, ο ένας στον άλλο, χρησιμοποιώντας τα εργαλεία της ΤΝ. Όπως κάθε πανίσχυρη τεχνολογία, έτσι και η ΤΝ μπορεί να χρησιμοποιηθεί για το καλό και για το κακό. Και, όπως διδάσκει η ιστορία, έχουμε δει πολλές τεχνολογίες να χρησιμοποιούνται σε πολέμους και σε άλλους παρόμοιους σκοπούς. Πρέπει λοιπόν να βρούμε ένα πλαίσιο διαχείρισης, ώστε η κοινωνία να χρησιμοποιήσει αυτή την τεχνολογία ειρηνικά, για ωφέλιμους σκοπούς. Πρέπει να αποτρέψουμε το καταστροφικό σενάριο. Υπάρχει τέλος μια τρίτη δεξαμενή, την οποία μόλις τώρα έχουμε αρχίσει να αναλύουμε. Αν το πρώτο πρόβλημα αφορά στο τι κάνει η ΤΝ, το δεύτερο τι κάνουμε εμείς με αυτήν, το τρίτο αφορά στο τι κάνουμε εμείς σε αυτές τις τεχνολογίες. Σε αυτή τη φάση δεν είναι ακόμη τόσο εξελιγμένες, αλλά, όταν θα γίνουν πολύ πιο εκλεπτυσμένες, θα κατακτήσουν και κάποια επίπεδα ηθικής υπόστασης. Θα είναι ευκολότερο, όταν έχουμε ας πούμε ψηφιακά όντα, να μάθουμε αν θα μπορούσαν να υποφέρουν. Αυτό θα ήταν κρίσιμο από ηθικής σκοπιάς. Όταν οι οντότητες αυτές θα έχουν φτάσει στο επίπεδο ενός ποντικού, ενός σκύλου ή κάποιου άλλου πράγματος, θα μας απασχολήσουν πολύ ανάλογα ζητήματα. Αυτό θα γίνει στην αρχή. Έπειτα, όταν θα εξελιχθούν και θα φτάσουν στο επίπεδο των ανθρώπων, ή και παραπάνω, τότε η σχέση μας μαζί τους θα γίνει ένα πάρα πολύ σημαντικό θέμα. Πώς θα περνούν στο μέλλον αυτά τα ψηφιακά μυαλά που θα έχουμε δημιουργήσει εμείς οι ίδιοι;  

Τι θα γίνει αν κατασκευάσουμε μηχανές με ανώτερη νοημοσύνη από την δική μας;-1
«Δεν αντιμετώπισα ποτέ τη φιλοσοφία ως ένα διαφορετικό αντικείμενο. Την έβλεπα πάντα σαν μια προσπάθεια κατανόησης του κόσμου». © Tom Jamieson/The New York Times

Υπαρξιακή ευκαιρία

Αναφέρεστε σε μια υπαρξιακή διακινδύνευση. Υπάρχει άραγε εδώ και μια υπαρξιακή ευκαιρία;
Βέβαια! Αν καταφέρουμε να το κάνουμε καλά, θα υπάρξουν τρομερά οφέλη. Κάποια από αυτά είναι πολύ προφανή. Στην υγεία και στην οικονομία, τα κέρδη θα είναι ανυπολόγιστα, όπως επίσης και στην επιστήμη. Αν το σκεφτείτε, στον κόσμο μας υπάρχουν δύο διαφορετικά είδη θεμελιωδών προβλημάτων. Το ένα είδος προκύπτει από αναποτελεσματικές τεχνολογίες και το άλλο προκύπτει από τις δικές μας αδυναμίες ή από την έλλειψη αρκετής σοφίας από την πλευρά μας. 

Η πρώτη κατηγορία μπορεί να επιλυθεί εύκολα, αν αποκτήσουμε μηχανικές υπερδυνάμεις. Αν δεν καταφέρουμε να βρούμε πώς θα παραγάγουμε επαρκείς ποσότητες ενός πράγματος προκειμένου να παρέχουμε σε όλους ένα υψηλό επίπεδο ζωής ή αν δεν μπορέσουμε να θεραπεύσουμε τον καρκίνο, θα μπορούσαμε να τα κάνουμε όλα αυτά μέσω επιστημόνων που θα ήταν πολύ εξυπνότεροι από εμάς και οι οποίοι θα σκέφτονταν μέσα σε ψηφιακά χρονικά πλαίσια και όχι μέσα σε βιολογικούς χρόνους. Το ίδιο και με την ανακάλυψη του διαστήματος. Εννοώ εξελιγμένες τεχνολογίες που θα επέτρεπαν την αυτόματη εξερεύνηση του διαστήματος, και πάει λέγοντας. Πιστεύω ότι οι δρόμοι που μπορούν να μας βγάλουν σε ένα πραγματικά μεγαλειώδες μέλλον, και είναι εφικτό να τους διαβούμε, περνούν όλοι με κάποιον τρόπο μέσα από την ανάπτυξη της μηχανικής υπερνοημοσύνης. Είναι ένα είδος πύλης μέσα από την οποία πρέπει υποχρεωτικά να περάσουμε και στην πορεία να αντιμετωπίσουμε τις διακινδυνεύσεις που υπάρχουν μέσα της. Αυτός είναι ο τελικός προορισμός μας και γι’ αυτό πρέπει να είμαστε όσο πιο προσεκτικοί γίνεται. Αν τα καταφέρουμε, θα είναι ό,τι πιο υπέροχο θα έχουμε κάνει. 

Γράφετε για τον εκδημοκρατισμό των εργαλείων μαζικής καταστροφής και για την υπόθεση της Αποκάλυψης. Ο κόσμος, όταν τα ακούει αυτά, ευλόγως φοβάται. Πώς θα μπορούσαμε να αποτρέψουμε αυτά τα δυστοπικά σενάρια;
Έχω δημοσιεύσει πρόσφατα μια μελέτη με τίτλο «Η υπόθεση του ευάλωτου κόσμου», στην οποία εξερευνώ την πιθανότητα να υπάρχει ένας κόσμος ο οποίος θα έχει ένα επίπεδο τεχνολογίας που εξαιτίας της ο πολιτισμός θα καταστρέφεται υποχρεωτικά. Γίνεται δηλαδή μια εφεύρεση, η οποία κάνει την καταστροφή πολύ εύκολη. Φτιάχνουμε δηλαδή κάτι με το οποίο θα μπορούσε ο οποιοσδήποτε να καταστρέψει μια πόλη εύκολα. Μετά από αυτό, θα ήταν πολύ δύσκολο να βρούμε τρόπους να έχουμε ξανά πόλεις. Υπάρχουν επίσης κι άλλοι πιο πανούργοι τρόποι με τους οποίους θα μπορούσε να μας καταστρέψει μια τεχνολογική ανακάλυψη. Υπάρχει η πιθανότητα να υπάρξει μια τεχνολογία που δεν θα είναι ευρέως διαθέσιμη ή δεν θα είναι πολύ εύκολη στη χρήση. Μπορεί να τη διαθέτουν και να την εξασκούν μερικά μόνο κράτη, κάτι σαν τη βόμβα υδρογόνου δηλαδή. Δυνητικά, θα μπορούσε και αυτή να είναι εξίσου καταστροφική. Θα μπορούσαμε επίσης να φανταστούμε κάτι που δεν θα ήταν πολύ καταστροφικό, αλλά που θα μπορούσε να είναι πολύ αποτελεσματικό αν το χρησιμοποιούσαν πολλοί άνθρωποι. 

Η συμβολή του καθενός θα ήταν ελάχιστη, αλλά όλες μαζί οι συνεισφορές θα ήταν καταστροφικές. Αυτό συμβαίνει σήμερα με την κλιματική αλλαγή. Μπορεί το αυτοκίνητο που χρησιμοποιείς να συμβάλλει πολύ λίγο, αλλά, αν προσθέσεις τα δισεκατομμύρια των ανθρώπων που χρησιμοποιούν την ίδια τεχνολογία, για δεκαετίες, μπορείς εύκολα να σκεφτείς ότι θα μπορούσαμε να είμαστε σε πολύ χειρότερη κατάσταση. Αν στο μέλλον η άνοδος της θερμοκρασίας συνεχιστεί όπως τώρα και ανέβει μόνο τρεις βαθμούς, έχει καλώς. Αν όμως ανέβει 30 βαθμούς, θα βρεθούμε σε δεινή θέση. Η γενική ιδέα είναι η εξής: αν συνεχίσουμε να βγάζουμε διαρκώς μπάλες από την ίδια μεγάλη λοταρία των εφευρέσεων, πόσο βέβαιοι είμαστε ότι εκεί μέσα δεν υπάρχει μια μαύρη μπάλα; Γιατί, αν υπάρχει, κάποια στιγμή στο τέλος θα την πάρουμε στα χέρια μας. Κι ενώ είμαστε πολύ καλοί στο να βγάζουμε τις μπάλες, δεν έχουμε την ικανότητα να τις γυρίζουμε πίσω αν δεν μας αρέσουν. 

Ωστόσο, μπορούμε να κάνουμε κάτι γι’ αυτό;
Η εργασία μου αναφέρει δύο πιθανές μεθόδους σταθεροποίησης. Η μία είναι μια πιο στιβαρή ικανότητα επίλυσης παγκόσμιων προβλημάτων, των συγκρούσεων δηλαδή που υπάρχουν ανάμεσα σε μεγάλες δυνάμεις, και η άλλη είναι η διαρκής παρακολούθηση των ερευνών. Έτσι, ακόμα κι αν πράγματι εφεύρουμε κάποια τεχνολογία που θα επιτρέπει στον καθένα να καταστρέψει μια πόλη, θα είμαστε σε θέση να έχουμε εποπτεία, να ξέρουμε πώς προέκυψε αυτή και να παρέμβουμε έγκαιρα, πριν τη χρησιμοποιήσει κάποιος. Επιπλέον, εκτός των γενικών μέτρων, θα πρέπει να λάβουμε και κάποια ειδικά μέτρα για ορισμένα μεμονωμένα είδη που ανήκουν σε αυτές τις μαύρες μπάλες. Στη βιοτεχνολογία, για παράδειγμα, θα μπορούσαμε να κάνουμε πράγματα που έστω και μερικώς θα ήταν αρκετά βοηθητικά. Σε σχέση με τη σύνθεση του DNA, αντί να έχουμε χιλιάδες διαφορετικές μηχανές σύνθεσης στον κόσμο σε διαφορετικά εργαστήρια, θα μπορούσαμε να έχουμε μόνο πέντε μέρη σε όλο τον πλανήτη που θα μπορούσαν να συνθέτουν DNA κι έπειτα να το στέλνουν στους ερευνητές. Κι αν μια μέρα ανακαλύπταμε κάτι πραγματικά επικίνδυνο, θα ξέραμε πού να ψάξουμε. Αν όμως η δουλειά αυτή γίνεται σε σπίτια και σε διάφορα εργαστήρια ανά τον κόσμο, και οι άνθρωποι μπορούσαν να τα αγοράζουν από δεύτερο χέρι στο eBay, τότε είναι πολύ δυσκολότερα τα πράγματα. Πρέπει να τα δούμε όλα αυτά μελετώντας την κάθε περίπτωση ξεχωριστά, ζυγίζοντας τα κέρδη με τα κόστη. Αν σκεφτούμε όλες αυτές τις πιθανότητες, καθώς και το γεγονός ότι μάλλον ήμασταν τυχεροί έως τώρα, τότε θα μπορούσαμε να είμαστε πιο δεκτικοί στην ιδέα που λέει ότι, μπορεί να είμαστε καλά τώρα, αλλά θα μπορούσαμε να χρησιμοποιήσουμε αυτό το παράθυρο για να λάβουμε έγκαιρα τα μέτρα μας. 

Τέλος, πολλοί βλέπουν με μεγάλο σκεπτικισμό το κίνημα του διανθρωπισμού (transhumanism), τη φιλοδοξία κάποιων να αναβαθμίσουν τεχνολογικά τον άνθρωπο. Γνωρίζω ότι είστε ένας από τους εκφραστές αυτής της ιδέας. Είναι αλήθεια; 
Εξαρτάται από το τι εννοούμε με τον όρο διανθρωπισμός. Γιατί πιστεύω ότι η ιδέα που λέει ότι έχουμε ένα δυναμικό για να γίνουμε κάτι πολύ μεγαλύτερο και πιο υπέροχο απ’ ό,τι έχει υπάρξει ποτέ, το οποίο θα μπορούσαμε να ξεκλειδώσουμε με κάποιον τρόπο, εμένα με βρίσκει σύμφωνο. Πιστεύω ότι θα χρειαστούμε εξελιγμένες τεχνολογίες για να ξεκλειδώσουμε αυτές τις δυνατότητες, που στην ουσία τους είναι βιολογικοί περιορισμοί. Σήμερα έχουμε ένα πολύ περιορισμένο χρονικό εύρος ζωής. Για παράδειγμα, μετά από μερικές δεκαετίες, οι νευρώνες μας αρχίζουν να πεθαίνουν. Μπορούμε να κάνουμε μερικά πράγματα, όπως το να αποκτήσουμε καλύτερη εκπαίδευση. Μπορούμε να κάνουμε διαλογισμό ή να τρώμε πιο υγιεινό φαγητό. Αλλά με αυτές τις μεθόδους μπορούμε να βελτιώσουμε τα πράγματα κατά 10% ή 20% περίπου. Για να πάμε πέρα από αυτό, χρειαζόμαστε μια πιο εξελιγμένη μορφή τεχνολογικής αναβάθμισης. Θα ήταν τρομερά καλό αν τα καταφέρναμε. Οπότε, ναι, είμαι διανθρωπιστής. Ωστόσο, επειδή υπάρχουν άνθρωποι που αποκαλούν έτσι τους εαυτούς τους και πιστεύουν σε πολλά παράξενα πράγματα, δεν θα ήθελα σε καμία περίπτωση να επιδοκιμάσω τίποτε από όλα αυτά.

Λάβετε μέρος στη συζήτηση 0 Εγγραφείτε για να διαβάσετε τα σχόλια ή
βρείτε τη συνδρομή που σας ταιριάζει για να σχολιάσετε.
Για να σχολιάσετε, επιλέξτε τη συνδρομή που σας ταιριάζει. Παρακαλούμε σχολιάστε με σεβασμό προς την δημοσιογραφική ομάδα και την κοινότητα της «Κ».
Σχολιάζοντας συμφωνείτε με τους όρους χρήσης.
Εγγραφή Συνδρομή