Είναι μια θαυμαστή τεχνολογία που ψυχαγωγεί, δίνει λύσεις στον κινηματογράφο με αλλοιώσεις προσώπων, όμως είναι μαζί και ένα πολιτικό όπλο στα χέρια όσων διασπείρουν ψευδείς ειδήσεις. Deepfake. Μέσω της τεχνητής νοημοσύνης και της μηχανικής μάθησης κατασκευάζονται βίντεο ανθρώπων που λένε και κάνουν πράγματα τα οποία δεν έχουν εκστομίσει και δεν έχουν πράξει ποτέ. Τα deepfakes συζητήθηκαν ξανά με τη διάδοση τριών ψεύτικων βίντεο του Τομ Κρουζ, αλλά και μιας κινούμενης εικόνας της Ελλης Λαμπέτη. Το deep nostalgia, παρακλάδι του deepfake, «ζωντανεύει» από μια απλή φωτογραφία πρόσωπα που δεν βρίσκονται πια στη ζωή, όπως η Λαμπέτη. Εμφανίζονται να κινούνται, να νεύουν ή να χαμογελούν, προκαλώντας συγκίνηση – ή ανατριχίλα.
Ομως το deepfake δεν είναι το ίδιο αθώο με το deep nostalgia. Τα δεκάδες χιλιάδες πλαστά βίντεο που διασκεδάζουν από το 2017 τους χρήστες των κοινωνικών δικτύων, ταυτόχρονα εκθέτουν πολιτικούς, καλλιτέχνες, αθλητές· εμφανίζουν π.χ. τον Ομπάμα να καθυβρίζει τον Τραμπ, τον Ζούκερμπεργκ να ομολογεί ότι το Facebook χειραγωγεί τους χρήστες του, σταρ του Χόλιγουντ να πρωταγωνιστούν σε ταινίες πορνό που δεν γύρισαν ποτέ.
Εχουν χρησιμοποιηθεί σε απάτες, εκβιασμούς, αλλά και για στρέβλωση του δημόσιου διαλόγου, χειραγώγηση της κοινής γνώμης και των εκλογικών διαδικασιών, διασπορά ψευδών ειδήσεων και πολιτική προπαγάνδα. Το deepfake εξαπλώνει τον φόβο ότι ζούμε σε ένα εφιαλτικό σύμπαν χωρίς έρμα, όπου η πραγματικότητα θρυμματίζεται μέσα σε έναν κυκεώνα πλαστών συμβάντων. Κλονίζει την εμπιστοσύνη στους θεσμούς και την επίσημη εκδοχή της πραγματικότητας. Πλήττει την ικανότητα διάκρισης του αληθινού από το ψεύτικο – είναι εφιαλτικό να μη γνωρίζεις αν οφείλεις να πιστέψεις ή όχι αυτό που βλέπεις. Υποσκάπτει τα θεμέλια του ορθού λόγου και της αντικειμενικότητας αφού ο καθένας μπορεί να υιοθετεί ως αληθινό εκείνο που τον βολεύει ή ταιριάζει περισσότερο στις απόψεις του. Διευκολύνει την παρουσίαση του αληθινού ως ψεύτικο. Εκτρέφει την αδιαφορία για το αληθές. Τροποποιεί τον πολιτισμό της καθημερινότητας και τη γεωγραφία του μέλλοντος. Φυτεύει την καχυποψία, την αίσθηση ότι διαρκώς μας εξαπατούν, ότι όλα είναι ύποπτα, πλαστά, ότι η πολιτική ατζέντα δεν οικοδομείται πάνω σε ασάλευτες αλήθειες αλλά σε πολιτικοοικονομικές πλάνες· γεγονός που ερμηνεύει ώς ένα βαθμό τη ραγδαία εξάπλωση της συνωμοσιολογίας.
Ο homo sapiens, «άνθρωπος που γνωρίζει», γίνεται κατά τον Ιταλό διανοητή Τζοβάνι Σαρτόρι homo videns, «άνθρωπος που βλέπει». Και κινδυνεύει να μετατραπεί σε ό,τι βλέπει (αμφισβητήσιμες μετρήσεις, κατασκευασμένες εικόνες, κατευθυνόμενες πληροφορίες): Μια χειραγωγήσιμη προσωπικότητα με ρευστά κριτήρια, που αντιμετωπίζει τον άλλο, τον εκτός του οικείου μικρόκοσμου, ως αναξιόπιστο, ανειλικρινή, κυνικό προπαγανδιστή.
Βέβαια η τεχνολογία, όπως επινοεί επικίνδυνα εργαλεία, ανακαλύπτει και θεραπείες. Εχουν αναπτυχθεί από ερευνητικά κέντρα και εταιρείες συστήματα ανίχνευσης των deepfake βίντεο, αλλά δεν αρκούν για να ανακόψουν την παραγωγή τους. Οι τεχνολογικοί κολοσσοί, με την αβυσσαλέα συγκέντρωση δύναμης και τις ολιγοπωλιακές τακτικές, έχουν αναπτύξει τις δικές τους λύσεις ισορροπίας μεταξύ ελευθερίας της έκφρασης και παραπληροφόρησης, όμως όχι και μια στέρεη κοινή δράση για μη διασπορά του πλαστού. Είναι πολυπλόκαμη, υπερεθνική, ταχύτατα μεταλλασσόμενη, χαμαιλεοντική, σκοτεινή, η θηριώδης ασώματη μηχανή παραγωγής ψεύδους. Διότι δεν είναι μόνο τα deepfake βίντεο, είναι και τα deepfake κείμενα που δεν διακρίνονται από τα αληθινά, τα ρομπότ που μιμούνται συμπεριφορές, οι ψεύτικοι λογαριασμοί, οι ψεύτικες ιστοσελίδες, τα ψεύτικα πρόσωπα, τα ψεύτικα κλικ, τα αγορασμένα views (θεάσεις), τα ψεύτικα cookies… Τα ρυθμιστικά πλαίσια συνήθως έπονται και συχνά αποδεικνύονται ανεπαρκή.
Είναι ζήτημα ακρογωνιαίο, κρίσιμο για τη δημοκρατία και την ασφάλεια στο πλανητικό μας χωριό. Και βεβαίως όχι μόνο τεχνολογικό, πρωτίστως και βαθιά πολιτικό. Με επείγουσα την ανάγκη ριζικής αναμόρφωσης της παιδείας υπέρ της διανοητικής εντιμότητας, της διαρκούς κριτικής λόγων, έργων και ιδεών, της ανεμπόδιστης και υπεύθυνης σκέψης ενάντια στις ποδηγετήσεις που σοβούν στα βάθη και στις επιφάνειες της ζωής. Αλλιώς, θα καταλήξουμε σε έναν κόσμο όπου όλα, άνθρωποι, κοινότητες, λόγια, επικοινωνίες, πράξεις, δράσεις, θα μοιάζουν ψεύτικα και μόνο οι συσκευές που τα παράγουν θα δείχνουν να είναι αληθινές. Δηλαδή, στη σύγχυση, στο χάος, στις ερειπωμένες κοινωνίες.