Τα δεκατετράχρονα κορίτσια κατάλαβαν πως «κάτι δεν πάει καλά» ένα πρωί του περασμένου Οκτωβρίου. Τα αγόρια της τάξης, κοιτούσαν μία στα κινητά τους, μία προς εκείνες. Ψιθύριζαν και χασκογελούσαν. Δεν έδωσαν ιδιαίτερη σημασία, αλλά όταν αυτό συνεχίστηκε, ξεκίνησαν να κάνουν ερωτήσεις. «Εχουν κυκλοφορήσει γυμνές φωτογραφίες σας. Τις έχω δει με τα μάτια μου», εκμυστηρεύτηκε στη Φραντζέσκα Μάνι ένα από τα αγόρια.
«Η κόρη μου δεν το πίστεψε. Ουδέποτε είχε τραβήξει τέτοια φωτογραφία», λέει στην «Κ» η μητέρα της Φραντζέσκας. Οι φωτογραφίες όμως πράγματι υπήρχαν. Αποκαλύφθηκε στη συνέχεια πως ήταν «κατασκευασμένες» από συνομηλίκους συμμαθητές, που είχαν χρησιμοποιήσει γι’ αυτόν τον σκοπό ένα πολύ απλό και φθηνό πρόγραμμα τεχνητής νοημοσύνης. Το κόστος για κάθε φωτογραφία ήταν πέντε δολάρια.
Το συγκεκριμένο περιστατικό συνέβη στο γυμνάσιο μιας πόλης έξω από τη Νέα Υόρκη. Η ιστορία της Φραντζέσκας ήταν αφορμή να κατατεθεί προς ψήφιση ένας νόμος που επιχειρεί να βάλει όρια και φραγμούς στη χρήση τέτοιων «επεξεργασμένων» φωτογραφιών. Ομως, παρόμοιο περιστατικό συνέβη τον περασμένο Δεκέμβριο και στην Ελλάδα, σε γυμνάσιο στη Ναύπακτο. Αγόρια της β΄ γυμνασίου επίσης «κατασκεύασαν» γυμνές φωτογραφίες συμμαθητριών τους. Ενας εξ αυτών μάλιστα τις είχε ανεβάσει σε ιστοσελίδα πορνογραφικού περιεχομένου – ήταν προϋπόθεση για την εγγραφή του. Και στην περίπτωση της Ναυπάκτου, κάποιοι από τους παθόντες/ούσες προσπαθούν τώρα να φέρουν το ζήτημα στη Βουλή.
«Αισθάνονταν ντροπή»
Μια τυχαία επίσκεψη στελεχών της Δίωξης Ηλεκτρονικού Εγκλήματος στο σχολείο ήταν η αφορμή για να βγει η υπόθεση στο φως. Το βράδυ της 26ης Νοεμβρίου, γονείς, μαθητές και εκπαιδευτικοί άκουσαν μεταξύ άλλων για το θέμα του «deep fake» και τις επικίνδυνες διαστάσεις που έχει πάρει και στην Ελλάδα. Την επομένη, ένα από τα κορίτσια βρήκε το θάρρος να μιλήσει στους γονείς της. «Καταλαβαίναμε πως κάτι είχε συμβεί και ευτυχώς μας εμπιστεύτηκε. Οι φίλες της όμως ήταν αναστατωμένες, κάποιες έκλαιγαν και δεν ήθελαν να μιλήσουν. Αισθάνονταν ντροπή, λες και είχαν κάποιο μερίδιο ευθύνης», λέει στην «Κ» ο πατέρας της δεκατριάχρονης.
«Τα κορίτσια μίλησαν σε ψυχολόγο και κοινωνικό λειτουργό, κατάλαβαν πως δεν φταίνε. Ακόμη υπάρχει θυμός. Ηταν μια τραυματική εμπειρία και για τα θύματα και για τους θύτες».
Ενημερώθηκε ο γυμνασιάρχης και έγινε επίσημη καταγγελία στην αστυνομία. «Τα κορίτσια μίλησαν σε ψυχολόγο και κοινωνικό λειτουργό. Κατάλαβαν πως δεν φταίνε σε τίποτα και σίγουρα έφυγε ένα βάρος από πάνω τους, αλλά το κλίμα ήταν για μεγάλο διάστημα κακό. Ακόμη υπάρχει θυμός. Ηταν μια τραυματική εμπειρία και για τα θύματα, αλλά και για τους θύτες», λέει στην «Κ» ένας άλλος γονιός μαθήτριας.
Στις συναντήσεις του συλλόγου γονέων και κηδεμόνων συμμετείχαν καθηγητές αλλά και το δεκαπενταμελές. «Θέλουμε να ηρεμήσουμε, αλλά όχι να ξεχαστεί, ούτε να κουκουλωθεί αυτό που συνέβη», είπαν οι μαθητές. Οι γονείς ήταν διχασμένοι για το εάν θα έπρεπε να τιμωρηθούν οι θύτες. Ο πατέρας που έκανε τη μήνυση εξήγησε τον λόγο: «Τα βλέπω κι αυτά σαν δικά μου παιδιά. Πρέπει να τα στηρίξουμε, αλλά πρέπει να καταλάβουν πως αυτό που έκαναν, όχι απλά δεν ήταν σωστό, είναι ποινικό αδίκημα», τόνισε. «Οι θύτες ζήτησαν συγγνώμη, αλλά οι φωτογραφίες θα υπάρχουν στο Διαδίκτυο στο διηνεκές. Μπορεί να μην είναι πραγματικές, αλλά ο κάθε ανώμαλος στο εξωτερικό ή στο διπλανό χωριό δεν το γνωρίζει», συμπλήρωσε άλλος γονιός.
Τα δύο αγόρια αλλά και οι γονείς τους είχαν τότε συλληφθεί. Σχηματίστηκε δικογραφία και αφέθηκαν ελεύθεροι. Από το σχολείο πήραν δυο ημέρες αποβολή. Σήμερα, δυο μήνες μετά, η υπόθεση βρίσκεται στο στάδιο της ανάκρισης.
Στην πορεία, στον σύλλογο γονέων διαπίστωσαν από γνωστούς τους, αλλά και από στελέχη της Δίωξης, πως αυτό που συνέβη στο σχολείο τους δεν είναι ένα μεμονωμένο περιστατικό. «Εχει συμβεί και σε άλλα σχολεία. Με θύματα, όχι μόνο μαθήτριες αλλά και καθηγήτριες. Χρησιμοποιούν εφαρμογές που όχι μόνο “γυμνώνουν” το άτομο μιας φωτογραφίας, αλλά έχουν τη δυνατότητα να δημιουργήσουν αναπαραστάσεις σεξουαλικής πράξης», σημειώνουν. Ηταν και ο λόγος που αποφάσισαν να θέσουν το θέμα στη Βουλή. Σε επιστολή που έχει στη διάθεσή της η «Κ» ζητούν τη δημιουργία νομοθετικού πλαισίου και ρυθμίσεων γι’ αυτές τις εφαρμογές, που, όπως σημειώνουν, δεν έχουν καμία απολύτως νόμιμη χρήση, παρ’ όλα αυτά λειτουργούν χωρίς έλεγχο και φραγμό.
«Δεν έχω ψευδαισθήσεις. Ξέρω πως είναι αδύνατον να απαγορευθούν, αλλά ας τους δυσκολέψουμε. Εάν, για παράδειγμα, με το που μπει κάποιος στην εφαρμογή ενημερώνεται πως η χρήση αποτελεί παραβατική συμπεριφορά, θα ήταν αποτρεπτικό. Και εκ των προτέρων, αλλά και στη συνέχεια θα ήταν πιο εύκολη η τιμωρία, αφού ο κατηγορούμενος δεν θα μπορεί να ισχυριστεί πως δεν είχε πρόθεση», εξηγεί ο Νάσος Βούλγαρης, δικηγόρος και πρόεδρος του συλλόγου. Η αναφορά τους κατατέθηκε στη Βουλή από τον βουλευτή του ΣΥΡΙΖΑ Μίλτο Ζαμπάρα. Οπως είπε στην «Κ», σκοπεύει να επανέλθει άμεσα με κοινοβουλευτική ερώτηση.
Στην Αμερική, τα αγόρια αποβλήθηκαν από το σχολείο για ένα διάστημα. Για τα θύματα, όμως, αυτό δεν ήταν αρκετό. Η μητέρα της Φραντζέσκας Μάνι λέει στην «Κ» πως αφού η κόρη της πέρασε από διάφορα στάδια πανικού, στενοχώριας και θυμού, ένιωσε την ανάγκη να αναλάβει δράση. Τους τελευταίους μήνες έκαναν μαζί συναντήσεις και επαφές, πιέζοντας για αλλαγή του νομοθετικού πλαισίου. Μέσα Ιανουαρίου κατατέθηκε σχέδιο νόμου στο Κογκρέσο, σύμφωνα με το οποίο η μη συναινετική χρήση τέτοιων εικόνων θα είναι ομοσπονδιακό αδίκημα, οι παραβάτες θα δικάζονται και σε αστικά δικαστήρια, ενώ θα είναι υποχρεωτική η επισήμανση στις φωτογραφίες πως είναι επεξεργασμένες. Οι βουλευτές στην ομιλία τους έκαναν μνεία στο «θαρραλέο κορίτσι» και της έδωσαν τον λόγο. «Αγωνίζομαι ώστε να μην αισθανθεί κανείς ξανά όσο χαμένη και απροστάτευτη αισθάνθηκα εγώ», είπε η Φραντζέσκα.
Πολιτικοί που έπεσαν θύματα: «Είναι κακοποιητική αυτή η έκθεση»
Της Ηλιάνας Μάγρα
Αργά το πρωί της Πέμπτης, στον 13ο όροφο του κτιρίου της Γενικής Αστυνομικής Διεύθυνσης Αττικής (ΓΑΔΑ) επί της Λεωφόρου Αλεξάνδρας, ο διευθυντής της Δίωξης Ηλεκτρονικού Εγκλήματος, Βασίλης Παπακώστας, βλέπει στον υπολογιστή του τα περιεχόμενα μιας πορνογραφικής ιστοσελίδας στην οποία τον «παρέπεμψε» η «Κ». Η σελίδα είναι γεμάτη από deepfakes, φωτογραφίες παραποιημένες μέσω εφαρμογών τεχνητής νοημοσύνης, αλλά διαθέτει και κάποια βίντεο.
Σε όλες τις εικόνες, κάποιες εκ των οποίων είναι ανατριχιαστικά αληθοφανείς, πρωταγωνιστούν επώνυμες Ελληνίδες – από διάσημες τραγουδίστριες και ηθοποιούς μέχρι παρουσιάστριες και πολιτικούς. Κάποιες φωτογραφίες είναι εμφανώς επεξεργασμένες, με τα πρόσωπα των προβεβλημένων Ελληνίδων να έχουν επικολληθεί πάνω σε άλλα σώματα. Aλλες είναι δημιουργήματα της εφαρμογής που χρησιμοποίησαν και οι ανήλικοι στο γυμνάσιο της Ναυπάκτου για να «ξεγυμνώσουν» τις συμμαθήτριές τους. Μια έκφραση αηδίας σχηματίζεται στο πρόσωπο του κ. Παπακώστα. «Αυτό το πράγμα», λέει στην «Κ», «δεν θα έπρεπε να υπάρχει».
Η τεχνολογία του deepfake, τονίζει, αναπτύχθηκε αρχικά στον κινηματογράφο για καλλιτεχνικές χρήσεις. «Δεν φτιάχτηκε για να διαπομπεύεις ανθρώπους. Οταν διαπομπεύεις έναν άνθρωπο, υπάρχουν συνέπειες». Παρότι σημειώνει πως στην Ελλάδα δεν υπάρχουν ακόμη πολλά περιστατικά με deepfakes, παρατηρείται σημαντική αύξηση. Από τον Απρίλιο του 2023 μέχρι τον Ιανουάριο οι Αρχές συνέλαβαν ανηλίκους σε τρία διαφορετικά σχολεία της χώρας –στον Ασπρόπυργο, στη Ναύπακτο και το Ηράκλειο– εξαιτίας των γυμνών deepfakes που είχαν δημιουργήσει χρησιμοποιώντας φωτογραφίες συμμαθητριών τους. «Τα περιστατικά με deepfakes που έχουμε αφορούν κυρίως πορνογραφία, εκδικητική πορνογραφία ή σεξουαλικό εκβιασμό και εξαναγκασμό», τονίζει ο κ. Παπακώστας.
Ως μέσον εξαπάτησης
Αλλά δεν είναι μόνον σεξουαλικού περιεχομένου. Υπάρχουν ήδη και στην Ελλάδα deepfakes που δημιουργούν κυβερνοεγκληματίες ως μέσο εξαπάτησης σχετικά με επενδύσεις ή φάρμακα που υποτίθεται ότι διαφημίζει κάποιος επιχειρηματίας ή κάποιος γιατρός. «Στις περισσότερες των περιπτώσεων καταλήγουμε στους δράστες, ειδικά αν είναι εντός της χώρας», λέει ο κ. Παπακώστας, τονίζοντας όμως πως καθώς τα περισσότερα deepfakes αναρτώνται στα μέσα κοινωνικής δικτύωσης, είναι και ευθύνη της κάθε πλατφόρμας να αναπτύξει καλύτερες δικλίδες ασφαλείας.
Κατά τ’ άλλα, όταν κάποιο πρόσωπο αντιληφθεί πως απεικονίζεται σε κάποιο deepfake, θα πρέπει να το καταγγείλει. «Δεν χρειάζεται καν δικηγόρο, αρκεί να το καταγγείλουν σε κάποια αστυνομική αρχή οι ίδιοι οι παθόντες, έχοντας μαζί τους screenshots του υλικού και το URL της ιστοσελίδας στην οποία έχει αναρτηθεί», εξηγεί ο κ. Παπακώστας. Καμία εκ των γυναικών που απεικονίζονται στη συγκεκριμένη ιστοσελίδα με πορνογραφικά deepfakes Ελληνίδων δεν ήξερε για την ύπαρξή της πριν τις ενημερώσει η «Κ». Οι περισσότερες, οι οποίες δεν ήθελαν να «ονομαστούν» παρότι δεν φέρουν καμία ευθύνη για το ότι τα πρόσωπά τους βρέθηκαν στη σελίδα, επικοινώνησαν με τους δικηγόρους τους μόλις το έμαθαν. Κάποιες τρόμαξαν, άλλες απογοητεύτηκαν με την απώλεια ελέγχου του ίδιου του ατόμου τους.
«Ηταν τρομερό σοκ», λέει στην «Κ» η υπουργός Εργασίας και Κοινωνικής Ασφάλισης Δόμνα Μιχαηλίδου. «Μου δημιούργησε αηδία και ντροπή μαζί, και μια αίσθηση παραβίασης της ιδιωτικότητάς μου – προσπαθείς να ελέγξεις τα fake news και το πώς έχει γραφτεί κάποια δήλωσή σου, κι εδώ υπάρχει κάτι που δεν είναι αποτέλεσμα καν κάποιας πράξης σου», συμπληρώνει η ίδια, η οποία απεικονίζεται σε δύο φωτογραφίες που έχουν αναρτηθεί στη σελίδα.
«Αιφνιδιάστηκα, δεν το γνώριζα», δηλώνει η βουλευτής της Νέας Αριστεράς, Εφη Αχτσιόγλου, η οποία εμφανίζεται σε πολλές φωτογραφίες της ιστοσελίδας. Οταν αποφασίζεις να ασχοληθείς με μια δουλειά που έχει δημόσια έκθεση, είσαι κατά κάποιον τρόπο προετοιμασμένος γι’ αυτήν, αναφέρει. «Αλλά αυτό που συζητάμε είναι μια έκθεση εντελώς άλλου επιπέδου – με κάνει να νιώθω τρομερά ευάλωτη, τρομερά εκτεθειμένη, αυτού του είδους η έκθεση είναι σχεδόν κακοποιητική, σε κάνει να ξανασκέφτεσαι τους λόγους για τους οποίους αποφάσισες να ασχοληθείς με κάτι που σε κάνει δημόσιο πρόσωπο», τονίζει στην «Κ».