Μπορεί τα deepfake βίντεο να τραβάνε σαν μαγνήτης εκατομμύρια χρήστες του διαδικτύου ωστόσο δημιουργούν ένα σημαντικό πρόβλημα για εκατομμύρια γυναίκες, μεταξύ των οποίων και ανήλικα κορίτσια που κινδυνεύουν ή έχουν γίνει ήδη θύματα «μη συναινετικής πορνογραφίας».
Η τεράστια πλειοψηφία (96%) του deepfake υλικού που κυκλοφορεί στο ίντερνετ εξακολουθεί να αφορά αποκλειστικά την «μη συναινετική πορνογραφία», με τη χρήση στα «πειραγμένα» αυτά βίντεο της εικόνας γυναικών -συχνά διάσημων-η οποία έχει συντεθεί με τη βοήθεια της τεχνητής νοημοσύνης και αντικαθιστά την εικόνα των προσώπων που είχαν αρχικά μαγνητοσκοπηθεί για το βίντεο.
Η έρευνα σχετικά με το deepfake πορνό δεν είναι διαδεδομένη, αλλά μια έκθεση που κυκλοφόρησε το 2019 από την εταιρεία AI DeepTrace Labs διαπίστωσε ότι χρησιμοποιούνταν περισσότερο γυναίκες ηθοποιοί από την Ευρώπη και τις ΗΠΑ ακολουθούμενες από τραγουδίστριες της K-pop της Νότιας Κορέας.
Η συγκεκριμένη τεχνολογία αναπτύχθηκε το 2014 από τον Ίαν Γκουντφέλοου, πρώην διευθυντή του συστήματος μηχανικής μάθησης της ειδικής ομάδας της Apple. Το deepfake δίνει τη δυνατότητα σε κάποιον να προσθέσει σε βίντεο το πρόσωπο ενός ατόμου στο σώμα ενός άλλου και να προσαρμόσει τη φωνή, τις εκφράσεις και την κίνηση. Με αυτό τον τρόπο, δημιουργεί ένα ψευδές περιεχόμενο, το οποίο όμως μοιάζει με αληθινό.
Το πρόβλημα, λένε οι ειδικοί, θα μπορούσε να επιδεινωθεί με την ανάπτυξη νέων εργαλείων δημιουργικής τεχνητής νοημοσύνης. «Η πραγματικότητα είναι ότι η τεχνολογία θα συνεχίσει να εξαπλώνεται, θα συνεχίσει να αναπτύσσεται και θα συνεχίσει να γίνεται τόσο εύκολη όσο το πάτημα ενός κουμπιού», δήλωσε ο Άνταμ Ντοτζ, ιδρυτής της EndTAB, μιας οργάνωσης που παρέχει πληροφορίες για την εκδικητική πορνογραφία που βασίζεται στα deepfake.
Η αντίδραση των εταιρειών τεχνολογίας
Εν τω μεταξύ, ορισμένα προγράμματα AI ανακοίνωσαν ότι ήδη περιορίζουν την πρόσβαση σε εικόνες deepfake.
Η OpenAI δημιουργός του ChatGPT αναφέρει ότι αφαίρεσε το εργαλείο δημιουργίας εικόνων DALL-E, το οποίο βοηθά στη σύνθεση deepfakes. Το Midjourney, ένα άλλο πρόγραμμα, εμποδίζει τη χρήση ορισμένων λέξεων-κλειδια και ενθαρρύνει τους χρήστες να επισημαίνουν δυνητικά «προβληματικές» εικόνες στους συντονιστές.
Εν τω μεταξύ, η νεοσύστατη εταιρεία Stability AI κυκλοφόρησε τον Νοέμβριο μια ενημερωμένη έκδοση που αφαιρεί τη δυνατότητα δημιουργίας τέτοιων εικόνων. Οι αλλαγές αυτές έγιναν μετά από αναφορές ότι ορισμένοι χρήστες δημιουργούσαν deepfake εμπνευσμένες από διασημότητες χρησιμοποιώντας την τεχνολογία της.
Ορισμένες εταιρείες μέσων κοινωνικής δικτύωσης έχουν επίσης αυστηροποιήσει τους κανόνες τους για την καλύτερη προστασία των πλατφορμών τους από επιβλαβές υλικό.
Το TikTok δήλωσε τον περασμένο μήνα ότι όλα τα deepfakes ή το επεξεργασμένο περιεχόμενο που δείχνει «ρεαλιστικές» σκηνές πρέπει να φέρουν ένδειξη που να αναφέρει ότι είναι ψεύτικα ή τροποποιημένα με κάποιο τρόπο. Παράλληλα τα deepfakes αγνώστων προσώπων δεν θα επιτρέπονται πλέον.
Η πλατφόρμα Twitch ενημέρωσε επίσης πρόσφατα τις πολιτικές της σχετικά με τις εικόνες deepfake, αφού έγινε γνωστό ότι ένας δημοφιλής streamer με το όνομα Atrioc είχε δημιουργήσει πορνό deepfake στο πρόγραμμα περιήγησής του κατά τη διάρκεια μιας ζωντανής μετάδοσης στα τέλη Ιανουαρίου.
Άλλες εταιρείες έχουν επίσης προσπαθήσει να απαγορεύσουν τα deepfakes από τις πλατφόρμες τους.
Η Apple και η Google δήλωσαν πρόσφατα ότι αφαίρεσαν μια εφαρμογή από app stores, η οποία χρησιμοποιούσε σεξουαλικά υπονοούμενα deepfake βίντεο ηθοποιών για να προωθήσει το προϊόν της.
Η ίδια εφαρμογή που αφαιρέθηκε από την Google και την Apple είχε διαφημίσεις στην πλατφόρμα της Meta, η οποία περιλαμβάνει το Facebook, το Instagram και το Messenger.
Τον Φεβρουάριο, η Meta, καθώς και ιστοσελίδες ενηλίκων, όπως το OnlyFans και το Pornhub, άρχισαν να συμμετέχουν σε ένα διαδικτυακό εργαλείο, που ονομάζεται Take It Down, το οποίο επιτρέπει στους εφήβους να αναφέρουν deepfake εικόνες και βίντεο του εαυτού τους από το διαδίκτυο.
Mε πληροφορίες από Associated Press
Ακολουθήστε το kathimerini.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις
Δείτε όλες τις τελευταίες Ειδήσεις από την Ελλάδα και τον Κόσμο, στο kathimerini.gr