Οταν η Τζένιφερ Ουάτκινς δέχθηκε μήνυμα στο YouTube ότι ο λογαριασμός της είχε κλειδωθεί, δεν ανησύχησε διότι δεν χρησιμοποιούσε πια την πλατφόρμα. Οι 7χρονοι δίδυμοι γιοι της, όμως, χρησιμοποιούσαν συσκευή τάμπλετ, συνδεδεμένη με τον λογαριασμό της στην Google, προκειμένου να παρακολουθούν παιδικά βίντεο στο YouTube και να βιντεοσκοπούν δικά τους. Τα βίντεο αυτά είχαν ελάχιστους θεατές. Ενα από αυτά, όμως, έφερε σε πολύ δύσκολη θέση την κ. Ουάτκινς.
«Ηταν ένα βίντεο με τον πισινό του. Ενας συμμαθητής του τον προκάλεσε να τραβήξει βίντεο τα οπίσθιά του», λέει η μητέρα, η οποία δεν είδε ποτέ το επίμαχο βίντεο. Η πλατφόρμα του YouTube, ιδιοκτησίας της Goοgle, αξιοποιεί αλγοριθμικό σύστημα ελέγχου των εκατοντάδων ωρών βίντεο που ανεβαίνουν κάθε λεπτό στην εφαρμογή. Η διαδικασία ελέγχου μπορεί κάποιες φορές να οδηγήσει σε αστοχία, κατηγορώντας ένα αθώο παιδί για σεξουαλική κακοποίηση ανηλίκου.
Γυμνές φωτογραφίες
Οι ψηφιακές ζωές πολλών γονέων έχουν ανατραπεί από γυμνές φωτογραφίες και βίντεο των παιδιών τους, τα οποία εντοπίσθηκαν από τον αλγόριθμο της Google και κρίθηκαν παράνομα από ανθρώπους υπαλλήλους της επιχείρησης, ενώ ορισμένοι γονείς έγιναν στόχοι αστυνομικών ερευνών.
Η «γυμνή» φωτογραφία στην περίπτωση της κ. Ουάτκινς, νοσηλεύτριας που ζει στο Σίδνεϊ της Αυστραλίας, ανέβηκε τον Σεπτέμβριο και εντοπίσθηκε μέσα σε λίγα λεπτά ως πιθανή κακοποίηση παιδιού, που καθιστά παραβίαση των κανόνων της Google. Η κ. Ουάτκινς κατάλαβε γρήγορα ότι δεν είχε αποκλεισθεί μόνο από το YouTube, αλλά και από όλους τους λογαριασμούς της στην Google. Εχασε έτσι την πρόσβαση στις φωτογραφίες της, στα έγγραφα και τα email της, καθιστώντας αδύνατη την επικοινωνία με την εργασία της, αλλά και τον έλεγχο των τραπεζικών λογαριασμών της ή την πραγματοποίηση παραγγελιών σε εφαρμογές που χρησιμοποιούν κωδικούς ταυτοποίησης της Google. Ο λογαριασμός της θα καταργείτο, σύμφωνα με την Google, ωστόσο, η ίδια θα διατηρούσε το δικαίωμα ένστασης κατά της απόφασης. Πάτησε έτσι το κουμπί «ξεκινήστε την ένσταση» και έγραψε στο ηλεκτρονικό κουτί ως αιτιολογία: «Οι 7χρονοι δίδυμοι γιοι μου πιστεύουν ότι οι πισινοί είναι αστείοι. Η απαγόρευση με πλήττει οικονομικά».
Ακτιβιστές υπέρ των δικαιωμάτων των παιδιών και νομοθέτες σε όλο τον κόσμο πιέζουν τις εταιρείες του Διαδικτύου να δώσουν τέλος στη διασπορά εικόνων κακοποίησης, εντοπίζοντας και απαλείφοντας το περιεχόμενο αυτό στις πλατφόρμες τους. Πολλές εταιρείες σκανάρουν τις εικόνες και τα βίντεο που αποθηκεύουν και μοιράζονται οι χρήστες τους, αναζητώντας εικόνες κακοποίησης, οι οποίες έχουν δημοσιευθεί σε άλλες σελίδες. Η Google ανέπτυξε πέρυσι αλγόριθμο, ο οποίος αναζητεί τέτοιο υλικό σε εικόνες που δεν έχουν κυκλοφορήσει ποτέ στο Ιντερνετ. Τον αλγόριθμο προμήθευσε η Google στη Meta και στο TikTok.
Ενα αθώο βίντεο μεταξύ 7χρονων έφερε στο προσκήνιο τον δρακόντειο χαρακτήρα των αλγορίθμων ελέγχου οπτικού περιεχομένου.
Μόλις ο υπάλληλος της Google έκρινε πως η φωτογραφία του γιου της κ. Ουάτκινς ήταν προβληματική, η εταιρεία προώθησε την εικόνα στο κέντρο αγνοούμενων παιδιών, μη κερδοσκοπική οργάνωση που λειτουργεί σαν «κέντρο διαλογής» μπλοκαρισμένου υλικού. Το κέντρο μπορεί να προσθέσει το βίντεο στη βάση δεδομένων του ή να ειδοποιήσει τις τοπικές διωκτικές αρχές. Η Google έχει αναδειχθεί σε ένα από τα μεγαλύτερα όργανα καταγγελίας «ενδεχόμενης παιδικής πορνογραφίας», με την εταιρεία να έχει καταθέσει περισσότερες από δύο εκατομμύρια αναφορές το περασμένο έτος, πολύ περισσότερες από άλλες, αλλά λιγότερες από τη Meta, κάτοχο του ρεκόρ καταγγελιών.
Φαινόμενα κακοποίησης
Οι ειδικοί εκτιμούν πως είναι δύσκολο να κρίνουμε τη σοβαρότητα του φαινομένου της παιδικής κακοποίησης από τους αριθμούς αυτούς. Σε μια μελέτη με μικρό δείγμα περιστατικών ανταλλαγής εικόνων παιδιών που κρίθηκαν ακατάλληλες από το Facebook, οι ερευνητές διαπίστωσαν ότι 75% από αυτά δεν επεδείκνυαν «κακόβουλη πρόθεση». Οι χρήστες αυτοί ήταν –μεταξύ άλλων– έφηβοι που μοιράζονταν με τους ερωτικούς συντρόφους τους εικόνες του εαυτού τους, αλλά και κάποιοι που μοιράστηκαν τέτοιο υλικό θεωρώντας ότι οι εικόνες ήταν αστείες.
Η Apple, από τη μεριά της, έχει αντισταθεί σε αιτήματα έρευνας του υπολογιστικού της νεφελώματος, του iCloud, για να εντοπίσει υλικό κακοποίησης. Εκπρόσωπος της εταιρείας ανέφερε σε επιστολή του προς τις ελεγκτικές υπηρεσίες «την ανησυχία της Apple για την ασφάλεια των χρηστών και τις αναφορές ότι αθώοι βρέθηκαν μπλεγμένοι σε δυστοπικές αστυνομικές επιχειρήσεις».
Το περασμένο φθινόπωρο, η επικεφαλής ασφαλείας της Google, Σούζαν Τζάσπερ, έγραψε σε μπλογκ ότι η εταιρεία σχεδίαζε να αναθεωρήσει τη διαδικασία ένστασης προκειμένου «να βελτιώσει την εμπειρία των χρηστών, οι οποίοι πιστεύουν ότι λάβαμε εσφαλμένη απόφαση». Η εταιρεία προσφέρει τώρα περισσότερες πληροφορίες για τους λόγους αποκλεισμού του λογαριασμού, αντί για την ασαφή «σοβαρή παραβίαση» που αποτελούσε τη συνηθισμένη απάντηση της Google. Η κ. Ουάτκινς, για παράδειγμα, ενημερώθηκε ότι ο λογαριασμός της είχε κλειδωθεί εξαιτίας υποψίας παιδικής εκμετάλλευσης.
Παρ’ όλα αυτά, οι αλλεπάλληλες ενστάσεις της Αυστραλής νοσηλεύτριας έπεσαν στο κενό, αφού η Google αποφάσισε οριστικά ότι το βίντεο παραβίαζε τους κανόνες χρήσης. Τα δίδυμα παραμένουν αποκλεισμένα από το Ιντερνετ, κατόπιν απόφασης της κ. Ουάτκινς.
