Εργαλείο αναγνώρισης προσώπων το οποίο πωλεί η Αmazon σε κατασκευαστές ιστοσελίδων αναγνώρισε λανθασμένα 28 μέλη του Κογκρέσου ως υπόπτους της αστυνομίας σε μία δοκιμή, η οποία πραγματοποιήθηκε από την Αμερικανική Ενωση Ατομικών Ελευθεριών. Η Amazon, απαντώντας, τόνισε ότι υπήρξε πρόβλημα με τις ρυθμίσεις του εργαλείου αναγνώρισης προσώπων κατά τη διάρκεια του τεστ. Πέραν κάθε αμφιβολίας, τα αποτελέσματα υποδεικνύουν τους κινδύνους που αντιμετωπίζουν τα άτομα αν η αστυνομία χρησιμοποιήσει την τεχνολογία προκειμένου να πιάσει τους εγκληματίες.
Από τον Μάιο η Αμερικανική Ενωση Ατομικών Ελευθεριών και άλλες ομάδες ανθρωπίνων δικαιωμάτων ασκήσαν πιέσεις στην Amazon να σταματήσει να πωλεί κυβερνητική πρόσβαση στο Rekognition, ένα ισχυρό λογισμικό αναγνώρισης εικόνας το οποίο παρουσιάστηκε πρώτη φορά το 2016. Οι ομάδες αναφέρθηκαν στη χρήση του λογισμικού από τις διωκτικές αρχές στο Ορεγκον και τη Φλόριντα, προειδοποιώντας ότι το εργαλείο μπορεί να στοχεύσει κατά μεταναστών και Αφροαμερικανών άδικα. Εξαιτίας των ακτιβιστικών τους δραστηριοτήτων ξεκίνησε ένας δημόσιος διάλογος. Ο πρόεδρος της Microsoft Corp., της αντιπάλου της Amazon, που επίσης χρησιμοποιεί τεχνολογία αναγνώρισης προσώπου, ζήτησε από το Κογκρέσο στις αρχές του μήνα να εξετάσει τις πιθανές ρυθμίσεις. Η Αμερικανική Ενωση Ατομικών Ελευθεριών θέλει το Κογκρέσο να εφαρμόσει ένα μορατόριουμ στη χρήση της τεχνολογίας από τις διωκτικές αρχές.
Η τεχνολογία αναγνώρισης προσώπου χρησιμοποιείται ευρύτατα στην Κίνα για επιχειρήσεις της αστυνομίας. Η Amazon διαφήμισε πολύ τις χρήσεις του Rekognition, από τον εντοπισμό ανάρμοστου περιεχομένου στο Διαδίκτυο μέχρι την αναγνώριση διασημοτήτων.
«Παραμένουμε ενθουσιασμένοι από το ότι η ανάλυση των εικόνων και των βίντεο μπορεί να αποτελέσει έναν οδηγό για το καλό στον κόσμο» αναφέρει σε ανακοίνωσή της η εκπρόσωπος Τύπου των Υπηρεσιών Διαδικτύου της Amazon, προσθέτοντας ότι η τεχνολογία έχει χρησιμοποιηθεί για την αναζήτηση παιδιών που έχουν χαθεί όπως εξάλλου και για την αποτροπή εγκληματικών πράξεων. Επίσης, τόνισε ότι το Rekognition χρησιμοποιείται ώστε να περιορίσει το εύρος των στοιχείων που πρέπει να αξιολογηθούν από άνθρωπο και όχι για να λαμβάνει τις τελικές αποφάσεις.
Η Αμερικανική Ενωση Ατομικών Ελευθεριών ανακοίνωσε ότι πλήρωσε μόνο 12,33 δολάρια για να βάλει το λογισμικό Rekognition της Amazon να συγκρίνει τις επίσημες φωτογραφίες των μελών της αμερικανικής Βουλής των Αντιπροσώπων και της Γερουσίας με μία βάση δεδομένων που περιελάμβανε 25.000 φωτογραφίες συλληφθέντων. Η τεχνολογία αναγνώρισε «συνταιριάσματα» για 28 μέλη του Κογκρέσου με ένα ποσοστό ακρίβειας το οποίο προσέγγιζε το 80%, όσο είναι η βασική ρύθμιση του Amazon, αναφέρει η Αμερικανική Ενωση Ατομικών Ελευθεριών. Αυτά τα συνταιριάσματα αφορούσαν δυσανάλογα μη λευκούς. Περίπου το 39% ήταν Αφροαμερικανοί και ισπανόφωνοι έναντι ενός 20% που αναγνωρίζονται ως μη λευκοί στο Κογκρέσο, όπως ανέφερε στη σχετική ανακοίνωση της Αμερικανικής Ενωσης Ατομικών Ελευθεριών. Επίσης ανέφερε ότι το Rekognition μπορεί να οξύνει τον ρατσισμό, καθώς οι μη λευκοί στοχοποιούνται περισσότερο από την αστυνομία.