Τη μέθοδο της «πιστωτικής βαθμολόγησης» των πελατών με στόχο την αξιολόγηση της πιστοληπτικής τους ικανότητας, αξιοποιούν εδώ και δεκαετίες οι τράπεζες. Η βαθμολόγηση αυτή με τη χρήση αλγορίθμων στηρίζεται, όμως, πια σε τεράστιο όγκο δεδομένων και επηρεάζει άμεσα την καθημερινή ζωή, καθώς από αυτή εξαρτάται η ικανότητα αγοράς αυτοκινήτου, ενοικίασης στέγης ή εύρεσης εργασίας, σύμφωνα με άρθρο του περιοδικού MIT Technology Review.
Η επικράτηση των αλγορίθμων αυτών σημαίνει ότι η κατάταξη κάποιου στην κατηγορία των κακοπληρωτών αποτελεί ανεξίτηλο σημάδι στην πιστωτική ιστορία του πολίτη. Την ίδια στιγμή, οι αλγόριθμοι αυτοί ανήκουν σε ιδιωτικές εταιρείες, οι οποίες δεν αποκαλύπτουν τη μεθοδολογία τους, προφασιζόμενες την προστασία της πνευματικής τους ιδιοκτησίας. Τα «θύματα», από τη μεριά τους, κινδυνεύουν ακόμη και να βρεθούν άστεγα.
Οι αλγόριθμοι πιστωτικής ικανότητας αποφασίζουν πλέον και για την πρόσβαση πολιτών σε ζωτικής σημασίας κοινωνικές παροχές, όπως ποια παιδιά θα αποκτήσουν θέση σε παιδικό σταθμό, ποιοι ασθενείς θα λάβουν περίθαλψη και ποιες οικογένειες θα στεγασθούν. Για τους χαμηλόμισθους Αμερικανούς, η ταχεία ανάπτυξη και υιοθέτηση αυτοματοποιημένων συστημάτων λήψης τέτοιων αποφάσεων έχει δημιουργήσει ένα λαβύρινθο αλληλένδετων παγίδων.
Ομάδα νομικών, όμως, αποφάσισε να εκπονήσει στρατηγικές δικαστικής αμφισβήτησης των αποφάσεων που προέρχονται από τους αλγορίθμους αυτούς. «Πρέπει να ξυπνήσουμε και να εκπαιδευθούμε, καθώς όλοι οι πελάτες μας επηρεάζονται από τα συστήματα αυτά», λέει η καθηγήτρια Νομικής του Πανεπιστημίου της Βαλτιμόρης, Μισέλ Γκίλμαν.
Στα 20 χρόνια που ασκεί δικηγορία με ειδίκευση το πτωχευτικό δίκαιο στη Βαλτιμόρη, η Γκίλμαν τονίζει ότι όλες οι υποθέσεις της αφορούν τη στέρηση βασικών παροχών, όπως επιδοτούμενης στέγης, σίτισης, παιδείας, εργασίας και περίθαλψης. Συχνά αναγκάσθηκε να αντιπαρατεθεί με κρατικές υπηρεσίες, εισπρακτικές εταιρείες ή ιδιοκτήτες κατοικιών. Ολοένα και περισσότερες υποθέσεις αφορούν αποφάσεις που ελήφθησαν από αλγόριθμο.
«Πάρα πολλοί πελάτες έχουν αποκλεισθεί από κοινωνικές παροχές εξαιτίας σειράς αλγορίθμων. Πολλοί δεν το συνειδητοποιούν, καθώς τα συστήματα αυτά είναι αόρατα», λέει η Γκίλμαν. Η δικηγόρος θυμάται υπόθεση ηλικιωμένης και ανάπηρης πελάτισσάς της, η οποία αποκλείστηκε ξαφνικά από το πρόγραμμα κατ’ οίκον επισκέψεων νοσηλευτών. «Δεν μπορούσαμε να καταλάβουμε τον λόγο. Η κατάσταση της υγείας της επιδεινωνόταν διαρκώς, αλλά οι επισκέψεις νοσηλευτών μειώνονταν», λέει η δικηγόρος. Κατά τη διάρκεια της δίκης, ύστερα από αγωγή που κατέθεσε η Γκίλμαν, η μάρτυρας των υγειονομικών υπηρεσιών αποκάλυψε ότι η πολιτεία του Μέριλαντ είχε πρόσφατα υιοθετήσει νέο αλγόριθμο. «Η μάρτυρας, που ήταν νοσηλεύτρια, δεν γνώριζε τίποτα για τα κριτήρια του αυτοματοποιημένου συστήματος. Από τη μεριά μου αναρωτήθηκα αν μπορούσα άραγε να ζητήσω από έναν αλγόριθμο να καταθέσει ενόρκως», λέει η Γκίλμαν.
Τον περασμένο Σεπτέμβριο, η Γκίλμαν εξέδωσε έκθεση, στην οποία κατέγραψε όλους του αλγορίθμους, τους οποίους μπορεί να συναντήσουν οι νομικοί. Ο κατάλογος των αλγορίθμων, με επικεφαλίδα «Νομο-αλγόριθμοι Φτώχειας» χωρίζει τα αυτοματοποιημένα συστήματα σε κατηγορίες που άπτονται του εμπορικού δικαίου, του οικογενειακού, στεγαστικού και πτωχευτικού, προσφέροντας συμβουλές στους νομικούς για την κατάθεση ενστάσεων ενώπιον της Δικαιοσύνης.
Αν κάποιος πελάτης δεν μπορεί να ενοικιάσει διαμέρισμα εξαιτίας πιστωτικών προβλημάτων, η έκθεση της Γκίλμαν συστήνει στην υπεράσπισή του να ελέγξει πρώτα εάν τα δεδομένα που τροφοδοτούνται στον αλγόριθμο είναι ακριβή. Σύμφωνα με την αμερικανική νομοθεσία, τα πιστωτικά ιδρύματα οφείλουν να εγγυώνται την ακρίβεια των στοιχείων τους, κάτι που δεν συμβαίνει πάντα. Η αμφισβήτηση κάθε εσφαλμένης καταγραφής μπορεί να επιτρέψει την αποκατάσταση της πιστοληπτικής ικανότητας του πελάτη, δίνοντάς του τη δυνατότητα να ενοικιάσει κατοικία.
Οι ποινικολόγοι
Η Γκίλμαν στρέφεται ακόμη και στο ποινικό δίκαιο, αναζητώντας νομική έμπνευση. «Οι ποινικολόγοι ήταν πάντα πρωτοπόροι σε θέματα οργάνωσης των πελατών και κατάθεσης ομαδικών αγωγών. Αυτοί έβαλαν πρώτοι στο στόχαστρό τους τους εισαγγελικούς αλγορίθμους, οι οποίοι υποχρεώνουν δικαστές να ακολουθούν σαφείς κατευθυντήριες γραμμές στην απαγγελία ποινών», λέει η Γκίλμαν, που προσθέτει ότι θα ήθελε να μεταλαμπαδεύσει την τακτική αυτή των ποινικολόγων στο αστικό δίκαιο. Το 2013 στο Μίσιγκαν, σφάλμα αλγορίθμου οδήγησε στον χαρακτηρισμό 34.000 πολιτών ως υπεύθυνων εισφοροαπάτης, με συνέπεια τη στέρηση του κοινωνικού τους βοηθήματος. Η Γκίλμαν φιλοδοξεί να δημιουργήσει πραγματικό κίνημα, το οποίο θα ρίξει φως στις διεργασίες του κρυφού δικτύου αλγορίθμων, που ταλαιπωρεί κυρίως τους άπορους και φτωχούς πελάτες της. «Σε πολλές περιπτώσεις, οι αλγόριθμοι αυτοί θα πρέπει να τίθενται –έστω και προσωρινά– εκτός λειτουργίας, καθώς δεν υπάρχει κανένας απολύτως τρόπος να γίνουν πιο δίκαιοι», λέει η νομικός.
Η περίπτωση της Μίριαμ
Η Μίριαμ ήταν μόλις 21 ετών όταν γνώρισε τον 37χρονο Νικ. Ο έρωτάς τους υπήρξε κεραυνοβόλος, αλλά τα προβλήματα ξεκίνησαν με μία πιστωτική κάρτα της Μίριαμ. Ο Νικ άρχισε να χρησιμοποιεί την κάρτα της για τα έξοδα του εστιατορίου του, ξεπληρώνοντας αμέσως το χρέος. Οι τακτικές αποπληρωμές ενίσχυσαν την πιστοληπτική ικανότητα της Μίριαμ στα μάτια της τράπεζάς της, η οποία της προσέφερε κι άλλες κάρτες. Στον τρίτο χρόνο του γάμου τους, ο Νικ ζήτησε από τη Μίριαμ να εγκαταλείψει τη δουλειά της για να βοηθήσει στο εστιατόριο, ενώ την προέτρεψε να ακολουθήσει παράλληλα μεταπτυχιακές σπουδές, διαβεβαιώνοντάς την ότι δεν χρειαζόταν να ανησυχεί για τα φοιτητικά της δάνεια. Ομως ο Νικ έπαψε να αποπληρώνει τις κάρτες της συζύγου του και τα επιχειρηματικά δάνεια που είχε λάβει στο όνομά της. Λίγα χρόνια αργότερα, και αφού το ζευγάρι είχε αποκτήσει τρία παιδιά, άνδρες του FBI συνέλαβαν τον Νικ κατηγορώντας τον για απάτη, καθώς είχε δανεισθεί 250.000 δολ. στο όνομα της συζύγου του. Οι τράπεζες, όμως, θεώρησαν ότι η –διαζευγμένη πλέον– Μίριαμ ευθυνόταν για τις οικονομικές ατασθαλίες του Νικ, στερώντας της τη δυνατότητα να ενοικιάσει σπίτι, να αγοράσει αυτοκίνητο κ.λπ. Μόνο με τη βοήθεια ομάδας δικηγόρων ειδικευμένων στην αμφισβήτηση των μεθόδων καθορισμού καταναλωτικής πίστης από αλγόριθμους κατέστη δυνατή η απεμπλοκή της από τον φαύλο κύκλο του χρέους και της στέρησης κοινωνικών παροχών.