Η κυβέρνηση Τραμπ μετατρέπει την τεχνολογία σε όπλο για την καταστολή της μετανάστευσης, με την ICE να αξιοποιεί εργαλεία όπως αναγνώριση προσώπου, spyware και βάσεις δεδομένων δημιουργώντας ένα αθέατο, αλλά πανίσχυρο σύστημα ελέγχου.
Η Αμερική πάντοτε υπήρξε το χωνευτήρι του κόσμου. Ένα έθνος φτιαγμένο από μετανάστες, που όμως σήμερα υπό την προεδρία Τραμπ, σφίγγει τα δόντια και τα σύνορά του. Ο πρόεδρος που έστησε ολόκληρη την πολιτική του καριέρα πάνω στο φόβο της μετανάστευσης, επενδύει τώρα σε ένα οπλοστάσιο όχι από στρατιώτες αλλά από τεχνολογίες. Το νέο πρόσωπο της “εθνικής ασφάλειας” δεν είναι ο ένστολος με το όπλο, αλλά ο αλγόριθμος, το spyware και οι βάσεις δεδομένων που διεισδύουν μέχρι το τελευταίο ψηφιακό ίχνος του ανθρώπου.
Στους πρώτους κιόλας μήνες της θητείας του ο Τραμπ προχώρησε σε περισσότερες από 350.000 απόπειρες απέλασης, με την ICE (Immigration and Customs Enforcement) να σηκώνει το μεγαλύτερο βάρος. Δεν πρόκειται απλώς για ένα ακόμη κύμα αυστηρότερων μέτρων. Πρόκειται για ένα νέο μοντέλο ελέγχου, όπου η τεχνητή νοημοσύνη και τα συστήματα παρακολούθησης γίνονται η αιχμή του δόρατος και αυτό γεννά το θεμελιώδες ερώτημα: πόση ελευθερία είμαστε διατεθειμένοι να θυσιάσουμε στο όνομα της ασφάλειας;
Πρώτος σταθμός: η Clearview AI. Μια εταιρεία που έχει “ξαφρίσει” το διαδίκτυο, τραβώντας φωτογραφίες από social media και ιστότοπους, ώστε να τροφοδοτήσει μια βάση δεδομένων αναγνώρισης προσώπου δίχως προηγούμενο. Η ICE έχει στη διάθεσή της αυτό το εργαλείο και μπορεί να ταυτοποιήσει κάποιον μέσα σε δευτερόλεπτα. Το πρόσχημα; Εγκλήματα, παιδική εκμετάλλευση, τρομοκρατία. Η πραγματικότητα; Η αναγνώριση προσώπου μπαίνει στη ζωή εκατομμυρίων ανθρώπων, συχνά χωρίς συναίνεση και γίνεται εργαλείο στο μεγάλο σχέδιο των απελάσεων.
Από την άλλη υπάρχει το Paragon spyware, το ψηφιακό φίδι που γλιστρά μέσα στα κινητά τηλέφωνα. Συμβόλαιο ύψους 2 εκατομμυρίων δολαρίων με ισραηλινή εταιρεία έδωσε στην ICE τη δυνατότητα να εισχωρεί σε συνομιλίες, αρχεία, φωτογραφίες. Για λίγο υπήρξε παύση για “νομικό έλεγχο”, αλλά η συμφωνία ενεργοποιήθηκε ξανά. Εύκολα καταονείς πως η συσκευή που κρατάς στην τσέπη σου δεν είναι πλέον προσωπικός χώρος, αλλά ανοιχτό παράθυρο προς την κρατική εξουσία.
Η LexisNexis, η μεγαλύτερη βάση δεδομένων με δημόσια αρχεία έχει γίνει το νέο εργαλείο για να συντίθεται το προφίλ κάθε μετανάστη. Από φορολογικά στοιχεία μέχρι διευθύνσεις και συγγενείς όλα είναι έτοιμα για αξιοποίηση. Δεν χρειάζεται να έχεις κάνει κάτι παράνομο. Αρκεί να βρίσκεσαι σε λάθος κατηγορία. Ο αλγόριθμος μπορεί να σε “σημαδέψει” πριν ακόμη διανοηθείς ότι σε παρακολουθούν.
αν όλα αυτά μοιάζουν υπερβολικά, έρχεται η Palantir η εταιρεία που έγινε γνωστή από τη συνεργασία της με τις μυστικές υπηρεσίες των ΗΠΑ. Το σύστημα ImmigrationOS υπόσχεται “κατ’επίκαιρον ορατότητα” στη διαδικασία μετανάστευσης. Με άλλα λόγια το κράτος γνωρίζει πού βρίσκεσαι, τι κάνεις και αν έχεις μείνει μία μέρα παραπάνω από τη βίζα σου. Το εργαλείο «Investigative Case Management» (ICM) πάει ακόμη πιο μακριά: κατηγοριοποιεί ανθρώπους με βάση βίζα, χώρες, ακόμη και φυσικά χαρακτηριστικά.
Όλα αυτά προβάλλονται με το μανδύα της αποτελεσματικότητας. Οι υπεύθυνοι μιλούν για προστασία της κοινωνίας, για εξορθολογισμό της γραφειοκρατίας, για ταχύτητα κι όμως πίσω από τα ωραία λόγια χτίζεται ένα σύστημα όπου ο μετανάστης μετατρέπεται σε αριθμό, σε ένα data point ανάμεσα σε εκατομμύρια.
Το ιδιωτικό απόρρητο θυσιάζεται στο βωμό της επιτήρησης. Η νομική εποπτεία είναι συχνά θολή, τα όρια ανάμεσα στο “επιτρεπτό” και το “παράνομο” γίνονται ασαφή. Όταν μιλάμε για ανθρώπους που ήδη βρίσκονται σε επισφαλή θέση, η πιθανότητα καταχρήσεων είναι τεράστια.Η ειρωνεία είναι ότι το έθνος που γεννήθηκε από την ελευθερία και την υπόσχεση της μετανάστευσης, σήμερα καταφεύγει σε spyware και αλγορίθμους για να χτίσει τείχη. Το μεγάλο ερώτημα δεν είναι αν η ICE θα καταφέρει να κάνει περισσότερες απελάσεις. Το μεγάλο ερώτημα είναι τι σημαίνει αυτό για τη δημοκρατία και τα ανθρώπινα δικαιώματα.
Δεν μπορείς να διαβάσεις για αυτά τα εργαλεία χωρίς να ανατριχιάσεις. Το spyware που κάποτε θα φάνταζε σενάριο κατασκοπευτικής ταινίας, σήμερα γίνεται “κανονικότητα”. Η αναγνώριση προσώπου που κάποτε συζητούσαμε με δισταγμό, τώρα αποτελεί αυτονόητο εργαλείο και η Palantir, με το δίκτυο των δεδομένων της, μοιάζει με τον μεγάλο αδελφό που ονειρεύτηκε κάποτε ο Όργουελ.
Η συζήτηση δεν είναι απλώς τεχνική. Είναι βαθιά πολιτική, κοινωνική και ηθική. Ποιος αποφασίζει τι σημαίνει “επικίνδυνος”; Ποιος ελέγχει τα λάθη του αλγορίθμου; Τι γίνεται όταν κάποιος μπερδευτεί με έναν άλλο, επειδή τα χαρακτηριστικά του μοιάζουν; Και τελικά, ποιον εξυπηρετεί αυτό το σύστημα;
Η μάχη για το μέλλον της μετανάστευσης στις ΗΠΑ δεν διεξάγεται πια μόνο στα σύνορα με περιπόλους και φράχτες. Διεξάγεται μέσα στα δεδομένα, στα λογισμικά, στις αίθουσες των εταιρειών που πουλούν τεχνολογία στην κυβέρνηση. Είναι μια μάχη αθόρυβη, σχεδόν αόρατη, αλλά με τεράστιες συνέπειες.
Η ιστορία μας διδάσκει ότι κάθε φορά που ένα κράτος απέκτησε υπερβολική δύναμη ελέγχου πάνω στους ανθρώπους, το αποτέλεσμα ήταν σκοτεινό. Ο πειρασμός της τεχνολογίας είναι μεγάλος: δίνει γρήγορες λύσεις, υπόσχεται ασφάλεια. Μα η ασφάλεια χωρίς ελευθερία είναι κενό κέλυφος.
Η ICE σήμερα κρατάει στο χέρι της εργαλεία που θα ζήλευαν μυστικές υπηρεσίες πριν από λίγα χρόνια. Το ερώτημα είναι αν θα τα χρησιμοποιήσει με μέτρο ή αν η Αμερική κι ο υπόλοιπος δυτικός κόσμος θα βυθιστούν ακόμη περισσότερο σε μια κουλτούρα ελέγχου, όπου κάθε μετανάστης θα είναι ύποπτος και κάθε πολίτης θα ζει υπό το άγρυπνο βλέμμα ενός αλγορίθμου.
Η τεχνολογία που θα μπορούσε να υπηρετήσει την πρόοδο, γίνεται ξανά μηχανισμός φόβου και κάπου εκεί ανάμεσα σε servers, spyware και βάσεις δεδομένων χάνεται η ουσία: ότι πίσω από κάθε όνομα, πίσω από κάθε πρόσωπο που αναγνωρίζει η κάμερα, υπάρχει ένας άνθρωπος με όνειρα, φόβους και δικαίωμα στην αξιοπρέπεια.
*με στοιχεία από το TechCrunch
Η κυβέρνηση Τραμπ μετατρέπει την τεχνολογία σε όπλο για την καταστολή της μετανάστευσης, με την ICE να αξιοποιεί εργαλεία όπως αναγνώριση προσώπου, spyware και βάσεις δεδομένων δημιουργώντας ένα αθέατο, αλλά πανίσχυρο σύστημα ελέγχου.
Η Αμερική πάντοτε υπήρξε το χωνευτήρι του κόσμου. Ένα έθνος φτιαγμένο από μετανάστες, που όμως σήμερα υπό την προεδρία Τραμπ, σφίγγει τα δόντια και τα σύνορά του. Ο πρόεδρος που έστησε ολόκληρη την πολιτική του καριέρα πάνω στο φόβο της μετανάστευσης, επενδύει τώρα σε ένα οπλοστάσιο όχι από στρατιώτες αλλά από τεχνολογίες. Το νέο πρόσωπο της “εθνικής ασφάλειας” δεν είναι ο ένστολος με το όπλο, αλλά ο αλγόριθμος, το spyware και οι βάσεις δεδομένων που διεισδύουν μέχρι το τελευταίο ψηφιακό ίχνος του ανθρώπου.
Στους πρώτους κιόλας μήνες της θητείας του ο Τραμπ προχώρησε σε περισσότερες από 350.000 απόπειρες απέλασης, με την ICE (Immigration and Customs Enforcement) να σηκώνει το μεγαλύτερο βάρος. Δεν πρόκειται απλώς για ένα ακόμη κύμα αυστηρότερων μέτρων. Πρόκειται για ένα νέο μοντέλο ελέγχου, όπου η τεχνητή νοημοσύνη και τα συστήματα παρακολούθησης γίνονται η αιχμή του δόρατος και αυτό γεννά το θεμελιώδες ερώτημα: πόση ελευθερία είμαστε διατεθειμένοι να θυσιάσουμε στο όνομα της ασφάλειας;
Πρώτος σταθμός: η Clearview AI. Μια εταιρεία που έχει “ξαφρίσει” το διαδίκτυο, τραβώντας φωτογραφίες από social media και ιστότοπους, ώστε να τροφοδοτήσει μια βάση δεδομένων αναγνώρισης προσώπου δίχως προηγούμενο. Η ICE έχει στη διάθεσή της αυτό το εργαλείο και μπορεί να ταυτοποιήσει κάποιον μέσα σε δευτερόλεπτα. Το πρόσχημα; Εγκλήματα, παιδική εκμετάλλευση, τρομοκρατία. Η πραγματικότητα; Η αναγνώριση προσώπου μπαίνει στη ζωή εκατομμυρίων ανθρώπων, συχνά χωρίς συναίνεση και γίνεται εργαλείο στο μεγάλο σχέδιο των απελάσεων.
Από την άλλη υπάρχει το Paragon spyware, το ψηφιακό φίδι που γλιστρά μέσα στα κινητά τηλέφωνα. Συμβόλαιο ύψους 2 εκατομμυρίων δολαρίων με ισραηλινή εταιρεία έδωσε στην ICE τη δυνατότητα να εισχωρεί σε συνομιλίες, αρχεία, φωτογραφίες. Για λίγο υπήρξε παύση για “νομικό έλεγχο”, αλλά η συμφωνία ενεργοποιήθηκε ξανά. Εύκολα καταονείς πως η συσκευή που κρατάς στην τσέπη σου δεν είναι πλέον προσωπικός χώρος, αλλά ανοιχτό παράθυρο προς την κρατική εξουσία.
Η LexisNexis, η μεγαλύτερη βάση δεδομένων με δημόσια αρχεία έχει γίνει το νέο εργαλείο για να συντίθεται το προφίλ κάθε μετανάστη. Από φορολογικά στοιχεία μέχρι διευθύνσεις και συγγενείς όλα είναι έτοιμα για αξιοποίηση. Δεν χρειάζεται να έχεις κάνει κάτι παράνομο. Αρκεί να βρίσκεσαι σε λάθος κατηγορία. Ο αλγόριθμος μπορεί να σε “σημαδέψει” πριν ακόμη διανοηθείς ότι σε παρακολουθούν.
αν όλα αυτά μοιάζουν υπερβολικά, έρχεται η Palantir η εταιρεία που έγινε γνωστή από τη συνεργασία της με τις μυστικές υπηρεσίες των ΗΠΑ. Το σύστημα ImmigrationOS υπόσχεται “κατ’επίκαιρον ορατότητα” στη διαδικασία μετανάστευσης. Με άλλα λόγια το κράτος γνωρίζει πού βρίσκεσαι, τι κάνεις και αν έχεις μείνει μία μέρα παραπάνω από τη βίζα σου. Το εργαλείο «Investigative Case Management» (ICM) πάει ακόμη πιο μακριά: κατηγοριοποιεί ανθρώπους με βάση βίζα, χώρες, ακόμη και φυσικά χαρακτηριστικά.
Όλα αυτά προβάλλονται με το μανδύα της αποτελεσματικότητας. Οι υπεύθυνοι μιλούν για προστασία της κοινωνίας, για εξορθολογισμό της γραφειοκρατίας, για ταχύτητα κι όμως πίσω από τα ωραία λόγια χτίζεται ένα σύστημα όπου ο μετανάστης μετατρέπεται σε αριθμό, σε ένα data point ανάμεσα σε εκατομμύρια.
Το ιδιωτικό απόρρητο θυσιάζεται στο βωμό της επιτήρησης. Η νομική εποπτεία είναι συχνά θολή, τα όρια ανάμεσα στο “επιτρεπτό” και το “παράνομο” γίνονται ασαφή. Όταν μιλάμε για ανθρώπους που ήδη βρίσκονται σε επισφαλή θέση, η πιθανότητα καταχρήσεων είναι τεράστια.Η ειρωνεία είναι ότι το έθνος που γεννήθηκε από την ελευθερία και την υπόσχεση της μετανάστευσης, σήμερα καταφεύγει σε spyware και αλγορίθμους για να χτίσει τείχη. Το μεγάλο ερώτημα δεν είναι αν η ICE θα καταφέρει να κάνει περισσότερες απελάσεις. Το μεγάλο ερώτημα είναι τι σημαίνει αυτό για τη δημοκρατία και τα ανθρώπινα δικαιώματα.
Δεν μπορείς να διαβάσεις για αυτά τα εργαλεία χωρίς να ανατριχιάσεις. Το spyware που κάποτε θα φάνταζε σενάριο κατασκοπευτικής ταινίας, σήμερα γίνεται “κανονικότητα”. Η αναγνώριση προσώπου που κάποτε συζητούσαμε με δισταγμό, τώρα αποτελεί αυτονόητο εργαλείο και η Palantir, με το δίκτυο των δεδομένων της, μοιάζει με τον μεγάλο αδελφό που ονειρεύτηκε κάποτε ο Όργουελ.
Η συζήτηση δεν είναι απλώς τεχνική. Είναι βαθιά πολιτική, κοινωνική και ηθική. Ποιος αποφασίζει τι σημαίνει “επικίνδυνος”; Ποιος ελέγχει τα λάθη του αλγορίθμου; Τι γίνεται όταν κάποιος μπερδευτεί με έναν άλλο, επειδή τα χαρακτηριστικά του μοιάζουν; Και τελικά, ποιον εξυπηρετεί αυτό το σύστημα;
Η μάχη για το μέλλον της μετανάστευσης στις ΗΠΑ δεν διεξάγεται πια μόνο στα σύνορα με περιπόλους και φράχτες. Διεξάγεται μέσα στα δεδομένα, στα λογισμικά, στις αίθουσες των εταιρειών που πουλούν τεχνολογία στην κυβέρνηση. Είναι μια μάχη αθόρυβη, σχεδόν αόρατη, αλλά με τεράστιες συνέπειες.
Η ιστορία μας διδάσκει ότι κάθε φορά που ένα κράτος απέκτησε υπερβολική δύναμη ελέγχου πάνω στους ανθρώπους, το αποτέλεσμα ήταν σκοτεινό. Ο πειρασμός της τεχνολογίας είναι μεγάλος: δίνει γρήγορες λύσεις, υπόσχεται ασφάλεια. Μα η ασφάλεια χωρίς ελευθερία είναι κενό κέλυφος.
Η ICE σήμερα κρατάει στο χέρι της εργαλεία που θα ζήλευαν μυστικές υπηρεσίες πριν από λίγα χρόνια. Το ερώτημα είναι αν θα τα χρησιμοποιήσει με μέτρο ή αν η Αμερική κι ο υπόλοιπος δυτικός κόσμος θα βυθιστούν ακόμη περισσότερο σε μια κουλτούρα ελέγχου, όπου κάθε μετανάστης θα είναι ύποπτος και κάθε πολίτης θα ζει υπό το άγρυπνο βλέμμα ενός αλγορίθμου.
Η τεχνολογία που θα μπορούσε να υπηρετήσει την πρόοδο, γίνεται ξανά μηχανισμός φόβου και κάπου εκεί ανάμεσα σε servers, spyware και βάσεις δεδομένων χάνεται η ουσία: ότι πίσω από κάθε όνομα, πίσω από κάθε πρόσωπο που αναγνωρίζει η κάμερα, υπάρχει ένας άνθρωπος με όνειρα, φόβους και δικαίωμα στην αξιοπρέπεια.
*με στοιχεία από το TechCrunch
