Deepfakes, revenge porn και ψεύτικα σώματα – η νέα βιομηχανία που γεννιέται χωρίς κανόνες
Η τεχνητή νοημοσύνη έχει μπει για τα καλά στη ζωή μας. Από τα chatbots και τα φίλτρα του TikTok μέχρι τα εργαλεία που «ζωγραφίζουν» εικόνες από μια απλή περιγραφή, η τεχνολογία μοιάζει μαγική. Μαγική ή τρομακτική; Η γραμμή ανάμεσα στον όνειρο και τον εφιάλτη είναι τόσο λεπτή που πραγματικά δεν ξέρεις αν πρέπει να χαρείς με την εξέλιξη ή να πας και να κρυφτείς σε κάποιο βουνό. Όπως σε κάθε τεχνολογική επανάσταση, έτσι και τώρα πίσω από τη λάμψη υπάρχει και η σκοτεινή πλευρά. Και αυτή τη φορά, μιλάμε για κάτι που αγγίζει την πιο προσωπική πτυχή της ανθρώπινης ζωής, τη σεξουαλικότητα.
Το «AI porn» είναι ήδη εδώ, και αναπτύσσεται πιο γρήγορα απ’ όσο μπορούν να το προλάβουν οι νόμοι, οι πλατφόρμες ή οι κοινωνίες. Τα deepfakes,το revenge porn και ψεύτικα σώματα όλα αυτά δημιουργούν μια νέα, ανεξέλεγκτη βιομηχανία που απειλεί την ιδιωτικότητα, την ψυχική υγεία και την ίδια την αίσθηση του τι είναι «πραγματικό» και που είναι τα όρια.
Από τα φίλτρα στα deepfakes
Αν ανήκεις στη Gen Z, έχεις μεγαλώσει μέσα στα social media. Ξέρεις πώς λειτουργούν τα φίλτρα του instagram ή του snapchat, ξέρεις ότι μπορούν να αλλάζουν πρόσωπα, να λειαίνουν το δέρμα και να κάνουν ένα εξαιρετικό ρετούς που ακόμα και εσύ αναρωτιέσαι πόσο πραγματικό δείχνει αυτό που έφτιαξες. Όμως οι αλγόριθμοι της τεχνητής νοημοσύνης πήγαν πολύ παραπέρα και πλέον, ένα απλό software μπορεί να πάρει τη φωτογραφία σου και να τη βάλει σε ένα ξένο σώμα μέσα σε ένα βίντεο. Το αποτέλεσμα; Μια ρεαλιστική, πορνογραφική σκηνή στην οποία φαίνεται ότι πρωταγωνιστείς εσύ, χωρίς ποτέ να έχεις δώσει τη συναίνεση σου, χωρίς αυτό να έχει συμβεί καν.
Αυτό ακριβώς είναι τα deepfake porn videos. Μπορούν να φτιαχτούν εύκολα, να διαδοθούν σε κλειστές ομάδες ή δημόσια forums και να καταστρέψουν μέσα σε λίγες ώρες τη φήμη, τη καριέρα, τη ψυχική υγεία ακόμα και την ίδια τη ζωή κάποιου.
Revenge porn στην ψηφιάκη επόχη
Το revenge porn δεν είναι νέο φαινόμενο, εδώ και χρόνια αντιμετωπίζουμε τη διαρροή προσωπικών φωτογραφιών ή βίντεο από πρώην συντρόφους για εκδίκηση. Όμως με την AI, το παιχνίδι άλλαξε και πλέον δεν χρειάζεται καν να έχεις στείλει προσωπικό υλικό. Αρκεί μια selfie από το instagram και όποιος θέλει μπορεί να τη μετατρέψει σε πορνογραφικό περιεχόμενο που φαίνεται αληθινό και είναι η ικανό να σε «καταστρέψει». Αυτό κάνει την απειλή πολύ πιο άμεση, μαζική και ύπουλη.
Η βιομηχανία του AI porn δε σταματά εκεί ήδη κυκλοφορούν «AI influencers» που έχουν δημιουργήσει σώματα, που πουλάνε αισθησιακές φωτογραφίες σε OnlyFans λογαριασμούς ή σε άλλες πλατφόρμες. Πίσω από όλα αυτά δεν υπάρχει καν άνθρωπος, μόνο ένας developer που «τρέχει» τα μοντέλα και βγάζει κέρδος. Το αποτέλεσμα; Ένα μέλλον όπου η σεξουαλικότητα γίνεται εντελώς αποκομμένη από το ανθρώπινο σώμα. Ψεύτικες φιγούρες, ψεύτικες φαντασιώσεις, αλλά με πραγματικά χρήματα να ρέουν σε μια νέα βιομηχανία χωρίς κανόνες.
Η γενιά μας είναι η πρώτη που ζει αυτό το φαινόμενο σε τόσο μαζική κλίμακα. Οι κίνδυνοι είναι τρεις:
Ιδιωτικότητα: Ο καθένας μας μπορεί να γίνει στόχος deepfake και δεν χρειάζονται «ροζ» φωτογραφίες, μόνο οι εικόνες που ήδη ανεβάζουμε καθημερινά και είναι προσβάσιμες σε όλους.
Ψυχική υγεία: Το να βλέπεις τον εαυτό σου σε πορνογραφικό περιεχόμενο που ποτέ δεν έκανες μπορεί να προκαλέσει σοβαρό τραύμα, άγχος ή κατάθλιψη ή και ακόμα πιο καταστροφικές συνέπειες.
Αντίληψη του σεξ: Η κατανάλωση εικόνων με ψεύτικα σώματα και deepfakes αλλάζει τον τρόπο που βλέπουμε τη σεξουαλικότητα, τις σχέσεις και τη συναίνεση.
Οι νόμοι δεν αρκούν
Το νομικό πλαίσιο είναι πίσω, κάτι που από τη μία πλευρά είναι λογικό αφού έχει φτιαχτεί σε χρόνια που δεν υπήρχε καν internet. Σε κάποιες χώρες οι deepfakes δεν καλύπτονται καν από τη νομοθεσία περί πορνογραφίας ή παραβίασης ιδιωτικότητας. Οι πλατφόρμες προσπαθούν να κατεβάσουν τέτοιο υλικό, αλλά το internet είναι χαοτικό και η πραγματικότητά είναι πως ό,τι ανέβει στο διαδίκτυο, μένει για πάντα.
Τι μπορούμε να κάνουμε
Όσο πιο γρήγορα μάθουμε να αναγνωρίζουμε τα deepfakes, τόσο λιγότερη δύναμη θα έχουν.Αν καταφέρουμε να περιορίσουμε τη δημοσιοποίησή του προσωπικού υλικού που ανεβάζουμε θα γίνεται ακόμα καλύτερα και πιο εύκολο ο έλεγχος στου τι μπορεί να χρησιμοποιηθεί. Ακόμα καλό θα είναι να ρίξουμε μία ακόμα μάτια στα privacy settings και κυρίως να κάνουμε μία σκέψη πριν την ανάρτηση που περιέχει το πρόσωπο μας ή κάποιον δικό μας άνθρωπο.
Όπως παλεύουμε για το κλίμα ή την ισότητα, μπορούμε να απαιτήσουμε και προστασία απέναντι στο AI porn. Το AI porn δεν θα εξαφανιστεί, είναι και αυτό μία συνέπεια της εποχής και της τεχνολογικής ανάπτυξης. Εξάλλου είναι κάτι σαν εξέλιξη της παραδοσιακής πορνογραφίας. Το ζήτημα είναι πώς θα βάλουμε όρια, πώς θα προστατέψουμε κάθε άνθρωπο από την κακοποίηση και πώς θα διατηρήσουμε το σεξ ανθρώπινο, με συναίνεση, με σεβασμό και αληθινή επαφή. Η τεχνολογία είναι εργαλείο και μπορεί να δημιουργεί τέχνη, παιχνίδι, εκπαίδευση. Αλλά αν αφήσουμε ανεξέλεγκτη τη σκοτεινή της πλευρά, τότε ο κίνδυνος δεν είναι απλά μια «εικόνα στο internet» μπορεί να γίνει η διάλυση της εμπιστοσύνης μας στην ίδια την πραγματικότητα.
