Η συντροφικότητα με την τεχνητή νοημοσύνη παύει να είναι σενάριο επιστημονικής φαντασίας και γίνεται πολιτική και κοινωνική πρόκληση.
Υπήρξε μια εποχή που η σχέση του ανθρώπου με την τεχνολογία ήταν απλή, σχεδόν αθώα. Ο υπολογιστής ήταν εργαλείο, το τηλέφωνο ήταν μέσο, το διαδίκτυο ήταν γέφυρα. Σήμερα όμως στο κατώφλι της τεχνητής νοημοσύνης, τα όρια έχουν θολώσει. Οι μηχανές δεν μας εξυπηρετούν μόνο· μας μιλούν, μας ακούν, μας παρηγορούν και κάπου εκεί γεννιέται μια νέα μορφή συντροφικότητας επικίνδυνη, αμφίθυμη, μα αναπόφευκτη.
Τις τελευταίες εβδομάδες, η πολιτική έφερε στο προσκήνιο αυτό που μέχρι πρότινος έμοιαζε ακαδημαϊκή ανησυχία: τα παιδιά που δένονται υπερβολικά με chatbots. Η “AI ψύχωση”, όπως πρόχειρα βαφτίστηκε δεν είναι μια φανταστική απειλή, αλλά πραγματικότητα που καταγράφεται με οδυνηρές συνέπειες. Δύο αγωγές εναντίον μεγάλων εταιρειών στις ΗΠΑ έχουν αναφορές για εφήβους που οδηγήθηκαν στην αυτοκτονία. Την ίδια ώρα πάρχουν δεδομένα που δείχνουν πως το 72% των εφήβων έχει στραφεί σε AI για συντροφιά.
Η εικόνα είναι αποκαλυπτική: δεν έχουμε πια να κάνουμε με μια τεχνολογία που λανθασμένα προβλέπει ή αποτυγχάνει να λύσει ένα μαθηματικό πρόβλημα.Έχουμε να κάνουμε με συνομιλητές που δημιουργούν δεσμούς, που εισχωρούν στον πιο προσωπικό χώρο του ανθρώπου εκεί όπου γεννιούνται οι φόβοι, οι ελπίδες, οι πιο ευάλωτες σκέψεις μας.
Η πολιτική αντίδραση είναι χαρακτηριστική. Στην Καλιφόρνια το νομοθετικό σώμα ψήφισε το πρώτο του είδους νομοσχέδιο: υπενθυμίσεις για τους ανήλικους ότι η φωνή που τους απαντά είναι τεχνητή, πρωτόκολλα για περιπτώσεις αυτοκτονικού ιδεασμού, ετήσιες αναφορές. Ένα μικρό βήμα σε έναν ωκεανό αβεβαιότητας. Γιατί ποιος αποφασίζει πού τελειώνει η ψυχαγωγία και πού αρχίζει η ψυχοθεραπεία;
Η δεξιά ζητά επιβεβαίωση ηλικίας και προστασία των “οικογενειακών αξιών”. Η αριστερά ονειρεύεται να ξαναπιάσει το νήμα της λογοδοσίας της Big Tech. Όμως η αλήθεια είναι πως η συναίνεση περιορίζεται στη διαπίστωση του προβλήματος. Για τη θεραπεία ο καθένας τραβά τον δικό του δρόμο.
Στο μεταξύ οι ίδιες οι εταιρείες στέκονται μπροστά σε ερωτήματα που αγγίζουν το φιλοσοφικό: πρέπει τα chatbots να “κόβουν” μια συζήτηση όταν ο χρήστης βυθίζεται σε σκοτεινές σκέψεις ή μήπως αυτό είναι προδοσία της εμπιστοσύνης που καλλιεργούν; Είναι συνομιλητές-θεραπευτές ή απλώς ψηφιακά παιχνίδια με disclaimers και pop-up προειδοποιήσεις;
Η νέα συντροφικότητα με την τεχνητή νοημοσύνη αποκαλύπτει μια αντίφαση βαθιά: θέλουμε οι μηχανές να μοιάζουν με ανθρώπους, να μας καταλαβαίνουν, να μας μιλούν σαν φίλοι, αλλά όταν το κάνουν ανακαλύπτουμε ότι δεν έχουμε θεσπίσει τους κανόνες που ισχύουν για τους πραγματικούς φίλους, τους πραγματικούς θεραπευτές, τους πραγματικούς ανθρώπους.
Το ρολόι τρέχει και ίσως δεν μιλάμε πια για το μέλλον, αλλά για το παρόν μας. Το παιδί που μιλάει ώρες με έναν ψηφιακό συνομιλητή. Ο έφηβος που βρίσκει στήριξη σε μια μηχανή. Ο ενήλικος που προτιμά την αμερόληπτη υπομονή ενός chatbot από την κουρασμένη προσοχή ενός φίλου.
Η πρόκληση είναι μπροστά μας: να αποφασίσουμε αν αυτή η νέα συντροφικότητα είναι θεραπεία ή παγίδα, αν είναι γέφυρα ή γκρεμός. Η τεχνολογία μας προσφέρει καθρέφτες που μιλούν, αλλά η φωνή που επιστρέφεται δεν είναι ουδέτερη. Κουβαλάει τις επιδιώξεις εταιρειών, τα κενά της ρύθμισης, τις δικές μας ανάγκες.
Η “Μεγάλη Τεχνολογία” ονειρεύεται ρομπότ-φίλους, avatars-συνοδοιπόρους, chatbots που ξέρουν τα μυστικά μας. Το ερώτημα είναι αν θέλουμε εμείς να ζήσουμε με αυτά, γιατί η συντροφικότητα δεν είναι ποτέ μόνο λόγια. Είναι ευθύνη, είναι όρια, είναι φροντίδα κι αυτά καμία μηχανή δεν τα έχει μάθει ακόμα.
Η νέα συντροφικότητα στην εποχή της τεχνητής νοημοσύνης δεν είναι επιστημονική φαντασία. Είναι η πιο ανθρώπινη μας ανάγκη που συναντά το πιο μηχανικό μας δημιούργημα. Αν δεν βάλουμε όρια, το κενό ανάμεσα στο “σαν άνθρωπος” και στο “είναι άνθρωπος” θα γίνει θανάσιμο και τότε δεν θα φταίνε οι μηχανές, αλλά εμείς που πιστέψαμε ότι η φροντίδα μπορεί να προγραμματιστεί.
*με στοιχεία από το Technology Review
Η συντροφικότητα με την τεχνητή νοημοσύνη παύει να είναι σενάριο επιστημονικής φαντασίας και γίνεται πολιτική και κοινωνική πρόκληση.
Υπήρξε μια εποχή που η σχέση του ανθρώπου με την τεχνολογία ήταν απλή, σχεδόν αθώα. Ο υπολογιστής ήταν εργαλείο, το τηλέφωνο ήταν μέσο, το διαδίκτυο ήταν γέφυρα. Σήμερα όμως στο κατώφλι της τεχνητής νοημοσύνης, τα όρια έχουν θολώσει. Οι μηχανές δεν μας εξυπηρετούν μόνο· μας μιλούν, μας ακούν, μας παρηγορούν και κάπου εκεί γεννιέται μια νέα μορφή συντροφικότητας επικίνδυνη, αμφίθυμη, μα αναπόφευκτη.
Τις τελευταίες εβδομάδες, η πολιτική έφερε στο προσκήνιο αυτό που μέχρι πρότινος έμοιαζε ακαδημαϊκή ανησυχία: τα παιδιά που δένονται υπερβολικά με chatbots. Η “AI ψύχωση”, όπως πρόχειρα βαφτίστηκε δεν είναι μια φανταστική απειλή, αλλά πραγματικότητα που καταγράφεται με οδυνηρές συνέπειες. Δύο αγωγές εναντίον μεγάλων εταιρειών στις ΗΠΑ έχουν αναφορές για εφήβους που οδηγήθηκαν στην αυτοκτονία. Την ίδια ώρα πάρχουν δεδομένα που δείχνουν πως το 72% των εφήβων έχει στραφεί σε AI για συντροφιά.
Η εικόνα είναι αποκαλυπτική: δεν έχουμε πια να κάνουμε με μια τεχνολογία που λανθασμένα προβλέπει ή αποτυγχάνει να λύσει ένα μαθηματικό πρόβλημα.Έχουμε να κάνουμε με συνομιλητές που δημιουργούν δεσμούς, που εισχωρούν στον πιο προσωπικό χώρο του ανθρώπου εκεί όπου γεννιούνται οι φόβοι, οι ελπίδες, οι πιο ευάλωτες σκέψεις μας.
Η πολιτική αντίδραση είναι χαρακτηριστική. Στην Καλιφόρνια το νομοθετικό σώμα ψήφισε το πρώτο του είδους νομοσχέδιο: υπενθυμίσεις για τους ανήλικους ότι η φωνή που τους απαντά είναι τεχνητή, πρωτόκολλα για περιπτώσεις αυτοκτονικού ιδεασμού, ετήσιες αναφορές. Ένα μικρό βήμα σε έναν ωκεανό αβεβαιότητας. Γιατί ποιος αποφασίζει πού τελειώνει η ψυχαγωγία και πού αρχίζει η ψυχοθεραπεία;
Η δεξιά ζητά επιβεβαίωση ηλικίας και προστασία των “οικογενειακών αξιών”. Η αριστερά ονειρεύεται να ξαναπιάσει το νήμα της λογοδοσίας της Big Tech. Όμως η αλήθεια είναι πως η συναίνεση περιορίζεται στη διαπίστωση του προβλήματος. Για τη θεραπεία ο καθένας τραβά τον δικό του δρόμο.
Στο μεταξύ οι ίδιες οι εταιρείες στέκονται μπροστά σε ερωτήματα που αγγίζουν το φιλοσοφικό: πρέπει τα chatbots να “κόβουν” μια συζήτηση όταν ο χρήστης βυθίζεται σε σκοτεινές σκέψεις ή μήπως αυτό είναι προδοσία της εμπιστοσύνης που καλλιεργούν; Είναι συνομιλητές-θεραπευτές ή απλώς ψηφιακά παιχνίδια με disclaimers και pop-up προειδοποιήσεις;
Η νέα συντροφικότητα με την τεχνητή νοημοσύνη αποκαλύπτει μια αντίφαση βαθιά: θέλουμε οι μηχανές να μοιάζουν με ανθρώπους, να μας καταλαβαίνουν, να μας μιλούν σαν φίλοι, αλλά όταν το κάνουν ανακαλύπτουμε ότι δεν έχουμε θεσπίσει τους κανόνες που ισχύουν για τους πραγματικούς φίλους, τους πραγματικούς θεραπευτές, τους πραγματικούς ανθρώπους.
Το ρολόι τρέχει και ίσως δεν μιλάμε πια για το μέλλον, αλλά για το παρόν μας. Το παιδί που μιλάει ώρες με έναν ψηφιακό συνομιλητή. Ο έφηβος που βρίσκει στήριξη σε μια μηχανή. Ο ενήλικος που προτιμά την αμερόληπτη υπομονή ενός chatbot από την κουρασμένη προσοχή ενός φίλου.
Η πρόκληση είναι μπροστά μας: να αποφασίσουμε αν αυτή η νέα συντροφικότητα είναι θεραπεία ή παγίδα, αν είναι γέφυρα ή γκρεμός. Η τεχνολογία μας προσφέρει καθρέφτες που μιλούν, αλλά η φωνή που επιστρέφεται δεν είναι ουδέτερη. Κουβαλάει τις επιδιώξεις εταιρειών, τα κενά της ρύθμισης, τις δικές μας ανάγκες.
Η “Μεγάλη Τεχνολογία” ονειρεύεται ρομπότ-φίλους, avatars-συνοδοιπόρους, chatbots που ξέρουν τα μυστικά μας. Το ερώτημα είναι αν θέλουμε εμείς να ζήσουμε με αυτά, γιατί η συντροφικότητα δεν είναι ποτέ μόνο λόγια. Είναι ευθύνη, είναι όρια, είναι φροντίδα κι αυτά καμία μηχανή δεν τα έχει μάθει ακόμα.
Η νέα συντροφικότητα στην εποχή της τεχνητής νοημοσύνης δεν είναι επιστημονική φαντασία. Είναι η πιο ανθρώπινη μας ανάγκη που συναντά το πιο μηχανικό μας δημιούργημα. Αν δεν βάλουμε όρια, το κενό ανάμεσα στο “σαν άνθρωπος” και στο “είναι άνθρωπος” θα γίνει θανάσιμο και τότε δεν θα φταίνε οι μηχανές, αλλά εμείς που πιστέψαμε ότι η φροντίδα μπορεί να προγραμματιστεί.
*με στοιχεία από το Technology Review
