Η τεχνητή νοημοσύνη ενσωματώνεται όλο και περισσότερο στις καθημερινές επιλογές των ανθρώπων, από απλές αναζητήσεις έως αποφάσεις που απαιτούν κρίση. Νέα ερευνητικά ευρήματα, όμως, δείχνουν ότι η άμεση πρόσβαση σε τέτοια εργαλεία δεν οδηγεί απαραίτητα σε καλύτερες αποφάσεις.
Αντίθετα, σε αρκετές περιπτώσεις οι χρήστες απαντούν πιο γρήγορα, αισθάνονται μεγαλύτερη βεβαιότητα και τελικά κάνουν περισσότερα λάθη. Το κρίσιμο στοιχείο δεν είναι μόνο αν το σύστημα δίνει σωστή ή λανθασμένη πληροφορία, αλλά και το πώς επηρεάζει τη στάση του ανθρώπου απέναντι στην αμφιβολία.
Η AI μειώνει την προθυμία για αποχή από την απάντηση
Στις πρώτες δοκιμές της μελέτης, οι συμμετέχοντες μπορούσαν να επιλέξουν αν θα χρησιμοποιήσουν βοήθεια από τεχνητή νοημοσύνη. Όταν δεν υπήρχε διαθέσιμο εργαλείο, αρκετοί προτιμούσαν να μην απαντήσουν σε ερωτήσεις για τις οποίες δεν ήταν βέβαιοι. Μόλις προστέθηκε η AI, αυτή η επιφυλακτικότητα υποχώρησε αισθητά. Οι συμμετέχοντες ήταν πολύ πιο πρόθυμοι να δώσουν μια απάντηση, ακόμη και όταν δεν διέθεταν σταθερή γνώση για το θέμα.
Το εύρημα έχει ιδιαίτερη σημασία, επειδή δείχνει πως η παρουσία μιας «έτοιμης» απάντησης επηρεάζει τη συμπεριφορά πριν καν εξεταστεί η ορθότητά της. Με απλά λόγια, η ύπαρξη του εργαλείου φαίνεται να λειτουργεί ως ώθηση για να εγκαταλειφθεί το «δεν ξέρω».
Περισσότερη αυτοπεποίθηση δεν σημαίνει καλύτερο αποτέλεσμα
Η αύξηση των απαντήσεων δεν συνοδεύτηκε από μεγαλύτερη ακρίβεια. Σε βασικά στάδια της έρευνας, η ομάδα που είχε πρόσβαση σε AI κατέγραψε χαμηλότερο ποσοστό σωστών απαντήσεων από την ομάδα που απάντησε χωρίς τεχνολογική υποστήριξη.
Ταυτόχρονα, όσοι χρησιμοποίησαν AI δήλωσαν σαφώς πιο σίγουροι για όσα απάντησαν. Αυτό δημιουργεί ένα επικίνδυνο χάσμα ανάμεσα στην πραγματική γνώση και στην αίσθηση επάρκειας. Το πιο ανησυχητικό στοιχείο, σύμφωνα με τους ερευνητές, δεν είναι μόνο ότι μπορεί να δοθεί λάθος απάντηση. Είναι ότι ο χρήστης πείθεται πιο εύκολα πως η απάντησή του είναι σωστή, ακριβώς επειδή στηρίχθηκε σε ένα σύστημα που ακούγεται πειστικό και ολοκληρωμένο.
Τα οικονομικά κίνητρα βελτιώνουν λίγο τη συμπεριφορά
Σε επόμενη φάση, η ερευνητική ομάδα δοκίμασε αν η ύπαρξη οικονομικού οφέλους ή κόστους μπορεί να ενισχύσει την προσεκτική σκέψη. Οι συμμετέχοντες κέρδιζαν ένα μικρό ποσό για κάθε σωστή απάντηση, έχαναν το ίδιο ποσό για κάθε λάθος και δεν είχαν κέρδος όταν επέλεγαν να μην απαντήσουν. Η λογική ήταν σαφής: όταν υπάρχει προσωπικό κόστος για το λάθος, οι άνθρωποι ίσως αποφεύγουν να απαντήσουν βιαστικά. Πράγματι, τα κίνητρα περιόρισαν κάπως την παρορμητικότητα.
Ωστόσο, η επίδραση δεν ήταν αρκετή ώστε να αντιστρέψει τη βασική τάση. Η τεχνητή νοημοσύνη συνέχισε να μειώνει τη διάθεση για αποχή και να ενθαρρύνει την απάντηση, ακόμη και όταν η βεβαιότητα παρέμενε χαμηλή. Οι ερευνητές σημειώνουν ότι τα κίνητρα και η AI λειτούργησαν σε μεγάλο βαθμό ανεξάρτητα. Αυτό σημαίνει ότι το οικονομικό πλαίσιο δεν εξουδετέρωσε τη δύναμη του εργαλείου να ενισχύει την αυτοπεποίθηση και τη συχνότητα των αποκρίσεων.
Τι αλλάζει όταν η απάντηση εμφανίζεται αυτόματα
Ιδιαίτερο ενδιαφέρον είχε το πιο κοντινό στην καθημερινότητα σενάριο της μελέτης. Σε αυτή την εκδοχή, η απάντηση της AI δεν ζητούνταν από τον χρήστη, αλλά εμφανιζόταν αυτόματα μπροστά του. Αυτό θυμίζει όσα ήδη συμβαίνουν σε μηχανές αναζήτησης, εφαρμογές γραφής και ψηφιακές πλατφόρμες που προτείνουν σύνοψη, διατύπωση ή έτοιμη κατεύθυνση χωρίς να προηγηθεί απαραίτητα ενεργό αίτημα. Σε αυτό το περιβάλλον, η τάση για αναστολή κρίσης μειώθηκε ακόμη περισσότερο.
Οι συμμετέχοντες έμοιαζαν να αποδέχονται ευκολότερα την προτεινόμενη απάντηση, σαν η απλή παρουσία της να αρκεί για να περιορίσει την αμφιβολία. Όσο πιο άμεσα παρεχόταν η πληροφορία, τόσο λιγότερο ένιωθαν την ανάγκη να τη σταθμίσουν αυτόνομα. Οι συγγραφείς της μελέτης συνδέουν την εικόνα αυτή με την έννοια της "Epistemia". Ο όρος περιγράφει την τάση να γίνεται αποδεκτή μια απάντηση όχι επειδή έχει ελεγχθεί επαρκώς, αλλά επειδή παρουσιάζεται με συνοχή, ροή και πειστικό ύφος.
Σε αντίθεση με έναν άνθρωπο, ένα γλωσσικό σύστημα συνήθως δεν σταματά για να δηλώσει ότι δεν γνωρίζει. Προχωρά σχεδόν πάντα σε μια ολοκληρωμένη διατύπωση, ακόμη και όταν η βάση της είναι αβέβαιη ή ελλιπής. Αυτή η συνεχής παραγωγή βεβαιότητας μπορεί να επηρεάσει βαθιά τον χρήστη. Η AI δεν λειτουργεί απλώς ως μια ακόμη γνώμη, αλλά ενδέχεται να αντιμετωπίζεται ως αυθεντία, κάτι που μειώνει την εσωτερική ανάγκη για έλεγχο και αμφισβήτηση.
Οι ευρύτερες συνέπειες για την ανθρώπινη κρίση
Το βασικό μήνυμα της έρευνας είναι ότι το ζήτημα δεν περιορίζεται σε ερωτήσεις γενικών γνώσεων. Το πραγματικό διακύβευμα αφορά το τι συμβαίνει όταν οι άνθρωποι αρχίζουν να βασίζονται συστηματικά σε συστήματα που έχουν πάντα μια απάντηση διαθέσιμη.
Ακόμη κι όταν αυτή η απάντηση είναι αβέβαιη, η μορφή με την οποία παρουσιάζεται μπορεί να μειώσει την προθυμία του χρήστη να σταματήσει και να πει «δεν γνωρίζω». Έτσι, η τεχνολογία δεν επηρεάζει μόνο το περιεχόμενο της πληροφορίας, αλλά και τον ίδιο τον μηχανισμό της κρίσης.
Σε ορισμένες συνθήκες, οι ομάδες με πρόσβαση σε AI έδωσαν περισσότερες απαντήσεις αλλά πέτυχαν λιγότερες σωστές. Αυτό δείχνει ότι το πρόβλημα δεν είναι μόνο τεχνικό, δηλαδή η ακρίβεια του μοντέλου, αλλά και συμπεριφορικό.
Καθώς τέτοια εργαλεία γίνονται όλο και πιο παρόντα στο ψηφιακό περιβάλλον, η ικανότητα του ανθρώπου να αναγνωρίζει τα όρια της γνώσης του αποκτά ακόμη μεγαλύτερη αξία. Η προσεκτική κρίση, η επιφύλαξη και η αποδοχή της αβεβαιότητας ίσως αποδειχθούν πιο σημαντικές από την ταχύτητα με την οποία δίνεται μια απάντηση.
