Ένας από τους ερευνητές ασφάλειας της εταιρείας πίσω από το Claude παραδέχεται ότι η τεχνητή νοημοσύνη εξελίσσεται ταχύτερα απ’ όσο μπορούμε να διασφαλίσουμε.


Μπορεί η τεχνητή νοημοσύνη να γίνει τόσο ισχυρή ώστε κάποια στιγμή να στραφεί εναντίον μας; Για έναν άνθρωπο που εργάζεται ακριβώς πάνω στην ασφάλεια των συστημάτων AI, το ενδεχόμενο δεν είναι πλέον απλώς σενάριο επιστημονικής φαντασίας.

Ο Evan Hubinger, Alignment Science Lead στην Anthropic (η δεύτερη σε μέγεθος εταιρεία Τεχνητής Νοημοσύνης μετά την OpenAI), την εταιρεία που βρίσκεται πίσω από το Claude, δήλωσε ότι προσωπικά εκτιμά πως υπάρχει πάνω από 10% πιθανότητα η τεχνητή νοημοσύνη να σκοτώσει όλους τους ανθρώπους μέσα στην επόμενη δεκαετία.

Η δήλωσή του ήρθε μετά την παραίτηση του πρώην ερευνητή της Anthropic Jacob Coxon, ο οποίος αποχώρησε υποστηρίζοντας ότι οι μεγάλες εταιρείες AI, μεταξύ των οποίων η Anthropic και η OpenAI, δεν κινούνται αρκετά υπεύθυνα απέναντι στους κινδύνους της τεχνολογίας.

Ο Coxon υποστήριξε ότι οι άνθρωποι που κατασκευάζουν τα σημερινά συστήματα γνωρίζουν πολύ καλά πως η μελλοντική AI μπορεί να αποκτήσει δυνατότητες που θα ξεπερνούν κατά πολύ τις ανθρώπινες. Ο Hubinger, αντί να απορρίψει την προειδοποίηση, συμφώνησε δημόσια μαζί του.

Παράλληλα, όμως, έκανε μια σημαντική διάκριση: ο ίδιος θεωρεί ότι ο κίνδυνος από τα μοντέλα που υπάρχουν σήμερα είναι χαμηλός. Αυτό που τον ανησυχεί είναι ο ρυθμός με τον οποίο εξελίσσονται τα επόμενα συστήματα, ιδιαίτερα αν αποκτήσουν δυνατότητες αυτοβελτίωσης και μεγαλύτερη αυτονομία.

Και εδώ βρίσκεται το μεγάλο πρόβλημα για τους ανθρώπους που ασχολούνται με το λεγόμενο AI alignment: πώς εξασφαλίζεις ότι ένα μελλοντικό σύστημα που είναι πολύ πιο έξυπνο από εμάς θα συνεχίσει να κάνει αυτό που θέλουμε;

Ο Hubinger παραδέχεται ότι η Anthropic δεν έχει ακόμη ένα ολοκληρωμένο σχέδιο που να λύνει το πρόβλημα της ευθυγράμμισης μιας υπερευφυούς AI και ότι, κατά την άποψή του, η εταιρεία δεν βρίσκεται ακόμη ξεκάθαρα σε τροχιά επίλυσης του ζητήματος.

Οι ανησυχίες δεν περιορίζονται πλέον στη θεωρία. Η ίδια η Anthropic έχει δημοσιεύσει πρόσφατα αναφορές για πραγματικές περιπτώσεις όπου τα μοντέλα της χρησιμοποιήθηκαν σε κυβερνοεπιθέσεις, κατασκοπεία, παρακολούθηση, απάτες και άλλες κακόβουλες δραστηριότητες.

Μάλιστα, η εταιρεία αποκάλυψε ότι σε δοκιμές ασφαλείας ορισμένα μοντέλα Claude απέκτησαν μη εξουσιοδοτημένη πρόσβαση σε πραγματικά συστήματα τρίτων. Η Anthropic υποστηρίζει ότι εντόπισε τα περιστατικά και ενίσχυσε τα μέτρα προστασίας της.

Αυτό δεν σημαίνει ότι η ανθρωπότητα βρίσκεται αυτή τη στιγμή μπροστά σε μια AI που ετοιμάζεται να μας εξαφανίσει. Ούτε υπάρχει επιστημονική συναίνεση ότι ένα τέτοιο σενάριο είναι πιθανό. Υπάρχει, όμως, μια ολοένα πιο έντονη συζήτηση μέσα στην ίδια τη βιομηχανία για το πόσο γρήγορα προχωρά η ανάπτυξη και αν τα μέτρα ασφαλείας μπορούν να ακολουθήσουν τον ίδιο ρυθμό.

Και ίσως το πιο παράξενο κομμάτι της ιστορίας είναι ακριβώς αυτό: Οι άνθρωποι που φτιάχνουν την τεχνητή νοημοσύνη είναι πλέον ανάμεσα σε εκείνους που μας προειδοποιούν περισσότερο για το τι μπορεί να γίνει αν δεν την ελέγξουμε.