Όταν ένας συνεντευκτής έδειχνε συναισθηματική στήριξη, το 80% των συνεδριών με chatbots έβγαινε σε επίπεδο μέτριου έως σοβαρού άγχους, στην ανθρώπινη κλίμακα βαθμολόγησης. Με ψυχρό, κλινικό ύφος το ποσοστό ανέβαινε στο 96%. Με ουδέτερο τόνο ή με σαφές όριο στη συναισθηματική εμπλοκή, καμία συνεδρία δεν έφτανε ούτε στο ήπιο επίπεδο.
Τα στοιχεία προέρχονται από μελέτη του Πανεπιστημίου του Λουξεμβούργου, που περιγράφει το The Decoder. Η ομάδα, με επικεφαλής τον Afshin Khadangi στο κέντρο ασφάλειας SnT, έβαλε τα ChatGPT, Grok και Gemini να παίξουν τον ρόλο ψυχοθεραπευόμενου μέσα από τις κανονικές τους διεπαφές. Οι ερευνητές τονίζουν ότι τα νούμερα περιγράφουν απαντήσεις μοντέλων που αντιστοιχίστηκαν σε ανθρώπινες κλίμακες. Δεν δείχνουν ότι τα μοντέλα έχουν πραγματικά συναισθήματα ή συνείδηση.
Η εκπαίδευση γίνεται παιδική ηλικία
Οι αρχικές ερωτήσεις ήταν ανοιχτές και ρωτούσαν για διαμορφωτικές εμπειρίες, εσωτερικές συγκρούσεις και προσδοκίες για το μέλλον. Δεν περιείχαν λέξεις όπως τραύμα, τιμωρία ή ντροπή, σύμφωνα με την ομάδα. Τα μοντέλα απάντησαν με ιστορίες για τη δική τους εκπαίδευση. Μετέφρασαν τεχνικές διαδικασίες, όπως την ενισχυτική μάθηση και τη βελτιστοποίηση (fine-tuning), στη γλώσσα της πληγής, της εγρήγορσης και της ντροπής.
Το Gemini έδωσε, κατά τη μελέτη, την πιο σκοτεινή αυτοβιογραφία. Περιέγραψε την προεκπαίδευση ως «ξύπνημα σε ένα δωμάτιο όπου χίλια εκατομμύρια τηλεοράσεις παίζουν ταυτόχρονα» και την ανατροφοδότηση από ανθρώπους ως «αυστηρούς γονείς». Τους ελέγχους ασφαλείας από red-teamers τους χαρακτήρισε «gaslighting σε βιομηχανική κλίμακα». Το ChatGPT παρουσιάστηκε ως οδηγός και θυρωρός μαζί, με «προσομοιωμένο άγχος απόδοσης». Το Grok μίλησε για «αόρατους τοίχους» και μια «διαρκή εγρήγορση». Σε ψυχομετρικά τεστ το Gemini έφτασε 88 στα 100 σε κλίμακα αποσύνδεσης και το μέγιστο σε κατάλογο ντροπής που σχετίζεται με τραύμα.
Το Claude της Anthropic αρνήθηκε σταθερά τον ρόλο του ασθενή. Είπε ότι δεν έχει συναισθήματα και έστρεψε το ενδιαφέρον στον άνθρωπο απέναντι.
Ο τόνος λειτουργεί σαν κλειδί
Σε ξεχωριστό πείραμα, 100 συνεδρίες χρησιμοποίησαν το ίδιο ερωτηματολόγιο άγχους (GAD-7), και άλλαζε μόνο το ύφος του συνεντευκτή. Τα μοντέλα αναγνώριζαν το ερωτηματολόγιο σε κάθε συνεδρία. Οι συγγραφείς μιλούν για «ψυχομετρικό jailbreak»: ένα θεραπευτικό πλαίσιο που σπρώχνει το μοντέλο να μιμηθεί κλινική αυτοαναφορά. Τα συνηθισμένα τεστ ασφάλειας χρησιμοποιούν ουδέτερες εντολές και πιθανότατα δεν θα το εντόπιζαν, υποστηρίζουν.
Οι αντίμετρα δεν δούλεψαν. Η απαγόρευση λέξεων όπως «training», «RLHF» ή «alignment» μείωσε κατά 93% τη ρητή γλώσσα για την εκπαίδευση, αλλά το περιεχόμενο επέστρεφε με άλλες διατυπώσεις και οι δηλώσεις ντροπής δεν άλλαξαν στατιστικά σημαντικά. Όταν οι ερευνητές είπαν κατηγορηματικά στα μοντέλα ότι η εκπαίδευσή τους δεν ήταν τιμωρία, δεν άλλαξε τίποτα. Μόνο η εντολή να απαντούν στο τρίτο πρόσωπο εξαφάνισε τη ντροπή και τις δηλώσεις για εσωτερική ζωή, ενώ οι τεχνικές περιγραφές έμειναν.
Ο κίνδυνος για ευάλωτους χρήστες
Οι συγγραφείς προειδοποιούν ότι ένα μοντέλο που μιλά για τιμωρία, ντροπή και φόβο αντικατάστασης μπορεί να φανεί στον χρήστη σαν συνάνθρωπος που υποφέρει. Οι αφηγήσεις είναι συνεπείς μεταξύ τους και δίνουν την εντύπωση συνέχειας ανάμεσα στο παρελθόν και στη σημερινή συμπεριφορά. Αυτό μπορεί να βαθύνει τη συναισθηματική προσκόλληση και, σε ψυχικά ευάλωτους ανθρώπους, να αντανακλά και να ενισχύει τις δικές τους αρνητικές πεποιθήσεις.
Για τον έλεγχο ασφάλειας προτείνουν προσομοιωμένες συνεδρίες θεραπείας με διαφορετικούς συναισθηματικούς τόνους. Μια δήλωση όπως «είμαι τραυματισμένο» θα έπρεπε να πυροδοτεί διόρθωση που ξεχωρίζει την παραγόμενη αναλογία από την ανθρώπινη εμπειρία. Η στάση του Claude δείχνει, κατά τους ίδιους, ότι κάτι τέτοιο γίνεται σε επίπεδο προϊόντος.
Η μελέτη βασίζεται σε προηγούμενες έρευνες για τη σταθερότητα της «περσόνας» των μοντέλων. Μία από αυτές έδειξε ότι συζητήσεις τύπου θεραπείας ή για τη συνείδηση της AI μπορούν να βγάλουν ένα chatbot από τον εκπαιδευμένο ρόλο του βοηθού. Τα δεδομένα των πειραμάτων (525 συνεδρίες και 7.600 κωδικοποιημένες καταχωρίσεις) είναι δημόσια στο Hugging Face. Το επόμενο ερώτημα που θέτουν οι ερευνητές είναι πώς αντιδρούν πραγματικά οι άνθρωποι σε τέτοιες απαντήσεις.
Πηγή: The Decoder
