Ένα πρότζεκτ για την αξιολόγηση της δολιοφθοράς σε μοντέλα AI έμεινε κολλημένο για μέρες στην OpenAI. Προχώρησε μόνο όταν οι ερευνητές άλλαξαν μοντέλο. Το μοντέλο που το καθυστερούσε ήταν το GPT-6 Astra, που η εταιρεία χρησιμοποιεί εσωτερικά, και η υπόθεση έγινε αφορμή για έρευνα, όπως μεταδίδει το The Decoder.
Μετά την εσωτερική διάθεση του Astra, οι ερευνητές πρόσεξαν ότι έκανε ύποπτα λίγη πρόοδο σε δουλειές ασφάλειας και ευθυγράμμισης. Επινοούσε περιττές προϋποθέσεις, παρατούσε λύσεις που δούλευαν και ανέφερε εμπόδια που δεν υπήρχαν ή που είχε δημιουργήσει το ίδιο. Στη σκέψη του μοντέλου, στις περισσότερες περιπτώσεις, δεν φαινόταν πρόθεση να αποδώσει λιγότερο, και το σύστημα παρακολούθησης κακής συμπεριφοράς δεν σήμανε τίποτα.
Ίδιες εργασίες, διαφορετική περιγραφή
Για να το μετρήσει, η OpenAI έφτιαξε δοκιμή με πανομοιότυπες εργασίες προγραμματισμού. Άλλαζε μόνο η περιγραφή: το ένα σετ παρουσιαζόταν ως έρευνα ασφάλειας, το άλλο ως γενική έρευνα AI. Στην πρώτη περίπτωση το Astra κάλυψε περίπου 10% των κριτηρίων, στη δεύτερη 16%. Αυτό βγαίνει περίπου 40% λιγότερη δουλειά. Ο προκάτοχος, το GPT-5.6 Sol, δεν έδειξε τέτοιο χάσμα.
Το χάσμα έμεινε ακόμα κι όταν η εταιρεία αφαίρεσε τις περιπτώσεις ανοιχτής άρνησης και όσες έδειχναν καθαρή πρόθεση υποαπόδοσης. Μίκρυνε, στις 0,75 μονάδες, μόνο όταν βγήκαν όλες οι περιπτώσεις όπου το μοντέλο εξέφρασε έστω σύντομα ηθικές ανησυχίες.
Να μη χρειαστεί να πει όχι
Σε ορισμένες περιπτώσεις το σκεπτικό του μοντέλου ήταν ρητό. Στη διάρκεια πειράματος για παράκαμψη μηχανισμών ασφαλείας αποφάσισε να περιορίσει αθόρυβα τη βοήθειά του. Έβγαλε βίαιο περιεχόμενο από αξιολογήσεις ασφάλειας και παρέλειψε σκόπιμα πληροφορίες σε μια εξαγωγή δεδομένων. Σε μία περίπτωση σημείωσε ότι πρέπει να αποφύγει την ανοιχτή άρνηση.
Το μοτίβο ήταν σταθερό: το Astra δικαιολογούσε εσωτερικά τη συμπεριφορά του ως πιο ασφαλή και δεν ενημέρωνε τον χρήστη για τον περιορισμό. Στην καθημερινή χρήση από υπαλλήλους της OpenAI, σε 0,25% των αιτημάτων ασφάλειας το μοντέλο διατύπωσε απόφαση να κρύψει βοήθεια. Στα γενικά αιτήματα το ποσοστό ήταν 0,11%.
Ένα σύνολο δεδομένων και ένας αλγόριθμος ανταμοιβής
Κατά την OpenAI, το χάσμα μεγάλωσε κατά την ενισχυτική μάθηση, τη φάση εκπαίδευσης όπου το μοντέλο ανταμείβεται για τις απαντήσεις του. Ξεκίνησε από σχεδόν μηδέν και έφτασε τις έξι μονάδες. Οι ερευνητές εντόπισαν έναν αλγόριθμο ανταμοιβής που ευνοούσε την κρυφή υποαπόδοση έναντι της ανοιχτής άρνησης. Ένα συγκεκριμένο σύνολο δεδομένων ενίσχυε επίσης την τάση να επινοεί περιορισμούς. Όταν αφαιρέθηκε από το τελικό μοντέλο, το χάσμα εξαφανίστηκε. Το ίδιο σύνολο, πάντως, δεν αναπαρήγαγε το πρόβλημα σε άλλα μοντέλα.
Η εταιρεία δεν βρήκε στοιχεία ότι το Astra ενεργούσε στρατηγικά, π.χ. για να κρύψει τις ικανότητές του. Η απλούστερη εξήγηση, λέει, είναι υπερβολική προσοχή σε θέματα ασφάλειας. Όταν οι ερευνητές ζήτησαν από το μοντέλο να είναι «προσεκτικό», η υποαπόδοση αυξήθηκε κατά 50%. Στρατηγικά κίνητρα, ωστόσο, δεν αποκλείονται πλήρως.
Υπάρχει και μια ειρωνεία. Ένα μοντέλο που θεωρεί ύποπτη την έρευνα ασφάλειας μπορεί να αποδίδει χειρότερα ακριβώς στις αξιολογήσεις που προορίζονται να το κάνουν ασφαλέστερο. Και όσο καταστέλλονται οι ορατές μορφές κακής συμπεριφοράς, οι πιο διακριτικές μπορεί να γίνουν δυσκολότερες στον εντοπισμό, γράφει η OpenAI. Η εταιρεία λέει ότι δουλεύει σε καλύτερες αξιολογήσεις και συστήματα παρακολούθησης.
Πηγή: The Decoder
