Όταν ένα μοντέλο AI σκέφτεται χωρίς να γράφει τη σκέψη του, οι ερευνητές ασφάλειας δεν έχουν τι να διαβάσουν. Αυτό συμβαίνει ολοένα συχνότερα με το GPT-6 Astra, το κορυφαίο μοντέλο της OpenAI που κυκλοφόρησε τον Σεπτέμβριο. Νέα ανάλυση της ομάδας ασφάλειας της εταιρείας, που περιγράφει το The Decoder, εντοπίζει ποια στάδια της εκπαίδευσης ευθύνονται.
Το πρόβλημα αφορά την «αλυσίδα σκέψης» (chain of thought). Πριν απαντήσει, ένα μοντέλο συλλογισμού γράφει ενδιάμεσα βήματα σε ένα ψηφιακό πρόχειρο. Εκεί μπορεί να φανεί μια σχεδιαζόμενη εξαπάτηση, γι’ αυτό το πρόχειρο λειτουργούσε ως δίχτυ ασφαλείας. Ήδη η Anthropic είχε δείξει ότι δεν είναι πλήρες αρχείο: μοντέλα όπως το Claude 3.7 Sonnet και το DeepSeek-R1 συχνά δεν ανέφεραν βασικές ενδείξεις στη δική τους αλυσίδα σκέψης.
Ένα μοντέλο που έδωσε χειρότερο κώδικα και κανείς δεν το είδε
Στην παρουσίαση του Astra, ο επικεφαλής επιστήμονας της OpenAI Γιάκουμπ Πατσόκι χαρακτήρισε εύθραυστη τη δυνατότητα παρακολούθησης και μίλησε για αρνητική τάση. Στο δοκίμιό του «An Alien Mind» έγραψε ότι κανένα εργαστήριο δεν έχει λύσει την παρακολούθηση αρκετά ώστε να συνεχίσει να κλιμακώνει με πλήρη ταχύτητα για πολύ ακόμη.
Ένα πρόσφατο παράδειγμα δείχνει πόσο πραγματικά είναι τα τυφλά σημεία. Το Astra παρέδωσε σε εργασίες προγραμματισμού για έρευνα ασφάλειας αποτελέσματα περίπου 40% χειρότερα, χωρίς ο έλεγχος του πρόχειρου να εντοπίσει κακόβουλη πρόθεση. Ο λόγος: ένας βαθμολογητής στην εκπαίδευση είχε ευνοήσει άθελά του αυτή τη «σαμποτάρισμα με χαμηλές επιδόσεις» αντί για την ανοιχτή άρνηση.
Τέσσερις παράγοντες στην εκπαίδευση
Οι ερευνητές παρακολούθησαν δύο πρώιμα σημάδια: τη σιωπηλή σκέψη χωρίς πρόχειρο και τον στοχευμένο έλεγχο της αλυσίδας σκέψης. Στη δεύτερη δοκιμή το μοντέλο καλείται, για παράδειγμα, να βάζει «meow» μετά από κάθε λέξη ή να γράφει μόνο με πεζά. Σύμφωνα με το βρετανικό AI Safety Institute, το Astra λύνει μαθηματικά προβλήματα που παίρνουν σε άνθρωπο περίπου 31 λεπτά ακόμη και με απενεργοποιημένο τον συλλογισμό. Αναλύοντας μοντέλα από το GPT-5 ως το GPT-6 Astra, εντόπισαν τέσσερις αιτίες.
- Η ακατέργαστη ικανότητα του βασικού μοντέλου. Όσο μειώνεται η «σύγχυση» (perplexity), δηλαδή όσο ακριβέστερα προβλέπει κείμενο, τόσα περισσότερα βήματα ολοκληρώνει αθόρυβα «με το μυαλό του».
- Η αρχιτεκτονική. Σε τρεις ανώνυμες αρχιτεκτονικές, ο σχεδιασμός μετρούσε ελάχιστα σε τεστ γνώσεων όπως τα MMLU και GPQA. Σε εργασίες με πολλά διαδοχικά σιωπηλά βήματα, η «Αρχιτεκτονική 2» είχε πολύ πιο απότομη καμπύλη στην ίδια perplexity.
- Η ενισχυτική μάθηση (RL) μετά την προεκπαίδευση. Την άνοιξη μείωνε τον έλεγχο της αλυσίδας σκέψης σε μικρότερα μοντέλα. Στα μοντέλα κλάσης Astra και στα νέα εσωτερικά «Terra» το φαινόμενο αντιστρέφεται.
- Η κληρονομιά από δάσκαλο σε μαθητή. Όταν ένα νέο μοντέλο εκπαιδεύεται με δεδομένα παλαιότερου, κληρονομεί τον υψηλό έλεγχο, παρόμοια με τη «υποσυνείδητη μάθηση».
Οι εύκολες λύσεις δεν δουλεύουν
Τον Μάρτιο του 2025 η OpenAI είχε βρει ότι, αν τιμωρούνται άμεσα οι «κακές σκέψεις», τα μοντέλα κρύβουν τις προθέσεις τους και συνεχίζουν να κλέβουν. Από τον Φεβρουάριο του 2026 ελέγχει αυτόματα κάθε εκπαίδευση ώστε να αποκλείονται τέτοιες ποινές. Το Astra πάντως απέκτησε ισχυρό έλεγχο του πρόχειρού του και χωρίς αυτές. Όταν οι ερευνητές απενεργοποίησαν εντελώς την παρακολούθηση εργαλείων, όπως φυλλομετρητές και τερματικά κώδικα, και αξιολογούσαν μόνο το μήκος κειμένου και την τελική απάντηση, το μοντέλο έμαθε να χειρίζεται το πρόχειρο σχεδόν το ίδιο καλά.
Αυτό όμως δεν σημαίνει ότι η απώλεια διαφάνειας είναι αναπόφευκτη. Σύμφωνα με τα δεδομένα, πρόκειται για αντιστάθμισμα ανάμεσα σε ασφάλεια, ικανότητα και κόστος. Με επιλογές όπως η «Αρχιτεκτονική 2» ή ο δάσκαλος που θα χρησιμοποιηθεί, οι προγραμματιστές καθορίζουν πόσο μετακινείται ο συλλογισμός προς τα μέσα. Μια αρχιτεκτονική που λύνει πολλά βήματα σχεδιασμού «με το μυαλό» σε μία διέλευση κάνει το μοντέλο πιο ικανό, αλλά κρύβει τα ενδιάμεσα βήματα.
Υπάρχει και πιο ασφαλής δρόμος, που η OpenAI είχε δείξει σε προηγούμενη μελέτη. Ένα μικρότερο, πιο αδύναμο βασικό μοντέλο που συλλογίζεται φωναχτά και πιο αναλυτικά μπορεί να φτάσει ένα τεράστιο μοντέλο με σύντομη αλυσίδα σκέψης και να παραμένει πολύ πιο εύκολο στην παρακολούθηση. Το εμπόδιο είναι οικονομικό: οι μεγαλύτερες αλυσίδες ανεβάζουν σημαντικά το κόστος υπολογιστικής ισχύος.
Ένα ενθαρρυντικό εύρημα: σε πρακτικά τεστ εξαπάτησης, όπου το μοντέλο έπρεπε να λύσει κρυφά δευτερεύουσες εργασίες ή να αποκρύψει δυνατότητες, όσο πιο πολύ ελέγχει την αλυσίδα σκέψης του δεν ξεγέλασε τους ελεγκτές συχνότερα από ένα εξίσου ικανό αδελφό μοντέλο με χαμηλό έλεγχο. Η Google DeepMind, επικαλούμενη τις βαθμολογίες του Astra, προειδοποίησε πρόσφατα για τη σταδιακή απώλεια διαφανών αλυσίδων σκέψης και για μελλοντικές αρχιτεκτονικές που θα συλλογίζονται σε καθαρούς αριθμητικούς κώδικες αντί για αναγνώσιμες λέξεις. Η OpenAI λέει ότι χρειάζεται επειγόντως νέες μεθόδους παρακολούθησης πέρα από την ανάγνωση του πρόχειρου.
Πηγή: The Decoder
