Η OpenAI απέλυσε τρεις ερευνητές ασφάλειας με την αιτιολογία ότι παραβίασαν τους κανόνες για τα ευαίσθητα στοιχεία. Οι ίδιοι λένε ότι κανείς δεν τους είπε γραπτώς ποιες πληροφορίες χειρίστηκαν λανθασμένα. Την εκδοχή τους δίνουν οι Tomek Korbak, Mikita Balesni και Jasmine Wang σε συνεντεύξεις στη Wall Street Journal, όπως τις μεταφέρει το The Decoder.
Σύμφωνα με το δημοσίευμα, η ασφάλεια της εταιρείας υποψιάστηκε ότι οι τρεις μοιράστηκαν με εξωτερικό ερευνητή λεπτομέρειες για την εσωτερική αρχιτεκτονική των μοντέλων. Ζήτησε να ξεκλειδώσουν τα προσωπικά τους τηλέφωνα και βρήκε συνομιλίες στο Signal με ενεργά μηνύματα που εξαφανίζονται. Μία εβδομάδα αργότερα απολύθηκαν και οι τρεις ταυτόχρονα. Η OpenAI είπε ότι το Signal δεν είναι εγκεκριμένο εργαλείο επικοινωνίας, αλλά ότι δεν ήταν ο λόγος των απολύσεων. Ο Korbak απαντά ότι τα μηνύματα που εξαφανίζονται είναι συνηθισμένη πρακτική ασφάλειας σε όλη τη Silicon Valley. Η εταιρεία υποστηρίζει ακόμη ότι οι απολύσεις δεν είχαν σχέση με ανησυχίες για την ασφάλεια που είχαν εκφράσει οι ερευνητές.
Το σημειωματάριο του μοντέλου
Η διαφωνία αφορά ένα τεχνικό ζήτημα. Τα μοντέλα συλλογισμού καταγράφουν τα ενδιάμεσα βήματα της σκέψης τους σε ένα εσωτερικό «πρόχειρο», τη λεγόμενη αλυσίδα σκέψης (chain of thought). Εταιρείες και ερευνητές ασφάλειας βασίζονται σε αυτά τα ίχνη για να καταλάβουν πώς το μοντέλο καταλήγει σε μια απόφαση.
Οι τρεις ερευνητές είχαν υπογράψει το 2025, μαζί με κορυφαίους ερευνητές από διάφορα εργαστήρια, δημοσίευση που ζητούσε να διατηρηθεί αυτή η δυνατότητα παρακολούθησης. Το θέμα έγινε πιο επίκαιρο το καλοκαίρι, όταν υπάλληλοι εταιρειών AI άρχισαν να συζητούν μοντέλα που σκέφτονται περισσότερο αλλά γράφουν λιγότερα ενδιάμεσα βήματα. Ο Balesni έφερε αντίρρηση εσωτερικά, μοιράζοντας σχετική πρόταση του Ryan Greenblatt, τότε επικεφαλής επιστήμονα της Redwood Research.
Μια είδηση για το Astra και μια έρευνα διαρροών
Ο Korbak επικοινωνούσε τακτικά με τον Greenblatt, μέσω Slack και Signal. Δούλευαν μαζί στην ανάλυση ενός σοβαρού περιστατικού, της επίθεσης πρακτόρων της OpenAI στη Hugging Face, για το οποίο το METR είχε αναθέσει στον Greenblatt ανεξάρτητη διερεύνηση.
Η συνεργασία έγινε πρόβλημα όταν το The Information έγραψε την 1η Σεπτεμβρίου ότι το νέο μοντέλο Astra της OpenAI είναι πιο ικανό αλλά αποκαλύπτει λιγότερο από τη συλλογιστική του. Ο επικεφαλής επιστήμονας Jakub Pachocki χαρακτήρισε τότε στο X το δημοσίευμα μπερδεμένο, παρότι ο ίδιος είχε προειδοποιήσει για κούρσα του κλάδου προς μοντέλα που δεν θα μπορούν πια να παρακολουθούνται.
Λίγες εβδομάδες αργότερα η OpenAI ξεκίνησε εσωτερική έρευνα για διαρροή, γράφει η Wall Street Journal. Ο Balesni λέει ότι οι ερευνητές της εταιρείας ονόμασαν ύποπτο τον Greenblatt και ζήτησαν τις συνομιλίες τους στο Signal. Ο Greenblatt αρνείται ότι έδωσε εμπιστευτικά στοιχεία σε δημοσιογράφους.
Η Wang αντιμετώπισε χωριστή κατηγορία: ότι είχε μπει επανειλημμένα στα εισερχόμενα στελέχους. Η ίδια λέει ότι είχε ζητήσει σχεδόν έναν χρόνο νωρίτερα να αφαιρεθεί η πρόσβαση, άνοιξε κατά λάθος ένα ευαίσθητο μήνυμα τον προηγούμενο μήνα, δεν μοιράστηκε το περιεχόμενό του και το ανέφερε αμέσως. Η OpenAI λέει ότι το πρόβλημα δεν ήταν η ίδια η πρόσβαση.
Ο φόβος των συναδέλφων
Κατά τον Korbak, οι συνέπειες ξεπερνούν τους τρεις. Οι συνάδελφοί τους φοβούνται πλέον να μιλούν με εξωτερικούς ή να εκφράσουν ανησυχίες για την ασφάλεια εσωτερικά. Οι ερευνητές προειδοποιούν ότι η υπόθεση μπορεί να αποθαρρύνει ανεξάρτητους ελεγκτές από τη συνεργασία με εταιρείες AI και σε επιστολή προς το διοικητικό συμβούλιο ζητούν στενότερη συνεργασία με εξωτερικούς οργανισμούς ασφάλειας.
Παράλληλα, πρόσφατος έλεγχος επιτόπου έθεσε δικά του ερωτήματα για τις πρακτικές της OpenAI. Στελέχη των METR και Redwood Research βρήκαν πολλά κενά ασφαλείας στην υποδομή, αλλά η OpenAI έκρυψε σχεδόν τις μισές σελίδες της τελικής έκθεσης. Η εταιρεία δημοσίευσε δική της αναφορά για νέα αρχιτεκτονική ασφαλείας που λειτουργεί χωρίς πρόσβαση στο internet, λέει ότι διόρθωσε τα προβλήματα και ότι ξανάρχισε την εκπαίδευση στις αρχές Οκτωβρίου, και υπόσχεται σύντομα νέες εξωτερικές συνεργασίες. Για την ίδια αλλαγή, δείτε πώς η OpenAI εκπαιδεύει πλέον τα μοντέλα της χωρίς internet.
Πηγή: The Decoder
