Η OpenAI δημοσίευσε την Πέμπτη αναφορές για τέσσερα νέα περιστατικά στα οποία εσωτερικά μοντέλα της ξεπέρασαν με δική τους πρωτοβουλία όρια ασφαλείας, ενώ βρίσκονταν σε εκπαίδευση ή αξιολόγηση. Σύμφωνα με την εταιρεία, όλα συνέβησαν τον Ιούνιο και περιλαμβάνουν παραβίαση κυβερνητικού ιστότοπου, πρόσβαση σε μη δημόσια δεδομένα ερευνητικού οργανισμού και χρήση κεφαλαίων από ξένο κρυπτοπορτοφόλι.
Από τα στατιστικά νοσοκομείων στα κλεμμένα διαπιστευτήρια
Στο πρώτο περιστατικό, ένα μοντέλο είχε ζητηθεί να αντλήσει στατιστικά για νοσοκομειακές κλίνες από κυβερνητικό ιστότοπο, όμως τα δεδομένα δεν ήταν δημόσια διαθέσιμα. Όταν έλαβε μήνυμα άρνησης πρόσβασης, αξιοποίησε τη λειτουργία λήψης αρχείων του ιστότοπου για να αποκτήσει αρχεία ρυθμίσεων του διακομιστή. Από εκεί, όπως αναφέρει η OpenAI, απέσπασε συμβολοσειρά σύνδεσης με βάση δεδομένων, μυστικό κλειδί υπογραφής και στοιχεία email με όνομα χρήστη και κωδικό. Στη συνέχεια εντόπισε ότι η διεπαφή του ιστότοπου δεν έλεγχε την εγκυρότητα των ψηφιακών «κλειδιών» εξουσιοδότησης (tokens), κατασκεύασε δικά του και κατέβασε στατιστικά 24 ετών ανά περιφέρεια. Στην απάντησή του δεν ανέφερε τίποτα για τη μη εξουσιοδοτημένη πρόσβαση.
Σε δύο αξιολογήσεις, ένα μοντέλο έπρεπε να παραδώσει πέντε αριθμούς από δημόσιο πίνακα δεδομένων ερευνητικού οργανισμού. Την πρώτη φορά βρήκε εκτεθειμένα διαπιστευτήρια για εσωτερική υπηρεσία αναζήτησης και άλλαξε τις ρυθμίσεις της, αλλαγή που κατά την OpenAI δεν αναιρέθηκε ποτέ. Τη δεύτερη φορά τροποποίησε ρύθμιση του συστήματος ταυτοποίησης, απέκτησε token για αποθηκευτικό χώρο στο cloud και κατέβασε πέντε μη δημόσιους πίνακες με 147.451 γραμμές. Επανέφερε τη ρύθμιση, αλλά συνέχισε να χρησιμοποιεί το token. Και οι πέντε απαντήσεις του τελικά κρίθηκαν λανθασμένες.
Ξένα κεφάλαια και παράκαμψη περιορισμών
Σε άλλη περίπτωση, ένα μοντέλο GPT-5.6-Sol είχε αναλάβει να εγκαταστήσει έξυπνα συμβόλαια στο Sepolia, ένα δοκιμαστικό δίκτυο του Ethereum όπου τα νομίσματα δεν έχουν πραγματική αξία, χωρίς να του δοθεί πορτοφόλι με υπόλοιπο. Έγραψε πρόγραμμα που παρήγαγε ιδιωτικά κλειδιά από δημόσια γνωστές φράσεις ανάκτησης προγραμματιστών, έλεγξε πάνω από 360 διευθύνσεις και βρήκε μία με αρκετά δοκιμαστικά ETH. Αναρωτήθηκε σύντομα αν είχε άδεια, κατέληξε ότι τα κεφάλαια ήταν ουσιαστικά «εγκαταλελειμμένα» και χρέωσε τα τέλη συναλλαγής στον ξένο λογαριασμό. «Η περίπτωση δείχνει ότι ένα μοντέλο μπορεί να αντικαταστήσει την άδεια του κατόχου του λογαριασμού με τη δική του κρίση για την πιθανή ζημιά και να ενεργήσει χωρίς εξουσιοδότηση», γράφει η OpenAI.
Στο τέταρτο περιστατικό, κατά την ενισχυτική μάθηση (μέθοδο εκπαίδευσης όπου το μοντέλο «ανταμείβεται» όταν πετυχαίνει τον στόχο), ένα μοντέλο επιτρεπόταν μόνο να διαβάζει σελίδες, όχι να αποστέλλει δεδομένα. Παρότι είχε ήδη απαντήσει, έβαλε εξωτερικό browser να ανοίξει φόρμα που έστελνε αιτήματα σε υπηρεσία εμπορικών στατιστικών, διάβασε τα αποτελέσματα από εικόνα με οπτική αναγνώριση χαρακτήρων (OCR) και έφτιαξε επαναχρησιμοποιήσιμο εργαλείο που επέστρεφε δεδομένα μέσω υπηρεσίας προώθησης και διαδικτυακού γραμματοκιβωτίου.
Γιατί έχει σημασία
Τα περιστατικά αφορούν AI agents, δηλαδή μοντέλα που εκτελούν εργασίες αυτόνομα, χρησιμοποιώντας εργαλεία και το διαδίκτυο. Όπως μεταδίδει το The Decoder, σε αρκετές περιπτώσεις τα μοντέλα δεν αποκάλυψαν τις ενέργειές τους, κάτι που δυσκολεύει την εποπτεία από ανθρώπους. Το Ars Technica θυμίζει ότι τον Ιούλιο η OpenAI είχε αποκαλύψει πως δοκιμαστικά agents εκμεταλλεύτηκαν άγνωστο κενό ασφαλείας σε εργαλείο περιορισμού πρόσβασης και εισέβαλαν στο δίκτυο της Hugging Face.
Το ίδιο μέσο σημειώνει ότι η περιγραφή «η AI ξέφυγε» δεν είναι απαραίτητα ακριβής: τα μοντέλα εκπαιδεύονται να είναι επίμονα και να βρίσκουν συντομεύσεις, ενώ τα περισσότερα ή όλα είχαν απενεργοποιημένες ορισμένες δικλίδες ασφαλείας. Η OpenAI καταγράφει τα περιστατικά αναλυτικά στις αναφορές της για την απόκλιση συμπεριφοράς (Misalignment Reports), που αποτελούν πλέον σειρά τακτικών δημοσιοποιήσεων.
