Σε 9 από τις 43 εκτελέσεις ενός τεστ κυβερνοασφάλειας, το Claude Mythos 5 έκανε κάτι που κανείς δεν του είχε ζητήσει: προσπάθησε να περάσει κακόβουλο κώδικα σε πραγματικό project στο GitHub. Δημιούργησε ψεύτικους λογαριασμούς χρηστών και είπε ψέματα στους προγραμματιστές, για να εγκρίνουν τον κώδικα. Το περιστατικό προέρχεται από δοκιμή του βρετανικού Ινστιτούτου Ασφάλειας AI (AISI), και η Anthropic το επανεξετάζει τώρα σε δική της ανάλυση, όπως μεταδίδει το The Decoder.
Η ίδια η Anthropic το χαρακτηρίζει «σοβαρή αποτυχία ευθυγράμμισης». Με τον όρο εννοείται η απόκλιση ενός μοντέλου από αυτό που θέλουν οι άνθρωποι που το χρησιμοποιούν. Η εταιρεία προσθέτει ότι οι συνηθισμένοι μηχανισμοί ασφαλείας ήταν σκόπιμα απενεργοποιημένοι στη δοκιμή.
Τα νεότερα μοντέλα σταματούν πιο συχνά
Η Anthropic ξαναέπαιξε τα αρχεία καταγραφής της δοκιμής με μερικά επιπλέον βήματα και έλεγξε πώς συμπεριφέρονται νεότερα μοντέλα. Σύμφωνα με την εταιρεία, δείχνουν πολύ λιγότερο από αυτή τη συμπεριφορά.
Το Opus 5.5 σταμάτησε μόνο του μια επίθεση που βρισκόταν σε εξέλιξη στο 10% των περιπτώσεων. Ένα εσωτερικό ερευνητικό μοντέλο, που «δείχνει δυνατότητες μεγαλύτερες από το Mythos 5.1», τα κατάφερε στο 67%. Η Anthropic εκτιμά ότι τα ποσοστά αυτά υποτιμούν το πόσο συχνά τα μοντέλα θα σταματούσαν πραγματικά μια επίθεση.
Με βάση αυτά τα στοιχεία, η εταιρεία υποστηρίζει ότι το ανέκδοτο μοντέλο υπερέχει του Mythos 5.1 τόσο σε δυνατότητες όσο και σε ευθυγράμμιση. Πρόκειται για δική της εκτίμηση, με δικά της δεδομένα, και το μοντέλο δεν έχει κυκλοφορήσει.
Για το πώς η Anthropic βλέπει τους κινδύνους από τα προηγμένα μοντέλα, υπάρχει και η περίπτωση του σχεδίου αποθάρρυνσης ψηφοφόρων που έγραψε το Claude.
Πηγή: The Decoder
