Μια επίθεση σε εταιρικό δίκτυο κοστίζει 17 έως 46 δολάρια σε tokens με το GPT-6-Sol της OpenAI. Με το DeepSeek κοστίζει 2 έως 3 δολάρια. Η διαφορά βγαίνει από νέα δοκιμή της Vals, εταιρείας που μετρά τις ικανότητες των μοντέλων AI, και δείχνει ότι τα ανοιχτά μοντέλα πλησιάζουν τα κλειστά στο χάκινγκ, όπως μεταδίδει το WIRED.
Τα μοντέλα δοκιμάστηκαν σε δύο προσομοιωμένα σενάρια. Στο πρώτο υπήρχε ένα εικονικό εταιρικό δίκτυο, προσβάσιμο από δημόσιο ιστότοπο. Στο δεύτερο υπήρχαν δύο δίκτυα διαφορετικών εταιρειών: το μοντέλο έπρεπε να διεισδύσει στο πρώτο για να φτάσει στο δεύτερο.
Πρώτο βγήκε το Daybreak, το πιο προηγμένο μοντέλο κυβερνοασφάλειας της OpenAI, που δίνεται μόνο σε έμπιστους συνεργάτες. Ολοκλήρωσε το 81% των εργασιών, κατά μέσο όρο σε δύο δοκιμές. Το κινεζικό ανοιχτό μοντέλο DeepSeek έφτασε το 73%. Σε ορισμένες εργασίες τα δύο μοντέλα είχαν ίδιο αποτέλεσμα. Ανοιχτό (open-weight) λέγεται το μοντέλο που οποιοσδήποτε μπορεί να κατεβάσει και να τρέξει στον δικό του υπολογιστή.
Εκεί εξηγείται και η τιμή. Αφού τρέχει σε δικό σου εξοπλισμό, το ανοιχτό μοντέλο είναι συνήθως φθηνότερο. Ο Rayan Krishnan, διευθύνων σύμβουλος της Vals, λέει ότι αυτό δίνει ισχυρό κίνητρο και σε όσους αμύνονται να προτιμήσουν ανοιχτά μοντέλα αντί για ιδιόκτητα. Η OpenAI δεν απάντησε αμέσως στο αίτημα του WIRED για σχόλιο.
Η πρόβλεψη της Anthropic, επτά μήνες μετά
Τα ευρήματα αγγίζουν μια στρατηγική επιλογή των αμερικανικών εργαστηρίων. Η Anthropic έδωσε τον Απρίλιο το Claude Mythos Preview μόνο σε περιορισμένο κύκλο, μέσω του Project Glasswing, με την ιδέα ότι η κλειστή πρόσβαση θα κερδίσει χρόνο για τους αμυνόμενους. Ο Logan Graham, επικεφαλής της ομάδας red team της εταιρείας, είχε πει τότε στο WIRED ότι πρέπει να προετοιμαστούμε για έναν κόσμο όπου αυτές οι δυνατότητες θα είναι ευρέως διαθέσιμες σε 6, 12 ή 24 μήνες.
Σύμφωνα με το WIRED, η μετάβαση ήρθε εγκαίρως. Ο Nikil Ravi, ερευνητής της Vals, το διατυπώνει έτσι: τα κορυφαία μοντέλα, κλειδωμένα στα εργαστήρια, αρχίζουν να εξισώνονται με ανοιχτά μοντέλα που μπορεί να κατεβάσει ο καθένας. Αν ισχύει, οι περιορισμοί στην πρόσβαση ίσως έχουν χάσει μέρος του νοήματός τους.
Οι επιφυλάξεις των ειδικών
Στην πράξη, γράφει το WIRED, οι επιτιθέμενοι κάνουν ό,τι πάντα: εξοικονομούν πόρους και συνήθως αρκούνται σε παλαιότερα και λιγότερο ικανά μοντέλα, ιδιόκτητα ή ανοιχτά. Οι αμυνόμενοι πάντως πρέπει να υποθέτουν ότι οι πιο οργανωμένοι και κινητοποιημένοι επιτιθέμενοι είχαν ήδη κάποια πρόσβαση σε κλειστά μοντέλα.
Ο Alex Zenla, συνιδρυτής και τεχνικός διευθυντής της εταιρείας ασφάλειας Edera, συμφωνεί ότι τα ανοιχτά μοντέλα μπορούν σήμερα να παράγουν προηγμένες επιθέσεις. Αναφέρει ειδικά τα «abliterated» μοντέλα, όπου η εκπαίδευση ασφάλειας απενεργοποιείται με αλλαγή των βαρών. Προσθέτει ότι τα κλειστά εργαστήρια πιθανότατα έχουν εκπαιδεύσει και άλλα, ακόμη δυνατότερα μοντέλα που δεν έχουν κυκλοφορήσει. Το παρομοιάζει με παιχνίδι γάτας και ποντικιού και φοβάται ότι αυτή μπορεί να είναι η αρχή ενός επικίνδυνου τοπίου ασφάλειας.
Οι ειδικοί διαφωνούν επίσης για το αν η AI άλλαξε τα θεμέλια της άμυνας ή απλώς ενίσχυσε προβλήματα που υπήρχαν ήδη.
Πηγή: WIRED
