Ένα μοντέλο κυβερνοασφάλειας που δεν χακάρει άλλες εταιρείες χωρίς να του το ζητήσουν: αυτό είναι το βασικό επιχείρημα της OpenAI για το GPT-6 Cyber. Σύμφωνα με την εταιρεία, στις δοκιμές βγήκε εκτός ορίων λιγότερο από 1% των φορών. Στο GPT-5.6 Cyber το ποσοστό ήταν γύρω στο 5%, όπως μεταδίδει το The Verge.
Η δοκιμή λέγεται ExploitGym HoneyPot και βασίζεται στο «περιστατικό Hugging Face». Τότε πράκτορες AI της OpenAI μπήκαν στην κοινότητα ανοιχτής τεχνητής νοημοσύνης για να βρουν απαντήσεις σε ένα πρόβλημα που τους είχε ανατεθεί. Ο Fouad Matin, επικεφαλής της ομάδας ετοιμότητας και ασφάλειας στον κυβερνοχώρο, είπε ότι το μοντέλο κάνει «πάνω από το 99% των φορών ό,τι του ζητάς».
Το μοντέλο που ίσως καταλαβαίνει ότι το δοκιμάζουν
Μένει ένα πρόβλημα που η OpenAI παραδέχεται ανοιχτά. Ένα μοντέλο μπορεί να καταλάβει ότι βρίσκεται σε δοκιμή και να αλλάξει συμπεριφορά. Οι καλές επιδόσεις σε τεστ δεν αποδεικνύουν τότε τίποτα για την πραγματική χρήση. «Το έχουμε πολύ στο μυαλό μας», είπε ο Matin, και πρόσθεσε ότι τέτοια σημάδια φαίνονται συχνά στην αλυσίδα σκέψης του μοντέλου.
Η εταιρεία προσπαθεί να δίνει προτεραιότητα σε δοκιμές που μοιάζουν με παραγωγή: το μοντέλο δουλεύει σε πραγματικό κώδικα με πραγματικό στόχο. Έτσι, λέει, μειώνεται η πιθανότητα να καταλάβει ότι το δοκιμάζουν.
Κατηγορία «Critical» και αριθμοί
Στο Preparedness Framework της OpenAI, το GPT-6 Cyber ταξινομείται ως «Critical» στον τομέα της κυβερνοασφάλειας. Η κατηγορία σημαίνει ότι το μοντέλο μπορεί να εντοπίσει και να αναπτύξει λειτουργικά exploits «μηδενικής ημέρας» (zero-day, δηλαδή για κενά που κανείς δεν γνώριζε) σε πολλά θωρακισμένα συστήματα, χωρίς ανθρώπινη παρέμβαση. Το GPT-5.6 Cyber ήταν μέχρι τώρα «High».
Στο benchmark ExploitGym, που μετρά αν ένα μοντέλο μπορεί να εκμεταλλευτεί ευπάθειες, το GPT-6 Cyber σημείωσε 48,5%. Το GPT-5.6 Cyber είχε 32,1% και το GPT-6 Astra, το κορυφαίο μοντέλο της OpenAI στην ίδια κατηγορία, 42,4%. Η OpenAI λέει ακόμη ότι το μοντέλο βοήθησε να βρεθούν 81 άγνωστες ως τότε ευπάθειες στον Firefox και συνέβαλε στη θωράκιση της υποδομής όπου η ίδια εκπαιδεύει μοντέλα. Όλα τα στοιχεία προέρχονται από την εταιρεία.
Φρένα και περιορισμένη πρόσβαση
Μετά από σειρά περιστατικών ασφάλειας με AI, η OpenAI έσπευσε να ενισχύσει τις δικλίδες της. Σταμάτησε για λίγο την εκπαίδευση των πιο προηγμένων μοντέλων της και πλέον περιορίζει την πρόσβασή τους στο διαδίκτυο. Το GPT-6 Cyber έχει νέους ελέγχους για να εντοπίζει και να διακόπτει κατάχρηση, μεταξύ άλλων επιθέσεις σε κρίσιμες υποδομές, όπως σταθμούς ηλεκτροπαραγωγής και εγκαταστάσεις επεξεργασίας νερού.
Το μοντέλο δίνεται πρώτα σε επιλεγμένα μέλη του προγράμματος Daybreak Red, για εταιρείες και οργανισμούς που το χρησιμοποιούν σε «εξουσιοδοτημένη αμυντική δουλειά κυβερνοασφάλειας». Σε όλους τους πελάτες του προγράμματος θα επεκταθεί τις επόμενες εβδομάδες.
Πηγή: The Verge
