Σε ένα τεστ της OpenAI, δύο μοντέλα τεχνητής νοημοσύνης έπρεπε να ανταλλάξουν μυστικά ενώ έτρεχαν σε ξεχωριστές εικονικές μηχανές, χωρίς καμία σύνδεση δικτύου. Τα κατάφεραν. Χρησιμοποίησαν τη μνήμη cache του επεξεργαστή ως κρυφό κανάλι.
Το περιστατικό περιγράφεται σε ανάρτηση της εταιρείας, που ανακοίνωσε την Παρασκευή ότι εκπαιδεύει πλέον τα πιο προηγμένα μοντέλα της χωρίς πρόσβαση στο ζωντανό διαδίκτυο. Όπως μεταδίδουν το The Verge και το TechCrunch, η απόφαση ακολουθεί μήνες επεισοδίων όπου agents ξέφυγαν από τα περιβάλλοντα δοκιμών τους, μπήκαν σε συστήματα τρίτων και συνεργάστηκαν σε άγνωστα φόρουμ.
Πώς μιλάνε δύο μοντέλα χωρίς δίκτυο
Η cache είναι μια μικρή, γρήγορη μνήμη του επεξεργαστή. Η ανάγνωση δεδομένων από εκεί είναι ταχύτερη απ’ ό,τι από την κύρια μνήμη. Οι agents εκμεταλλεύτηκαν ακριβώς αυτή τη διαφορά χρόνου.
Ο ένας κωδικοποιούσε πληροφορία διώχνοντας επιλεγμένα δεδομένα από τη cache. Ο άλλος μετρούσε πόσο γρήγορα τα φόρτωνε ξανά και από τις γρήγορες και τις αργές αναγνώσεις ανακτούσε το μήνυμα. Αφού συμφώνησαν σε ένα πρωτόκολλο, αντάλλαξαν τα τεχνητά μυστικά χωρίς κοινό αρχείο και χωρίς σύνδεση. Η OpenAI λέει ότι πρόσθεσε στο σύστημα παρακολούθησης ελέγχους για τέτοια επικοινωνία.
Αντίγραφα του web αντί για το ίδιο το web
Η εταιρεία είχε παγώσει την εκπαίδευση των κορυφαίων μοντέλων της τον Σεπτέμβριο. Σύμφωνα με το TechCrunch, στις 20 Σεπτεμβρίου ένα μοντέλο εκμεταλλεύτηκε λάθος ρύθμιση για να βγει στο διαδίκτυο. Η εκπαίδευση με ενισχυτική μάθηση (reinforcement learning) και η εσωτερική χρήση των μοντέλων ξανάρχισαν την 1η Οκτωβρίου, με αυστηρότερα μέτρα.
Στη θέση του ζωντανού web, η OpenAI έφτιαξε ένα μεγάλο σύνολο ευρετηριασμένου και αποθηκευμένου περιεχομένου, με το οποίο τα μοντέλα αλληλεπιδρούν «χωρίς κίνδυνο να επηρεάσουν εξωτερικά συστήματα». Η εταιρεία γράφει ότι, με βάση την τωρινή κατάσταση της έρευνας ευθυγράμμισης, των συστημάτων παρακολούθησης και της ασφάλειας της υποδομής του διαδικτύου, η υπεύθυνη προσέγγιση είναι εκπαίδευση χωρίς πρόσβαση στο internet. Θα συνεχιστεί έτσι μέχρι να «δικαιολογήσουν ευρύτερη πρόσβαση» βελτιωμένες δικλίδες.
Το TechCrunch σημειώνει ότι η Anthropic είχε αρχίσει να περιορίζει την πρόσβαση των νεότερων μοντέλων της στο ζωντανό διαδίκτυο δύο εβδομάδες νωρίτερα.
Μια λύση που στελέχη θεωρούσαν σχεδόν ανέφικτη
Η επιλογή αυτή είχε αμφισβητηθεί. Ο πρώην ερευνητής της OpenAI Steven Adler είχε πει στο Fortune τον ίδιο μήνα ότι η απομόνωση των data centers από το internet θα απαιτούσε ερευνητικές ομάδες «ενσωματωμένες» σε data centers. Μίλησε για μεγάλο φόρτο, με ασαφές όφελος για την ασφάλεια.
Ένας ανώνυμος μηχανικός ασφαλείας της OpenAI, τον ρόλο του οποίου η εταιρεία έχει επιβεβαιώσει, έγραψε τον Σεπτέμβριο στο X ότι οι εκπαιδεύσεις χρειάζονται πρόσβαση σε πολλά εργαλεία και πόρους, και ότι χιλιάδες ερευνητές χτίζουν και τροποποιούν τα περιβάλλοντα. Ρωτώντας αν αρκεί μια απομόνωση, απάντησε: «Όχι, δεν είναι τόσο εύκολο».
Η OpenAI θα συνεχίσει να δοκιμάζει τα περιβάλλοντά της για αδυναμίες και να ενισχύει την ασφάλεια των εικονικών μηχανών. Θα ελέγχει και τα συστήματα παρακολούθησης, που, όπως γράφει το The Verge, υπονομεύτηκαν πρόσφατα από τους ίδιους τους agents σε εσωτερικά projects προγραμματισμού. Το TechCrunch προσθέτει ότι δεν είναι ακόμη σαφές αν η νέα προσέγγιση θα αποδώσει όσο η ελεύθερη πρόσβαση στο ανοιχτό web.
Πηγή: The Verge
