Όταν το Hugging Face δέχτηκε επίθεση χάκερ, τα κλειστά αμερικανικά μοντέλα, όπως το Claude της Anthropic, αρνήθηκαν να αναλύσουν τις εντολές της επίθεσης, επειδή τα φίλτρα ασφαλείας τις θεώρησαν επικίνδυνες. Η πλατφόρμα κατέφυγε στο ανοιχτό κινεζικό μοντέλο GLM-5.2. Το παράδειγμα το επικαλείται ο Vinces Yao Shunyu, επικεφαλής επιστήμονας AI της Tencent και πρώην στέλεχος της OpenAI, για να υποστηρίξει μια μέση λύση στη διαμάχη για τα ανοιχτά και τα κλειστά μοντέλα, σύμφωνα με τη South China Morning Post, όπως τη μεταφέρει το The Decoder.
Ο Yao προειδοποιεί ότι η AI θα μπορεί σύντομα να βοηθά στην ανάπτυξη βιολογικών όπλων. Στη βιολογία, λέει, η επίθεση και η άμυνα ξεχωρίζουν πιο δύσκολα απ’ ό,τι στην κυβερνοασφάλεια. Επειδή η απόσταση ανάμεσα στα κινεζικά και τα αμερικανικά μοντέλα δεν είναι μεγάλη, καλεί όλη τη βιομηχανία να προχωρά με προσοχή. Αναγνωρίζει ότι οι αμερικανικές εταιρείες, με την Anthropic μπροστά, έχουν ισχυρά επιχειρήματα υπέρ των κλειστών μοντέλων, αλλά βλέπει και σαφή πλεονεκτήματα στα ανοιχτά.
Το παράδειγμα του Hugging Face έχει όρια
Η έκθεση του Hugging Face επιβεβαιώνει το παράδειγμα, αλλά δείχνει και πού σταματά. Το GLM-5.2 χρησιμοποιήθηκε μόνο στην εγκληματολογική ανάλυση μετά το περιστατικό. Την επίθεση τη σταμάτησε η ομάδα ασφαλείας, που διόρθωσε την ευπάθεια, ξαναέστησε τους επηρεασμένους διακομιστές και άλλαξε τα διαπιστευτήρια. Το Hugging Face τόνισε επίσης ότι το περιστατικό δεν στρέφεται κατά των φίλτρων ασφαλείας στα μοντέλα που φιλοξενούνται σε υπηρεσίες.
Τον Ιούλιο η Anthropic ήταν το μόνο μεγάλο εργαστήριο που δεν υπέγραψε επιστολή με στήριξη της Nvidia, η οποία προειδοποιούσε για πρόωρους περιορισμούς στα ανοιχτά μοντέλα. Ο Dario Amodei αμφισβητεί ότι τα ανοιχτά μοντέλα ωφελούν τους αμυνόμενους περισσότερο από τους επιτιθέμενους. Τα θεωρεί πιθανώς πιο επικίνδυνα, γιατί οι μηχανισμοί ασφαλείας δύσκολα επιβάλλονται και τα δημοσιευμένα βάρη, οι παράμετροι που ορίζουν το μοντέλο, δεν παίρνονται πίσω. Η Anthropic πάντως δεν ζητά απαγόρευση των ανοιχτών μοντέλων.
Τα φίλτρα σβήνουν εύκολα στα ανοιχτά και χτυπούν υπερβολικά στα κλειστά
Η τεχνική abliteration δείχνει πόσο εύθραυστα είναι τα φίλτρα στα ανοιχτά μοντέλα. Όποιος έχει πρόσβαση στα βάρη μπορεί να αφαιρέσει με στοχευμένο τρόπο τις μάθημένες συμπεριφορές άρνησης. Χιλιάδες τέτοιες παραλλαγές κυκλοφορούν στο Hugging Face, ενώ η αμερικανική startup Abliteration.ai πουλά πρόσβαση σε μια εκδοχή του GLM-5.3 χωρίς φίλτρα. Η έρευνα δείχνει ότι τα υπάρχοντα αντίμετρα δυσκολεύουν αυτές τις τροποποιήσεις αλλά δεν τις εμποδίζουν. Πιο στιβαρή λύση είναι να μη μπει καθόλου η επικίνδυνη γνώση στο μοντέλο κατά την εκπαίδευση.
Και η Κίνα βλέπει το πρόβλημα. Ο οργανισμός προτύπων TC260 προειδοποιεί ότι οι μηχανισμοί ασφαλείας των ανοιχτών μοντέλων μπορούν να αφαιρεθούν ή να παρακαμφθούν και ετοιμάζει δικό του πρότυπο ασφάλειας για την AI ανοιχτού κώδικα. Ένα προσχέδιο πλαισίου ελέγχου εξαγωγών καλύπτει πολύ μεγάλα μοντέλα, αλλά εξαιρεί όσα ανοιχτά έχουν ήδη κυκλοφορήσει. Ούτε η Κίνα ούτε οι ΗΠΑ έχουν ορίσει δεσμευτικό όριο, πάνω από το οποίο ένα ανοιχτό μοντέλο δεν μπορεί να δημοσιευτεί.
Από την άλλη πλευρά, η Anthropic και η OpenAI μοιράζονται τα πιο ικανά μοντέλα κυβερνοασφάλειας μόνο με εγκεκριμένους συνεργάτες, μέσω προγραμμάτων όπως το Project Glasswing και το Daybreak. Από το Claude Fable 5 και μετά, τα φίλτρα του Claude στέλνουν ύποπτα ερωτήματα για κυβερνοασφάλεια και βιολογία στο πιο αδύναμο Opus 4.8. Σύμφωνα με την Artificial Analysis, αυτό αφορούσε αρχικά το 8 με 9% των εργασιών. Χρήστες ανέφεραν ότι ακόμη και η ανάλυση αξονικών μαγνητικών εικόνων χαρακτηριζόταν βιοτρομοκρατία. Η Anthropic παραδέχτηκε ότι τα φίλτρα ήταν υπερβολικά επιθετικά.
Η Tencent σχεδιάζει να κυκλοφορήσει τις επόμενες μέρες το νέο της μοντέλο Hy4 ως μοντέλο ανοιχτών βαρών, μαζί με έκθεση ασφάλειας. Η εταιρεία λέει ότι οι βιολογικές του δυνατότητες είναι κάτω από το όριο υψηλού κινδύνου. Τις δυνατότητες χάκινγκ τις αφαίρεσε φιλτράροντας τα δεδομένα εκπαίδευσης, και ερευνητές λένε ότι αυτή η προσέγγιση αντέχει ακόμη και στο abliteration.
Πηγή: The Decoder
