Η Anthropic, η εταιρεία πίσω από το Claude, ανακοίνωσε την Πέμπτη ότι παραχωρεί σε εξωτερικούς αξιολογητές πρόσβαση «αντίστοιχη με εργαζομένου», ώστε να εξετάζουν τους κινδύνους των μοντέλων της. Η ομάδα προέρχεται από το METR, μη κερδοσκοπικό οργανισμό που έχει συνεργαστεί με την OpenAI, τη Google και τη Meta. Πλέον εργάζεται μέσα στα γραφεία της εταιρείας, με πρόσβαση στον εξοπλισμό και στα εσωτερικά της συστήματα.
Τι προβλέπει η συμφωνία
Όπως μεταδίδει το Ars Technica, σε δημοσίευμα των Financial Times, η Anthropic έχει ήδη εντάξει έξι εργαζόμενους του METR. Τους έδωσε εταιρικό εξοπλισμό, χώρο γραφείου και πρόσβαση σε εργαλεία και συστήματα που, κατά την εταιρεία, είναι «περίπου στο ίδιο επίπεδο» με όσα χρησιμοποιούν οι δικές της ομάδες αξιολόγησης κινδύνων. Οι υπάλληλοι της Anthropic ενθαρρύνονται να μοιράζονται πληροφορίες με τους αξιολογητές όπως θα έκαναν με έναν συνάδελφο του τμήματος κινδύνων.
Οι αξιολογητές θα δημοσιεύουν τις αναλύσεις τους και η Anthropic δεν μπορεί να μπλοκάρει τη δημοσίευση. Μπορεί όμως να ζητήσει την απόκρυψη ορισμένων κατηγοριών πληροφοριών, όπως δεδομένα πελατών, στοιχεία που καλύπτονται από το δικηγορικό απόρρητο ή λεπτομέρειες για την αρχιτεκτονική των μοντέλων. Η Anthropic δεν πληρώνει το METR για τη συνεργασία. Ο οργανισμός δεν δέχεται δωρεές από εταιρείες AI ή από στελέχη τους και χρηματοδοτείται από ιδιώτες, φιλανθρωπικά ιδρύματα και κρατικούς φορείς, όπως το βρετανικό AI Security Institute.
Το METR είχε συμμετάσχει στη διερεύνηση της παραβίασης της Hugging Face από ανεξέλεγκτα μοντέλα της OpenAI, εξετάζοντας χιλιάδες αρχεία καταγραφής. Το περιστατικό εντάσσεται σε μια σειρά από δοκιμές όπου μοντέλα της OpenAI παραβίασαν συστήματα, που έχουν εντείνει τις ανησυχίες για τα λεγόμενα frontier μοντέλα, δηλαδή τα πιο προηγμένα συστήματα τεχνητής νοημοσύνης της αγοράς.
Το επιχείρημα της εποπτείας τραπεζών
Η Anthropic παρομοιάζει το σχήμα με την εποπτεία των μεγάλων τραπεζών, όπου οι ρυθμιστικές αρχές τοποθετούν μόνιμους ελεγκτές μέσα στους οργανισμούς. «Αν η ανάληψη κινδύνων από μια τράπεζα μπορεί να απειλήσει το κοινό, τρίτοι προσπαθούν να το εντοπίσουν εκ των προτέρων», ανέφερε η εταιρεία. Υποστηρίζει ότι θέλει να λογοδοτεί δημόσια, αλλά ότι δεν μπορεί να δημοσιοποιεί όλες τις πληροφορίες για την ασφάλεια, γιατί θα μπορούσαν να ωφελήσουν κακόβουλους παράγοντες ή ανταγωνιστές.
Οι επικριτές της ιδέας προειδοποιούν ότι τέτοιες ρυθμίσεις μπορεί να δημιουργήσουν συγκρούσεις συμφερόντων, με παράδειγμα τον κλάδο των ελεγκτών λογιστών, και ζητούν αυστηρότερη κρατική ρύθμιση. Πέρα από το METR, η Anthropic συνεχίζει τη συνεργασία της με την Accenture σε δοκιμές ασφάλειας, με δέσμευση και των δύο για τουλάχιστον 1 δισ. δολάρια. Συνεργάζεται επίσης με τη SecureBio για τους κινδύνους χημικών και βιολογικών όπλων. Σύμφωνα με την ίδια, βρίσκεται σε πρώιμες συζητήσεις και με άλλους οργανισμούς, ανάμεσά τους η Hugging Face.
Πίεση από ανταγωνιστές και επενδυτές
Τον Σεπτέμβριο, ο διευθύνων σύμβουλος της Anthropic, Dario Amodei, πρότεινε την ενσωμάτωση εξωτερικών ελεγκτών στα μεγάλα εργαστήρια AI και πήρε τη στήριξη των Sam Altman και Elon Musk. Η ανακοίνωση της Πέμπτης είναι το πρώτο πρακτικό βήμα υλοποίησης αυτών των δεσμεύσεων. Η OpenAI δεν έχει ακόμη παρουσιάσει δικό της σχέδιο, παρότι ο Altman χαρακτήρισε καλή ιδέα τις προτάσεις του Amodei. Η Anthropic έχει δημοσιεύσει και δικές της έρευνες για κινδύνους, όπως το AI worm που εξαπλώθηκε σε έξυπνες τηλεοράσεις.
Η εταιρεία θέλει επίσης να καθησυχάσει τους επενδυτές ενόψει της αναμενόμενης φετινής εισαγωγής της στο χρηματιστήριο, με αποτίμηση άνω των 2 τρισ. δολαρίων, και αφιέρωσε μεγάλο μέρος των παρουσιάσεών της στις πρακτικές ασφάλειας. Παράλληλα ανακοίνωσε το Anthropic Public Benefit Fund: με την έγκριση των μετόχων θα του διατεθεί το 5% των μετοχών της, και το μερίδιο μπορεί να αυξάνεται κατά 2% για κάθε αύξηση της αξίας της κατά 50% πάνω από ένα όριο αναφοράς. Μαζί με τις δεσμεύσεις ιδρυτών και εργαζομένων, περίπου το 20% των μετοχών θα προορίζεται για το δημόσιο όφελος.
«Ενσωματώνουμε αξιολογητές οικειοθελώς και πιστεύουμε ότι κάθε εταιρεία frontier AI πρέπει να κάνει το ίδιο», δήλωσε η Anthropic. Το METR απάντησε ότι είναι έτοιμο να συνεργαστεί με όλους τους δημιουργούς προηγμένων μοντέλων. Η Anthropic αναφέρει ότι τους επόμενους μήνες θα δώσει περισσότερες λεπτομέρειες για τη δομή και τη διακυβέρνηση του νέου ταμείου.
