Η Anthropic έγραψε σε επίσημο έγγραφο προς τις αρχές ότι μπορεί σύντομα να φτάσει το όριο, πέρα από το οποίο η ίδια η AI επιταχύνει δραματικά τη δική της ανάπτυξη. Η φράση βρίσκεται στην αναθεωρημένη αίτηση S-1A για την εισαγωγή της εταιρείας στο χρηματιστήριο, που κατατέθηκε τη Δευτέρα. Όπως σημειώνει το TechCrunch, η προσοχή πήγε στα οικονομικά στοιχεία και όχι σε αυτό το σημείο, που βρίσκεται στην ενότητα με τους παράγοντες κινδύνου.
Το φαινόμενο λέγεται αναδρομική αυτοβελτίωση (RSI). Είναι η στιγμή που ένα μοντέλο γίνεται τόσο καλό στο να εκπαιδεύει και να βελτιώνει συστήματα AI, ώστε οι δυνατότητές τους αρχίζουν να αυξάνονται πολύ πιο γρήγορα. Οι πιο απαισιόδοξοι το βλέπουν ως σημείο χωρίς επιστροφή, όπου η AI ξεφεύγει από τον ανθρώπινο έλεγχο. Οι πιο αισιόδοξοι, ως την υπόσχεση της τεχνολογίας για τεράστια παραγωγικότητα και επιστημονικές ανακαλύψεις.
Δύο νέες παραδοχές στο έγγραφο
Η Anthropic λέει ότι χρησιμοποιεί ήδη AI στην έρευνα και ανάπτυξή της και ότι αυτό ενέχει «σημαντικό κίνδυνο για την ασφάλεια», ιδίως αν επιταχύνει απότομα τον ρυθμό προόδου. Στις νέες διατυπώσεις προσθέτει δύο πράγματα. Πρώτον, ότι στο παρελθόν δεν εντόπισε εγκαίρως σημαντική επιτάχυνση στην ανάπτυξή της και την αντιλήφθηκε μόνο όταν είχε γίνει. Δεύτερον, ότι ίσως σύντομα πληροί τον δικό της ορισμό της «δραματικά επιταχυνόμενης προόδου που οφείλεται στην AI», όπως τον ορίζει η Πολιτική Υπεύθυνης Κλιμάκωσης (Responsible Scaling Policy).
Η εταιρεία βασίζει αυτή την εκτίμηση στις εσωτερικές της εκτιμήσεις και στις προσδοκίες της για μελλοντικά μοντέλα, όχι στα σημερινά. Δεν έχει χαρακτηρίσει κανένα από τα τρέχοντα μοντέλα της ως υπερβαίνον το όριο και συνεχίζει να αξιολογεί τα σχετικά δεδομένα.
Οι άνθρωποι μένουν στη διαδικασία
Στο ίδιο έγγραφο η Anthropic υπόσχεται ότι θα κρατήσει ανθρώπους στη διαδικασία. Γράφει ότι δεν προβλέπει να μπορεί να χρησιμοποιήσει με ασφάλεια το Claude, ώστε να σχεδιάζει και να χτίζει πλήρως αυτόνομα τις επόμενες γενιές κορυφαίων μοντέλων χωρίς ουσιαστική ανθρώπινη εποπτεία ή κατανόηση, αν και όταν αυτό γίνει τεχνικά εφικτό. Εξετάζει γι’ αυτό αλλαγές στην πολιτική της, ώστε ο έλεγχος της ανάπτυξης να μένει σε ανθρώπινα χέρια.
Το TechCrunch θυμίζει ότι το S-1 είναι ταυτόχρονα έγγραφο γνωστοποίησης και μάρκετινγκ. Οι σκεπτικιστές μπορούν να υποστηρίξουν ότι ο ισχυρισμός για ένα μοντέλο που χτίζει μόνο του τον εαυτό του ανήκει και στη δεύτερη κατηγορία. Το δημοσίευμα προσθέτει ότι οι δυνατότητες του Claude, ειδικά στον προγραμματισμό, τα μαθηματικά και την κυβερνοασφάλεια, έχουν αυξηθεί αλματωδώς φέτος.
Τα οικονομικά στοιχεία του φακέλου υπάρχουν σε προηγούμενο ρεπορτάζ μας για την κατάθεση του IPO.
Πηγή: TechCrunch
