Λίγοι ερευνητές, λίγοι μήνες και ένα μοντέλο που, σύμφωνα με τους δημιουργούς του, ξεπερνά όλα τα αντίστοιχου μεγέθους στον προγραμματισμό. Η Recursive λέει ότι τη δουλειά δεν την έκαναν κυρίως άνθρωποι. «Σχεδόν κάθε κομμάτι της διαδικασίας ανάπτυξης του μοντέλου το έκανε και το βελτίωσε η τεχνητή νοημοσύνη», δήλωσε ο διευθύνων σύμβουλος και συνιδρυτής της, Richard Socher.
Το μοντέλο λέγεται Flint και είναι το πρώτο προϊόν της νεοφυούς εταιρείας. Είναι open-weight: τα βάρη του, οι αριθμοί που κωδικοποιούν όσα έμαθε στην εκπαίδευση, διατίθενται ελεύθερα, ώστε ο καθένας να το κατεβάσει και να το τρέξει στον δικό του υπολογιστή. Έχει 40 δισεκατομμύρια παραμέτρους. Τα μεγαλύτερα μοντέλα της αγοράς φτάνουν τα αρκετά τρισεκατομμύρια και χρειάζονται ολόκληρες συστοιχίες από servers.
Η «Μηχανή Εύρηκα» που σχεδιάζει μοντέλα
Η μέθοδος που κυνηγά η Recursive λέγεται αναδρομική αυτοβελτίωση (recursive self-improvement, RSI). Η τεχνητή νοημοσύνη αποφασίζει μόνη της τι πρέπει να βελτιωθεί σε ένα μοντέλο, κάνει τις αλλαγές και ξεκινά τον επόμενο γύρο. Αν μπορεί να καλύψει κάθε στάδιο της ανάπτυξης, ο κύκλος θεωρητικά δεν έχει τέλος.
Το σύστημα της εταιρείας ονομάζεται Eureka Machine. Κατά τον Socher, αυτοματοποίησε τα περισσότερα βήματα για το Flint και πρότεινε δικές του καινοτομίες: νέο τρόπο εκπαίδευσης του βασικού μοντέλου, νέες αρχιτεκτονικές και κώδικα προσαρμοσμένο σε συγκεκριμένα chips. Τα benchmarks που έδωσε στη δημοσιότητα η Recursive δείχνουν το Flint μπροστά από μοντέλα παρόμοιου μεγέθους και αρχιτεκτονικής σε εργασίες προγραμματισμού. Τα νούμερα όμως είναι της εταιρείας.
Η ιδέα να γράφει η AI κώδικα για την AI δεν είναι καινούργια. Τα μεγάλα εργαστήρια ήδη στηρίζονται σε μοντέλα για να δοκιμάζουν και να βελτιώνουν τα επόμενα, και στην Anthropic το Claude γράφει τόσο πολύ κώδικα ώστε άλλαξαν τα ίδια τα εργαλεία της εταιρείας. Η Recursive ποντάρει ότι ο κύκλος μπορεί να κλείσει ολόκληρος.
Σε ένα Mac με 48 GB μνήμης
Ο δημοσιογράφος Will Knight δοκίμασε το Flint για μερικές ημέρες και έγραψε για την εμπειρία του στο newsletter του στο WIRED. Το έτρεξε σε Mac με 48 GB RAM και του ζήτησε μια λίστα εργασιών για τη γραμμή εντολών, ένα πρόγραμμα που ψάχνει στο διαδίκτυο έρευνες για την αναδρομική αυτοβελτίωση και έναν απλό ιστότοπο που εξηγεί την ιδέα. Μοντέλα αυτού του μεγέθους, σημειώνει, συνήθως είναι αργά ή κάνουν εκνευριστικά λάθη σε σύγκριση με το Claude ή το Codex. Το Flint έκανε σωστά ό,τι του ζήτησε κάθε φορά.
Οι νόμοι που θέλουν να το απαγορεύσουν
Η μέθοδος έχει και φανατικούς πολέμιους. Ορισμένοι ειδικοί φοβούνται ότι μια AI που βελτιώνεται χωρίς όριο μπορεί να ξεφύγει από τον ανθρώπινο έλεγχο και να δει τους ανθρώπους ως εμπόδιο. Τον Σεπτέμβριο ένας ερευνητής παραιτήθηκε από την Anthropic προειδοποιώντας ότι η πρόοδος, με την αυτοβελτίωση ανάμεσα στους λόγους, μπορεί να οδηγήσει σε εξαφάνιση του ανθρώπινου είδους μέσα σε λίγα χρόνια, και άλλοι ειδικοί επανέλαβαν την ανησυχία. Στο Κογκρέσο των ΗΠΑ κατατέθηκαν νομοσχέδια που προτείνουν να απαγορευτεί.
Η Recursive τα θεωρεί αυτά περισσότερο επιστημονική φαντασία και τη νομοθεσία περιττό φρένο. Ο Socher λέει ότι το σύστημα που έφτιαξε το Flint δεν μπορεί να ξεφύγει από τον έλεγχο. Ο στόχος είναι η Eureka Machine να φτάσει σε πλήρη αυτοβελτίωση, με ανθρώπους όμως να επιβλέπουν και να μπορούν να τη σταματήσουν.
Οι επενδυτές πάντως πείστηκαν. Η εταιρεία άντλησε 650 εκατ. δολάρια με αποτίμηση 4,65 δισ. δολάρια από τις Google Ventures, Greycroft, Nvidia και AMD Ventures. Ο Socher ήταν παλαιότερα επικεφαλής επιστήμονας της Salesforce, ενώ στους συνιδρυτές είναι ο Jeff Clune, καθηγητής στο University of British Columbia που μελετά συστήματα ικανά να μαθαίνουν επ’ αόριστον.
Δεν είναι οι μόνοι. Ομάδα από τη Microsoft, το Carnegie Mellon και το University of Virginia δημοσίευσε πρόσφατα εργασία όπου ένας agent προγραμματισμού βελτιώνει τον εαυτό του αλλάζοντας τόσο το λογισμικό που μετατρέπει τη συλλογιστική του σε πράξεις όσο και τα βάρη του δικού του μοντέλου. Ο Socher υποστηρίζει ότι η προσέγγιση θα κάνει την προηγμένη AI πιο προσιτή: «Είναι ο μόνος τρόπος για να φτιάξει αυτή η πολύ μικρή ομάδα ένα μοντέλο που είναι πραγματικά καλύτερο από κάθε άλλο της κατηγορίας του».
