Η Meta παρουσίασε το Muse Ember, ένα μοντέλο εισόδου που, όπως λέει η ίδια, κοστίζει περίπου το ένα τρίτο από το αντίστοιχο της Anthropic και πετυχαίνει την ίδια βαθμολογία. Έχει και μια ιδιαιτερότητα: είναι το πρώτο μοντέλο που η εταιρεία εκπαίδευσε με τη βοήθεια του Muse Wonder, του κορυφαίου γλωσσικού μοντέλου της. Η Meta δεν διευκρίνισε ποιο κομμάτι της διαδικασίας ανέλαβε το Muse Wonder, αναφέρει το SiliconANGLE.
Το δημοσίευμα προτείνει μια πιθανή εξήγηση: το post-training, δηλαδή το στάδιο όπου ένα μοντέλο βελτιώνεται με επιπλέον δεδομένα μετά την αρχική εκπαίδευση. Η Thinking Machines Labs έδειξε πρόσφατα ότι ακόμη και ένα σχετικά μικρό μοντέλο μπορεί να τρέξει μόνο του ολόκληρη τέτοια διαδικασία. Είναι όμως εικασία του δημοσιογράφου, όχι στοιχείο της Meta.
Ο φθηνός εργάτης δίπλα στον μεγάλο συντονιστή
Το Muse Ember είναι φτιαγμένο για έναν συγκεκριμένο ρόλο. Σε πολλές εφαρμογές ένα μεγάλο μοντέλο, όπως το Muse Wonder, αναλύει το αίτημα του χρήστη, το σπάει σε μικρότερες δουλειές και τις αναθέτει σε πράκτορες που τρέχουν πάνω σε φθηνότερο μοντέλο. Η Meta λέει ότι το Ember βελτιστοποιήθηκε ακριβώς για αυτή τη δεύτερη θέση.
Τι δείχνουν τα νούμερα της Meta
Η εταιρεία το μέτρησε με το Artificial Analysis Index, που συγκεντρώνει εννέα benchmarks, από προγραμματισμό ως οικονομική ανάλυση. Σύμφωνα με τη Meta, το Ember έφτασε τη βαθμολογία του Claude Haiku 5.5 της Anthropic με περίπου το ένα τρίτο της τιμής και ξεπέρασε το GPT-6 Luna της OpenAI.
Σε δεύτερη εσωτερική αξιολόγηση, με εννέα ακόμη benchmarks, και τα τρία μοντέλα έτρεξαν σε λειτουργία «max», δηλαδή με τη μέγιστη διαθέσιμη υπολογιστική ισχύ. Το Ember νίκησε τα άλλα δύο σε επτά από τα εννέα. Στις περισσότερες περιπτώσεις η διαφορά ήταν λίγες ποσοστιαίες μονάδες. Η εξαίρεση είναι το AutomationBench-AA, ένα σύνολο 657 εργασιών σε εφαρμογές όπως το Gmail και το Salesforce, όπου το Ember προηγήθηκε κατά 17%. Όλα τα αποτελέσματα προέρχονται από τη Meta και όχι από ανεξάρτητο φορέα.
Τιμές και τεχνικά στοιχεία
Το μοντέλο έχει παράθυρο πλαισίου 1 εκατομμυρίου tokens, δηλαδή μπορεί να διαβάσει μεγάλα έγγραφα μονομιάς. Δέχεται κείμενο, εικόνες, ήχο και βίντεο και γράφει απαντήσεις έως 512.000 tokens.
Διατίθεται μέσω του Model API της Meta με 10 σεντς ανά εκατομμύριο tokens εισόδου και 50 σεντς ανά εκατομμύριο tokens εξόδου. Με την ενσωματωμένη κρυφή μνήμη, που ξαναχρησιμοποιεί προτροπές που επαναλαμβάνονται ώστε να μην επεξεργάζονται από την αρχή, η τιμή εισόδου πέφτει στα 0,4 σεντς ανά εκατομμύριο tokens.
Πηγή: SiliconANGLE
