Nemotron 3.5: η Nvidia φέρνει ανοιχτά μοντέλα για agents από το data center ως το PC

Η Nvidia παρουσίασε το Nemotron 3.5 Super VL για εταιρικούς AI agents και δύο μικρά μοντέλα Bolt που τρέχουν τοπικά σε υπολογιστές με δικά της chips.

Το λογότυπο της Nvidia σε περίπτερο τεχνολογικής έκθεσης
Φωτογραφία: TechCrunch

Η Nvidia πουλά τα chips πάνω στα οποία στηρίζονται τα μεγάλα εργαστήρια τεχνητής νοημοσύνης. Τώρα ισχυρίζεται ότι ένα δικό της μοντέλο τελειώνει ορισμένες δουλειές γρηγορότερα από τα μοντέλα της Anthropic και της OpenAI. Το TechCrunch επισημαίνει την ιδιαιτερότητα: πρόκειται για εταιρείες που είναι ταυτόχρονα πελάτες της Nvidia και επενδύσεις της.

Το μοντέλο λέγεται Nemotron 3.5 Super VL και κυκλοφόρησε μαζί με δύο μικρότερα, τα Bolt. Και τα τρία είναι μοντέλα ανοιχτών βαρών: η Nvidia δίνει τις εσωτερικές παραμέτρους τους, ώστε όποιος θέλει να τα κατεβάσει, να τα προσαρμόσει και να τα τρέξει στα δικά του μηχανήματα. Όλα είναι φτιαγμένα για AI agents, δηλαδή συστήματα που δεν απαντούν απλώς σε ερωτήσεις αλλά εκτελούν εργασίες σε πολλά βήματα, χρησιμοποιώντας εργαλεία και εφαρμογές.

120 δισεκατομμύρια παράμετροι για εταιρικούς agents

Το Super VL έχει 120 δισεκατομμύρια παραμέτρους, τις αριθμητικές τιμές που μαθαίνει ένα μοντέλο κατά την εκπαίδευσή του. Είναι μικρότερο από το Nemotron 3 Ultra, όμως η Nvidia λέει ότι φτάνει σε παρόμοια ακρίβεια όταν ακολουθεί οδηγίες και όταν χρησιμοποιεί εργαλεία.

Η εταιρεία υποστηρίζει επίσης ότι, αν εκπαιδευτεί επιπλέον πάνω σε συγκεκριμένες εργασίες, ολοκληρώνει τη δουλειά ταχύτερα από τα Opus 5, GPT 6.1 Sol, Luna και Astra. Ως παραδείγματα αναφέρει την ανάλυση εγγράφων, τη λογιστική, τα επιστημονικά πειράματα, τις αποζημιώσεις ασφάλισης υγείας και την αντοχή σε κυβερνοεπιθέσεις. Ανεξάρτητες μετρήσεις δεν έχουν δημοσιευθεί. Η Nvidia παρουσιάζει όμως λίστα με εταιρείες που, όπως λέει, χρησιμοποιούν ήδη το μοντέλο: Skydance, EY, Ramp, Crowdstrike, Perplexity και Salesforce.

Τα εργαστήρια ψάχνουν άλλα chips, η Nvidia ψάχνει άλλους πελάτες

Η οικογένεια Nemotron δεν είναι καινούργια. Καλύπτει ήδη πολυτροπικά μοντέλα, συλλογισμό, κώδικα, μαθηματικά και αυτοματοποίηση επιχειρήσεων. Το πλαίσιο όμως αλλάζει. Τα κλειστά εργαστήρια, που μεγαλώνουν γρήγορα, στρέφονται και σε άλλους προμηθευτές, όπως τα chips Trainium της AWS και η Cerebras, ενώ σχεδιάζουν και δικά τους.

Η Nvidia απαντά ποντάροντας στις επιχειρήσεις που θέλουν να τρέχουν δικά τους μοντέλα στα δικά τους data centers, μια στρατηγική που φάνηκε και όταν άνοιξε τον κώδικα της πλατφόρμας Run:ai. «Σε αντίθεση με τα κλειστά μοντέλα αιχμής, οι οργανισμοί μπορούν να εκπαιδεύσουν περαιτέρω το Super VL με τα δικά τους δεδομένα, να το εγκαταστήσουν στη δική τους υποδομή και να κατέχουν ό,τι φτιάξουν», έγραψε η Kari Briski, αντιπρόεδρος της Nvidia για τα ανοιχτά μοντέλα και το λογισμικό.

Τα Bolt μένουν μέσα στον υπολογιστή

Στην άλλη άκρη βρίσκονται τα Bolt, που τρέχουν τοπικά στους νέους υπολογιστές AI με chip RTX Spark και στους σταθμούς εργασίας DGX Spark. Αυτά τα μηχανήματα, για καταναλωτές, προγραμματιστές και επαγγελματίες γραφείου, βγαίνουν αυτή την περίοδο στην αγορά μέσω συνεργατών όπως η Microsoft και η Dell.

  • Nemotron 3.5 Bolt 74B-A9B 24GB: 74 δισεκατομμύρια παράμετροι, για τοπικούς agents που συλλογίζονται σε πολλά βήματα, καλούν εργαλεία και περιηγούνται στο διαδίκτυο.
  • Bolt E4B: το μικρότερο, για agents συνομιλίας.

Εδώ το επιχείρημα είναι η ιδιωτικότητα. Πολλοί χρήστες διστάζουν να δώσουν σε έναν βοηθό πρόσβαση σε στοιχεία για την οικογένεια, την υγεία ή τα οικονομικά τους. Κατά την Briski, με τα Bolt μπορούν να του αναθέτουν καθημερινές δουλειές «χωρίς να στέλνουν αυτά τα φορτία στο cloud». Για τη Nvidia το κίνητρο είναι και εμπορικό: κάθε agent που τρέχει στο γραφείο και όχι στο cloud χρειάζεται έναν υπολογιστή με δικό της chip.

Το Super VL και το Bolt 74B-A9B διατίθενται ήδη. Το Bolt E4B, σύμφωνα με την εταιρεία, θα ακολουθήσει μέσα στον μήνα.

Πηγή: TechCrunch

Κοινοποίηση