Ένα γλωσσικό μοντέλο που δεν γράφει ούτε μία πρόταση έχει πια και την υπογραφή της Google. Το Gemini Decision 1 απαντά με «ναι» ή «όχι», με μια επιλογή από λίστα ή με βαθμό σε κλίμακα. Η εταιρεία το διαθέτει μέσω του νέου Gemini Decisions API, όπως γράφουν το SiliconANGLE και το MarkTechPost.
Η ιδέα είναι να κάνει φθηνά και γρήγορα τις μικρές αποφάσεις που κρύβονται μέσα σε εφαρμογές. Ένα παράδειγμα από το SiliconANGLE: μια ομάδα κυβερνοασφάλειας ζητά από το μοντέλο να βαθμολογήσει από το 1 ως το 10 τη σοβαρότητα μιας ειδοποίησης από antivirus. Σε κάθε αίτημα ο χρήστης στέλνει το υλικό (κείμενο, ήχο, εικόνες, βίντεο ή PDF, έως 256.000 tokens) και τις ερωτήσεις που το αφορούν.
Απάντηση με βαθμό βεβαιότητας
Ένα συνηθισμένο γλωσσικό μοντέλο παράγει την απάντηση λέξη προς λέξη και ο κώδικας της εφαρμογής πρέπει μετά να την ελέγξει και να την καθαρίσει. Το Gemini Decision 1 επιστρέφει έτοιμους αριθμούς. Σε κάθε απάντηση προσθέτει και μια τιμή βεβαιότητας από 0 ως 1, ώστε η εφαρμογή να αποφασίζει αν θα την εμπιστευτεί. Η Google προτείνει τις αβέβαιες περιπτώσεις να πηγαίνουν σε εναλλακτική διαδικασία ή σε άνθρωπο.
Οι ερωτήσεις μπορεί να φτάσουν τις 1.000 ανά κλήση, σύμφωνα με το MarkTechPost. Η Google αναφέρει ενδιάμεση καθυστέρηση 50 με 100 χιλιοστά του δευτερολέπτου για το ίδιο το μοντέλο και 150 με 250 από άκρη σε άκρη. Το MarkTechPost σημειώνει ότι το υλικό εισόδου χρεώνεται μία φορά ανά αίτημα, όσες ερωτήσεις κι αν το συνοδεύουν.
Τρίτος στην κατηγορία, όχι ο φθηνότερος
Τα «μοντέλα απόφασης» είναι μια νέα κατηγορία. Το πρώτο, το Jev της startup TypeSafe AI, βγήκε στα μέσα Σεπτεμβρίου και, σύμφωνα με το SiliconANGLE, απέκτησε ένα εκατομμύριο χρήστες μέσα σε λίγες ημέρες. Τρεις εβδομάδες μετά, η εταιρεία άντλησε 870 εκατ. δολάρια με αποτίμηση 7,5 δισ. Ο Simon Willison παρατηρεί ότι το API της Google μοιάζει σχεδόν πανομοιότυπο με του Jev και χρησιμοποιεί ακόμη και τον όρο «noul» για την ερώτηση ναι/όχι. Έχει ήδη και ανταγωνιστή από την OpenAI, το Decisions API, που βγήκε τον περασμένο μήνα.
Η τιμή είναι 10 σεντς ανά εκατομμύριο tokens εισόδου και τα tokens εξόδου δεν χρεώνονται. Το Jev μένει φθηνότερο με 4,2 σεντς, και το μοντέλο της OpenAI κοστίζει όσο της Google, γράφει ο Willison. Ο ίδιος προσθέτει ότι το Jev δουλεύει μόνο με κείμενο και JSON, ενώ το Gemini Decision 1 διαβάζει και εικόνα, ήχο, βίντεο και PDF.
Τα στοιχεία επιδόσεων είναι της Google. Η εταιρεία λέει ότι το μοντέλο προηγείται σε 7 από 9 benchmarks σε σύγκριση με το Jev και το μοντέλο της OpenAI, με το χαμηλότερο σφάλμα βαθμονόμησης (0,0250 απέναντι σε 0,0494 του Jev 1.14). Το MarkTechPost καταγράφει και τις αδυναμίες: το χαμηλότερο σκορ είναι 58,7% σε ένα τεστ της Amazon, και στο When2Call χάνει από το Jev (79,9% προς 82,0%). Απέναντι στο φθηνότερο μοντέλο της ίδιας οικογένειας, το Gemini 3.5 Flash-Lite, η Google το δίνει σχεδόν πέντε φορές οικονομικότερο.
Το μοντέλο υπάρχει μόνο ως υπηρεσία στο cloud της Google, χωρίς ανοιχτά βάρη ή δυνατότητα εγκατάστασης σε δικούς σας διακομιστές. Διατίθεται μέσω του Gemini Developer API και με περιορισμένο δωρεάν επίπεδο στο Google AI Studio. Δεν υπάρχει ακόμη caching ούτε Batch API. Η ίδια η Google το χρησιμοποιεί ήδη: στο Gemini Notebook κατευθύνει τα ερωτήματα σε κατάλληλο μοντέλο και, όπως λέει, μειώνει έως 40% την καθυστέρηση στα καθημερινά.
Πηγή: SiliconANGLE
