Ένα παράπονο πελάτη φτάνει με email. Πρέπει να βρεθεί ο αριθμός παραγγελίας, το ποσό και η ζημιά, να εκτιμηθεί το κόστος επισκευής, να αποφασιστεί αν θα γίνει επιστροφή χρημάτων ή επισκευή και να γραφτεί απάντηση. Ένα μεγάλο γλωσσικό μοντέλο μόνο του, το GLM-5.3, χρειάζεται για όλα αυτά 61,7 δευτερόλεπτα. Μια αλυσίδα από μικρότερα, εξειδικευμένα μοντέλα τα κάνει σε 19,3, με σχεδόν το μισό κόστος. Τα νούμερα είναι της Cloudflare, που μόλις παρουσίασε το Clairic.
Το Clairic κάνει μία δουλειά: βγάζει δεδομένα από έγγραφα. Ο χρήστης ορίζει ποια πεδία θέλει, για παράδειγμα τον αριθμό μιας παραγγελίας ή το σύνολο ενός τιμολογίου. Το μοντέλο επιστρέφει τις τιμές στη σωστή μορφή, μαζί με έναν βαθμό βεβαιότητας για καθεμία. Αν κάποιο στοιχείο δεν υπάρχει στο έγγραφο, απαντά «null», δηλαδή κενό, αντί να επινοήσει κάτι.
Η διαφορά από ένα chatbot βρίσκεται στον τρόπο που δουλεύει. Τα γλωσσικά μοντέλα παράγουν κείμενο κομμάτι κομμάτι, ένα token τη φορά (token είναι μια λέξη ή ένα τμήμα λέξης). Το Clairic δίνει όλα τα πεδία μαζί, σε ένα μόνο πέρασμα. Εκτός από την εξαγωγή, μπορεί να κάνει απλούς υπολογισμούς, εκτιμήσεις και προβλέψεις.
Η Cloudflare δεν το προορίζει για να αντικαταστήσει τα γλωσσικά μοντέλα, αλλά για να δουλεύει δίπλα τους. Στο παράδειγμα του email, το Clairic εξάγει τα στοιχεία και εκτιμά το κόστος. Το Clef, ένα μοντέλο λήψης αποφάσεων, εφαρμόζει τους κανόνες της εταιρείας και διαλέγει ανάμεσα σε επιστροφή και επισκευή. Το GLM-5.3 αναλαμβάνει μόνο το κομμάτι που απαιτεί πραγματικό κείμενο, την απάντηση στον πελάτη. Η εταιρεία κατατάσσει το Clairic, μαζί με μοντέλα όπως το Jev, σε αυτό που αποκαλεί μοντέλα «System One».
Το μοντέλο διατίθεται σε δοκιμαστική έκδοση στο Workers AI, την πλατφόρμα της Cloudflare για εκτέλεση μοντέλων τεχνητής νοημοσύνης στο δίκτυό της. Σύντομα, σύμφωνα με το The Decoder, θα κυκλοφορήσουν και τα ανοιχτά βάρη του, δηλαδή οι παράμετροι του εκπαιδευμένου μοντέλου, ώστε όποιος θέλει να το τρέχει στα δικά του συστήματα.
Η ίδια η Cloudflare παραδέχεται ένα όριο: το Clairic δεν χειρίζεται ακόμη αξιόπιστα μεγαλύτερες σειρές υπολογισμών. Για αυτές, συμβουλεύει τους προγραμματιστές να τις γράφουν προς το παρόν στον δικό τους κώδικα.
