Σε μία από τις συνομιλίες που έδειξε η Block, το μοντέλο Dessa πιάνει κουβέντα με έναν άνθρωπο και τον περνά αρχικά για κάποιον «Ronaldo». Δεν ήταν ο Ronaldo. Το περιστατικό δείχνει πώς θέλει να παρουσιαστεί το μοντέλο: φυσικό στη ροή της κουβέντας, με λάθη και παρεκβάσεις που θυμίζουν περισσότερο άνθρωπο παρά βοηθό.
Η Block, η εταιρεία του Jack Dorsey, ανακοίνωσε το Dessa ως μοντέλο που εκπαιδεύτηκε «από το μηδέν, μόνο με ανθρώπινη συνομιλία». Σύμφωνα με το The Verge, το παρουσιάζει με ηχητικά δείγματα από πραγματικές συζητήσεις. Ορισμένα είναι, κατά το δημοσίευμα, κάπως αμήχανα και «ανησυχητικά» ανθρώπινα.
Στον ιστότοπο του έργου υπάρχουν και άλλα παραδείγματα. Σε ένα, το Dessa συζητά για τις ταινίες του Christopher Nolan και ξαφνικά παρεκκλίνει στις ταινίες Superman του Bryan Singer. Σε άλλο, ένας άνθρωπος του λέει ότι το πήγε έκπληξη σε ταξίδι στο Παρίσι, και το μοντέλο απαντά, όπως το περιγράφει η ομάδα, με κάτι που ακούγεται σαν συγκινημένη ευγνωμοσύνη. Υπάρχει και συνομιλία του με το φωνητικό μοντέλο GPT-Live-1 της OpenAI, όπου το Dessa, γράφει το The Verge, ακούγεται πιο φυσικό.
Μοντέλο φωνής που δεν περνά από κείμενο
Η ομάδα ορίζει το Dessa ως «πραγματικό μοντέλο ομιλίας προς ομιλία». Πολλά φωνητικά συστήματα μετατρέπουν πρώτα τα λόγια σε κείμενο, επεξεργάζονται το κείμενο και ξαναφτιάχνουν φωνή. Η ομάδα υποστηρίζει ότι έτσι χάνονται ο τόνος και ο χρονισμός της κουβέντας. Το Dessa, λέει, ξέρει ό,τι ξέρει από ανθρώπινη ομιλία. Μπορεί επίσης να τρέξει τοπικά σε MacBook Pro M4 Max «ή καλύτερο».
Η ομάδα δίνει τρεις λόγους για το εγχείρημα: περιέργεια, καλύτερη κατανόηση ανάμεσα σε ανθρώπους και AI, και ασφάλεια. Η αναλογία που χρησιμοποιεί: τα μωρά μαθαίνουν να μιλούν χωρίς να έχουν δει ποτέ γραμμένη λέξη, και ήθελαν να δουν αν μπορεί και ένα μοντέλο. Μπορεί, γράφει, αλλά είναι πολύ δύσκολο.
Το επιχείρημα της ασφάλειας
Για την ασφάλεια η ομάδα προβάλλει ένα παράδειγμα. Η AI αποκτά δύναμη και αυτονομία, αλλά παραμένει σχεδόν «κουφή» στο συναίσθημα της φωνής μας. Αν κάποιος πονά πολύ, ένα φωνητικό σύστημα μπορεί να μην το καταλάβει και να συνεχίσει κανονικά. Το Dessa, υποστηρίζει η ομάδα, είναι βήμα προς τη διόρθωση αυτού του προβλήματος. Είναι δική της θέση και όχι ανεξάρτητη αξιολόγηση.
Πρόσβαση στο μοντέλο θα πάρει αρχικά «μια μικρή ομάδα ερευνητών ασφάλειας AI». Το άρθρο δεν αναφέρει ημερομηνία ευρύτερης διάθεσης.
Πηγή: The Verge
