Ο ψηφιακός βοηθός Finn της bunq, τράπεζας που λειτουργεί μόνο online, τρέχει πλέον σε ανοιχτά μοντέλα. Σύμφωνα με τη Nvidia, οι απαντήσεις του έχουν την ποιότητα των κορυφαίων κλειστών μοντέλων και κοστίζουν το 60% όσων κόστιζαν πριν. Το σύστημα φιλοξενείται στο cloud της Nebius.
Η bunq είναι ένα από τα παραδείγματα που έφερε η Nvidia στο συνέδριο GTC Berlin, με μια μακριά λίστα ευρωπαϊκών τραπεζών, εταιρειών πληρωμών και παρόχων χρηματοοικονομικών δεδομένων. Το κοινό τους σημείο, όπως το περιγράφει η ίδια η Nvidia στο εταιρικό της blog, είναι τα μοντέλα ανοιχτών βαρών: μοντέλα των οποίων οι παράμετροι δημοσιεύονται, ώστε ο καθένας να τα κατεβάσει και να τα τρέξει στους δικούς του servers. Για μια τράπεζα αυτό σημαίνει ότι τα στοιχεία των πελατών δεν φεύγουν από τα συστήματά της και ότι το κόστος το ελέγχει η ίδια, όχι ο πάροχος ενός κλειστού μοντέλου. Από κάτω, φυσικά, τρέχουν GPU της Nvidia.
Η Revolut στήνει όλη την τεχνολογία της σε ένα μοντέλο
Το πιο φιλόδοξο σχέδιο είναι της Revolut. Η εταιρεία ξαναχτίζει τα συστήματά της πάνω σε ένα foundation model, ένα μεγάλο βασικό μοντέλο που εξυπηρετεί πολλές διαφορετικές εργασίες, με το όνομα PRAGMA. Τρέχει σε κάρτες Blackwell Ultra με τα εργαλεία cuDF και Dynamo-Triton της Nvidia, εξυπηρετεί αρχικά 80 εκατομμύρια πελάτες και έχει σχεδιαστεί ώστε να αντέξει τριπλάσιο φορτίο.
«Η Revolut επεξεργάζεται δισεκατομμύρια συναλλαγές. Η ευκαιρία υπήρχε πάντα, το ερώτημα ήταν αν τα foundation models μπορούν να δουλέψουν σε αυτή την κλίμακα και σε πολλούς τομείς», είπε ο Pavel Nesterov, επικεφαλής AI της εταιρείας. Κατά τον ίδιο, το PRAGMA δείχνει ότι η απόσταση από μια ερευνητική ανακάλυψη ως ένα τραπεζικό σύστημα σε παραγωγή μπορεί να καλυφθεί.
Στη Βρετανία η Lloyds έφτιαξε το ATUM, ένα μοντέλο που μετατρέπει δισεκατομμύρια συναλλαγές σε πληροφορία που ξαναχρησιμοποιείται σε όλη την τράπεζα. Η Starling εκπαίδευσε το δικό της σύστημα, το Starling Intelligence, με τα δεδομένα των συναλλαγών της σε κυρίαρχο βρετανικό cloud, υποδομή που μένει εντός της χώρας, της Civo. Η Nvidia την παρουσιάζει ως την πρώτη τράπεζα που εκπαιδεύει μοντέλο τύπου agent, ικανό να εκτελεί εργασίες και όχι μόνο να απαντά, σε τέτοια υποδομή. Η SBS, πάλι, προσφέρει πλατφόρμα ώστε οι τράπεζες να τρέχουν τέτοια μοντέλα χωρίς τα δεδομένα τους να βγαίνουν έξω.
Βρετανικές προφορές, πληρωμές και πίνακες
Άλλοι στοχεύουν πιο συγκεκριμένα προβλήματα. Η NatWest φτιάχνει σύστημα που θα καταλαβαίνει όλο το φάσμα των βρετανικών προφορών και διαλέκτων, μαζί με την τραπεζική ορολογία, με τα μοντέλα αναγνώρισης ομιλίας της Nvidia, ανάμεσά τους το Nemotron 3.5 ASR. Η Modulr χτίζει εξειδικευμένα μοντέλα για διαφορετικά κομμάτια των πληρωμών με βάση το ανοιχτό Nemotron-3-Ultra-550B. Η Santander δοκιμάζει από νωρίς τη νέα οικογένεια Kumo, μοντέλα ανοιχτών βαρών για δομημένα δεδομένα, όσα ζουν σε πίνακες και βάσεις.
Στην έρευνα αγορών, η RavenPack δέχεται μια υπόθεση γραμμένη σε απλή γλώσσα και επιστρέφει έτοιμο σύνολο δεδομένων για backtest, τη δοκιμή μιας στρατηγικής πάνω σε ιστορικά στοιχεία. Το LSEG υπόσχεται ανάλυση ιστορικών τιμών ανά συναλλαγή έως και δέκα φορές ταχύτερα. Η Nvidia, που τελευταία δένεται όλο και περισσότερο με ευρωπαίους παίκτες, όπως με την πρόσφατη συνεργασία της με τη Mistral, πουλά εδώ εξίσου hardware και λογισμικό.
Η Stripe μετρά 92% λιγότερο κόστος, σε δοκιμές
Οι μεγαλύτεροι αριθμοί αφορούν την ανίχνευση απάτης, όπου μετρά πόσο γρήγορα φτάνουν τα δεδομένα στο μοντέλο. Η HSBC αναφέρει πενταπλάσια ταχύτητα επεξεργασίας με τη μηχανή GPU της Starburst. Η Stripe λέει ότι οι ροές δεδομένων της πλατφόρμας Stripe Radar έτρεξαν 42 φορές ταχύτερα, με εξοικονόμηση κόστους 92%. Τα νούμερα αυτά, πάντως, προέρχονται από δοκιμές εκτός παραγωγής, όχι από το σύστημα που ελέγχει σήμερα τις πληρωμές των πελατών της.
