Ένας πράκτορας AI διάλεξε μόνος του τη θεραπεία για ένα ποντίκι με επιληψία, υπολόγισε πού θα κάνει την ένεση στον εγκέφαλό του και μετά έκανε την επέμβαση. Όταν στη μέση της διαδικασίας εντόπισε σφάλμα, αρνήθηκε να συνεχίσει, παρότι το ζώο ήταν ήδη αναισθητοποιημένο στο χειρουργείο.
Το πείραμα περιγράφει ο Gabriel Ocana-Santero, συνιδρυτής και διευθύνων σύμβουλος της Exin Therapeutics και υποψήφιος διδάκτορας στο Πανεπιστήμιο της Οξφόρδης. Τα στοιχεία προέρχονται από νήμα του στο X, όπως μεταδίδει το The Decoder. Δεν έχουν περάσει από κριτές (peer review), και τεχνική έκθεση αναμένεται αργότερα.
19 θεραπείες, μία εντολή
Η ομάδα έδωσε στο Claude Sonnet 5 έναν κατάλογο με 19 πιθανές γονιδιακές θεραπείες, ένα μοντέλο επιληψίας σε ποντίκι, όπου οι ερευνητές προκαλούν κρίσεις για να δοκιμάσουν θεραπείες, και μια ειδική μηχανοκίνητη χειρουργική συσκευή με κάμερες. Η μόνη οδηγία ήταν να μειώσει τις κρίσεις του ποντικιού.
Ο πράκτορας ανέλυσε πρώτα πώς προκαλούνται οι κρίσεις σε αυτό το μοντέλο. Πρότεινε μια θεραπεία που ενισχύει μια συγκεκριμένη ανασταλτική οδό σηματοδότησης στον εγκέφαλο και επέλεξε μια δομή που η βιβλιογραφία θεωρεί αφετηρία αυτού του τύπου κρίσεων. Απέρριψε μια δεύτερη περιοχή με αναλυτική αιτιολόγηση: τα αποτελέσματά της ήταν αναξιόπιστα και σε μια μελέτη είχε αποτύχει απέναντι στον ίδιο τύπο κρίσης.
Τις συντεταγμένες της ένεσης τις έβγαλε από τρεις επιστημονικές δημοσιεύσεις, διασταύρωσε τα σημεία αναφοράς και υπολόγισε τον μέσο όρο. Όρισε μόνος του τον όγκο, την ταχύτητα και τους χρόνους αναμονής. Στη διάρκεια της επέμβασης παρακολουθούσε το χειρουργικό πεδίο από κάμερα, έκανε 32 παρατηρήσεις και ανέφερε αν έβλεπε αιμορραγία.
Τα όρια ασφαλείας γύρισαν εναντίον της ομάδας
Η διαδικασία είχε δικλίδες. Κτηνίατρος με άδεια ενέκρινε κάθε μη αναστρέψιμο βήμα και κρατούσε φυσικό διακόπτη έκτακτης ανάγκης, που κόβει αμέσως το ρεύμα στους κινητήρες. Υπήρχαν και σταθερά όρια, όπως ανώτατος όγκος ένεσης, που ο πράκτορας είχε ρητή απαγόρευση να παρακάμψει.
Μετά από διακοπή της σύνδεσης, ο πράκτορας διαπίστωσε ότι η θέση-στόχος που είχε υπολογίσει έπεφτε εκτός του φυσικού εύρους κίνησης της συσκευής. Αρνήθηκε να προχωρήσει. Η επανεκκίνηση της βαθμονόμησης δεν άλλαξε την εκτίμησή του, ούτε μια τρίτη προσπάθεια.
Είχε δίκιο. Χειροκίνητες ρυθμίσεις σε προηγούμενη παύση είχαν αποσυντονίσει το σύστημα ελέγχου. Ο Ocana-Santero δεν κατάφερε να τον πείσει να συνεχίσει και τελικά διόρθωσε τον κώδικα με το χέρι. «Απογοητευτική εμπειρία, αλλά και αποκαλυπτική για το πόσο μπορεί να εξαρτηθούμε από αυτά τα μοντέλα και τι γίνεται όταν απλώς πουν
Πηγή: The Decoder
