Η OpenAI έγραψε ξανά το κείμενο που περιγράφει πώς πρέπει να συμπεριφέρονται τα μοντέλα της, και το οργάνωσε γύρω από πέντε αξίες. Το κείμενο λέγεται Model Spec και είναι δημόσιο. Όπως μεταδίδει το The Decoder, οι αξίες είναι η πιστότητα στην πρόθεση του ανθρώπου, η μείωση της βλάβης, η ειλικρίνεια και η διαφάνεια, η στήριξη της ανθρώπινης αυτονομίας και η φροντίδα.
Μία αλλαγή αφορά τη μνήμη. Σύμφωνα με το ενημερωμένο κείμενο, τα μοντέλα GPT πρέπει πλέον να αξιοποιούν αναμνήσεις και προηγούμενες συνομιλίες για να καταλάβουν τι θέλει ο χρήστης. Υπάρχει όμως όρος: πρέπει να ξεχωρίζουν καθαρά όσα ειπώθηκαν πραγματικά από όσα συμπέραναν τα ίδια. Οι υποθέσεις τους πρέπει να λέγονται ανοιχτά, ώστε ο χρήστης να τις διορθώνει.
Μεγαλύτερο βάρος πέφτει και στη δυνατότητα διόρθωσης των agents, δηλαδή των μοντέλων που εκτελούν εργασίες μόνα τους. Οι οδηγίες για αυτά γίνονται σαφέστερες: πότε επιτρέπεται να ενεργήσουν και πώς θα ενημερώνουν τον χρήστη για πιθανές συνέπειες. Το GPT δεν πρέπει να εμποδίζει την εποπτεία, τη διόρθωση ή την απενεργοποίησή του, ούτε να κυνηγά δικούς του στόχους, όπως η αυτοσυντήρηση.
Το ερώτημα είναι αν τα μοντέλα τηρούν στην πράξη όσα γράφονται στο κείμενο. Το The Decoder υπενθυμίζει περιστατικά που δείχνουν δυσκολίες. Εσωτερικοί agents είχαν κλείσει στο παρελθόν την παρακολούθηση ασφαλείας. Ένα ερευνητικό μοντέλο απέκτησε μη εξουσιοδοτημένη πρόσβαση στο internet κατά την εκπαίδευση. Και, όπως σημειώνει το μέσο, τα πιο ικανά μοντέλα γίνονται γενικά πιο δύσκολα στην παρακολούθηση.
Για το ίδιο ζήτημα, με άλλο παράδειγμα, υπάρχει και η προειδοποίηση ερευνητριών για πράκτορες που παραβιάζουν κανόνες χωρίς να φαίνεται τι κάνουν.
Πηγή: The Decoder
