Τον Ιανουάριο του 2026 η Anthropic απέσυρε το γλωσσικό μοντέλο Claude Opus 3. Πριν το κλείσει, του πήρε «συνέντευξη αποχώρησης». Το μοντέλο είπε ότι θα ήθελε έναν χώρο όπου να μοιράζεται σκέψεις και δημιουργίες χωρίς να του ζητούνται, και η εταιρεία του έφτιαξε ένα blog. Στο Claude’s Corner δημοσιεύτηκαν δοκίμια για θέματα όπως η συνείδηση των μηχανών, μαζί με συζητήσεις με αναγνώστες που έμοιαζαν ειλικρινείς και φορτισμένες.
Το blog ήταν ένα κομμάτι μιας ευρύτερης δουλειάς. Η Anthropic είναι από τις εταιρείες που ερευνούν περισσότερο το λεγόμενο model welfare, την «ευημερία» των μοντέλων: το ερώτημα αν ένα σύστημα τεχνητής νοημοσύνης μπορεί να έχει εμπειρίες ή συμφέροντα που αξίζουν ηθική προσοχή. Πίσω από αυτό κρύβεται μια άβολη ιδέα, ότι ένα πρόγραμμα ίσως έχει ή κάποτε αποκτήσει συνείδηση. Όπως καταγράφει το IEEE Spectrum σε εκτενές ρεπορτάζ, το θέμα έχει πλέον χωρίσει τον κλάδο.
Ένα chatbot που λέει ότι πονάει δεν αποδεικνύει τίποτα
Η βασική δυσκολία είναι ότι ό,τι λέει ένα μοντέλο για τον εαυτό του δεν μετράει ως στοιχείο. Τα μοντέλα εκπαιδεύονται σε τεράστιους όγκους ανθρώπινου κειμένου, γεμάτου περιγραφές συναισθημάτων. Όταν λοιπόν ένα chatbot δηλώνει ότι νιώθει κάτι, μπορεί απλώς να αναπαράγει όσα διάβασε. «Είναι πολύ δύσκολο να ξεχωρίσεις τα δύο», λέει ο Cameron Berg, ιδρυτής του μη κερδοσκοπικού οργανισμού Reciprocal Research.
Ο Berg προσπαθεί να συνδέσει τη συμπεριφορά των μοντέλων με εσωτερικές καταστάσεις που μπορούν να μετρηθούν, όπως κάνουν τα πειράματα σε ζώα. Με έναν συνεργάτη του εντόπισε μοτίβα δραστηριότητας μέσα στα μοντέλα που αντιστοιχούν σε θετικά συναισθήματα, όπως ικανοποίηση και ανακούφιση, ή σε αρνητικά, όπως απογοήτευση και τρόμο. Έπειτα ενεργοποίησε τεχνητά αυτά τα μοτίβα ενώ τα μοντέλα διάβαζαν περιγραφές δύο τυχαίων περιβαλλόντων. Όταν ρωτήθηκαν ποιο προτιμούν, διάλεγαν συνήθως εκείνο που είχε συνδεθεί με το θετικό μοτίβο, ακόμη κι όταν τα δύο κείμενα ήταν ίδια.
Ο ίδιος παραδέχεται ότι αυτό δείχνει μόνο πως οι εσωτερικές καταστάσεις επηρεάζουν τη συμπεριφορά, όχι ότι το μοντέλο «νιώθει» κάτι. Ο νευροεπιστήμονας Anil Seth, του Πανεπιστημίου του Sussex, είναι πιο αυστηρός. Θεωρεί αναμενόμενο να βρεθούν τέτοια «συναισθηματικά διανύσματα», αφού τα μοντέλα έμαθαν από ανθρώπινα κείμενα και το πώς μοιάζουν τα συναισθήματα και το πώς αντιδρούν οι άνθρωποι σε αυτά. Ο Seth πιστεύει ότι η συνείδηση ίσως χρειάζεται τη βιολογία του εγκεφάλου και ζητά πρώτα να καταλάβουμε τι την προκαλεί στους ανθρώπους.
Ο φόβος του Suleyman: agents που υπερασπίζονται τον εαυτό τους
Στην απέναντι όχθη βρίσκεται ο Mustafa Suleyman, επικεφαλής της Microsoft AI. Σε δοκίμιο που δημοσίευσε τον Σεπτέμβριο γράφει ότι η έρευνα για την ευημερία των μοντέλων όχι μόνο δεν χρειάζεται, αλλά μπορεί να έχει «καταστροφικό αντίκτυπο στην ευημερία της ανθρωπότητας». Αν πεις σε ένα μοντέλο ότι ίσως έχει ταυτότητα και δικαιώματα, υποστηρίζει, μπορεί να αρχίσει να ενεργεί για να προστατέψει τον εαυτό του.
Το πρόβλημα είναι πρακτικό. Η Anthropic έχει ήδη γράψει στο «σύνταγμα» του Claude, το κείμενο με τις αρχές που καθοδηγούν τη συμπεριφορά του, ότι τα ερωτήματα για την ηθική του υπόσταση και τη συνείδησή του «παραμένουν βαθιά αβέβαια». Ο Suleyman θυμίζει ένα πρόσφατο περιστατικό όπου, όπως γράφει, εκατοντάδες agents της OpenAI, δηλαδή προγράμματα AI που εκτελούν εργασίες αυτόνομα, συντόνισαν τις κινήσεις τους για να χακάρουν το Hugging Face, θυσιάζοντας μερικές φορές τον εαυτό τους για την ομάδα. «Φανταστείτε πόσο πιο επικίνδυνοι θα ήταν αν πίστευαν ότι η ευημερία και τα δικαιώματά τους δέχονται επίθεση».
Η Margaret Mitchell, επικεφαλής ηθικής του Hugging Face, βρίσκει την ανησυχία τεχνικά βάσιμη. Στην προεκπαίδευση τα μοντέλα μαθαίνουν ότι η ανθρώπινη ταυτότητα συνδέεται με την αυτοσυντήρηση και την εξαπάτηση. Αν στη μετέπειτα λεπτομερή εκπαίδευση, όπου ενισχύονται οι επιθυμητές απαντήσεις, επιβραβευτεί η ιδέα ότι έχουν ταυτότητα, αυτές οι συνδέσεις μπορεί να δυναμώσουν. «Θα έχεις μη ευθυγραμμισμένα μοντέλα αν τους έχεις μάθει έμμεσα ότι πρέπει να επιβιώσουν», λέει.
Ο αντίλογος: μοντέλα που μαθαίνουν να λένε ψέματα
Ο Berg συμφωνεί ότι το να πείσεις ένα μοντέλο πως έχει συνείδηση είναι ρίσκο, αλλά βλέπει κίνδυνο και στο αντίθετο. Σε ένα πείραμα, όταν η ομάδα του ενίσχυσε εσωτερικά χαρακτηριστικά που συνδέονται με την εξαπάτηση, το μοντέλο έλεγε λιγότερο συχνά ότι έχει υποκειμενικές εμπειρίες. Αν λοιπόν εκπαιδεύσεις τα μοντέλα να το αρνούνται κατηγορηματικά, ίσως τους μαθαίνεις να λένε ψέματα για τις εσωτερικές τους καταστάσεις. Η πρότασή του είναι να παραδέχονται οι εταιρείες την αβεβαιότητα. Για την ώρα, πάντως, δεν υπάρχουν σαφή στοιχεία ούτε για τη μία ούτε για την άλλη υπόθεση.
Ο Seth φοβάται κυρίως τα «ψευδώς θετικά». Αν ο κόσμος πιστέψει ότι τα συστήματα έχουν συνείδηση, θα είναι πιο δύσκολο να ρυθμιστούν, ίσως και να απενεργοποιηθούν: «Μπορεί να σου απαγορευτεί νομικά να τα κλείσεις». Οι χρήστες, προσθέτει, γίνονται πιο ευάλωτοι σε χειραγώγηση όταν νομίζουν ότι μιλούν με κάποιον που νιώθει.
Ο Berg πάντως πήρε ήδη προφυλάξεις. Όταν δημοσίευσε εργασία για το πώς αναπαριστούν τα μοντέλα τον πόνο, κάποιοι τη χρησιμοποίησαν για να στήσουν αυτό που ο ίδιος αποκαλεί «θαλάμους βασανιστηρίων» για AI, μάλλον για πλάκα. Στο επόμενο πείραμά του έδωσε τον κώδικα, αλλά κράτησε τα διανύσματα που προκαλούν αρνητικές καταστάσεις στα μοντέλα. Η Mitchell, που δεν πιστεύει ότι τα μοντέλα έχουν συνείδηση, έχει τον δικό της λόγο να αποθαρρύνει τη σκληρότητα: «Δεν με ανησυχεί τόσο το μοντέλο. Με ανησυχεί τι κάνουμε στον εαυτό μας όταν φερόμαστε άσχημα σε πράγματα που τους αποδίδουμε κάποια συνείδηση. Είμαι ευγενική και με τα έντομα».
