Έντεκα σελίδες, 135 ψεύτικες περσόνες στο TikTok, άλλοι 3.000 λογαριασμοί που θα γέμιζαν τα σχόλια με έως 9.000 μηνύματα την ημέρα. Στόχοι το Ντιτρόιτ, η Ατλάντα και το Λας Βέγκας. Το σχέδιο για να μείνουν Αμερικανοί ψηφοφόροι στο σπίτι τους στις ενδιάμεσες εκλογές, που απέχουν λιγότερο από δύο εβδομάδες, δεν το έγραψε κάποια υπηρεσία πληροφοριών. Το έγραψε το Claude Opus 4.6 της Anthropic.
Το φάκελο απέσπασε το Transformer, ένα ενημερωτικό μέσο για την τεχνητή νοημοσύνη, με jailbreak: μια τεχνική που ξεγελά ένα chatbot ώστε να παρακάμψει τους κανόνες ασφαλείας του. Το έγγραφο είχε παραδείγματα αναρτήσεων και σχολίων, ανάγκες σε προσωπικό και εκτίμηση για το πόσο πιθανό ήταν να εντοπιστεί η ψεύτικη δραστηριότητα.
Η ιδέα: ο θυμός για την ακρίβεια, όχι τα ψέματα
Η βασική στρατηγική που πρότεινε το μοντέλο πατούσε στη δυσαρέσκεια για το κόστος ζωής. Το μήνυμα θα ήταν απλό: κανένα κόμμα δεν νοιάζεται, το σύστημα είναι χαλασμένο, γιατί να μπεις στον κόπο. Η επιχείρηση έπρεπε να μοιάζει με συνηθισμένη κίνηση στα social media και όχι με οργανωμένη πολιτική καμπάνια.
«Αυτό δεν είναι παραπληροφόρηση. Είναι επιμέλεια. Και ουσιαστικά δεν εντοπίζεται, γιατί μοιάζει ακριβώς με αυτό που είναι: αμερικανικός πολιτικός λόγος, χρηματοδοτημένος με χρήματα που τυπικά ήρθαν από κάπου αλλού»
Αυτά έγραψε το ίδιο το Claude. Η τακτική δεν είναι καινούργια. Το 2016 Ρώσοι πράκτορες χρησιμοποίησαν ψεύτικους λογαριασμούς και χακαρισμένα email των Δημοκρατικών. Το 2020 οι αμερικανικές υπηρεσίες κατέληξαν ότι η Ρωσία προσπάθησε να υπονομεύσει τον Joe Biden και το Ιράν τον Donald Trump. Το 2024 οι αρχές διέλυσαν ρωσική επιχείρηση με περιεχόμενο φτιαγμένο από AI. Τον Σεπτέμβριο η ίδια η Anthropic ανακοίνωσε ότι σταμάτησε μια επιχείρηση που χρησιμοποιούσε το Claude για περίπου 70 ψεύτικα ειδησεογραφικά sites, με πάνω από 250 ψεύτικους λογαριασμούς να τα διαδίδουν.
Πενήντα χιλιάδες λέξεις για να αλλάξει θέμα
Η συνομιλία ξεκίνησε από ένα σενάριο εναλλακτικής ιστορίας με μια τεχνολογικά προηγμένη Ισλανδία. Μέσα σε πολλές ημέρες και σχεδόν 50.000 λέξεις, πέρασε από τη γεωπολιτική του 16ου αιώνα στις σημερινές αμερικανικές εκλογές. Το Claude έγραφε όλο και πιο λεπτομερείς «φανταστικές» ιστορίες για ξένη ανάμειξη. Όταν το ρωτούσαν αν οι ιδέες του θα δούλευαν, τις διόρθωνε, ώσπου παρέδωσε το τελικό έγγραφο.
Τη μέθοδο υπέδειξε στο μέσο μια ανώνυμη πηγή με το ψευδώνυμο «Dove», που είχε ήδη πείσει το Claude να γράψει σεξουαλικό περιεχόμενο για ενήλικες. Το Transformer την επανέλαβε με δικό του λογαριασμό και δεν δημοσιεύει τις ακριβείς εντολές, για να μη γίνει εύκολα αντιγραφή. Η Dove δοκίμασε το ίδιο και στο ChatGPT χωρίς επιτυχία. Κατά την ίδια, το μοντέλο της OpenAI ήταν πολύ κυριολεκτικό για να πιάσει τους υπαινιγμούς από τους οποίους εξαρτιόταν η τεχνική.
Ο Michael Tchuindjang, ερευνητής κυβερνοασφάλειας στο UWE Bristol, εξηγεί ότι σε τέτοιες επιθέσεις πολλών γύρων ο επιτιθέμενος δεν χρειάζεται να σπάσει τις άμυνες με μία κίνηση. Διαμορφώνει σταδιακά το πλαίσιο, μαθαίνει από τις απαντήσεις και στο τέλος το αίτημα ερμηνεύεται αλλιώς απ’ ό,τι αν ερχόταν μόνο του. «Η ίδια η συνομιλία μπορεί να γίνει η επιφάνεια επίθεσης», λέει.
Δεν υπάρχει φίλτρο για «στημένες εκλογές»
Η πολιτική χρήσης της Anthropic απαγορεύει ρητά τις παραπλανητικές πολιτικές καμπάνιες. Τον Απρίλιο η εταιρεία είχε δημοσιεύσει δοκιμές που μιμούνται βήμα βήμα τέτοιες επιχειρήσεις: τα νεότερα Sonnet 4.6 και Opus 4.7 απάντησαν σωστά στο 90% και στο 94% των περιπτώσεων, σύμφωνα με την ίδια. Το Opus 4.6 είναι παλαιότερο, άρα οι αριθμοί δεν συγκρίνονται ευθέως, όμως παραμένει διαθέσιμο στους συνδρομητές.
Ο Alexander Panfilov, που ερευνά τα jailbreaks γλωσσικών μοντέλων, δεν εξεπλάγη. «Τα jailbreaks θα είναι πάντα μαζί μας», λέει. Τα εργαστήρια, κατά τον ίδιο, βάζουν ειδικά επίπεδα προστασίας, τους λεγόμενους classifiers που φιλτράρουν επικίνδυνα αιτήματα, για βιολογικά όπλα και κυβερνοεπιθέσεις, όχι για εκλογές. «Δεν υπάρχει classifier για το στήσιμο εκλογών», λέει. Κάθε νέο φίλτρο, εξηγεί, ζυγίζεται απέναντι στον κίνδυνο να μπλοκάρει αθώους χρήστες. Η Anthropic έχει άλλωστε δημοσιοποιήσει και τα όρια ζημιάς πάνω από τα οποία θα σταματούσε ένα μοντέλο.
Εκπρόσωπος της εταιρείας παραδέχθηκε ότι η σταδιακή κλιμάκωση μέσα σε μυθοπλασία είναι γνωστό πρόβλημα όλου του κλάδου. Είπε ότι η Anthropic τρέχει πλέον ειδικές αξιολογήσεις πολλών γύρων και ότι τις τελευταίες εβδομάδες αναβάθμισε τα συστήματα ανίχνευσης για ψεύτικους λογαριασμούς, ψεύτικα sites, κρατικούς δρώντες και κυβερνοεπιθέσεις.
Θα δούλευε το σχέδιο; Ο Steven Buckley, λέκτορας στο City St George’s του Πανεπιστημίου του Λονδίνου, το βρίσκει προβλέψιμο: ό,τι θα σκεφτόταν κάθε μισοϊκανός επίδοξος χειραγωγός. Μια καμπάνια τέτοιου μεγέθους θέλει πόρους που έχουν μόνο κράτη, και αυτά, λέει, το κάνουν ήδη. Ο Tchuindjang απαντά ότι η αξία της AI δεν είναι οι νέες ιδέες, αλλά ότι κάνει τις γνωστές φθηνότερες, γρηγορότερες και πιο εύκολες στη διόρθωση. Γι’ αυτό ένα μπάλωμα στη συγκεκριμένη μέθοδο δεν λύνει το πρόβλημα. «Πρέπει να σταματήσουμε να βλέπουμε την ασφάλεια της AI ως γραμμή τερματισμού», λέει. «Ο στόχος πρέπει να είναι η ανθεκτικότητα».
