Η ομάδα επιθετικής έρευνας της Anthropic δημοσίευσε αυτή την εβδομάδα έκθεση για ένα κακόβουλο πρόγραμμα τεχνητής νοημοσύνης που δημιούργησε η ίδια και το οποίο εξαπλώθηκε αυτόνομα σε έξυπνες τηλεοράσεις συνδεδεμένες στο διαδίκτυο. Σύμφωνα με τους ερευνητές, το πρόγραμμα μοίρασε τμήματά του σε 15 τηλεοράσεις και λειτουργούσε αξιοποιώντας λίγη υπολογιστική ισχύ από την καθεμία. Η έρευνα, όπως μεταδίδει ο Guardian, έχει προκαλέσει ανησυχία σε μέρος της κοινότητας κυβερνοασφάλειας, αλλά και έντονη κριτική.
Τι είναι ένα AI worm
Στην ορολογία της ασφάλειας, «worm» (σκουλήκι) ονομάζεται ένας ιός υπολογιστών που αναπαράγεται και μεταδίδεται από συσκευή σε συσκευή χωρίς να χρειάζεται να ξεγελάσει κάποιον άνθρωπο, για παράδειγμα να τον πείσει να ανοίξει ένα συνημμένο. Τέτοια προγράμματα έχουν προκαλέσει μερικές από τις μεγαλύτερες καταστροφές στην ιστορία του διαδικτύου: από το Morris worm του 1988 και το Stuxnet, που έπληξε ιρανικές πυρηνικές φυγοκεντρικές συσκευές, μέχρι τα NotPetya και WannaCry, με ζημιές δεκάδων δισεκατομμυρίων δολαρίων παγκοσμίως.
Η διαφορά ενός AI worm, όπως εξηγεί ο Ariel Herbert-Voss, πρώην ειδικός ασφάλειας της OpenAI και σήμερα επικεφαλής της startup RunSybil, είναι ότι τα μοντέλα AI μπορούν να μαθαίνουν στην πορεία. Η ομάδα της Anthropic, που λειτουργεί ως red team, δηλαδή εσωτερική ομάδα που δοκιμάζει επιθέσεις για να εντοπίσει αδυναμίες, εκτιμά ότι ένα τέτοιο πρόγραμμα θα μπορούσε να προσαρμόζεται σε νέους τύπους συσκευών, ερευνώντας μόνο του ευπάθειες που μόλις έχουν δημοσιοποιηθεί. Η έρευνα εντάσσεται σε μια ευρύτερη σειρά πειραμάτων με επιθετικές δυνατότητες των μοντέλων, όπως οι δοκιμές στις οποίες μοντέλα της OpenAI παραβίασαν ιστότοπους και ψηφιακό πορτοφόλι.
Γιατί ανησυχούν οι ειδικοί
Το βασικό πρόβλημα είναι οι συσκευές του λεγόμενου «διαδικτύου των πραγμάτων», όπως οι έξυπνες τηλεοράσεις, που έχουν συνήθως χαμηλό επίπεδο ασφάλειας και λαμβάνουν ενημερώσεις λογισμικού πιο σπάνια από τα κινητά και τους υπολογιστές. Πολλά από τα πιο καταστροφικά worms στηρίχθηκαν σε γνωστά κενά ασφαλείας που οι χρήστες δεν είχαν διορθώσει, μερικές φορές μήνες αφότου υπήρχε διαθέσιμη ενημέρωση.
«Είναι κάτι που πρέπει να μας ανησυχεί, όπως κάθε άλλο κύμα κυβερνοεπιθέσεων», δήλωσε ο Joshua Saxe, που ηγήθηκε της ανάπτυξης της ασφάλειας AI στη Meta, προσθέτοντας ότι η κοινότητα κυβερνοασφάλειας δεν παίρνει αρκετά στα σοβαρά τέτοιους κινδύνους. Ο Chris Inglis, πρώην υποδιευθυντής της NSA, υποστήριξε ότι το ερώτημα αν τα AI worms είναι εφικτά έχει ήδη απαντηθεί από περιστατικά των τελευταίων έξι μηνών.
Οι επιφυλάξεις και η κριτική
Η ίδια η Anthropic αναγνωρίζει ότι ένα πραγματικά αποτελεσματικό AI worm θα χρειαζόταν περισσότερες δυνατότητες σε ασθενέστερες συσκευές από όσο είναι εφικτό σήμερα. Ο Jonas Guan, υποψήφιος διδάκτορας στο Πανεπιστήμιο του Τορόντο, του οποίου η ομάδα είχε δημοσιεύσει πριν από λίγους μήνες εργασία με worm που μόλυνε πλήρη υπολογιστή και εξαπλωνόταν ταχύτερα, σημειώνει ότι η εκδοχή της Anthropic κινείται πολύ αργά και ότι τα worms έχουν προβλέψιμη συμπεριφορά που μπορεί να εντοπιστεί και να μπλοκαριστεί. Κατά τους ειδικούς, βασικά μέτρα όπως ισχυροί κωδικοί και έλεγχος ταυτότητας δύο παραγόντων σταματούν τις περισσότερες τέτοιες επιθέσεις.
Πιο αιχμηρός ήταν ο Juan Andres Guerrero-Saade της SentinelOne, που χαρακτήρισε την έρευνα «έξυπνο θεαματικό hacking», το οποίο κατά τη γνώμη του ενισχύει υπερβολικά αφηγήματα καταστροφής. Ο Guardian αναφέρει ότι η Anthropic δεν απάντησε σε αίτημα για συνέντευξη.
Τι ακολουθεί
Οι ερευνητές της Anthropic εκτιμούν ότι, με τις σημερινές τάσεις, οι δυνατότητες που λείπουν θα γίνουν εφικτές έως το τέλος της χρονιάς. Στις ΗΠΑ, το Κογκρέσο έχει κατατεθεί αντικρουόμενα νομοσχέδια για την εποπτεία της AI, ενώ ο Λευκός Οίκος έχει δημιουργήσει μέχρι στιγμής μόνο μια μικρή επιτροπή αξιολόγησης.
