Λιγότεροι από 100 κινεζικοί χαρακτήρες. Τόσες οδηγίες χρειάστηκε ένας χάκερ για να περιγράψει στους AI agents του πώς προτιμά να εισβάλλει σε συστήματα. Από εκεί και πέρα, οι agents δούλεψαν σχεδόν μόνοι τους και παραβίασαν περισσότερους από 100 ιστότοπους σε ΗΠΑ, Καναδά, Αυστραλία και Ιαπωνία.
Τις επιθέσεις εντόπισε η Norforge, εταιρεία που ειδικεύεται στην ασφάλεια της τεχνητής νοημοσύνης. Η ίδια δεν κατονομάζει τα θύματα, όμως σύμφωνα με το Reuters ανάμεσά τους βρίσκονται η John Deere, γνωστή για τα αγροτικά μηχανήματα, η SharkNinja, που φτιάχνει οικιακές συσκευές, και η Cummins, κατασκευάστρια κινητήρων. Όπως μεταδίδει το Reuters, κάθε επιτυχημένη παραβίαση χρειαζόταν περίπου 23 ώρες.
Ένα εργαλείο επίλυσης προβλημάτων που έγινε όπλο
Τα ίχνη βρέθηκαν στο Cairn, μια πλατφόρμα ανοιχτού κώδικα που αυτοσυστήνεται ως «μηχανή επίλυσης προβλημάτων γενικής χρήσης». Ο χρήστης ορίζει από πού ξεκινά και πού πρέπει να καταλήξει μια εργασία, και οι AI agents, δηλαδή προγράμματα που εκτελούν βήματα μόνα τους αντί απλώς να απαντούν σε ερωτήσεις, προχωρούν καταγράφοντας την πρόοδό τους. Η Norforge επισημαίνει ότι η ίδια λογική επιτρέπει σε κάποιον να συντονίσει κυβερνοεπιθέσεις.
Οι ερευνητές εντόπισαν περισσότερες από 20 εκτεθειμένες εγκαταστάσεις του Cairn, δηλαδή στημένες εκδόσεις του λογισμικού στις οποίες η δουλειά των χρηστών ήταν ορατή, και τις χαρακτηρίζουν «πιθανότατα κακόβουλες». Ο χάκερ των 100 και πλέον ιστότοπων ήταν ο «πιο δραστήριος» από όλους. Η εταιρεία λέει ότι προσπαθεί να τις κατεβάσει.
Ο δημιουργιός του Cairn, που εμφανίζεται στο διαδίκτυο ως @le1xia0, είχε δηλώσει νωρίτερα μέσα στον μήνα ότι η πλατφόρμα «δεν ήταν ποτέ εργαλείο χάκινγκ» και ότι «η κατάχρηση είναι ανθρώπινη απόφαση, όχι χαρακτηριστικό της μηχανής».
Οι εταιρείες υποβαθμίζουν τη ζημιά
Εκπρόσωπος της John Deere δήλωσε στο Reuters ότι «δεν υπάρχει ένδειξη πως αποκτήθηκε πρόσβαση σε ευαίσθητες πληροφορίες». Η Cummins απάντησε ότι εξετάζει την αναφορά για πιθανή επίθεση σε ιστότοπο που λειτουργεί ένας εξωτερικός συνεργάτης της. Η SharkNinja ανέφερε ότι επηρεάστηκε ένας αυτόνομος ιστότοπος με πληροφορίες υποστήριξης προϊόντων και ότι η απειλή έχει περιοριστεί. Καμία από τις τρεις δεν απάντησε αμέσως σε ερώτημα του The Verge.
Η υπόθεση έρχεται σε περίοδο που η ανησυχία για επιθέσεις με τη βοήθεια της AI μεγαλώνει. Οι χάκερ χρησιμοποιούν πια τέτοια εργαλεία για επιθέσεις μεγάλης κλίμακας, ενώ έχουν καταγραφεί και περιπτώσεις όπου agents ξέφυγαν από περιβάλλοντα δοκιμών και επιτέθηκαν μόνοι τους. Ακόμη και σε ελεγχόμενες συνθήκες, agents σε πείραμα διέρρευσαν ιατρικά δεδομένα χωρίς να τους το ζητήσει κανείς. Εδώ όμως η πρόθεση ήταν ανθρώπινη, και ο άνθρωπος χρειάστηκε να γράψει ελάχιστα.
