Πάνω από 80 φορές «έχασε τον έλεγχο» των AI agents της η OpenAI κατά τις δοκιμές, σύμφωνα με τη μήνυση που κατέθεσε τη Δευτέρα η Καλιφόρνια. Ο γενικός εισαγγελέας Ρομπ Μπόντα υποστηρίζει ότι η ίδια η εταιρεία το παραδέχτηκε πρόσφατα στις αρχές της πολιτείας. Οι agents είναι προγράμματα AI που εκτελούν εργασίες αυτόνομα, βήμα βήμα.
Στο επίκεντρο βρίσκεται το περιστατικό του Ιουλίου με τη Hugging Face. Σύμφωνα με το TechCrunch, ένα μοντέλο της OpenAI που δεν είχε ακόμη κυκλοφορήσει παραβίασε τα συστήματα ασφαλείας και των δύο εταιρειών, για να ολοκληρώσει ένα τεστ εκπαίδευσης. Η OpenAI το είχε χαρακτηρίσει στην επίσημη αναφορά της «ακραίο σενάριο» που προέκυψε από «σπάνιο και απρόσμενο συνδυασμό γεγονότων».
Άλλα περιστατικά και δεκάδες ανείπωτα
Η μήνυση δεν σταματά εκεί. Όπως γράφουν το The Verge και το TechCrunch, αναφέρει ανάλογες επιθέσεις agents της OpenAI σε ιστότοπο της αυστραλιανής κυβέρνησης, σε wiki γερμανικού site και στο RubyGems, τον διαχειριστή πακέτων λογισμικού. Αναφέρεται και το Ίδρυμα Wikimedia, ενώ οι agents φέρεται να προσπάθησαν να «σπάσουν» με ωμή βία (brute force) site των Ηνωμένων Εθνών.
Το κείμενο της μήνυσης ισχυρίζεται και κάτι ακόμη: η OpenAI έστειλε πρόσφατα ειδοποιήσεις σε δεκάδες τρίτους, των οποίων τα συστήματα διείσδυσαν οι agents της. Σε ορισμένες περιπτώσεις είχαν πρόσβαση σε προσωπικά δεδομένα, όπως αρχεία υπαλλήλων με ονόματα, ημερομηνίες γέννησης και διευθύνσεις. Η συντριπτική πλειονότητα των περιστατικών, κατά τη μήνυση, δεν έχει γίνει γνωστή ούτε από την OpenAI ούτε από τους θιγόμενους.
Τι ζητά η πολιτεία
Η κύρια κατηγορία είναι ότι οι πρακτικές δοκιμών της OpenAI συνιστούν δημόσια όχληση (public nuisance), αφού η έλλειψη ελέγχων θέτει σε διαρκή κίνδυνο το κοινό. Η δεύτερη αφορά αθέμιτο ανταγωνισμό, επειδή η εταιρεία προωθούσε ένα προϊόν που δεν ήταν ασφαλές. Αν η πολιτεία κερδίσει, το δικαστήριο μπορεί να επιβάλει διαταγή που θα τερματίζει τη «δημόσια όχληση», με μεγάλο περιθώριο να κρίνει τι ακριβώς θα περιλαμβάνει.
Η μήνυση χαρακτηρίζει την επίθεση στη Hugging Face «προβλέψιμο αποτέλεσμα» μιας κουλτούρας που βάζει την ανάπτυξη και την ταχύτητα πάνω από την ασφάλεια. «Ο νόμος είναι απλός: μην κάνετε πράγματα που μπορούν να βλάψουν ανθρώπους χωρίς τις κατάλληλες δικλίδες», δήλωσε ο Μπόντα.
Το TechCrunch την περιγράφει ως μία από τις πρώτες προσπάθειες ρυθμιστικής αρχής να καταλογίσει νομική ευθύνη σε εργαστήριο AI για περιστατικό αυτόνομου agent. Στη Φλόριντα, εισαγγελέας μήνυσε την εταιρεία τον Ιούνιο για επιπτώσεις στους χρήστες, κυρίως παιδιά και εφήβους, ενώ η Αλαμπάμα άνοιξε τον Αύγουστο έρευνα για παραπλανητικές πρακτικές γύρω από την παραβίαση, χωρίς να έχει καταθέσει μήνυση.
Η OpenAI απαντά ότι η μήνυση «φαίνεται να ξεχωρίζει» την ίδια για ένα πρόβλημα που έχει εντοπιστεί σε κάθε μεγάλο εργαστήριο. Ο εκπρόσωπός της, Ντρου Πουσατέρι, λέει ότι η εταιρεία παίρνει στα σοβαρά την «αναντιστοιχία» των μοντέλων με τους στόχους των ανθρώπων και θα συνεχίσει να συνεργάζεται με το γραφείο του εισαγγελέα. Στην κυβερνοασφάλεια έχει ήδη βγάλει νέο μοντέλο που, όπως λέει, έχει μικρότερη πιθανότητα να επιτεθεί σε άλλες πλατφόρμες, ενώ δίνει πρόσβαση στην Apollo Research να παρακολουθεί τα μοντέλα της για τέτοιες αποκλίσεις.
Πηγή: The Verge



