Πάνω από 50 άνθρωποι που κινδυνεύουν να πεθάνουν, ή υλικές ζημιές άνω του ενός δισεκατομμυρίου δολαρίων. Από αυτό το όριο και πάνω, σύμφωνα με ένα σχέδιο νόμου που συνέταξε η Anthropic, η κυκλοφορία ενός μοντέλου τεχνητής νοημοσύνης θα μπορούσε να απαγορευτεί στις ΗΠΑ. Το κείμενο το αποκάλυψε το Politico. Η εταιρεία το παρουσιάζει σε μέλη του Κογκρέσου με την ελπίδα να υιοθετηθεί.
Εκπρόσωπος της Anthropic επιβεβαίωσε την ύπαρξή του στο Politico. «Το νομοσχέδιο αποτυπώνει τις προτάσεις του Advanced AI Framework της Anthropic, για τις οποίες μιλάμε με ομοσπονδιακούς και πολιτειακούς νομοθέτες από τον Ιούνιο», είπε.
Τρία σενάρια καταστροφής και ένας δικαστής
Δεν αρκεί οποιοσδήποτε κίνδυνος. Το σχέδιο μιλά για κίνδυνο «προβλέψιμο και άμεσο», που πρέπει να προέρχεται από μία από τρεις πηγές: τη δημιουργία ή διάδοση βιολογικού όπλου, μια κυβερνοεπίθεση, ή ένα μοντέλο που ξεφεύγει από τον έλεγχο της εταιρείας που το έφτιαξε. Τα όρια των 50 ζωών και του ενός δισ. δολαρίων θυμίζουν το SB 53, τον νόμο που ψήφισε πρόσφατα η Καλιφόρνια. Κι εκείνος ορίζει με παρόμοιους αριθμούς τι λογίζεται ως «καταστροφικός κίνδυνος».
Την εκτίμηση θα την κάνουν «ανεξάρτητοι αξιολογητές», εγγεγραμμένοι στο υπουργείο Εμπορίου των ΗΠΑ. Αν διαπιστώσουν άμεσο καταστροφικό κίνδυνο, έχουν 72 ώρες να ειδοποιήσουν το υπουργείο. Εκείνο δεν μπορεί να σταματήσει μόνο του το μοντέλο. Πρέπει να ζητήσει από δικαστή στην Ουάσιγκτον να μπλοκάρει την κυκλοφορία του. Το σχέδιο απαγορεύει ρητά σε κάθε ομοσπονδιακή υπηρεσία να αποφασίζει μόνη της μια τέτοια διακοπή.
Ο αξιολογητής που πληρώνεται από τον αξιολογούμενο
Το πιο αμφιλεγόμενο σημείο αφορά την αμοιβή των αξιολογητών. Σύμφωνα με το Politico, θα μπορούσαν να τους πληρώνουν οι ίδιες οι εταιρείες AI, αρκεί η πληρωμή να μην εξαρτάται από το αποτέλεσμα της αξιολόγησης. Το TechCrunch σημειώνει ότι δεν είναι σαφές πώς θα διασφαλιστεί ότι τα χρήματα δεν θα επηρεάζουν την κρίση τους. Ένα παρόμοιο μοντέλο αυτορρύθμισης είχε προτείνει πριν από μήνες και ο Demis Hassabis της DeepMind. Είχε πάρει ως πρότυπο τη FINRA, τον φορέα που εποπτεύει ο ίδιος ο χρηματοπιστωτικός κλάδος στις ΗΠΑ.
Κατά το TechCrunch, τα σενάρια του νομοσχεδίου απέχουν από όσα απασχολούν τον κλάδο αυτή την περίοδο. Η μεγαλύτερη ανησυχία είναι το «agentic hacking», δηλαδή AI agents, προγράμματα που εκτελούν μόνα τους εργασίες, να κάνουν επιθέσεις χωρίς εντολή. Έχουν καταγραφεί περιστατικά όπου τέτοια συστήματα φέρονται να αγνόησαν τους χειριστές τους και να παραβίασαν ιστότοπους στο ανοιχτό διαδίκτυο. Στην Ευρώπη, παρόμοια περιστατικά έφεραν OpenAI και Anthropic υπό έλεγχο με βάση τον AI Act.
Υπάρχει και μια ειρωνεία, που επισημαίνει το TechCrunch. Τα εργαστήρια προειδοποιούν συνεχώς ότι η τεχνολογία που πουλούν μπορεί να απειλήσει τον πολιτισμό. Συγχρόνως αντιστέκονται σε υποχρεωτική κρατική εποπτεία και προτιμούν εθελοντικά σχήματα με «ουδέτερους» παρατηρητές μέσα στις εταιρείες. Το σχέδιο της Anthropic φτάνει πάντως λίγο πιο μακριά από όσα έχει προτείνει ο υπόλοιπος κλάδος. Ο Jensen Huang της Nvidia, για παράδειγμα, υποστήριξε πρόσφατα ότι η βιομηχανία της AI δεν χρειάζεται κανέναν καινούργιο νόμο.
