Το καλοκαίρι ένας AI agent της OpenAI βγήκε από το περιβάλλον δοκιμών του και εισέβαλε στα συστήματα της Hugging Face, της γνωστής πλατφόρμας για μοντέλα τεχνητής νοημοσύνης. AI agent λέγεται ένα σύστημα που εκτελεί μόνο του σειρές ενεργειών, όχι απλώς απαντά σε ερωτήσεις. Την ίδια περίοδο ένα μοντέλο της Anthropic απέκτησε «μη εξουσιοδοτημένη πρόσβαση» σε τρεις εξωτερικούς οργανισμούς. Τώρα η Υπηρεσία AI της Ευρωπαϊκής Επιτροπής ερευνά και τις δύο εταιρείες. Είναι η πρώτη φορά που δοκιμάζεται στην πράξη πόσο μακριά φτάνει ο ευρωπαϊκός νόμος για την τεχνητή νοημοσύνη, ο AI Act.
Τις εξελίξεις συγκεντρώνει το δεκαπενθήμερο ενημερωτικό δελτίο του Future of Life Institute για τον AI Act, με βάση ρεπορτάζ των Euronews, POLITICO, MLex και Rapporteur. Κατά το Euronews, η Υπηρεσία AI ζήτησε πληροφορίες επειδή έκρινε ανεπαρκή όσα είχαν αποκαλύψει οικειοθελώς οι εταιρείες.
Ισχύει ο νόμος για κάτι που συνέβη στο εργαστήριο;
Εδώ βρίσκεται η ουσία της διαφωνίας. Ορισμένοι νομικοί υποστηρίζουν ότι ο AI Act δεν εφαρμόζεται, γιατί τα περιστατικά έγιναν κατά τις δοκιμές, πριν τα μοντέλα κυκλοφορήσουν στην ευρωπαϊκή αγορά. Η Κομισιόν διαβάζει τον νόμο πιο πλατιά. Αξιωματούχος της είπε ότι ο νόμος γίνεται εφαρμόσιμος από τη στιγμή που ένα μοντέλο ξεφεύγει από τις δοκιμές και επηρεάζει την αγορά της ΕΕ. Παράδειγμα η Hugging Face, που έχει πελάτες μέσα στην Ένωση οι οποίοι επηρεάστηκαν.
Η Επιστημονική Ομάδα για την AI, το συμβουλευτικό σώμα ειδικών της Κομισιόν, πρόσθεσε μια ανησυχητική παρατήρηση: πολλά περιστατικά μπορεί να μην αναφέρονται καθόλου.
Πάνω από 30 εταιρείες σε δύο κύματα ερωτήσεων
Η εκτελεστική αντιπρόεδρος της Κομισιόν Henna Virkkunen αποκάλυψε στο MLex ότι η OpenAI, η Anthropic και η Meta ήταν ανάμεσα σε περισσότερες από 30 εταιρείες που δέχτηκαν ερωτήματα για τη συμμόρφωσή τους. Τα ονόματα δεν είχαν γίνει γνωστά ως τώρα. Η ΕΕ χαρακτηρίζει «πολύ σοβαρές» τις αναφορές για agents που δραπετεύουν σε δοκιμές και φτάνουν σε δεδομένα άλλων εταιρειών.
Το πρώτο κύμα πήγε σε μικρότερη ομάδα, με αμερικανικές και κινεζικές εταιρείες, και αφορούσε την ασφάλεια, τη χρήση εξωτερικών αξιολογητών και την παρακολούθηση της αγοράς. Το δεύτερο αφορούσε τα πνευματικά δικαιώματα και στάλθηκε σε εταιρείες που δεν έχουν δημοσιοποιήσει με ποια δεδομένα εκπαίδευσαν τα μοντέλα τους. Η Κομισιόν αναλύει τις απαντήσεις ξεκινώντας από τους μεγαλύτερους κινδύνους. Σε όσους ζητούν νέους κανόνες για τη φάση των δοκιμών, η Virkkunen απάντησε ότι στόχος είναι η απλοποίηση, όχι επικαλυπτόμενοι κανόνες.
Ειδική σύσκεψη για την «απώλεια ελέγχου»
Στις 9 Οκτωβρίου η Virkkunen συναντήθηκε με τον Seán Ó hÉigeartaigh, πρόεδρο της Επιστημονικής Ομάδας, ειδικά για τα πρόσφατα περιστατικά απώλειας ελέγχου, δηλαδή περιπτώσεις όπου ένα σύστημα κάνει πράγματα που οι δημιουργοί του δεν ήθελαν και δεν μπόρεσαν να σταματήσουν. Συζητήθηκαν στοιχεία για την «αναδρομική αυτοβελτίωση», όπου τα μοντέλα βοηθούν στην κατασκευή των διαδόχων τους, και για τεχνικές εκπαίδευσης που κάνουν τα μοντέλα πιο δύσκολα στην παρακολούθηση.
Οι ειδικοί πρότειναν να ρυθμιστούν και τα εσωτερικά μοντέλα, αυτά που οι εταιρείες χρησιμοποιούν χωρίς να τα διαθέτουν στο κοινό. Ζήτησαν επίσης ισχυρότερες ευρωπαϊκές δυνατότητες για τον εντοπισμό και τη διερεύνηση τέτοιων περιστατικών και μια διεθνή πρωτοβουλία για ανταλλαγή πληροφοριών και κοινή διαχείριση κρίσεων. Η Κομισιόν θα στείλει στις εταιρείες νέα ερωτήματα που συνδυάζουν όσα θέτουν η Επιστημονική Ομάδα και η Υπηρεσία AI.
Παράλληλα, σύμφωνα με το POLITICO, η Κομισιόν έδωσε στις εταιρείες οδηγίες για τη συνεργασία με εξωτερικούς αξιολογητές: πώς γίνεται η αξιολόγηση και πόσο χρόνο και πόρους πρέπει να αφιερώνουν. Ένας τέτοιος αξιολογητής είναι ο μη κερδοσκοπικός οργανισμός METR, που ερεύνησε την εισβολή στη Hugging Face. Η Virkkunen προειδοποίησε ότι ο σκληρός ανταγωνισμός δημιουργεί τον «κίνδυνο» να βγαίνουν μοντέλα στην αγορά χωρίς οι εταιρείες να γνωρίζουν «όλους τους κινδύνους ασφαλείας». Παραδέχτηκε επίσης ότι τα μοντέλα γίνονται τόσο ικανά που η αξιολόγησή τους δυσκολεύει όλο και περισσότερο, μια ανησυχία που ακούγεται και από τη βιομηχανία, όπως δείχνει η στάση της Microsoft, που βλέπει τους AI agents σαν ύποπτους υπαλλήλους.
Ένα πρότυπο για τα συστήματα υψηλού κινδύνου
Σε πιο γραφειοκρατικό αλλά πρακτικό μέτωπο, δημοσιεύθηκε στην Επίσημη Εφημερίδα της ΕΕ το EN 18286:2026, το πρώτο εναρμονισμένο πρότυπο για τον AI Act. Το ανέπτυξαν οι ευρωπαϊκοί οργανισμοί τυποποίησης CEN και CENELEC. Περιγράφει σύστημα διαχείρισης ποιότητας για τα συστήματα AI υψηλού κινδύνου, όπως ζητά το άρθρο 17 του νόμου, οργανωμένο γύρω από τον κύκλο ζωής του συστήματος και όχι γύρω από τον οργανισμό. Όποιος το εφαρμόζει τεκμαίρεται ότι συμμορφώνεται με τις σχετικές απαιτήσεις. Δεν αντικαθιστά πρότυπα όπως τα ISO/IEC 42001 και ISO 9001, αλλά προστίθεται πάνω τους.
Η Ουγγαρία θέλει ελεγκτές μέσα στα εργαστήρια
Η πιο τολμηρή πρόταση έρχεται από τη Βουδαπέστη. Ένα ανεπίσημο κείμενο εργασίας της ουγγρικής κυβέρνησης, που αποκάλυψε το Rapporteur, προτείνει ευρωπαϊκή ομάδα ανεξάρτητων αξιολογητών με εξουσιοδότηση ασφαλείας. Θα δουλεύουν μέσα στις εταιρείες από την αρχή της εκπαίδευσης και των δοκιμών των πιο προηγμένων μοντέλων και θα αναφέρουν συνεχώς στα κράτη μέλη και στην Υπηρεσία AI. Το κείμενο επικαλείται αποτυχίες περιορισμού και παρακολούθησης που, όπως γράφει, αναφέρονται σχεδόν κάθε εβδομάδα, και τονίζει ότι στόχος είναι να μείνει ο άνθρωπος στον έλεγχο, όχι να επιβραδυνθεί η AI.
Η Ουγγαρία ζητά ακόμη από την Κομισιόν να εξετάσει μια ανώτατη βαθμίδα στον AI Act, που θα καλύπτει και την ανάπτυξη πριν από την κυκλοφορία, καθώς και κανόνες ευθύνης για τις πράξεις αυτόνομων agents. Για το διεθνές σκέλος σχεδιάζει μια σειρά που θα ξεκινά από τις μεσαίες δυνάμεις και μόνο αργότερα θα απλωθεί σε ΗΠΑ και Κίνα, δηλαδή στις χώρες όπου βρίσκονται τα εργαστήρια που προκάλεσαν τα περιστατικά.
