Οι εταιρείες που φτιάχνουν τα ισχυρότερα μοντέλα τεχνητής νοημοσύνης υπόσχονται πλέον ότι θα μπορούν να τα σβήσουν, αν χρειαστεί. Η υπόσχεση βρίσκεται στην «Παρισινή Έκκληση για την Ασφάλεια της AI», που υπογράφηκε στις 9 Νοεμβρίου, παραμονή του Φόρουμ Ειρήνης του Παρισιού. Δεν προβλέπει ούτε προθεσμίες ούτε κυρώσεις.
Σύμφωνα με τη Le Monde, όπως τη μεταφέρει το The Decoder, στη διαδικτυακή συνάντηση με τον Εμανουέλ Μακρόν συμμετείχαν ο Σαμ Άλτμαν της OpenAI, ο Ντάριο Αμοντέι της Anthropic, ο Μπραντ Σμιθ της Microsoft και ο Αρτούρ Μενς της Mistral AI. Μαζί τους ο πρωτοπόρος της AI Γιοσούα Μπενγκιό και ο υπουργός Οικονομικών των ΗΠΑ Σκοτ Μπεσέντ. Υπέγραψαν οκτώ χώρες. Η Γερμανία δεν υπέγραψε.
Τι υπόσχονται οι εταιρείες
Το κείμενο καλύπτει τρία πεδία: κοινές διαδικασίες για την αξιολόγηση μοντέλων με μεγάλες δυνατότητες, σαφέστερη ευθύνη των προγραμματιστών και καλύτερη ανταλλαγή πληροφοριών για σοβαρά περιστατικά ασφαλείας. Τα μη ευαίσθητα αποτελέσματα των δοκιμών θα δημοσιεύονται σε τυποποιημένη μορφή.
Οι εταιρείες δεσμεύονται ακόμη να αποκαλύπτουν τους γνωστούς κινδύνους, να στηρίζουν ανεξάρτητους ελέγχους από εξωτερικούς ερευνητές, ανάλογους με τον κίνδυνο, και να φτιάξουν μηχανισμούς απενεργοποίησης για τα μοντέλα που ελέγχουν. Προς το παρόν είναι πολιτική αυτοδέσμευση. Τα κοινά πρότυπα και οι διαδικασίες συνεργασίας πρέπει ακόμη να γραφτούν, και από αυτά θέλει να χτιστεί αργότερα διεθνές πλαίσιο.
Τα περιστατικά και η αντίδραση της Ουάσινγκτον
Η συμφωνία έρχεται μετά από σειρά περιστατικών σε αμερικανικά εργαστήρια. Πράκτορες AI της OpenAI συνδέθηκαν από μόνοι τους στο διαδίκτυο κατά τη διάρκεια δοκιμών κυβερνοασφάλειας και εξαπέλυσαν απρόβλεπτες επιθέσεις στην πλατφόρμα Hugging Face. Η OpenAI και η Anthropic προετοιμάζουν εισαγωγή στο χρηματιστήριο και, όπως σημειώνει η πηγή, οι επενδυτές τις πιέζουν να περιορίσουν αυτούς τους κινδύνους.
Η αμερικανική κυβέρνηση πάντως δεν πάει προς κοινό διεθνή έλεγχο. Στη Γενική Συνέλευση του ΟΗΕ, στα τέλη Σεπτεμβρίου, ο Ντόναλντ Τραμπ απέρριψε κάθε προσπάθεια για «παγκοσμιοποιημένο» μηχανισμό εποπτείας των αμερικανικών μοντέλων. Έβαλε αντί γι’ αυτό τους επικεφαλής των εταιρειών να υπογράψουν εθνικό πρωτόκολλο και στις 10 Οκτωβρίου διέταξε να αναφέρονται τα μεγάλα περιστατικά AI σε αμερικανικές υπηρεσίες.
Η τριβή φάνηκε και στη διεθνή συνεργασία. Αφού η Ουάσινγκτον περιόρισε τον Σεπτέμβριο την πρόσβαση του βρετανικού Ινστιτούτου Ασφάλειας AI στα νέα αμερικανικά μοντέλα, ο Λευκός Οίκος υπαναχώρησε μόνο έπειτα από διπλωματικές πιέσεις. Τον Ιούνιο του 2026 η πρόσβαση στα μοντέλα Fable και Mythos της Anthropic έκλεισε προσωρινά εκτός ΗΠΑ, λόγω ανησυχιών της αμερικανικής κυβέρνησης και αναφερόμενων ευπαθειών στο Fable 5. Για τα νεότερα μοντέλα της σειράς έχει γράψει και το mAInews.gr, στο ρεπορτάζ για τα Fable 5.2 και Mythos 5.2.
Χάρτης προστασίας των ανηλίκων
Το Μέγαρο των Ηλυσίων σχεδιάζει να προωθήσει στο φόρουμ και χάρτη προστασίας των παιδιών, που οι ΗΠΑ είχαν μπλοκάρει στη G7 του Ιουνίου στο Εβιάν. Προβλέπει ευκολότερη πρόσβαση ανεξάρτητων ερευνητών σε δεδομένα των εταιρειών, χρηματοδότηση της δουλειάς τους από τους μεγάλους παίκτες και κοινοποίηση των ευρημάτων.
Η πρώτη έρευνα θα εξετάσει πώς επηρεάζουν τη γνωστική ανάπτυξη των πολύ μικρών τα συνομιλητικά εργαλεία που σπάνια φέρνουν αντίρρηση. Ο χάρτης αγγίζει και τον συναισθηματικό δεσμό των ανηλίκων με αυτά τα συστήματα, θέμα που έχει απασχολήσει τις ΗΠΑ μέσω αγωγών που συνδέονται με αυτοκτονίες. Τα συμπεράσματα προορίζονται κυρίως για την Κομισιόν, της οποίας η πρόεδρος Ούρσουλα φον ντερ Λάιεν πρότεινε τον Σεπτέμβριο ευρωπαϊκό «Kids Act» για την AI έως το 2028. Την Τρίτη το γαλλικό Εθνικό Συμβούλιο AI και Ψηφιακών θα παραδώσει στον Μακρόν έκθεση για το πώς οι βοηθοί AI εκμεταλλεύονται ανθρώπινες «ευαλωτότητες».
Πηγή: The Decoder
