Ένας βρετανικός φορέας εποπτείας εξετάζει το ενδεχόμενο να ελέγξει πώς το υπουργείο Εσωτερικών της χώρας (Home Office) χρησιμοποιεί γενετική τεχνητή νοημοσύνη στις αιτήσεις ασύλου. Το αποκαλύπτει το WIRED. Ο Ανεξάρτητος Επικεφαλής Επιθεωρητής Συνόρων και Μετανάστευσης (ICIBI) ζήτησε περισσότερα στοιχεία από τη μη κερδοσκοπική οργάνωση ψηφιακών δικαιωμάτων Open Rights Group (ORG), καθώς καταρτίζει τα θέματα ελέγχου του επόμενου έτους, όπως λέει η Sara Alsherif της οργάνωσης.
Ο ίδιος ο επιθεωρητής δεν επιβεβαιώνει ποια θέματα εξετάζει πριν δημοσιεύσει τις ετήσιες προτεραιότητές του. Λέει πάντως ότι γνωρίζει τις ανησυχίες και θυμίζει το πόρισμά του από πέρσι, ότι η «αποτελεσματικότητα και αξιοπιστία» ενός από τα εργαλεία ήταν «ανομοιογενής».
Δύο εργαλεία πάνω στο GPT-4
Πρόκειται για τα Asylum Case Summarisation (ACS) και Asylum Policy Search (APS), που στηρίζονται στο GPT-4 της OpenAI (έκδοση του 2023) και στο Microsoft Foundry. Το πρώτο συνοψίζει απομαγνητοφωνήσεις συνεντεύξεων, όπου οι αιτούντες εξηγούν πώς διώχθηκαν και γιατί φοβούνται να επιστρέψουν. Το δεύτερο λειτουργεί ως βοηθός αναζήτησης και σύνοψης πληροφοριών για τη χώρα καταγωγής, ώστε να κριθεί αν υπάρχει πραγματικός κίνδυνος.
Το Home Office δοκιμάζει τα εργαλεία από το τέλος του 2024, την ώρα που η κυβέρνηση των Εργατικών προσπαθούσε να μειώσει ένα σωρό περίπου 100.000 εκκρεμών υποθέσεων. Οι εκτιμήσεις της κυβέρνησης μιλούν για εξοικονόμηση περίπου μίας ώρας ανά υπόθεση. Οι αναμονές για πρώτη απόφαση έχουν μειωθεί στο μισό μέσα στον χρόνο έως τον Ιούνιο, αλλά οι προσφυγές κατά των αποφάσεων έχουν αυξηθεί πολύ.
Λάθη πάνω από το 9% και κανένας έλεγχος ποιότητας
Η έρευνα του ORG κράτησε έξι μήνες και περιλάμβανε 11 κοινοβουλευτικές ερωτήσεις, δύο επιστολές σε υπουργούς και 10 αιτήματα πρόσβασης σε δημόσια έγγραφα. Σύμφωνα με τα ευρήματά της, το ποσοστό των συνόψεων του ACS που κρίνονται ακατάλληλες, συχνά λόγω πραγματολογικών λαθών ή διαστρεβλώσεων, είναι σημαντικά υψηλότερο από το 9% που δημοσιεύθηκε στην αξιολόγηση του πιλοτικού. Για το APS δεν υπάρχει καθόλου έλεγχος ποιότητας.
Τον Ιούλιο, Βρετανός δικαστής κατηγόρησε το Home Office ότι επικαλέστηκε ένα έγγραφο που «το επινόησε η AI» για να απορρίψει το αίτημα ασύλου μιας Μαροκινής και του παιδιού της, με το σκεπτικό ότι η χώρα της είναι ασφαλής.
Οι ερευνητές φοβούνται και τη «πολιτισμική προκατάληψη» των μοντέλων GPT, που μπορεί να οδηγήσει σε χαμένες αποχρώσεις και διακρίσεις. Εκπρόσωπος της OpenAI τόνισε τη συνεχή δουλειά για την ακρίβεια και ότι η εταιρεία αποσύρει το GPT-4 τον Ιανουάριο.
Εργαλεία που δεν υπάρχουν στον δημόσιο κατάλογο
Το βρετανικό «AI Playbook» υποχρεώνει τα υπουργεία να είναι διαφανή για τα αλγοριθμικά εργαλεία που επηρεάζουν αποφάσεις και να τα καταχωρούν σε δημόσιο κατάλογο. Τα ACS και APS λείπουν από αυτόν. Οι αιτούντες άσυλο δεν ενημερώνονται ότι χρησιμοποιούνται στην υπόθεσή τους, άρα δεν μπορούν να αμφισβητήσουν μια λανθασμένη σύνοψη. Νομική γνωμάτευση των δικηγόρων Cloisters για λογαριασμό του ORG εκτιμά ότι αυτό μπορεί να παραβιάζει τη νομοθεσία για τα δικαιώματα στα δεδομένα. Το Home Office αναφέρει στη σημείωση απορρήτου ότι μέρη της διαδικασίας μπορεί να περιλαμβάνουν αυτοματοποίηση.
Το ORG και το Public Law Project έστειλαν τα ευρήματά τους στην ανεξάρτητη αρχή δεδομένων Information Commission, που ήδη εξετάζει την άρνηση του Home Office να πει πώς χρησιμοποιούν και πώς εκπαιδεύτηκαν οι υπάλληλοι τα δύο εργαλεία. Η Caroline Selman του Public Law Project σημειώνει ότι τα ACS και APS είναι δύο από τα 11 συστήματα υψηλού κινδύνου που η ομάδα της εντόπισε στη δημόσια διοίκηση χωρίς να υπάρχουν στον κατάλογο.
Το Home Office απαντά ότι τις αποφάσεις παίρνουν εκπαιδευμένοι υπάλληλοι και ότι τα εργαλεία μόνο βοηθούν στην πλοήγηση σε αρχεία συνεντεύξεων και πληροφορίες πολιτικής, χωρίς να αποφασίζουν μόνα τους. Δηλώνει ότι παρακολουθεί τις επιδόσεις τους και έχει δεσμευτεί να δημοσιεύσει ενημερωμένες αξιολογήσεις. Η βουλευτής των Εργατικών Bell Ribeiro-Addy λέει: «Μιλάμε για ανθρώπινες ζωές. Δεν νομίζω ότι είναι σωστό να αποφασίζουν μηχανές.»
Πηγή: WIRED
