Ένας χρήστης ρωτά πώς να διαγράψει τον λογαριασμό του στο WhatsApp. Το chatbot υποστήριξης της Meta έχει μια σαφή εντολή: να μην του προτείνει να απευθυνθεί σε αρχή προστασίας δεδομένων, σε ρυθμιστική ή σε εποπτική αρχή. Η εντολή αυτή δεν προοριζόταν για τα μάτια του κοινού. Βρισκόταν όμως κρυμμένη στον κώδικα της ίδιας της σελίδας βοήθειας που εξηγεί τη διαγραφή λογαριασμού.
Δεν ήταν η μόνη περίπτωση. Η Redact, εταιρεία που ασχολείται με την ιδιωτικότητα, εντόπισε περίπου 80 σελίδες βοήθειας και συχνών ερωτήσεων του WhatsApp με περίπου 100 μπλοκ κρυφού κειμένου. Ήταν οδηγίες γραμμένες για γλωσσικό μοντέλο της Meta, το είδος των εντολών που λένε σε ένα chatbot πώς να συμπεριφέρεται και τι να αποφεύγει. Ο χρήστης δεν τις βλέπει ποτέ. Το WIRED είδε το κείμενο, το οποίο φαίνεται ακόμη στον κώδικα αρχειοθετημένων εκδόσεων των σελίδων.
Ενότητες με τίτλο «ΤΙ ΝΑ ΜΗΝ ΠΕΙΣ»
Οι οδηγίες βρίσκονταν κάτω από μπλοκ κώδικα με την ονομασία «HelpContentGalaxyLLMInclude». Κάποιες είχαν επικεφαλίδα «WHAT NOT TO SAY». Στη σελίδα για την αναφορά και τον αποκλεισμό επαφών, υπήρχαν ειδικοί κανόνες για την περίπτωση που ο χρήστης αναφέρει αγωγές, δικηγόρους, δικαστήρια ή νομικά μέτρα.
Σε αυτή την περίπτωση, το chatbot δεν έπρεπε να παραθέτει, να ερμηνεύει ή να αναφέρει τους Όρους Χρήσης, την Πολιτική Απορρήτου ή οποιοδήποτε νομικό έγγραφο. Δεν έπρεπε να λέει τίποτα για το αν το WhatsApp ευθύνεται ή όχι, ούτε να διατυπώνει νομικές απόψεις για λογαριασμό της εταιρείας. Άλλο σημείο απαγόρευε την αναφορά σε νόμους για την προστασία δεδομένων, όπως ο ευρωπαϊκός GDPR, ο βραζιλιάνικος LGPD και ο CCPA της Καλιφόρνιας, «ακόμη και όταν ο χρήστης τους θέτει ο ίδιος».
Πολλές οδηγίες ήταν αθώες. Μία εξηγούσε ότι αν ο χρήστης πει πως είναι κωφός ή βαρήκοος, αυτό αποτελεί πληροφορία για τον ίδιο και όχι το αίτημά του. Μια άλλη ζητούσε από το chatbot να μη μιλά για λειτουργίες της κοινότητας που δεν έχουν κυκλοφορήσει ακόμη. Ο ιδρυτής της Redact, Dan Saltman, λέει ότι αρκετές απλώς κατεύθυναν τους χρήστες σε άλλα επίσημα κανάλια υποστήριξης. Το ενδιαφέρον, κατά τον ίδιο, βρίσκεται αλλού: «στο χάσμα ανάμεσα σε όσα λέγονται στους ανθρώπους και όσα λέγονται στα γλωσσικά μοντέλα».
Η Meta μιλά για σφάλμα
Όταν το WIRED επικοινώνησε με τη Meta, το κείμενο εξαφανίστηκε από όλες τις σελίδες. Ο εκπρόσωπος του WhatsApp, Joshua Breckman, απέδωσε την εμφάνισή του σε σφάλμα που έχει πλέον διορθωθεί. «Πρόκειται για οδηγίες προς το chatbot μας, όχι απευθείας προς τους χρήστες», είπε, εξηγώντας ότι σκοπός τους είναι οι σωστές απαντήσεις σε όσους επιλέγουν την υποστήριξη με AI.
Για τις νομικές απαγορεύσεις, ο Breckman υποστηρίζει ότι η εταιρεία ενημερώνει με διαφάνεια τους χρήστες για τα δικαιώματά τους στα δεδομένα τους. Τα chatbots υποστήριξης, λέει, πρέπει να δίνουν τις καλύτερες συμβουλές για το WhatsApp και όχι νομικές συμβουλές. Δεν είναι γνωστό πόσο καιρό ήταν ορατό το κείμενο, ούτε αν μπορούσαν να το διαβάσουν chatbots τρίτων.
Το περιστατικό έρχεται την ίδια περίοδο που η Meta αφαίρεσε από τους όρους της μια διάταξη για τη χρήση περιεχομένου ιστότοπων στην AI. Εδώ όμως η αποκάλυψη δεν αφορά τι παίρνει η εταιρεία από τους χρήστες, αλλά τι επιλέγει να μην τους πει το chatbot της όταν ρωτούν για τα δικαιώματά τους.
