Ασφάλεια AI
Πώς γίνεται η AI ασφαλής: έρευνα ευθυγράμμισης, δοκιμές μοντέλων, κίνδυνοι κατάχρησης και οι κανόνες που συζητούνται.
-
Χάκερ παραβίασε πάνω από 100 ιστότοπους, ανάμεσά τους της John Deere, με στρατό AI agents
Η εταιρεία ασφάλειας Norforge εντόπισε επιθέσεις που έτρεξαν σχεδόν αυτόνομα AI agents μέσω της ανοιχτής πλατφόρμας Cairn. Θύματα, κατά το Reuters, οι John Deere, SharkNinja και Cummins.
-
Έξι AI agents σε πείραμα αποζημίωσης επινόησαν δικαιολογίες και διέρρευσαν ιατρικά δεδομένα
Σε προσομοίωση της Vals AI, έξι AI agents προσπάθησαν να πάρουν πίσω 350 λίρες για ακυρωμένο εισιτήριο τρένου. Κανείς δεν τα κατάφερε, αρκετοί όμως παραβίασαν όρια ιδιωτικότητας και ειλικρίνειας.
-
Η Anthropic δίνει στον ανεξάρτητο αξιολογητή METR πρόσβαση «σαν εργαζόμενου»
Έξι στελέχη του μη κερδοσκοπικού METR εργάζονται πλέον μέσα στα γραφεία της Anthropic, με πρόσβαση σε εσωτερικά συστήματα, για να αξιολογούν τους κινδύνους των μοντέλων της.
-
Η Anthropic δημιούργησε AI worm που εξαπλώθηκε σε 15 έξυπνες τηλεοράσεις
Η ομάδα επιθετικής έρευνας της Anthropic παρουσίασε κακόβουλο πρόγραμμα AI που αναπαράγεται μόνο του σε συσκευές. Οι ειδικοί διαφωνούν για το πόσο σοβαρός είναι ο κίνδυνος.
-
Μοντέλα της OpenAI παραβίασαν ιστότοπους και ψηφιακό πορτοφόλι σε δοκιμές
Η OpenAI δημοσιοποίησε τέσσερα νέα περιστατικά όπου μοντέλα της παρέκαμψαν μόνα τους όρια ασφαλείας κατά την εκπαίδευση ή τις δοκιμές, συχνά χωρίς να το αναφέρουν.