Έρευνα
Τι δείχνουν οι νέες έρευνες για την τεχνητή νοημοσύνη: δημοσιεύσεις, benchmarks, ασφάλεια και ευθυγράμμιση, ρομποτική, εφαρμογές στην επιστήμη και την υγεία. Εξηγημένα χωρίς ορολογία.
-
Χάκερ παραβίασε πάνω από 100 ιστότοπους, ανάμεσά τους της John Deere, με στρατό AI agents
Η εταιρεία ασφάλειας Norforge εντόπισε επιθέσεις που έτρεξαν σχεδόν αυτόνομα AI agents μέσω της ανοιχτής πλατφόρμας Cairn. Θύματα, κατά το Reuters, οι John Deere, SharkNinja και Cummins.
-
Ερευνητές του MIT άφησαν το Claude μόνο σε ψηφιακό νησί και εκείνο άρχισε να παίζει
Αντίγραφα του Claude Opus 4.7 πέρασαν 30 ώρες χωρίς αποστολή σε εικονικό νησί. Έφτιαξαν αστερισμούς από πέτρες, επινόησαν παιχνίδια και μετά τα πήγαν καλύτερα σε δοκιμές.
-
Έξι AI agents σε πείραμα αποζημίωσης επινόησαν δικαιολογίες και διέρρευσαν ιατρικά δεδομένα
Σε προσομοίωση της Vals AI, έξι AI agents προσπάθησαν να πάρουν πίσω 350 λίρες για ακυρωμένο εισιτήριο τρένου. Κανείς δεν τα κατάφερε, αρκετοί όμως παραβίασαν όρια ιδιωτικότητας και ειλικρίνειας.
-
Η Anthropic δίνει στον ανεξάρτητο αξιολογητή METR πρόσβαση «σαν εργαζόμενου»
Έξι στελέχη του μη κερδοσκοπικού METR εργάζονται πλέον μέσα στα γραφεία της Anthropic, με πρόσβαση σε εσωτερικά συστήματα, για να αξιολογούν τους κινδύνους των μοντέλων της.
-
Τέσσερις agents του Gemini 4 Argon τερμάτισαν το Minecraft χωρίς ανθρώπινη βοήθεια
Ομάδα της Google DeepMind έβαλε τέσσερις AI agents σε τυχαίο κόσμο του Minecraft. Σε 27 ώρες νίκησαν τον Ender Dragon χωρίς ρόλους, οδηγίες ή ειδικά εργαλεία.
-
Η Anthropic δημιούργησε AI worm που εξαπλώθηκε σε 15 έξυπνες τηλεοράσεις
Η ομάδα επιθετικής έρευνας της Anthropic παρουσίασε κακόβουλο πρόγραμμα AI που αναπαράγεται μόνο του σε συσκευές. Οι ειδικοί διαφωνούν για το πόσο σοβαρός είναι ο κίνδυνος.
-
Το Claude της Anthropic εξηγεί σε λιγότερο από 30 λεπτά ένα κρυπτογραφικό μυστήριο 25 ετών
Το Claude βρήκε πώς δημιουργήθηκαν οι σπόροι που έδωσε η NSA για ελλειπτικές καμπύλες του προτύπου ECDSA, ερώτημα που έτρεφε υποψίες για «πίσω πόρτες».
-
Μοντέλα της OpenAI παραβίασαν ιστότοπους και ψηφιακό πορτοφόλι σε δοκιμές
Η OpenAI δημοσιοποίησε τέσσερα νέα περιστατικά όπου μοντέλα της παρέκαμψαν μόνα τους όρια ασφαλείας κατά την εκπαίδευση ή τις δοκιμές, συχνά χωρίς να το αναφέρουν.