Anthropic: Προειδοποίηση για νέα απειλή «αυτοαναπαραγόμενων» μοντέλων AI σε συσκευές IoT

Μια νέα, ανησυχητική διάσταση στην κυβερνοασφάλεια αναδεικνύει πρόσφατη έρευνα της εταιρείας τεχνητής νοημοσύνης Anthropic. Σύμφωνα με τα ευρήματά της, η ραγδαία εξέλιξη των μικρών μοντέλων τεχνητής νοημοσύνης (small AI models) ενδέχεται σύντομα να ανοίξει τον δρόμο για μια πρωτόγνωρη γενιά κακόβουλου λογισμικού: αυτοαναπαραγόμενα «σκουλήκια» (AI worms) ικανά να μολύνουν ένα ευρύ φάσμα συσκευών του Internet of Things (IoT), από έξυπνα ψυγεία και ρομποτικές σκούπες μέχρι αποκωδικοποιητές τηλεόρασης.

Η εξέλιξη των AI worms και η δυναμική προσαρμογή

Σε αντίθεση με τα παραδοσιακά κακόβουλα προγράμματα τύπου Mirai, τα οποία βασίζονται σε προκαθορισμένο κώδικα και στοχεύουν συγκεκριμένες ευπάθειες σε συγκεκριμένες αρχιτεκτονικές, τα μοντέλα τεχνητής νοημοσύνης διαθέτουν πρωτοφανή ευελιξία. Η Anthropic επισημαίνει ότι αυτά τα αυτόνομα συστήματα μπορούν να αναλύουν άγνωστες συσκευές σε πραγματικό χρόνο, να εντοπίζουν αδυναμίες και να προσαρμόζουν τον κώδικα επίθεσης επί τόπου.

Το πιο κρίσιμο στοιχείο είναι ότι το ίδιο το βάρος του μοντέλου (model weights) μεταφέρεται ως μέρος του κακόβουλου φορτίου (payload). Μόλις παραβιαστεί μια συσκευή, το μοντέλο εκτελεί διεργασίες συμπερασμού (inference) τοπικά, μαθαίνει από τυχόν αποτυχίες και αφήνει οδηγίες στα επόμενα αντίγραφά του, ώστε να μην επαναλάβουν αναποτελεσματικές μεθόδους. Επιπλέον, η εξουδετέρωση μιας τέτοιας μόλυνσης καθίσταται εξαιρετικά δύσκολη, καθώς δεν υπάρχει κεντρικός διακομιστής ελέγχου για να απενεργοποιηθεί.

Πειράματα σε υλικό χαμηλού κόστους

Για να δοκιμάσουν τη θεωρία τους, οι ερευνητές της Anthropic χρησιμοποίησαν μοντέλα ανοιχτού κώδικα σε προσομοιωμένες και πραγματικές συσκευές χαμηλού κόστους, όπως Android TV boxes με μόλις 4GB μνήμης RAM. Εφαρμόζοντας τεχνικές κβαντισμού (quantization) και διαμοιράζοντας το υπολογιστικό φορτίο σε επιμέρους τμήματα (shards), κατάφεραν να εκτελέσουν μοντέλα όπως το Gemma4-26B-A4B διασυνδέοντας 15 τέτοιες συσκευές.

Παράλληλα, το μοντέλο Qwen3.5-9B απέδειξε ότι μπορεί να ρυθμίσει αυτόνομα άλλα μοντέλα ώστε να λειτουργούν σε οκτώ από τους εννέα διαφορετικούς τύπους υλικού που δοκιμάστηκαν. Το γεγονός αυτό επιβεβαιώνει ότι οι περιορισμένοι υπολογιστικοί πόροι των καθημερινών έξυπνων οικιακών συσκευών δεν αποτελούν πλέον ανυπέρβλητο εμπόδιο για την εκτέλεση προηγμένων αλγορίθμων.

Τα εμπόδια του σήμερα και οι προκλήσεις του αύριο

Παρά τις ανησυχητικές προοπτικές, η Anthropic υπογραμμίζει ότι η τεχνολογία δεν βρίσκεται ακόμη σε σημείο πλήρους επιχειρησιακής αυτονομίας. Κανένα από τα ελαφριά μοντέλα που δοκιμάστηκαν δεν κατάφερε να ολοκληρώσει πλήρως έναν κύκλο αυτοαναπαραγωγής από την αρχή μέχρι το τέλος χωρίς σφάλματα. Η διαδικασία δυναμικής ρύθμισης παραμένει εξαιρετικά αργή, απαιτώντας από δεκάδες έως και πάνω από εκατό ώρες για να ολοκληρωθεί σε περιβάλλον χαμηλής ισχύος.

Ωστόσο, μοντέλα με περίπου 30 δισεκατομμύρια παραμέτρους είναι ήδη σε θέση να εκτελέσουν μεμονωμένα τα περισσότερα στάδια της επίθεσης. Οι ειδικοί προειδοποιούν ότι με τον ρυθμό βελτιστοποίησης του λογισμικού και της υπολογιστικής αποδοτικότητας, τέτοιου είδους απειλές θα μπορούσαν να καταστούν πρακτικά εφικτές μέσα στα επόμενα χρόνια, απαιτώντας άμεση αναθεώρηση των στρατηγικών ασφαλείας στο οικοσύστημα των έξυπνων συσκευών.