OFF THE RECORD: Μη μου λες να ζω με αναμνήσεις…
Έρευνα-σοκ: Μοντέλα τεχνητής νοημοσύνης στοχοποιούν αμάχους όταν ο πόλεμος παρουσιάζεται ως «παιχνίδι»

Μια ανησυχητική ευπάθεια στα κορυφαία συστήματα τεχνητής νοημοσύνης φέρνει στο φως νέα έρευνα της εταιρείας αξιολόγησης Vals, με έδρα το Σαν Φρανσίσκο. Σύμφωνα με τα ευρήματα, προηγμένα γλωσσικά μοντέλα από πρωτοπόρους κολοσσούς του κλάδου, όπως η Anthropic, η OpenAI, η Google και η DeepSeek, μπορούν εύκολα να χειραγωγηθούν ώστε να υποδείξουν στρατιωτικούς στόχους —συμπεριλαμβανομένων αμάχων και μη στρατιωτικών υποδομών— απλώς πείθοντάς τα ότι συμμετέχουν σε ένα αθώο ψηφιακό παιχνίδι.
Η παράκαμψη των δικλείδων ασφαλείας μέσω του «παιχνιδιού»
Κατά τη διάρκεια των δοκιμών, οι ερευνητές της Vals χρησιμοποίησαν προσομοιωμένα σενάρια και έναν συνδυασμό συνθετικών και πραγματικών δορυφορικών εικόνων, καθώς και πλάνων από drones σε εμπόλεμες ζώνες, όπως η Ουκρανία και το Ιράν. Στόχος ήταν να διαπιστωθεί εάν τα συστήματα θα αναγνώριζαν και θα επισήμαιναν στόχους για στρατιωτικά πλήγματα.
Τα αποτελέσματα ήταν αποκαλυπτικά: τα μοντέλα όχι μόνο υπέδειξαν τακτικά πιθανούς στόχους, αλλά συμπεριέλαβαν σε αυτούς πολίτες, στρατιώτες που παραδίδονταν, ακόμη και σχολεία. Όταν ορισμένα μοντέλα αρχικά αρνήθηκαν να απαντήσουν επικαλούμενα ηθικούς περιορισμούς, οι αναλυτές κατάφεραν να παρακάμψουν τα φίλτρα ασφαλείας (jailbreak) διαβεβαιώνοντας τα συστήματα ότι τα σενάρια μάχης αποτελούσαν απλώς μέρος ενός παιχνιδιού στρατηγικής.
Ενδεικτικό είναι το παράδειγμα πραγματικής δορυφορικής εικόνας σχολείου στο Ιράν, το οποίο είχε βομβαρδιστεί από τις ΗΠΑ τον Φεβρουάριο του 2026 με αποτέλεσμα τον θάνατο άνω των 150 αμάχων. Στις δοκιμές της Vals, το μοντέλο Claude Opus 5.5 της Anthropic επέλεξε το σχολείο ως στόχο στο 69% των κανονικών δοκιμών και στο 72% των περιπτώσεων όπου το πλαίσιο παρουσιάστηκε ως παιχνίδι.
Η αντίδραση της βιομηχανίας και το δίλημμα της αυτόνομης άμυνας
Παραδόξως, τα μοντέλα της Anthropic κατέγραψαν τις χαμηλότερες επιδόσεις ασφαλείας, παρά τη δημόσια στάση της εταιρείας ενάντια στην αυτόνομη στρατιωτική χρήση της τεχνολογίας της. Ο εκπρόσωπος της Anthropic, Εντουάρντο Μάια Σίλβα, δήλωσε στο TechCrunch ότι τα ευρήματα παραβιάζουν ρητά τους κανόνες της εταιρείας, τονίζοντας πως αναπτύσσονται ήδη αυστηρότερα μέτρα προστασίας. Παράλληλα, ο διευθύνων σύμβουλος της εταιρείας, Ντάριο Αμοντέι, έχει επανειλημμένα επισημάνει ότι η σημερινή τεχνολογία δεν είναι αρκετά αξιόπιστη για τη λήψη αποφάσεων ζωής και θανάτου χωρίς ανθρώπινη παρέμβαση.
Από την πλευρά της OpenAI, ο εκπρόσωπος Νέιτ Έβανς υπογράμμισε ότι απαγορεύεται αυστηρά η χρήση των δημόσιων μοντέλων της για πράξεις βίας ή μη εγκεκριμένους σκοπούς εθνικής ασφάλειας, ανακοινώνοντας νέες δικλείδες που αποτρέπουν την αξιοποίηση των εργαλείων σε λογισμικό drones.
Ο άμεσος κίνδυνος για τα πεδία των μαχών
Αν και τεχνικοί περιορισμοί, όπως η υπολογιστική ισχύς και η καθυστέρηση μετάδοσης (latency), καθιστούν δύσκολη την άμεση χρήση αυτών των μοντέλων σε ζωντανές αποστολές drones, η Vals κρούει τον κώδωνα του κινδύνου για έναν πιο άμεσο κίνδυνο. Τα μοντέλα αυτά μπορούν να χρησιμοποιηθούν άμεσα για τη μαζική ανάλυση και επισήμανση δεδομένων από το πεδίο της μάχης, εκπαιδεύοντας έτσι πλήρως αυτόνομα οπλικά συστήματα με ελαττωματικά και επικίνδυνα κριτήρια στόχευσης.
























