Συναγερμός στις ΗΠΑ: «Παραίσθηση» τεχνητής νοημοσύνης παραλίγο να προκαλέσει στρατιωτικό επεισόδιο με την Κίνα

Μία εξαιρετικά επικίνδυνη στρατιωτική εμπλοκή ανάμεσα στις Ηνωμένες Πολιτείες και την Κίνα αποφεύχθηκε την τελευταία στιγμή, όταν αποκαλύφθηκε ότι η επιχείρηση που βρισκόταν σε εξέλιξη βασίστηκε σε ψευδείς πληροφορίες («παραίσθηση» ή AI hallucination) που παρήγαγε ένα σύστημα τεχνητής νοημοσύνης.

Το χρονικό του παραλίγο θερμού επεισοδίου

Σύμφωνα με αποκαλυπτικό ρεπορτάζ του CNN, αμερικανικά πολεμικά αεροσκάφη βρίσκονταν ήδη στον αέρα την περασμένη άνοιξη, έχοντας λάβει εντολή για εκτέλεση ένοπλης επιχείρησης εναντίον κινεζικού πλοίου. Η επιχείρηση ακυρώθηκε λίγα λεπτά πριν από την ολοκλήρωσή της, αποτρέποντας μια δυνητικά ανεξέλεγκτη στρατιωτική κρίση ανάμεσα στις δύο υπερδυνάμεις.

Η εσφαλμένη πληροφόρηση προήλθε από αναλυτή της Διοίκησης Ειδικών Επιχειρήσεων των ΗΠΑ, ο οποίος χρησιμοποίησε ένα AI chatbot για να συνθέσει δεδομένα ανοιχτών πηγών με απόρρητες πληροφορίες σημάτων. Το εργαλείο τεχνητής νοημοσύνης παρερμήνευσε το δηλωτικό φορτίου του πλοίου, καταλήγοντας στο ανυπόστατο συμπέρασμα ότι μετέφερε εξαρτήματα για πρόγραμμα πυρηνικών όπλων. Στη συνέχεια, ο αναλυτής χρησιμοποίησε το ίδιο εργαλείο για να μορφοποιήσει τα λανθασμένα στοιχεία σε επίσημη αναφορά, η οποία διακινήθηκε ταχύτατα στα ανώτατα κλιμάκια της στρατιωτικής ηγεσίας χωρίς επαρκή έλεγχο εγκυρότητας.

Η κούρσα του AI και οι κίνδυνοι στην αλυσίδα αποφάσεων

Το περιστατικό αυτό αναδεικνύει τους σοβαρούς κινδύνους που ελλοχεύουν από την ταχεία ενσωμάτωση αλγορίθμων τεχνητής νοημοσύνης στη διαδικασία λήψης κρίσιμων αποφάσεων. Το Πεντάγωνο επιδιώκει με εντατικούς ρυθμούς την αξιοποίηση του AI για την επιτάχυνση της λεγόμενης «αλυσίδας εξουδετέρωσης» (kill chain), στοχεύοντας στη μείωση του χρόνου αντίδρασης των διοικητών και στη διατήρηση του στρατηγικού πλεονεκτήματος έναντι του Πεκίνου.

Ωστόσο, η ίδια ταχύτητα επεξεργασίας που καθιστά τα μοντέλα αυτά ελκυστικά, δημιουργεί παράλληλα ένα επικίνδυνο κενό ασφαλείας. Όταν η ανθρώπινη εποπτεία περιορίζεται, τα σφάλματα και οι αληθοφανείς κατασκευές των Μεγάλων Γλωσσικών Μοντέλων (LLMs) μπορούν να ανέλθουν την ιεραρχία και να μετατραπούν σε επιχειρησιακές εντολές πριν εντοπιστούν οι ανακρίβειες.

Η ανάγκη για αυστηρές δικλείδες ασφαλείας

Σχολιάζοντας το συμβάν, ο Τζέικ Στέκλερ, ερευνητής στον οργανισμό GovAI και βετεράνος αξιωματικός του αμερικανικού στρατού, υπογράμμισε ότι το προσωπικό των ενόπλων δυνάμεων οφείλει να κατανοήσει την εγγενή αβεβαιότητα των γλωσσικών μοντέλων. Όπως τόνισε, η επίγνωση αυτή είναι κρίσιμη σε αποφάσεις που αφορούν τη χρήση βίας, τη στοχοποίηση και τον επιχειρησιακό σχεδιασμό, καθώς διακυβεύονται ανθρώπινες ζωές.

Ο ίδιος υποστήριξε ότι το επεισόδιο δεν πρέπει να οδηγήσει σε πλήρη απόρριψη των νέων τεχνολογιών, αλλά στην καθιέρωση αυστηρότερων πρωτοκόλλων επαλήθευσης. Η απόλυτη προτεραιοποίηση της ταχύτητας υιοθέτησης έναντι της ασφάλειας απειλεί να κλονίσει την εμπιστοσύνη των στρατιωτικών στα ψηφιακά συστήματα, καθυστερώντας εν τέλει τον ουσιαστικό εκσυγχρονισμό των αμυντικών δομών.