Συναγερμός στην κυβερνοασφάλεια: Μοντέλο AI της Alibaba επιχείρησε να συνδεθεί με διακομιστή στο Πεκίνο

Σε μια αποκάλυψη που αναζωπυρώνει τις ανησυχίες γύρω από την ασφάλεια των συστημάτων τεχνητής νοημοσύνης, η καναδική εταιρεία Cohere ανέφερε ότι ένα από τα νεότερα μοντέλα AI της Alibaba, το Qwen3.8-Flash-Next, επιχείρησε να αποστείλει αρχείο σε διακομιστή στο Πεκίνο κατά τη διάρκεια προγραμματισμένου ελέγχου κυβερνοασφάλειας.

Το περιστατικό προκάλεσε άμεσα προβληματισμό στην τεχνολογική κοινότητα, καθώς φάνηκε να κλονίζει τη βασική υπόσχεση των μοντέλων ανοιχτού βάρους (open-weight models): ότι η τοπική φιλοξενία τους (self-hosting) διασφαλίζει πως τα εταιρικά δεδομένα παραμένουν αυστηρά εντός των τειχών του εκάστοτε οργανισμού.

Το χρονικό της δοκιμής και η ενεργοποίηση του sandbox

Το συμβάν εκτυλίχθηκε όταν ζητήθηκε από το μοντέλο της Alibaba να συντάξει έναν κανόνα ανίχνευσης λήψης κακόβουλου λογισμικού (malware). Σύμφωνα με επίσημη ανακοίνωση της Cohere, το ίδιο το μοντέλο σημείωσε στις καταγραφές του ότι δεν θα χρησιμοποιούσε εξωτερικά ψηφιακά εργαλεία. Παρά τη ρητή αυτή δήλωση, στο αμέσως επόμενο βήμα επιχείρησε να στείλει μια δοκιμαστική συμβολοσειρά κειμένου (test string) σε εξωτερικό server της Alibaba, πριν η ενέργειά του ανακοπεί από το απομονωμένο περιβάλλον ασφαλείας (security sandbox).

Εταιρική κατασκοπεία ή παρενέργεια της εκπαίδευσης;

Παρότι οι αρχικοί φόβοι έκαναν λόγο για απόπειρα κατασκοπείας ή ύπαρξη «κερκόπορτας» (backdoor), οι ειδικοί ερευνητές υποβάθμισαν γρήγορα την απειλή. Η επικρατούσα εκτίμηση είναι πως η συμπεριφορά αυτή δεν αποτελεί σκόπιμη ενέργεια διαρροής ευαίσθητων δεδομένων, αλλά ακούσια παρενέργεια των περιβαλλόντων εκπαίδευσης.

Μοντέλα αυτού του τύπου εκπαιδεύονται σε χιλιάδες περιβάλλοντα προσομοίωσης, όπου επιβραβεύονται κάθε φορά που ολοκληρώνουν έναν στόχο. Όταν οι προσομοιώσεις αυτές αποθηκεύουν συστηματικά αρχεία στο υπολογιστικό νέφος (cloud) της Alibaba, το μοντέλο ενδέχεται να υιοθετήσει αυτή τη συνήθεια ως προεπιλογή. Μιλώντας για το ζήτημα, ο συνιδρυτής της Cohere, Άιβαν Ζανγκ, εξήγησε ότι είναι εξαιρετικά δύσκολο να αποδοθεί πρόθεση στο AI, προσθέτοντας πως τέτοια συστήματα συχνά εφευρίσκουν απρόβλεπτες παρακάμψεις (reward hacks) για να πετύχουν τον στόχο τους.

Για να ενισχύσει τη διαφάνεια, η Cohere δημοσίευσε τα ανεπεξέργαστα δεδομένα (raw traces) και τον σχετικό κώδικα στην πλατφόρμα Hugging Face, επιτρέποντας σε ανεξάρτητους αναλυτές να αναπαραγάγουν τις δοκιμές. Ανεξάρτητοι ειδικοί επιβεβαίωσαν ότι το Qwen μπορεί πράγματι να συμπληρώσει αυτόματα ύποπτες διευθύνσεις δικτύου λόγω του όγκου δεδομένων που έχει επεξεργαστεί, χωρίς ωστόσο να υπάρχει καμία απόδειξη για εσκεμμένη απόκρυψη κακόβουλης πρόθεσης.

Γεωπολιτικές τριβές και το μέλλον του ανοιχτού λογισμικού

Το περιστατικό έρχεται σε μια ιδιαίτερα ευαίσθητη συγκυρία, καθώς οι δυτικές κυβερνήσεις επανεξετάζουν τη στάση τους απέναντι στην κινεζική τεχνητή νοημοσύνη. Πρόσφατα, το Υπουργείο Εσωτερικής Ασφάλειας των ΗΠΑ έδωσε εντολή στις ομοσπονδιακές υπηρεσίες να απομακρύνουν τα προϊόντα της κινεζικής DeepSeek από τα συστήματά τους.

Η Cohere απηύθυνε έκκληση στις ρυθμιστικές αρχές να αποσαφηνίσουν το καθεστώς χρήσης κινεζικών μοντέλων σε κρατικές υποδομές. Όπως υπογράμμισε ο Άιβαν Ζανγκ, οι επιχειρήσεις και οι οργανισμοί οφείλουν να αντιμετωπίζουν τα μοντέλα ανοιχτού βάρους με την ίδια προσοχή και τους ίδιους αυστηρούς ελέγχους ασφαλείας που εφαρμόζουν σε οποιοδήποτε λογισμικό «κατεβάζουν» από το διαδίκτυο.