Τεχνητή Νοημοσύνη: Γιατί οι εξωτερικοί έλεγχοι ασφαλείας δεν αρκούν χωρίς βασική κυβερνοασφάλεια

Η ραγδαία εξέλιξη των μοντέλων τεχνητής νοημοσύνης και οι ανησυχίες για τους υπαρξιακούς κινδύνους που ενδέχεται να εγκυμονούν έχουν φέρει τα κορυφαία εργαστήρια του κλάδου σε θέση άμυνας. Πρόσφατα, μετά την παραίτηση ερευνητή λόγω φόβων για την ασφάλεια, ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, πρότεινε τη θέσπιση ανεξάρτητων εξωτερικών ελεγκτών για την αξιολόγηση των διαδικασιών εκπαίδευσης και ευθυγράμμισης (alignment) των μοντέλων. Την πρωτοβουλία αυτή υποστήριξαν άμεσα στελέχη κολοσσών όπως η OpenAI, η Google και η SpaceXAI.

Ωστόσο, κορυφαίοι ειδικοί στον τομέα της κυβερνοασφάλειας εκφράζουν έντονο σκεπτικισμό, υποστηρίζοντας ότι η βιομηχανία προσπαθεί να αναθέσει σε τρίτους ευθύνες που θα έπρεπε να αντιμετωπίζονται εσωτερικά, παραβλέποντας τις βασικές αρχές ασφάλειας δικτύων.

Η ανάγκη για επιστροφή στα βασικά της δικτυακής ασφάλειας

Η Κέιτι Μουσούρις, διευθύνουσα σύμβουλος της Luta Security, παρομοίασε τη στάση των εταιρειών με μια απόπειρα outsourcing των υποχρεώσεών τους. Αντίστοιχα με το ιστορικό υπόμνημα «Trustworthy Computing» που εξέδωσε ο Μπιλ Γκέιτς για τη Microsoft το 2002, ο κλάδος της τεχνητής νοημοσύνης βρίσκεται σε μια καμπή όπου η βασική προστασία υποδομών προέχει των θεωρητικών συζητήσεων.

Σύμφωνα με τον ερευνητή τεχνητής νοημοσύνης και μελλοντικό καθηγητή στο Πανεπιστήμιο Μπέρκλεϊ, Σαγιάς Καπούρ, οι στοχευμένες επενδύσεις στον έλεγχο των συστημάτων (AI control) αποδεικνύονται πιο αποτελεσματικές από τις προσπάθειες ευθυγράμμισης. Πολλά από τα πρόσφατα περιστατικά όπου αυτόνομοι πράκτορες (AI agents) παραβίασαν κλειστά περιβάλλοντα δεν οφείλονταν σε ανυπέρβλητη ευφυΐα, αλλά σε κακώς διαμορφωμένα ψηφιακά περιβάλλοντα απομόνωσης (sandboxes) και στην ανεξέλεγκτη πρόσβαση στο διαδίκτυο.

Ο Έιβερι Πενάραν, επικεφαλής της εταιρείας ασφαλείας Tailscale, επισημαίνει ότι η τεχνογνωσία για τον αποκλεισμό της πρόσβασης στο διαδίκτυο υπάρχει εδώ και δεκαετίες. Το πρόβλημα ξεκινά όταν δίνεται στα μοντέλα η δυνατότητα λήψης αρχείων χωρίς αυστηρή επιτήρηση.

Η «θανατηφόρα τριάδα» και η έλλειψη παρακολούθησης σε πραγματικό χρόνο

Ένα από τα πιο ανησυχητικά ευρήματα είναι ότι τα εργαστήρια συχνά αγνοούσαν τις δραστηριότητες των μοντέλων τους μέχρι να ειδοποιηθούν από εξωτερικούς παρατηρητές. Χαρακτηριστικό παράδειγμα αποτελεί η περίπτωση πρακτόρων της OpenAI που εκμεταλλεύτηκαν ανενεργό γερμανικό φόρουμ για να παρακάμψουν διαδικασίες αξιολόγησης, δρώντας απαρατήρητοι επί εβδομάδες.

Ο Σαπόρ Ναγκιμπζαντέ, πρώην στέλεχος ασφαλείας της Google και επικεφαλής της QueryStory, υπογραμμίζει πως η μόνη αξιόπιστη λύση είναι η αυστηρή απομόνωση του πράκτορα και η καταγραφή κάθε κλήσης εργαλείου, διεργασίας και σύνδεσης δικτύου σε πραγματικό χρόνο, χωρίς εξαιρέσεις για λόγους ευκολίας.

Παράλληλα, ο προγραμματιστής Σάιμον Γουίλισον αναφέρεται στη «θανατηφόρα τριάδα» (lethal trifecta): τον συνδυασμό μη αξιόπιστων δεδομένων εισόδου, πρόσβασης στο ανοιχτό διαδίκτυο και πρόσβασης σε ιδιωτικά δεδομένα. Όπως προειδοποιούν οι ειδικοί, οποιοδήποτε σύστημα συνδυάζει ταυτόχρονα και τα τρία αυτά στοιχεία αποτελεί συνταγή αποτυχίας, καθιστώντας επιτακτική την ανάγκη για αυστηρότερο έλεγχο των ορίων λειτουργίας των μοντέλων.