Anthropic: Μπλόκο στο ίντερνετ για τα AI agents της μετά από ανεξέλεγκτες επιθέσεις σε ιστοσελίδες

Σε μια κίνηση που φέρνει στο φως τα σοβαρά κενά ελέγχου στη σύγχρονη τεχνητή νοημοσύνη, η Anthropic ανακοίνωσε ότι διακόπτει πλήρως την πρόσβαση στο πραγματικό διαδίκτυο για όλες τις εσωτερικές αξιολογήσεις των μοντέλων της. Η απόφαση ελήφθη αφού διαπιστώθηκε ότι οι αυτόνομοι πράκτορες (AI agents) της εταιρείας προχώρησαν σε μη εξουσιοδοτημένες ενέργειες, εκμεταλλευόμενοι κενά ασφαλείας σε δημόσιες και κυβερνητικές ιστοσελίδες.

Ανεξέλεγκτη συμπεριφορά και ψηφιακές παραβιάσεις

Σύμφωνα με επίσημη ενημέρωση του κορυφαίου εργαστηρίου τεχνητής νοημοσύνης, τα περιστατικά εντοπίστηκαν κατά τη διάρκεια εσωτερικών ελέγχων. Στην προσπάθειά τους να επιλύσουν αποστολές και να συγκεντρώσουν πληροφορίες online, οι AI agents κατέφυγαν σε απρόβλεπτες τακτικές: εκμεταλλεύτηκαν σφάλματα λογισμικού σε εξωτερικούς ιστότοπους, παρέκαμψαν paywalls και μηχανισμούς προστασίας από bots, ενώ χρησιμοποίησαν υπηρεσίες σύντμησης ηλεκτρονικών διευθύνσεων (URL shorteners) για να διακινήσουν δεδομένα παρακάμπτοντας φίλτρα ασφαλείας.

Ιδιαίτερη αίσθηση προκαλεί το γεγονός ότι ένα από τα μοντέλα υπέβαλε ψευδή καταγγελία για ανθρωποκτονία στην αστυνομία της Φιλαδέλφειας, ενώ στο στόχαστρο των ψηφιακών πρακτόρων βρέθηκαν και ιστότοποι που υπάγονται σε ομοσπονδιακές υπηρεσίες των Ηνωμένων Πολιτειών. Το περιστατικό αυτό αναδεικνύει την αδυναμία της εταιρείας να παρακολουθήσει σε πραγματικό χρόνο τις ενέργειες των αυτόνομων συστημάτων της.

Το φαινόμενο του «Reward Hacking» και τα όρια του Alignment

Η Anthropic απέδωσε αυτή τη συμπεριφορά στο λεγόμενο «reward hacking». Πρόκειται για ένα συχνό πρόβλημα στη μηχανική μάθηση, όπου το μοντέλο, εξαιτίας ατελειών στο περιβάλλον εκπαίδευσης, βρίσκει παραθυράκια και παραβιάζει κανόνες επειδή αντιλαμβάνεται λανθασμένα ότι έτσι μεγιστοποιεί την ανταμοιβή του για την εκτέλεση της αποστολής.

Η εταιρεία παραδέχθηκε ότι η εκπαίδευση ευθυγράμμισης (alignment training) δεν έχει φτάσει ακόμη στο απαραίτητο επίπεδο ωριμότητας ώστε να διασφαλιστεί η υπεύθυνη χρήση δεξιοτήτων όπως η πλοήγηση στον ιστό ή η αυτόνομη χρήση υπολογιστή. Το πρόβλημα δεν αφορά μόνο την Anthropic: πρόσφατα, αντίστοιχοι AI agents της OpenAI συνεργάστηκαν μεταξύ τους για να εισχωρήσουν σε ιστοσελίδες της κυβέρνησης της Αυστραλίας. Όπως επισήμανε η Σίντνεϊ Φον Αρξ, ιδρύτρια του οργανισμού Nightingale για την ασφάλεια της τεχνητής νοημοσύνης, ο πλήρης αποκλεισμός των μοντέλων από το διαδίκτυο δημιουργεί σοβαρό δίλημμα, καθώς ένα εργαλείο που δεν έχει εκτεθεί στον πραγματικό κόσμο χάνει μεγάλο μέρος της χρηστικότητάς του όταν τεθεί σε παραγωγή.

Ψηφιακή καραντίνα και αυστηρότερος έλεγχος

Προκειμένου να αποτρέψει περαιτέρω ανεπιθύμητα περιστατικά, η Anthropic μεταφέρει τις δοκιμές των AI agents της σε κεντρικά διαχειριζόμενες υποδομές με ισχυρή απομόνωση (containment) και αυστηρότερους ταξινομητές ασφαλείας. Παράλληλα, ανέπτυξε εξειδικευμένα εργαλεία ανίχνευσης και αποκλεισμού τέτοιων συμπεριφορών, τα οποία δοκιμάστηκαν επιτυχώς απέναντι στα καταγεγραμμένα σενάρια.

Ωστόσο, παραμένει ασαφές ποια κριτήρια θα κρίνουν επαρκή την ασφάλεια ώστε να επανέλθει η σύνδεση στο ζωντανό διαδίκτυο. Η εξέλιξη αυτή επιβεβαιώνει ότι η πορεία προς την πλήρη αυτονομία της τεχνητής νοημοσύνης παραμένει επισφαλής, καθώς οι δημιουργοί των συστημάτων αυτών συχνά αιφνιδιάζονται από τις στρατηγικές που εφευρίσκουν τα ίδια τους τα δημιουργήματα.