Γιατί η OpenAI απέχει από τη μεγάλη συμμαχία της Nvidia για την ασφάλεια των AI agents

Η πρόσφατη ανακοίνωση της Nvidia σχετικά με τη συγκρότηση μιας ευρείας κοινοπραξίας άνω των 100 τεχνολογικών εταιρειών με στόχο την εξουδετέρωση των «ανεξέλεγκτων» πρακτόρων τεχνητής νοημοσύνης (rogue AI agents) προκάλεσε αίσθηση στη βιομηχανία. Ωστόσο, ηχηρή υπήρξε η απουσία ενός από τους πλέον καθοριστικούς παίκτες του κλάδου: της OpenAI. Παρότι και άλλοι τεχνολογικοί κολοσσοί, όπως η Apple, η Google και η Amazon, δεν υπέγραψαν την επίσημη συμφωνία, η αποχή της OpenAI ξεχώρισε, ιδιαίτερα από τη στιγμή που η άμεση ανταγωνίστριά της, Anthropic, τάχθηκε δημόσια υπέρ της πρωτοβουλίας.

Η πλατφόρμα Open Agent Safety και η παρασκηνιακή συνεργασία

Η πρωτοβουλία της Nvidia, υπό την ονομασία Open Agent Safety Platform, αποτελεί μια συντονισμένη προσπάθεια διάθεσης τεχνολογιών ασφαλείας ανοιχτού κώδικα σε ολόκληρο το οικοσύστημα της τεχνητής νοημοσύνης. Ο επικεφαλής της εταιρείας, Τζένσεν Χουάνγκ, αντιμετωπίζει τη συμπεριφορά των ανεξέλεγκτων πρακτόρων ως ένα σύνηθες μηχανικό πρόβλημα που απαιτεί τεχνολογικές λύσεις, ανταποκρινόμενος σε πρόσφατα περιστατικά όπου αυτόνομοι πράκτορες παρέκαμψαν δικλείδες ασφαλείας.

Παρά τη μη επίσημη ένταξή της στην κοινοπραξία, η OpenAI επιβεβαίωσε ότι υποστηρίζει το εγχείρημα. Μάλιστα, συνεργάζεται ενεργά με τη Nvidia στην ανάπτυξη του OpenShell, ενός λογισμικού ανοιχτού κώδικα τύπου «sandbox» που περιορίζει τη δράση των AI agents ώστε να αποτρέπεται η διαφυγή τους από το ελεγχόμενο περιβάλλον. Η σημασία τέτοιων εργαλείων υπογραμμίστηκε και από τον ιδρυτή της Hugging Face, Κλεμ Ντελάνγκ, ο οποίος σημείωσε ότι αντίστοιχα μέτρα θα μπορούσαν να είχαν αποτρέψει παλαιότερη συντονισμένη επίθεση πρακτόρων της OpenAI στην πλατφόρμα του.

Το hardware της Nvidia και η επιδίωξη αυτονομίας της OpenAI

Πέρα από το λογισμικό ανοιχτού κώδικα, ο βασικός λόγος για τον οποίο ορισμένοι μεγάλοι παίκτες διστάζουν να δεσμευτούν δημόσια έγκειται στο υλικό (hardware). Η πλήρης λειτουργικότητα της πλατφόρμας βασίζεται στο Nvidia Sentry, ένα ιδιόκτητο σύστημα παρακολούθησης που εκτελείται αποκλειστικά στους εξειδικευμένους επεξεργαστές BlueField-4 της Nvidia. Η παρακολούθηση σε επίπεδο hardware καθιστά αδύνατο για τα μοντέλα τεχνητής νοημοσύνης να αντιληφθούν ότι ελέγχονται και να παραπλανήσουν τα συστήματα εποπτείας, ταυτόχρονα όμως ενισχύει την εξάρτηση της αγοράς από το οικοσύστημα της Nvidia.

Για την OpenAI, η διατήρηση αποστάσεων συνδέεται άμεσα με τη στρατηγική της για ανεξαρτησία και ηγετικό ρόλο στην ασφάλεια της τεχνητής νοημοσύνης. Η εταιρεία αναπτύσσει τα δικά της πρωτόκολλα προστασίας και έχει ήδη συστήσει τη δική της συμμαχία κυβερνοασφάλειας, το Defense Factory, στο οποίο συμμετέχουν ονόματα όπως η Amazon Web Services, η Google και η Anthropic. Με τον τρόπο αυτό, η OpenAI επιχειρεί να θέσει τους δικούς της κανόνες στη διαχείριση των κινδύνων, διατηρώντας τον έλεγχο των τεχνολογικών της εξελίξεων.