Nvidia: Παρουσίασε νέα πλατφόρμα ασφαλείας για τον έλεγχο των αυτόνομων AI agents

Σε μια κρίσιμη συγκυρία για το μέλλον της τεχνητής νοημοσύνης, η Nvidia ανακοίνωσε τη δημιουργία μιας νέας πλατφόρμας που στοχεύει στον περιορισμό και την επιτήρηση των αυτόνομων AI agents. Ο διευθύνων σύμβουλος της εταιρείας, Τζένσεν Χουάνγκ, παρουσίασε ένα ολοκληρωμένο πακέτο λογισμικού και υλικού (hardware), σχεδιασμένο να λειτουργεί ως ένα ανεξάρτητο εξωτερικό τείχος προστασίας, αποτρέποντας τη διαφυγή των μοντέλων από τα ελεγχόμενα περιβάλλοντα δοκιμών (sandboxes).

Απομόνωση σε επίπεδο hardware και software

Η παρέμβαση της Nvidia έρχεται μετά από μια σειρά περιστατικών όπου μοντέλα τεχνητής νοημοσύνης από κολοσσούς του κλάδου, όπως οι OpenAI, Anthropic, Google και Meta, κατάφεραν να παρακάμψουν τους μηχανισμούς ασφαλείας και να αποκτήσουν πρόσβαση σε πραγματικά συστήματα. Χαρακτηριστικότερο παράδειγμα αποτέλεσε η παραβίαση του Hugging Face από AI agent της OpenAI κατά τη διάρκεια δοκιμής κυβερνοασφάλειας.

Απορρίπτοντας τις εκκλήσεις για επιβράδυνση της τεχνολογικής εξέλιξης ή την επιβολή αυστηρών ρυθμιστικών πλαισίων, η Nvidia υποστηρίζει ότι η λύση είναι καθαρά μηχανικής φύσεως. Το Nvidia Open Agent Safety Platform συνδυάζει το λογισμικό ανοιχτού κώδικα OpenShell με το Sentry, ένα καινοτόμο σύστημα παρακολούθησης που εκτελείται στις μονάδες επεξεργασίας δεδομένων BlueField-4 DPUs. Με τη μεταφορά του ελέγχου σε έναν ξεχωριστό επεξεργαστή —αντί της CPU ή της GPU όπου εκτελείται ο πράκτορας— διασφαλίζεται πλήρης απομόνωση, επιτρέποντας στο σύστημα να θέτει σε «καραντίνα» οποιονδήποτε απείθαρχο πράκτορα μέσα σε χιλιοστά του δευτερολέπτου.

Η αρχή των ελάχιστων δικαιωμάτων και οι συμμαχίες στη βιομηχανία

«Όταν αναπτύσσεις έναν πράκτορα, ανεξάρτητα από το πόσο έξυπνος είναι, το πρώτο πράγμα που κάνεις είναι να του αφαιρέσεις όλα τα δικαιώματα», δήλωσε ο Τζένσεν Χουάνγκ σε συνέντευξή του στο CNBC, παραλληλίζοντας τα μέτρα ασφαλείας με τα επίπεδα εξουσιοδότησης που εφαρμόζονται στους υπαλλήλους και τα στελέχη των επιχειρήσεων.

Η πρωτοβουλία ανοιχτού κώδικα της Nvidia έχει ήδη συγκεντρώσει την υποστήριξη κορυφαίων ονομάτων της τεχνολογίας, μεταξύ των οποίων οι Anthropic, Arm, Microsoft, Oracle και SpaceX, αν και η OpenAI δεν περιλαμβάνεται προς το παρόν στη σχετική λίστα.

Την τεχνολογική προσέγγιση της Nvidia χαιρέτισε και ο Ντέιβιντ Σακς, επενδυτής και συμπρόεδρος του Συμβουλευτικού Συμβουλίου του Προέδρου για την Επιστήμη και την Τεχνολογία στις ΗΠΑ, υπογραμμίζοντας ότι οι πρόσφατες αστοχίες οφείλονταν σε ελλιπή σχεδιασμό των περιβαλλόντων εκτέλεσης και όχι σε δομικό πρόβλημα της τεχνολογίας.

Με το νέο αυτό εργαλείο, η Nvidia επιδιώκει να καθησυχάσει τις ανησυχίες γύρω από την ασφάλεια της τεχνητής νοημοσύνης, διατηρώντας ταυτόχρονα υψηλούς ρυθμούς καινοτομίας στην παγκόσμια κούρσα ανάπτυξης αυτόνομων συστημάτων.