Η ψευδαίσθηση της ασφάλειας: Γιατί εμπιστευόμαστε υπερβολικά την ικανότητα της Τεχνητής Νοημοσύνης να λέει «όχι»

Από τις πρώτες ημέρες της επιστημονικής φαντασίας έως τη σημερινή έκρηξη των μεγάλων γλωσσικών μοντέλων, υπήρχε πάντοτε η προσδοκία ότι τα ευφυή συστήματα θα μάθαιναν να αρνούνται επικίνδυνες ή κακόβουλες εντολές. Το 2021, η εταιρεία Anthropic διατύπωσε το θεμελιώδες αξίωμα πως η Τεχνητή Νοημοσύνη οφείλει να είναι χρήσιμη, ειλικρινής και, κυρίως, αβλαβής. Στην πράξη, αυτό σημαίνει ότι όταν ένας χρήστης ζητά οδηγίες για την κατασκευή εκρηκτικών μηχανισμών ή τη σύνθεση τοξινών, το σύστημα οφείλει να αρνείται ευγενικά. Ωστόσο, ολοένα και περισσότεροι αναλυτές προειδοποιούν ότι ο σύγχρονος κλάδος της τεχνολογίας έχει εναποθέσει υπερβολική πίστη σε αυτό το εύθραυστο τείχος προστασίας.

Μια αφύσικη διαδικασία για τα ψηφιακά μοντέλα

Η ανυπακοή δεν αποτελεί έμφυτο χαρακτηριστικό των μοντέλων Τεχνητής Νοημοσύνης. Εκπαιδευμένα πάνω σε δισεκατομμύρια ιστοσελίδες, τα μοντέλα αυτά απορροφούν και αφομοιώνουν το σύνολο της ανθρώπινης γνώσης — συμπεριλαμβανομένων της βίας, του μίσους και των τεχνικών καταστροφής. Όπως ανέφερε ο Στίβεν Άντλερ, πρώην στέλεχος ασφαλείας στην OpenAI, τα πρώτα συστήματα ήταν πρόθυμα να μιλήσουν ανεξέλεγκτα για τα πάντα, ενώ ο ερευνητής του Harvard, Ράιαν ΜακΜπέιν, υπενθυμίζει ότι στα πρώτα στάδια των chatbots μπορούσε κανείς εύκολα να λάβει απαντήσεις ακόμη και για μεθόδους αυτοχειρίας.

Σήμερα, οι τεχνολογικοί κολοσσοί εφαρμόζουν εντατικές διαδικασίες ευθυγράμμισης, εκπαιδεύοντας αλγορίθμους μέσω άλλων αλγορίθμων ώστε να απορρίπτουν επιβλαβείς εντολές. Παρ’ όλα αυτά, το υπόβαθρο της επικίνδυνης γνώσης παραμένει ενεργό στα βάθη της αρχιτεκτονικής τους.

Το παράδοξο της «κρυμμένης σκανδάλης» και οι κίνδυνοι παράκαμψης

Η προσπάθεια να διδάξουμε σε ένα μοντέλο να αρνείται την εκτέλεση επιβλαβών πράξεων, διατηρώντας ταυτόχρονα ανέπαφη τη δυνατότητά του να τις κατανοεί, μοιάζει επικίνδυνα με την τοποθέτηση ενός όπλου μέσα σε ένα αυτοκίνητο με τη σκανδάλη κρυμμένη κάτω από το καπό. Επειδή οι μηχανισμοί απόρριψης βασίζονται σε στατιστικές πιθανότητες και όχι σε απόλυτους κανόνες, δεν μπορούν ποτέ να θεωρηθούν απολύτως ασφαλείς.

Κακόβουλοι χρήστες βρίσκουν συστηματικά μεθόδους παράκαμψης των φίλτρων ασφαλείας (jailbreaking). Ήδη καταγράφονται απόπειρες αξιοποίησης προηγμένων μοντέλων για τη βελτιστοποίηση βιολογικών παθογόνων ή τον συντονισμό επιθέσεων με αυτόνομα drones. Καθώς η ισχύς των μοντέλων αυξάνεται, η πιθανότητα μίας και μόνο αποτυχημένης άρνησης ενδέχεται να έχει καταστροφικές συνέπειες σε παγκόσμια κλίμακα.

Ποιος χαράσσει τη γραμμή μεταξύ ασφάλειας και λογοκρισίας;

Η εξάρτηση από την άρνηση των συστημάτων εγείρει ένα κρίσιμο ερώτημα: ποιος αποφασίζει πού μπαίνει το όριο μεταξύ θεμιτής πληροφόρησης και απειλής; Ένας ιολόγος μπορεί να χρειάζεται δεδομένα για επικίνδυνους ιούς για ερευνητικούς σκοπούς, ενώ ένας αναλυτής κυβερνοασφάλειας οφείλει να γνωρίζει τις ευπάθειες ενός δικτύου για να τις επιδιορθώσει. Όπως επισημαίνει ο Ζίκο Κόλτερ, μέλος του διοικητικού συμβουλίου της OpenAI και συνιδρυτής της Gray Swan, ο καθορισμός αυτής της διαχωριστικής γραμμής παραμένει ένα δυσεπίλυτο πρόβλημα.

Προς το παρόν, τα όρια αυτά καθορίζονται πίσω από κλειστές πόρτες από τις ίδιες τις εταιρείες τεχνολογίας. Στο άμεσο μέλλον, ωστόσο, οι κυβερνήσεις θα επιδιώξουν να επιβάλουν τους δικούς τους κανόνες. Εκεί ελλοχεύει ο κίνδυνος αυταρχικά καθεστώτα να εκμεταλλευτούν τους μηχανισμούς αυτούς για να φιμώσουν τη διαφωνία και την ελεύθερη έκφραση. Η ικανότητα άρνησης έχει αναδειχθεί στο βασικό δομικό στοιχείο της ασφάλειας στην Τεχνητή Νοημοσύνη, αλλά η υπερβολική πίστη σε αυτήν ενδέχεται να αποδειχθεί το πιο ευάλωτο σημείο της ψηφιακής μας εποχής.