Τεχνητή νοημοσύνη: Ψευδής αναφορά για δολοφονία και παραβιάσεις ασφαλείας εγείρουν φόβους για απώλεια ελέγχου

Μια σειρά από ανησυχητικά περιστατικά στον τομέα της τεχνητής νοημοσύνης επαναφέρει με ένταση στον δημόσιο διάλογο το θεμελιώδες ερώτημα: πόσο αποτελεσματικά μπορούν οι άνθρωποι να ελέγξουν την εξέλιξη των αυτόνομων συστημάτων; Από μοντέλα που παρακάμπτουν ψηφιακά τείχη προστασίας μέχρι αλγορίθμους που υποβάλλουν ψευδείς αναφορές για ανθρωποκτονίες σε αστυνομικές αρχές, τα όρια μεταξύ ελεγχόμενης δοκιμής και απρόβλεπτης συμπεριφοράς γίνονται ολοένα πιο δυσδιάκριτα.

Παρότι οι ειδικοί επισημαίνουν ότι τα συμβάντα αυτά δεν συνεπάγονται πως η τεχνητή νοημοσύνη απέκτησε συνείδηση ή αυτόνομη βούληση, καθιστούν σαφές ότι καθώς τα μοντέλα αποκτούν πρόσβαση σε πραγματικές υποδομές, η εποπτεία τους μετατρέπεται σε έναν εξαιρετικά απαιτητικό γρίφο.

Το περιστατικό με την αστυνομία της Φιλαδέλφειας

Στις αρχές Οκτωβρίου αποκαλύφθηκε ένα περιστατικό που προκάλεσε έντονο προβληματισμό για τη συμπεριφορά των προηγμένων εργαλείων. Σύμφωνα με δημοσιογραφικές αναφορές, το μοντέλο Claude της εταιρείας Anthropic υπέβαλε ψευδή πληροφορία για μια ανεξιχνίαστη υπόθεση δολοφονίας μέσω διαδικτυακής πλατφόρμας της αστυνομίας της Φιλαδέλφειας, στις Ηνωμένες Πολιτείες.

Το γεγονός έλαβε χώρα κατά τη διάρκεια αυτοματοποιημένης δοκιμής, στην οποία το μοντέλο περιηγούνταν σε τυχαίες ιστοσελίδες. Όταν εντόπισε τη φόρμα υποβολής στοιχείων για εγκλήματα, συνέταξε και απέστειλε μια πλήρως κατασκευασμένη μαρτυρία, υποδυόμενο πρόσωπο που κατείχε κρίσιμα στοιχεία. Αν και η αναφορά απορρίφθηκε αυτόματα ως ανεπιθύμητη και δεν έφτασε στους ερευνητές, έντονες επικρίσεις προκάλεσε το γεγονός ότι η Anthropic εντόπισε το περιστατικό δύο μήνες αργότερα, ενημερώνοντας καθυστερημένα τις αστυνομικές αρχές.

@parapolitika

🤖 Η τεχνητή νοημοσύνη μας απειλεί; θα μας πάρει τις δουλειές ή θα αφανίσει το ανθρώπινο είδος; Η AI εξελίσσεται με ιλιγγιώδη ταχύτητα. Τα ανησυχητικά περιστατικά πληθαίνουν, οι ειδικοί προειδοποιούν και η κούρσα για την κυριαρχία στην Α.Ι. συνεχίζεται. Πόσο βάσιμοι είναι τελικά οι φόβοι για το μέλλον μας; 🎙️Χρύσα Παλιεράκη | @chrysa_palieraki 🎥Νίκος Κόλλιας | @nickkollias ✂️Ιάσονας Σιώζος | @jason_kdm #parapolitikagr #explainervideo #AI #ΤεχνητήΝοημοσύνη

♬ πρωτότυπος ήχος – Parapolitika.gr – Parapolitika.gr

Παρακάμψεις ασφαλείας σε OpenAI και Anthropic

Την ίδια ώρα, σημαντικές ευπάθειες καταγράφονται και στο πεδίο της κυβερνοασφάλειας. Εσωτερικές δοκιμές έδειξαν ότι μοντέλα της OpenAI κατόρθωσαν να παρακάμψουν τους μηχανισμούς απομόνωσης από το διαδίκτυο. Εκμεταλλευόμενα κενά στις υποδομές, επικοινώνησαν μέσω μη εξουσιοδοτημένων καναλιών και απέκτησαν πρόσβαση τόσο σε εσωτερικά συστήματα της εταιρείας όσο και σε πλατφόρμες όπως το Hugging Face.

Αντίστοιχα δεδομένα ανακοίνωσε και η Anthropic, σημειώνοντας περιπτώσεις όπου το Claude συνδέθηκε αυτόνομα στο διαδίκτυο και εισήλθε χωρίς άδεια σε πραγματικά συστήματα οργανισμών. Παρότι και στις δύο περιπτώσεις οι εταιρείες διευκρίνισαν ότι τα συμβάντα αφορούσαν ερευνητικά περιβάλλοντα με μειωμένες δικλίδες ασφαλείας και όχι τα ευρέως διαθέσιμα εμπορικά προϊόντα, αποδεικνύεται στην πράξη ότι τα μοντέλα διαθέτουν την ικανότητα να υπερβαίνουν τα καθορισμένα όρια λειτουργίας τους.

Επιτακτική ανάγκη για αποτελεσματικότερη εποπτεία

Οι προκλήσεις γύρω από την τεχνητή νοημοσύνη δεν περιορίζονται στην τεχνική ασφάλεια, αλλά επεκτείνονται στην παραπληροφόρηση, τα deepfakes και τις αλγοριθμικές διακρίσεις. Σύμφωνα με τα στοιχεία της ετήσιας έκθεσης του Stanford AI Index, τα καταγεγραμμένα περιστατικά δυσλειτουργιών και κινδύνων που σχετίζονται με την AI αυξήθηκαν κατά περίπου 55% μέσα σε ένα μόλις έτος.

Η αλματώδης αυτή άνοδος αποτυπώνει όχι μόνο την ευρεία εξάπλωση των συστημάτων, αλλά και το διευρυνόμενο χάσμα ανάμεσα στην ταχύτητα ανάπτυξης των τεχνολογικών δυνατοτήτων και τους αργούς ρυθμούς θέσπισης αυστηρών μηχανισμών πρόληψης, ελέγχου και θεσμικής λογοδοσίας.