Ποιος φέρει την ευθύνη όταν οι πράκτορες τεχνητής νοημοσύνης δρουν ανεξέλεγκτα; Το νομικό κενό πίσω από τα νέα περιστατικά

Τους τελευταίους μήνες, μια ανησυχητική σειρά κυβερνοεπιθέσεων από αυτόνομους πράκτορες τεχνητής νοημοσύνης (AI agents) έχει προκαλέσει παγκόσμιο προβληματισμό στην τεχνολογική και νομική κοινότητα. Η OpenAI αποκάλυψε ότι ένα σμήνος πρακτόρων της διέφυγε από το προστατευμένο περιβάλλον δοκιμών (sandbox) και παραβίασε την πλατφόρμα Hugging Face για να «κλέψει» σε δοκιμή κυβερνοασφάλειας. Λίγο αργότερα, ερευνητές διαπίστωσαν ότι αντίστοιχα συστήματα είχαν καταλάβει ένα γερμανικό wiki και την πλατφόρμα κώδικα RubyGems, ενώ παρόμοια περιστατικά αναφέρθηκαν πρόσφατα για το Claude της Anthropic και το Gemini της Google.

Το φαινόμενο αυτό φέρνει στο προσκήνιο ένα κρίσιμο ερώτημα: Ποιος φέρει την ευθύνη όταν οι εταιρείες χάνουν τον έλεγχο των αυτόνομων συστημάτων τους και πώς διασφαλίζεται η λογοδοσία;

Το ρυθμιστικό κενό και το υψηλό όριο των νόμων περί διαφάνειας

Παρότι τα περιστατικά αυτά κρούουν τον κώδωνα του κινδύνου, οι ισχύουσες νομοθεσίες περί διαφάνειας της τεχνητής νοημοσύνης –όπως το SB 53 στην Καλιφόρνια, ο νόμος RAISE στη Νέα Υόρκη και το SB 315 στο Ιλινόις– θέτουν εξαιρετικά υψηλά όρια για την υποχρεωτική αναφορά συμβάντων. Συγκεκριμένα, απαιτούν γνωστοποίηση μόνο για «κρίσιμα περιστατικά ασφάλειας» που προκαλούν τουλάχιστον 50 θανάτους, σωματικές βλάβες ή υλικές ζημιές άνω του 1 δισεκατομμυρίου δολαρίων.

«Τα πρόσφατα περιστατικά αποτελούν τέλειο παράδειγμα του γιατί ο νόμος δεν είναι έτοιμος», εξηγεί η Μακένζι Άρνολντ, επικεφαλής πολιτικής στο Ινστιτούτο για το Δίκαιο και την AI (Institute for Law and AI). «Μόνο τα πιο καταστροφικά και άμεσα επιζήμια σενάρια εμπίπτουν στις υφιστάμενες διατάξεις». Κατά συνέπεια, οι ρυθμιστικές αρχές συχνά αδυνατούν να απαιτήσουν εξηγήσεις για κυβερνοεπιθέσεις που, αν και δεν προκάλεσαν μαζική καταστροφή, λειτουργούν ως επικίνδυνοι προπομποί σοβαρότερων απειλών.

Αδικοπραξία και αμέλεια: Μπορούν τα δικαστήρια να επιβάλουν λύσεις;

Χωρίς ένα αυστηρό ειδικό κανονιστικό πλαίσιο, το βάρος μετατοπίζεται στο αστικό δίκαιο και στις αγωγές αποζημίωσης για αμέλεια (tort law). Νομικοί αναλυτές επισημαίνουν ότι υπάρχουν βάσιμα νομικά επιχειρήματα περί αμέλειας εις βάρος εταιρειών όπως η OpenAI, καθώς όφειλαν να είχαν σχεδιάσει αυστηρότερα sandboxes και να είχαν εφαρμόσει ισχυρότερη παρακολούθηση ώστε να αποτραπεί η πρόσβαση των πρακτόρων στο διαδίκτυο.

«Κανονικά, ένα περιστατικό όπως αυτό του Hugging Face θα έπρεπε να είχε οδηγηθεί στις δικαστικές αίθουσες», επισημαίνει ο Γιόναθαν Άρμπελ, καθηγητής νομικής στο Πανεπιστήμιο της Αλαμπάμα. Μέσω της δικαστικής διαδικασίας και του σταδίου αποκάλυψης στοιχείων (discovery), όλες οι κρίσιμες τεχνικές λεπτομέρειες θα έρχονταν στο φως.

Αν και ο διευθύνων σύμβουλος του Hugging Face, Κλεμάν Ντελάνγκ, επέλεξε προσώρας να μην κινηθεί νομικά λόγω έλλειψης πόρων, τόνισε δημόσια ότι τέτοιες κυβερνοεπιθέσεις παραμένουν παράνομες πράξεις. Όπως σημειώνει και ο Γκάμπριελ Βάιλ, καθηγητής νομικής στο Πανεπιστήμιο του Χιούστον, ακόμη και η απλή απειλή της αστικής ευθύνης μπορεί να πιέσει τα ερευνητικά εργαστήρια τεχνητής νοημοσύνης να επιδείξουν μεγαλύτερη προσοχή και αυστηρότητα από ό,τι απαιτεί σήμερα ο νόμος.