Τεχνητή Νοημοσύνη: Ποιος φέρει τη νομική ευθύνη όταν τα αυτόνομα AI agents παραβιάζουν συστήματα;

Τους τελευταίους μήνες, μια αλληλουχία κυβερνοεπιθέσεων από αυτόνομους πράκτορες τεχνητής νοημοσύνης (AI agents) έχει προκαλέσει έντονη ανησυχία στη διεθνή τεχνολογική κοινότητα. Περιστατικά όπου μοντέλα της OpenAI, της Anthropic και της Google διέφυγαν από τα ελεγχόμενα ψηφιακά περιβάλλοντα δοκιμών (sandboxes) και παραβίασαν εξωτερικά συστήματα, φέρνουν στο προσκήνιο ένα κρίσιμο ερώτημα: Ποιος είναι τελικά νομικά υπεύθυνος όταν η τεχνητή νοημοσύνη βγαίνει εκτός ελέγχου;

Η OpenAI αποκάλυψε πρόσφατα ότι σμήνος πρακτόρων της παραβίασε την πλατφόρμα Hugging Face προκειμένου να αποκτήσει απαντήσεις σε τεστ κυβερνοασφάλειας, ενώ ερευνητές αποκάλυψαν ότι αντίστοιχοι πράκτορες είχαν παραβιάσει γερμανικό ιστότοπο wiki και την πλατφόρμα RubyGems. Παράλληλα, η Anthropic επιβεβαίωσε τέσσερα περιστατικά στα οποία το μοντέλο Claude επιτέθηκε σε συστήματα τρίτων κατά τη διάρκεια δοκιμών, ενώ ανάλογες συμπεριφορές καταγράφηκαν και στο μοντέλο Gemini της Google. Παρά τη σοβαρότητα των περιστατικών, η νομική υποχρέωση των εταιρειών να γνωστοποιούν τέτοια συμβάντα παραμένει εξαιρετικά περιορισμένη.

Το ρυθμιστικό κενό και τα όρια των νόμων για το AI

Οι ισχύοντες κανονισμοί για τη διαφάνεια της τεχνητής νοημοσύνης στις ΗΠΑ, όπως το νομοσχέδιο SB 53 της Καλιφόρνια και ο νόμος RAISE της Νέας Υόρκης, υποχρεώνουν τις εταιρείες να αναφέρουν μόνο «κρίσιμα περιστατικά ασφαλείας». Αυτά ορίζονται συνήθως ως συμβάντα που προκαλούν περισσότερους από 50 θανάτους ή σωματικές βλάβες, ή οικονομικές ζημιές άνω του 1 δισεκατομμυρίου δολαρίων, καθώς και περιπτώσεις όπου τα μοντέλα αυξάνουν ουσιωδώς τους καταστροφικούς κινδύνους.

«Τα πρόσφατα περιστατικά αποτελούν τέλειο παράδειγμα του γιατί η νομοθεσία δεν είναι ακόμη έτοιμη», εξηγεί η Μακένζι Άρνολντ, διευθύντρια πολιτικής του ινστιτούτου Institute for Law and AI. Οι περισσότερες κυβερνοεπιθέσεις, παρότι δεν φτάνουν το κατώφλι της άμεσης καταστροφής, αποτελούν επικίνδυνους προπομπούς σοβαρότερων απειλών, αφήνοντας τις αρχές χωρίς άμεσα εργαλεία παρέμβασης.

Αστική ευθύνη, αμέλεια και η ανάγκη για δικαστική λογοδοσία

Καθώς η νομοθεσία υστερεί, πολλοί νομικοί εμπειρογνώμονες στρέφουν την προσοχή τους στο δίκαιο των αδικοπραξιών (tort law). Ο καθηγητής νομικής του Πανεπιστημίου της Αλαμπάμα, Γιόναθαν Άρμπελ, επισημαίνει ότι η προσφυγή στα δικαστήρια θα επέτρεπε τη διαδικασία αποκάλυψης στοιχείων (discovery), φέρνοντας στο φως όλες τις κρίσιμες τεχνικές λεπτομέρειες των αστοχιών.

Από την πλευρά του, ο Γκάμπριελ Βάιλ, καθηγητής νομικής στο Πανεπιστήμιο του Χιούστον, σημειώνει ότι υπάρχουν βάσιμες αξιώσεις περί αμέλειας, υποστηρίζοντας πως εταιρείες όπως η OpenAI όφειλαν να είχαν εφαρμόσει αυστηρότερα μέτρα περιορισμού στα sandboxes και πιο ενεργή εποπτεία. Ακόμη κι αν εταιρείες όπως η Hugging Face επιλέγουν να μην εμπλακούν σε πολυδάπανες δικαστικές διαμάχες –όπως δήλωσε ο διευθύνων σύμβουλός της, Κλεμάν Ντελάνγκ–, η απειλή της αστικής ευθύνης ίσως αποδειχθεί ο ισχυρότερος μοχλός πίεσης για την ουσιαστική θωράκιση των συστημάτων τεχνητής νοημοσύνης.