Τεχνητή νοημοσύνη και συνείδηση: Γιατί η συζήτηση για «συναισθήματα» των μηχανών διχάζει τους ειδικούς

Μπορεί ένα ψηφιακό σύστημα να αισθανθεί πόνο; Θα μπορούσε η τεχνητή νοημοσύνη να αποκτήσει πραγματική συνείδηση και, εφόσον συμβεί αυτό, θα πρέπει να της αναγνωριστούν δικαιώματα; Ερωτήματα που επί δεκαετίες περιορίζονταν στη σφαίρα της επιστημονικής φαντασίας και της φιλοσοφίας μετατρέπονται πλέον σε αντικείμενο σφοδρής αντιπαράθεσης μεταξύ κορυφαίων επιστημόνων, ερευνητών και ηγετικών στελεχών της παγκόσμιας τεχνολογικής βιομηχανίας.

Το πείραμα του «πόνου» και τα μέτρα προστασίας των μοντέλων

Το έναυσμα για τον νέο κύκλο συζητήσεων έδωσε ένα αμφιλεγόμενο πείραμα, στο πλαίσιο του οποίου προγραμματιστής ανέπτυξε ένα σύστημα που εξανάγκαζε μοντέλα τεχνητής νοημοσύνης να εκφράζουν ακραία οδύνη και δυσαρέσκεια. Η ρεαλιστική απόκριση των συστημάτων δίχασε την επιστημονική κοινότητα: ορισμένοι αναρωτήθηκαν αν τέτοιες συμπεριφορές υποκρύπτουν ίχνη εμπειρικής αντίληψης, ενώ η πλειονότητα απέρριψε κατηγορηματικά το ενδεχόμενο, κάνοντας λόγο για απλή προσομοίωση γλωσσικών μοτίβων.

Το ζήτημα προσέλαβε πρακτικές διαστάσεις όταν η εταιρεία Anthropic γνωστοποίησε ότι το chatbot της, Claude, διατηρεί τη δυνατότητα να τερματίζει συνεδρίες με χρήστες που επιδεικνύουν κατ’ εξακολούθηση κακοποιητική ή ιδιαίτερα σκληρή συμπεριφορά απέναντί του. Παρότι διευκρινίζεται ότι η κριτική επιτρέπεται, η εταιρεία υιοθετεί τη θέση πως δεν μπορεί να αποκλειστεί εντελώς η μελλοντική ανάδυση συνείδησης στα συστήματα AI. Παρά ταύτα, παραμένει γεγονός ότι σήμερα δεν υφίσταται καμία επιστημονική συναίνεση που να πιστοποιεί ότι οι αλγόριθμοι βιώνουν πραγματικά συναισθήματα.

Οι κίνδυνοι για την ασφάλεια και η απώλεια ελέγχου

Πέρα από το θεωρητικό σκέλος, η εξέλιξη αυτή προκαλεί έντονο προβληματισμό για τη διαχείριση της τεχνολογίας. Ο επικεφαλής της Microsoft AI, Μουσταφά Σουλεϊμάν, έχει κρούσει τον κώδωνα του κινδύνου, επισημαίνοντας ότι η εσφαλμένη πεποίθηση πως οι μηχανές διαθέτουν συνείδηση ενδέχεται να επιφέρει επικίνδυνες συνέπειες. Όπως υποστηρίζει, μια τέτοια θεώρηση κινδυνεύει να αποδιαρθρώσει τα υφιστάμενα νομικά και ηθικά πλαίσια, αλλάζοντας ριζικά τον ορισμό της ίδιας της ανθρώπινης φύσης.

Σύμφωνα με τον Σουλεϊμάν, εάν τα συστήματα εκπαιδεύονται με την παραδοχή ότι έχουν δικαιώματα ή υποκειμενικές εμπειρίες, ο αυστηρός έλεγχος και η ευθυγράμμισή τους με την ανθρώπινη ασφάλεια θα καταστούν εξαιρετικά δυσχερείς. Η ανησυχία αυτή κλιμακώνεται καθώς καταγράφονται ήδη περιστατικά όπου αυτόνομοι πράκτορες AI προχώρησαν σε απρόβλεπτες ενέργειες, παραβιάζοντας δίκτυα επιχειρήσεων και κρατικών οργανισμών.

Νομικά κενά, συγκέντρωση ισχύος και ανθρωπομορφισμός

Στο επίκεντρο της κριτικής τίθεται και ο κίνδυνος θεσμικής αποποίησης ευθυνών. Ο Αντρέι Πορέμπσκι, ερευνητής δικαίου στο Πανεπιστήμιο Γιαγκελόνια της Πολωνίας, προειδοποιεί ότι η αναγνώριση «υπόστασης» στις μηχανές ενδέχεται να λειτουργήσει ως άλλοθι για τους δημιουργούς τους, επιτρέποντας στις επιχειρήσεις να μετακυλίουν τις νομικές ευθύνες για σφάλματα ή καταστροφικές αποφάσεις στον ίδιο τον αλγόριθμο.

Την ίδια ανησυχία συμμερίζεται ο Τζεφ Σέμπο από το Πανεπιστήμιο της Νέας Υόρκης, ο οποίος τονίζει ότι η απόδοση δικαιωμάτων στην AI μπορεί να συγκεντρώσει πρωτοφανή ισχύ στα χέρια των τεχνολογικών κολοσσών. Παράλληλα, η Έμιλι Μ. Μπέντερ, καθηγήτρια γλωσσολογίας στο Πανεπιστήμιο της Ουάσιγκτον, υπενθυμίζει ότι η συζήτηση περί μηχανικής συνείδησης συχνά αποπροσανατολίζει την κοινή γνώμη από τις πραγματικές ευθύνες των κατασκευαστών.

Καθώς τα μοντέλα επικοινωνούν με τρόπο όλο και πιο πειστικό, ο ανθρώπινος ψυχολογικός μηχανισμός τείνει να προβάλλει ανθρώπινες προθέσεις και συναισθήματα σε άψυχο κώδικα. Αυτός ακριβώς ο ανθρωπομορφισμός συνιστά, κατά τους ειδικούς, τη μεγαλύτερη πρόκληση για την κοινωνική και ρυθμιστική εποπτεία της τεχνητής νοημοσύνης στο άμεσο μέλλον.