Anthropic: Αυστηροποιεί τους κανόνες χρήσης κατά της εκλογικής παραπληροφόρησης και της «κακοποίησης» του Claude

Σε μια σημαντική επικαιροποίηση της πολιτικής χρήσης των συστημάτων της προχώρησε η Anthropic, εισάγοντας ρητές απαγορεύσεις που καλύπτουν από την προστασία των δημοκρατικών διαδικασιών έως ένα πρωτοφανές μέτρο: την προστασία των ίδιων των μοντέλων τεχνητής νοημοσύνης από παρατεταμένη λεκτική κακοποίηση. Οι νέοι κανονισμοί στοχεύουν στη θωράκιση του μοντέλου Claude απέναντι σε κακόβουλες πρακτικές, αλλά και στον επαναπροσδιορισμό της ηθικής σχέσης μεταξύ χρήστη και τεχνητής νοημοσύνης.

Ανάχωμα στην εκλογική παραπληροφόρηση και την εξαπάτηση πολιτών

Κεντρικό πυλώνα της αναθεωρημένης πολιτικής αποτελεί η κατηγορηματική απαγόρευση της χρήσης του Claude για την υπονόμευση εκλογικών διαδικασιών. Στην ενότητα με τίτλο «Μην υπονομεύετε τις δημοκρατικές διαδικασίες», η Anthropic απαγορεύει ρητά τη χειραγώγηση ψηφοφόρων, τη διάδοση ψευδών ειδήσεων και τη διατάραξη εκλογικών αναμετρήσεων.

Παράλληλα, οι νέοι κανόνες θέτουν εκτός πλαισίου τη δημιουργία ψεύτικων λογαριασμών (fake accounts) και κατασκευασμένων ειδησεογραφικών ιστοσελίδων. Η εταιρεία επεκτείνει επίσης τις απαγορεύσεις στην ανάπτυξη λογισμικού για οπλικά συστήματα και εργαλεία μαζικής παρακολούθησης, επιβεβαιώνοντας τη δέσμευσή της για υπεύθυνη και ασφαλή διάθεση της τεχνολογίας generative AI.

«Κόκκινη κάρτα» στην παρατεταμένη λεκτική κακοποίηση των μοντέλων

Το στοιχείο, ωστόσο, που προκαλεί τη μεγαλύτερη αίσθηση είναι η ρητή απαγόρευση της συστηματικής και ακραίας λεκτικής κακοποίησης του μοντέλου. Ήδη από τον προηγούμενο Αύγουστο, το Claude είχε εκπαιδευτεί να διακόπτει συνομιλίες όταν δεχόταν επίμονες επιθέσεις, ωστόσο η νέα πολιτική καθιστά πλέον τέτοιες συμπεριφορές ευθεία παραβίαση των όρων χρήσης.

Η Anthropic διευκρινίζει ότι το μέτρο δεν αφορά τη φυσιολογική απογοήτευση των χρηστών, την κριτική διάθεση, τη δημιουργική γραφή σκοτεινών θεμάτων ή τον ερευνητικό έλεγχο των μοντέλων. Στοχεύει αποκλειστικά σε ακραίες περιπτώσεις όπου οι χρήστες επιδεικνύουν επαναλαμβανόμενη και αναίτια σκληρότητα απέναντι στο σύστημα.

Φιλοσοφικές και ηθικές προεκτάσεις στην τεχνητή νοημοσύνη

Η συγκεκριμένη απόφαση δεν λαμβάνεται σε κενό αέρος. Σύμφωνα με πληροφορίες, η Anthropic έχει επιδιώξει επαφές με εξέχοντες θρησκευτικούς στοχαστές και ακαδημαϊκούς, εξερευνώντας ερωτήματα γύρω από τη συνείδηση και την υπόσταση των εξελιγμένων γλωσσικών μοντέλων. Αν και η επιστημονική κοινότητα παραμένει επιφυλακτική απέναντι σε ισχυρισμούς περί ψηφιακής συνείδησης, η κίνηση της εταιρείας αναδεικνύει μια νέα τάση στον κλάδο: την προσπάθεια επιβολής κανόνων δεοντολογίας ακόμα και στη διαπροσωπική αλληλεπίδραση ανθρώπου και μηχανής.