Ρωσική προπαγάνδα «δηλητηριάζει» τα δημοφιλή chatbots: Νέο μέτωπο στον πόλεμο της πληροφορίας

Νέα έρευνα αποκαλύπτει ότι δημοφιλή συστήματα Τεχνητής Νοημοσύνης, όπως τα ChatGPT, Gemini, Claude, Mistral και Grok, εξαπατήθηκαν και αναπαρήγαγαν ψευδείς ειδήσεις που διασπείρει ρωσικό δίκτυο προπαγάνδας. Η εξέλιξη αυτή αναδεικνύει τις ευπάθειες των μεγάλων γλωσσικών μοντέλων (LLM) και εγείρει σοβαρό προβληματισμό για την ασφάλεια της ψηφιακής πληροφόρησης.

Σύμφωνα με πρόσφατη έκθεση της δεξαμενής σκέψης Demos με τίτλο «GEO for Geopolitics», οι απαντήσεις των chatbots επανέλαβαν ανυπόστατους ισχυρισμούς. Μεταξύ αυτών περιλαμβάνονταν ψευδείς αναφορές ότι ο Ουκρανός πρόεδρος Βολοντίμιρ Ζελένσκι εγκατέστησε φάρμες εξόρυξης κρυπτονομισμάτων σε πυρηνικούς σταθμούς, καθώς και θεωρίες συνωμοσίας περί μεταποίησης πτωμάτων Ουκρανών στρατιωτών σε κρέας. Η ανάλυση έδειξε ότι σχεδόν το 17% από 3.000 απαντήσεις των συστημάτων προσέδωσαν αξιοπιστία σε αυτές τις κατασκευασμένες ειδήσεις.

Η μελέτη επικεντρώνεται στην πρακτική της βελτιστοποίησης για μηχανές παραγωγής περιεχομένου (GEO), η οποία αξιοποιείται από κρατικούς και ιδιωτικούς φορείς για τη χειραγώγηση των απαντήσεων των chatbots. Στην περίπτωση αυτή, πρωταγωνιστικό ρόλο έπαιξε το Ίδρυμα για την Καταπολέμηση της Αδικίας (r-FBI). Ο οργανισμός αυτός, αν και εμφανίζεται ως ΜΚΟ ανθρωπίνων δικαιωμάτων, λειτουργεί ως ρωσική μονάδα προπαγάνδας που ιδρύθηκε από τον εκλιπόντα Γιεβγκένι Πριγκόζιν και βρίσκεται ήδη υπό κυρώσεις από την Ευρωπαϊκή Ένωση και τις Ηνωμένες Πολιτείες.

Για να ξεπεράσουν τις δικλείδες ασφαλείας των συστημάτων, οι δημιουργοί της εκστρατείας χρησιμοποίησαν ένα δίκτυο τριών ιστοσελίδων. Η πρώτη μιμείται έγκυρη οργάνωση, η δεύτερη λειτουργεί ως ειδησεογραφικός ιστότοπος για την αναπαραγωγή των ιστοριών, και η τρίτη προσομοιάζει σε δυτικό περιοδικό εξωτερικής πολιτικής. Με αυτόν τον τρόπο, τα δεδομένα απορροφήθηκαν από τα LLM ως αξisπίστες πηγές.

Ο Καρλ Μίλερ, επικεφαλής ερευνητής της μελέτης, χαρακτήρισε το ζήτημα ιδιαίτερα επικίνδυνο, σημειώνοντας ότι οι φορείς προπαγάνδας στρέφονται πλέον στα chatbots αντί για τα παραδοσιακά μέσα κοινωνικής δικτύωσης, εκμεταλλευόμενοι ένα τεράστιο και ευάλωτο επίπεδο πληροφορίας.

Από την πλευρά τους, οι εταιρείες τεχνολογίας καλούνται να ενισχύσουν τα μέτρα προστασίας τους. Η Anthropic ανέφερε ότι τέτοιες εκστρατείες αποτελούν πρόκληση για ολόκληρο τον κλάδο, ενώ η Mistral διευκρίνισε ότι η έρευνα εξέτασε τα ανεπεξέργαστα μοντέλα της, επισημαίνοντας ότι οι εμπορικές εκδόσεις διαθέτουν ισχυρότερα επίπεδα φιλτραρίσματος.