Instagram: Περιορισμοί και «καμπάνες» στα προφίλ που κρύβουν ότι έχουν δημιουργηθεί με AI

Σε μια σημαντική αλλαγή της πολιτικής του προχωρά το Instagram, στοχεύοντας στην αντιμετώπιση της παραπλάνησης των χρηστών από λογαριασμούς που χρησιμοποιούν εικονικούς ανθρώπους που έχουν δημιουργηθεί με τεχνητή νοημοσύνη (AI). Η δημοφιλής πλατφόρμα της Meta ανακοίνωσε ότι θα περιορίζει πλέον την οργανική απήχηση (reach) των προφίλ που παρουσιάζουν AI-generated χαρακτήρες ως πραγματικά πρόσωπα, χωρίς να το δηλώνουν ρητά.

Η κίνηση αυτή έρχεται ως απάντηση στην αυξανόμενη ανησυχία για την εξάπλωση των λεγόμενων «AI influencers», οι οποίοι συχνά μοιάζουν τόσο αληθινοί που οι χρήστες δυσκολεύονται να τους ξεχωρίσουν από τους πραγματικούς ανθρώπους. Το Instagram επιδιώκει να εισάγει μεγαλύτερη διαφάνεια στην πλατφόρμα, προστατεύοντας την εμπειρία των χρηστών από την παραπληροφόρηση και την ψηφιακή εξαπάτηση.

Τέλος στην παραπλάνηση: Η νέα σήμανση «AI-generated profile»

Στο πλαίσιο των νέων μέτρων, το Instagram μετονομάζει την υπάρχουσα ετικέτα «AI creator» σε «AI-generated profile» (Προφίλ που δημιουργήθηκε από AI). Η νέα αυτή σήμανση έχει ως στόχο να καταστήσει απολύτως σαφές στους χρήστες ότι το πρόσωπο που εμφανίζεται στο συγκεκριμένο προφίλ έχει δημιουργηθεί ή τροποποιηθεί σημαντικά μέσω εργαλείων τεχνητής νοημοσύνης.

Οι δημιουργοί περιεχομένου που συμμορφώνονται με τους νέους κανόνες και χρησιμοποιούν τη σήμανση δεν θα αντιμετωπίζουν καμία ποινή στην απήχηση των αναρτήσεών τους. Αντίθετα, όσοι επιλέξουν να αποκρύψουν την AI προέλευση των ψηφιακών τους χαρακτήρων θα βλέπουν το περιεχόμενό τους να περιορίζεται σημαντικά από τους αλγορίθμους της πλατφόρμας, μειώνοντας τη δυνατότητά τους να προσελκύσουν νέο κοινό.

Αξίζει να σημειωθεί ότι η νέα πολιτική δεν αφορά κάθε χρήση της τεχνητής νοημοσύνης. Οι χρήστες που χρησιμοποιούν AI εργαλεία απλώς για να επεξεργαστούν φωτογραφίες, να βελτιώσουν τις λεζάντες τους ή να δημιουργήσουν γραφικά δεν υποχρεούνται να χρησιμοποιούν τη νέα σήμανση, καθώς αυτές οι επεμβάσεις θεωρούνται δημιουργικές και όχι παραπλανητικές.

Οι κίνδυνοι των «ψεύτικων» influencers και η αντίδραση των χρηστών

Η απόφαση του Instagram δεν ελήφθη τυχαία. Σύμφωνα με την εταιρεία, πολλοί χρήστες εξέφρασαν έντονη δυσαρέσκεια όταν ανακάλυπταν ότι λογαριασμοί με τους οποίους αλληλεπιδρούσαν δεν ανήκαν σε πραγματικά πρόσωπα. Η ανάγκη για διαφάνεια έγινε ακόμη πιο επιτακτική μετά από πρόσφατες αποκαλύψεις για κακόβουλη χρήση τέτοιων προφίλ σε διάφορους τομείς.

Χαρακτηριστικό παράδειγμα αποτελεί έρευνα του περιοδικού Wired, η οποία αποκάλυψε ένα δίκτυο από AI-generated ανδρικά προφίλ που χρησιμοποιούνταν για την προώθηση της εφαρμογής γνωριμιών Goose, στέλνοντας μάλιστα απευθείας μηνύματα σε ανυποψίαστους χρήστες για να τους πείσουν να εγγραφούν. Παράλληλα, έρευνα των New York Times έφερε στο φως εκατοντάδες εικονικούς «γιατρούς» και συμβούλους ευεξίας που δημιουργήθηκαν με AI, οι οποίοι προωθούσαν αμφίβολης ποιότητας συμπληρώματα διατροφής και έκαναν ιατρικούς ισχυρισμούς χωρίς καμία επιστημονική βάση.

Η Meta προσπαθεί να ισορροπήσει ανάμεσα στην καινοτομία και την ασφάλεια, ειδικά μετά τις πρόσφατες αντιδράσεις που δέχθηκε για ένα AI εργαλείο που επέτρεπε τη δημιουργία εικόνων με τη χρήση της φυσιογνωμίας πραγματικών χρηστών χωρίς τη συγκατάθεσή τους – ένα χαρακτηριστικό που τελικά αποσύρθηκε. Με τα νέα μέτρα, η πλατφόρμα επιχειρεί να ανακτήσει την εμπιστοσύνη του κοινού σε μια εποχή όπου τα όρια μεταξύ πραγματικότητας και ψηφιακής ψευδαίσθησης γίνονται όλο και πιο δυσδιάκριτα.