Apple: Αυστηρό «μπλόκο» στις AI εφαρμογές παραγωγής γυμνού περιεχομένου στο App Store

Σε μια καθοριστική κίνηση για την προστασία της ιδιωτικότητας και της ασφάλειας των χρηστών προχωρά η Apple, αυστηροποιώντας ουσιαστικά τους κανονισμούς λειτουργίας του App Store. Ο τεχνολογικός κολοσσός ανακοίνωσε νέες κατευθυντήριες γραμμές που στοχεύουν άμεσα τις εφαρμογές τεχνητής νοημοσύνης (Generative AI) οι οποίες χρησιμοποιούνται για τη δημιουργία μη συναινετικών γυμνών φωτογραφιών πραγματικών προσώπων, ευρέως γνωστές ως «nudify apps».

Μηδενική ανοχή στα deepfakes και οριστικός αποκλεισμός developers

Οι ανανεωμένοι όροι του οικοσυστήματος επιβάλλουν πλέον ρητά στους προγραμματιστές να ενσωματώνουν ισχυρά φίλτρα ασφαλείας, τα οποία θα αποτρέπουν τη δημιουργία ή τον διαμοιρασμό σεξουαλικού περιεχομένου χωρίς τη ρητή συγκατάθεση των εικονιζόμενων. Σε αντίθετη περίπτωση, οι συνέπειες δεν περιορίζονται στην απλή απόσυρση του επίμαχου τίτλου από το ψηφιακό κατάστημα. Όπως ξεκαθάρισε η εταιρεία, οι παραβάτες θα αντιμετωπίζουν οριστική διαγραφή του λογαριασμού τους από το Apple Developer Program.

Παράλληλα, η Apple διευκρίνισε ότι οι εφαρμογές που διευκολύνουν την εκμετάλλευση ανηλίκων ή συνδέονται με εμπορία ανθρώπων θα αποκλείονται πλήρως ακόμη και από τα εναλλακτικά καταστήματα εφαρμογών τρίτων, τα οποία λειτουργούν πλέον στην Ευρωπαϊκή Ένωση στο πλαίσιο της νέας ψηφιακής νομοθεσίας.

Το τέλος στις πρακτικές συγκάλυψης και οι εισαγγελικές πιέσεις

Η παρέμβαση αυτή κρίθηκε αναγκαία μετά την ανησυχητική έξαρση περιστατικών deepfakes, όπου ισχυρά εργαλεία AI –όπως το Grok της xAI και άλλες συναφείς πλατφόρμες– αξιοποιήθηκαν καταχρηστικά εις βάρος ανυποψίαστων πολιτών, ανάμεσα στους οποίους καταγράφηκαν και ανήλικοι. Μέχρι σήμερα, επιτήδειοι developers εκμεταλλεύονταν συστηματικά κενά στη διαδικασία ελέγχου. Συγκεκριμένα, υπέβαλαν την εφαρμογή τους με το πρόσχημα ενός απλού εργαλείου επεξεργασίας εικόνας και, αφού εξασφάλιζαν την αρχική έγκριση, ενεργοποιούσαν εξ αποστάσεως τις απαγορευμένες λειτουργίες αφαίρεσης ρούχων.

Η αλλαγή πλεύσης δεν ήρθε αυτόματα, αλλά κατόπιν έντονων θεσμικών πιέσεων. Ήδη από τον περασμένο Ιούλιο, ο εισαγγελέας του Σαν Φρανσίσκο είχε αποστείλει επίσημο αίτημα προς την Apple και τη Google, ζητώντας την άμεση αφαίρεση 13 τέτοιων εφαρμογών με υψηλή δημοφιλία. Αν και η Apple είχε συμμορφωθεί διαγράφοντας τις συγκεκριμένες εφαρμογές, η έλλειψη σαφών κανόνων άφηνε περιθώρια επανεμφάνισης παρόμοιων λογισμικών.

Η πρόκληση της έμπρακτης επιτήρησης

Παρότι η θέσπιση αυστηρών κανονισμών αποτελεί αναγκαίο βήμα, η ουσιαστική πρόκληση παραμένει η συνεπής εποπτεία. Για μια εταιρεία που προτάσσει διαχρονικά την ασφάλεια του App Store ως το βασικό της πλεονέκτημα, η καθυστέρηση στην αντιμετώπιση των κινδύνων που εγκυμονεί η ανεξέλεγκτη διάδοση της τεχνητής νοημοσύνης προκάλεσε έντονο προβληματισμό. Το στοίχημα πλέον για την Apple είναι να αποδείξει στην πράξη ότι οι νέες δικλίδες ασφαλείας μπορούν να αποτρέψουν τη διάδοση επιβλαβούς υλικού προτού προκληθεί ανεπανόρθωτη ζημιά σε ανθρώπινες ζωές.