Η Meta Platforms Inc., ο τεχνολογικός κολοσσός πίσω από το Facebook και το Instagram, κινήθηκε νομικά εναντίον της εταιρείας Joy Timeline HK Ltd., με έδρα το Χονγκ Κονγκ, κατηγορώντας την ότι προωθεί εφαρμογές τεχνητής νοημοσύνης που δημιουργούν γυμνές ή σεξουαλικά προκλητικές εικόνες ατόμων χωρίς τη συγκατάθεσή τους.

Η υπόθεση αφορά τις λεγόμενες «nudify apps», εφαρμογές που, αξιοποιώντας την τεχνητή νοημοσύνη, επιτρέπουν τη γυμνή απεικόνιση ατόμων βασισμένη σε κανονικές φωτογραφίες. Σύμφωνα με την Meta, οι εφαρμογές αυτές διαφημίζονταν εντός των πλατφορμών της, γεγονός που οδήγησε στην κατάθεση αγωγής στο τοπικό δικαστήριο του Χονγκ Κονγκ.

Εφαρμογές εκμετάλλευσης χωρίς συναίνεση

Η CrushAI, η βασική εφαρμογή της Joy Timeline, βρίσκεται στο επίκεντρο της υπόθεσης. Όπως σημειώνει η Meta, επιτρέπει τη δημιουργία ψευδών γυμνών εικόνων βασισμένων σε φωτογραφίες που ανεβάζουν οι ίδιοι οι χρήστες — συχνά χωρίς καμία συναίνεση των προσώπων που απεικονίζονται.

Η Meta κάνει λόγο για “ανησυχητική αύξηση” των περιστατικών μη συναινετικής δημιουργίας γυμνών εικόνων, οι οποίες μπορεί να χρησιμοποιούνται για εκβιασμό, διαδικτυακή κακοποίηση και δυσφήμιση. Η αγωγή εντάσσεται στο πλαίσιο μιας ευρύτερης εκστρατείας του ομίλου για την καταπολέμηση της ψηφιακής σεξουαλικής κακοποίησης μέσω ψευδούς περιεχομένου.

Παραπλανητικές διαφημίσεις και ψηφιακές μεταμφιέσεις

Σύμφωνα με την ανακοίνωση της Meta, οι υπεύθυνοι των «nudify apps» χρησιμοποιούν παραπλανητικές διαφημίσεις για να ξεγελάσουν τα συστήματα ελέγχου. Εμφανίζουν αβλαβείς εικόνες και στη συνέχεια προτρέπουν τους χρήστες να επισκεφτούν εξωτερικές ιστοσελίδες, όπου ξεδιπλώνεται το αληθινό περιεχόμενο των εφαρμογών.

Η Joy Timeline φέρεται να χρησιμοποιεί συνεχώς νέα domain names όταν αποκλείεται, παρακάμπτοντας τις δικλείδες ασφαλείας των πλατφορμών. Παρότι η Meta αφαίρεσε διαφημίσεις της CrushAI για παραβίαση των πολιτικών της, η εταιρεία επανήλθε με νέες, σε μια μορφή ψηφιακού ανταρτοπολέμου ενάντια στις προσπάθειες εποπτείας.

Νέες τεχνολογίες εντοπισμού από τη Meta

Σε απάντηση στην αυξανόμενη πρόκληση, η Meta έχει αναπτύξει νέα συστήματα τεχνητής νοημοσύνης για τον εντοπισμό απαγορευμένου περιεχομένου, ακόμα και όταν δεν περιέχεται ρητά γυμνό στις εικόνες. Το σύστημα εντοπίζει μοτίβα, δομή και μεταδεδομένα που παραπέμπουν σε «nudify» περιεχόμενο, σε μια προσπάθεια να περιοριστεί το φαινόμενο από τη ρίζα του.

Επιπλέον, η Meta δεσμεύτηκε να μοιράζεται πληροφορίες με άλλες τεχνολογικές εταιρείες, ώστε να δημιουργηθεί ένα πανευρωπαϊκό και παγκόσμιο δίκτυο ελέγχου και καταπολέμησης αυτών των εφαρμογών.

Παγκόσμια πίεση στη Meta για την προστασία των νέων

Η κίνηση της Meta έρχεται σε μια περίοδο που ο τεχνολογικός κολοσσός δέχεται έντονη διεθνή πίεση για την ανεπαρκή προστασία των ανηλίκων και των ευάλωτων ομάδων στο διαδίκτυο. Στην Αυστραλία, ήδη προωθείται νομοθετική απαγόρευση χρήσης social media για κάτω των 16 ετών, ενώ σε πολλές ευρωπαϊκές χώρες ενισχύεται ο έλεγχος αλγορίθμων και περιεχομένου.

Η ίδια η Meta αναγνωρίζει ότι η εξάλειψη τέτοιων εφαρμογών δεν μπορεί να γίνει μόνο σε επίπεδο πλατφόρμας. Όπως αναφέρεται χαρακτηριστικά στην ανακοίνωση:

«Η κατάργηση μιας εφαρμογής nudify από μία μόνο πλατφόρμα δεν είναι αρκετή. Πρέπει να υπάρξει συντονισμένη αντίδραση σε επίπεδο app stores, domain hosts και ρυθμιστικών αρχών».

Μια υπόθεση με ευρύτερες προεκτάσεις

Η αγωγή της Meta αναδεικνύει την αυξανόμενη ανησυχία για τα ηθικά όρια της τεχνητής νοημοσύνης, ειδικά σε ό,τι αφορά την απεικόνιση ανθρώπινων σωμάτων χωρίς συναίνεση. Παράλληλα, αποκαλύπτει τις τεχνικές ασπίδες και νομικές αδυναμίες που εκμεταλλεύονται μικρές εταιρείες για να διακινούν ακραίο περιεχόμενο με κάλυψη και ταχύτητα.

Αν και η Joy Timeline δεν έχει απαντήσει δημοσίως στην αγωγή, η υπόθεση αναμένεται να εξελιχθεί σε σημείο αναφοράς για τη νομολογία γύρω από το «ψηφιακό γυμνό χωρίς συναίνεση», με πιθανά αποτελέσματα που θα διαμορφώσουν πολιτικές παγκοσμίως.

Διαβάστε ακόμη: