Η κινεζική κυβερνορυθμιστική αρχή έθεσε το Σάββατο σε δημόσια διαβούλευση σχέδιο νέων κανονισμών που αυστηροποιούν σημαντικά την εποπτεία υπηρεσιών τεχνητής νοημοσύνης οι οποίες έχουν σχεδιαστεί να προσομοιώνουν ανθρώπινες προσωπικότητες και να αλληλεπιδρούν συναισθηματικά με τους χρήστες. Η πρωτοβουλία εντάσσεται στη συνολικότερη στρατηγική του Πεκίνου να χαράξει σαφή όρια στη ραγδαία εξάπλωση καταναλωτικών εφαρμογών AI.

Η κίνηση αυτή επιβεβαιώνει την πρόθεση της Κίνας να καθοδηγήσει θεσμικά την ανάπτυξη της τεχνητής νοημοσύνης, ενισχύοντας ταυτόχρονα τις απαιτήσεις ασφάλειας, δεοντολογίας και κοινωνικής ευθύνης. Οι προτεινόμενοι κανόνες καλύπτουν προϊόντα και υπηρεσίες AI που απευθύνονται στο ευρύ κοινό και εμφανίζουν χαρακτηριστικά ανθρώπινης προσωπικότητας, όπως μοτίβα σκέψης, συναισθηματικές αντιδράσεις και τρόπους επικοινωνίας.

Στο πεδίο εφαρμογής περιλαμβάνονται υπηρεσίες που αλληλεπιδρούν με τους χρήστες μέσω κειμένου, εικόνων, ήχου, βίντεο ή άλλων ψηφιακών μέσων, με στόχο τη δημιουργία μιας «ανθρωποκεντρικής» εμπειρίας χρήσης.

Προειδοποιήσεις για υπερβολική χρήση και εθισμό

Κεντρικό σημείο του σχεδίου κανονισμού αποτελεί η αντιμετώπιση της υπερβολικής χρήσης και του κινδύνου εθισμού. Οι πάροχοι υποχρεούνται να ενημερώνουν ρητά τους χρήστες για τους σχετικούς κινδύνους και να παρεμβαίνουν ενεργά όταν εντοπίζονται ενδείξεις εξάρτησης.

Παράλληλα, οι εταιρείες θα φέρουν πλήρη ευθύνη για την ασφάλεια των υπηρεσιών τους σε ολόκληρο τον κύκλο ζωής του προϊόντος, από τον σχεδιασμό έως τη λειτουργία και την απόσυρσή του. Οι απαιτήσεις περιλαμβάνουν την ανάπτυξη μηχανισμών ελέγχου αλγορίθμων, ισχυρών πρωτοκόλλων ασφάλειας δεδομένων και αυστηρή προστασία προσωπικών πληροφοριών.

Έμφαση στους ψυχολογικούς κινδύνους

Ιδιαίτερη βαρύτητα δίνεται στους ψυχολογικούς κινδύνους που ενδέχεται να προκύψουν από τη στενή συναισθηματική αλληλεπίδραση ανθρώπων και AI. Οι πάροχοι θα πρέπει να διαθέτουν συστήματα που εντοπίζουν την ψυχολογική κατάσταση των χρηστών, αξιολογούν τα συναισθήματά τους και εκτιμούν τον βαθμό εξάρτησης από την υπηρεσία.

Σε περιπτώσεις έντονων συναισθηματικών διακυμάνσεων ή συμπεριφορών που υποδηλώνουν εθισμό, οι εταιρείες θα είναι υποχρεωμένες να λαμβάνουν συγκεκριμένα μέτρα παρέμβασης, όπως περιορισμούς χρήσης ή πρόσθετες προειδοποιήσεις.

Κόκκινες γραμμές στο περιεχόμενο και στη συμπεριφορά της AI

Το σχέδιο κανονισμών θέτει σαφείς «κόκκινες γραμμές» τόσο στο περιεχόμενο όσο και στη συμπεριφορά των υπηρεσιών τεχνητής νοημοσύνης. Απαγορεύεται ρητά η παραγωγή περιεχομένου που:

  • απειλεί την εθνική ασφάλεια,
  • διαδίδει φήμες ή παραπληροφόρηση,
  • προωθεί τη βία,
  • περιλαμβάνει πορνογραφικό υλικό.

Η εποπτεία των νέων κανόνων θα ασκείται από την Cyberspace Administration of China, η οποία τα τελευταία χρόνια εντείνει τις παρεμβάσεις της στον ψηφιακό τομέα, επιδιώκοντας να ισορροπήσει ανάμεσα στην καινοτομία και στον αυστηρό κρατικό έλεγχο.

Οι προτεινόμενες ρυθμίσεις αναμένεται να επηρεάσουν σημαντικά το τοπίο των καταναλωτικών εφαρμογών AI στην Κίνα, διαμορφώνοντας ένα από τα πιο αυστηρά ρυθμιστικά πλαίσια παγκοσμίως για υπηρεσίες που «μιμούνται» την ανθρώπινη συμπεριφορά.

Διαβάστε ακόμη: