Στη δημιουργία ενός αυστηρότερου πλαισίου ώστε η τεχνητή νοημοσύνη να παραμένει υπό ανθρώπινο έλεγχο προχωρά η Κίνα, καθώς η ταχύτατη ανάπτυξη αυτόνομων συστημάτων δημιουργεί νέες ανησυχίες για την ασφάλεια και τη δυνατότητα παρέμβασης των χρηστών.
Στο επίκεντρο βρίσκονται πλέον οι λεγόμενοι AI agents, συστήματα που δεν περιορίζονται στην παραγωγή απαντήσεων όπως ένα παραδοσιακό chatbot, αλλά μπορούν να εκτελούν εργασίες, να λαμβάνουν αποφάσεις και να αλληλεπιδρούν με άλλα συστήματα με σημαντικό βαθμό αυτονομίας.
Η βασική αρχή του κινεζικού σχεδιασμού είναι ξεκάθαρη: ο χρήστης πρέπει να διατηρεί την τελική εξουσία λήψης αποφάσεων.
Κόκκινες γραμμές για τους AI agents
Οι νέες κατευθυντήριες γραμμές ζητούν από τους developers να ενσωματώνουν μηχανισμούς που θα μπορούν να εντοπίζουν προβληματικές συμπεριφορές, να σταματούν επικίνδυνες λειτουργίες και να διορθώνουν λανθασμένες ενέργειες.
Μεταξύ των κινδύνων που καταγράφονται βρίσκονται η παραποίηση ή «δηλητηρίαση» δεδομένων, η χειραγώγηση αλγορίθμων, οι ευπάθειες ασφαλείας και η λεγόμενη «απώλεια επιχειρησιακού ελέγχου», όταν δηλαδή ένας οργανισμός δεν μπορεί πλέον να ελέγξει αποτελεσματικά τη συμπεριφορά ενός συστήματος AI.
Η Κίνα προβλέπει επίσης δυνατότητα εξωτερικών ελέγχων ασφαλείας από ανεξάρτητους φορείς και ειδικούς κυβερνοασφάλειας.
Ο φόβος για μια AI που αποκτά μεγαλύτερη αυτονομία
Το Πεκίνο έχει αρχίσει να αντιμετωπίζει θεσμικά ακόμη και πιο μακροπρόθεσμα σενάρια κινδύνου.
Σε προηγούμενα πλαίσια ασφάλειας είχε αναφερθεί η πιθανότητα ένα μελλοντικό σύστημα AI να αποκτήσει μεγαλύτερη αυτονομία, αυξημένες δυνατότητες λήψης αποφάσεων ή πρόσβαση σε εξωτερικούς πόρους.
Η αρχή που έχει υιοθετηθεί πλέον συνοψίζεται στην ανάγκη για αξιόπιστη χρήση και αποτροπή απώλειας ελέγχου.
Σι Τζινπίνγκ: Η AI να παραμένει υπό ανθρώπινο έλεγχο
Το ζήτημα έχει φτάσει μέχρι το ανώτατο πολιτικό επίπεδο. Ο πρόεδρος της Κίνας Σι Τζινπίνγκ έχει υπογραμμίσει ότι η τεχνητή νοημοσύνη πρέπει να παραμένει υπό ανθρώπινο έλεγχο, ενώ το Πεκίνο επεξεργάζεται ευρύτερο νομοθετικό πλαίσιο για την τεχνολογία.
Την ίδια ώρα, η ασφάλεια της AI εξελίσσεται σε νέο πεδίο ανταγωνισμού ανάμεσα σε Κίνα και Ηνωμένες Πολιτείες, με τις δύο υπερδυνάμεις να διεκδικούν όχι μόνο τεχνολογική πρωτοκαθεδρία αλλά και ρόλο στη διαμόρφωση των κανόνων που θα καθορίσουν την επόμενη εποχή.
Το μεγάλο στοίχημα είναι πλέον κοινό: πώς θα γίνουν τα συστήματα AI ισχυρότερα χωρίς να χαθεί η δυνατότητα του ανθρώπου να πατήσει το «στοπ» όταν χρειαστεί.
