Ενώ πλέον τα μοντέλα Τεχνητής Νοημοσύνης γίνονται ολοένα πιο σύνθετα, η επίτροπος Ψηφιακής Τεχνολογίας Χένα Βίρκουνεν προειδοποιεί ότι ο εντεινόμενος ανταγωνισμός οδηγεί τις εταιρείες να περιορίζουν τους ελέγχους ασφαλείας.
Αυστηρό μήνυμα προς τις εταιρείες Τεχνητής Νοημοσύνης να διασφαλίσουν ότι διατηρούν τον πλήρη έλεγχο των συστημάτων που αναπτύσσουν απηύθυνε η Ευρωπαία επίτροπος Ψηφιακής Τεχνολογίας, Χένα Βίρκουνεν, εκφράζοντας την ανησυχία της για τις επιπτώσεις του εντεινόμενου ανταγωνισμού στον κλάδο.
Μιλώντας σε δημοσιογράφους στο περιθώριο διεθνούς Συνόδου Κορυφής για την Τεχνητή Νοημοσύνη στο Δουβλίνο, η αντιπρόεδρος της Ευρωπαϊκής Επιτροπής επισήμανε ότι η πίεση για την ταχύτερη ανάπτυξη και διάθεση νέων μοντέλων φαίνεται να περιορίζει τον χρόνο και τους πόρους που αφιερώνουν οι επιχειρήσεις στους απαραίτητους ελέγχους ασφαλείας.
«Βλέπουμε έναν τόσο σκληρό παγκόσμιο ανταγωνισμό, ώστε οι εταιρείες δεν φαίνεται να αφιερώνουν επαρκή χρόνο και πόρους για να δοκιμάζουν ουσιαστικά τα μοντέλα τους», ανέφερε χαρακτηριστικά.
Ανησυχία για τις αυτόνομες ενέργειες των συστημάτων AI
Ιδιαίτερη έμφαση έδωσε η Βίρκουνεν στην αυξανόμενη αυτονομία των συστημάτων Τεχνητής Νοημοσύνης, επισημαίνοντας ότι έχουν ήδη καταγραφεί περιστατικά στα οποία οι ίδιες οι εταιρείες δεν γνώριζαν πλήρως τις ενέργειες των ψηφιακών πρακτόρων τους.
«Έχουμε παρατηρήσει περιπτώσεις που δείχνουν ότι οι εταιρείες δεν γνωρίζουν πάντοτε τι κάνουν οι πράκτορές τους. Πρέπει να είναι σε θέση να διατηρούν τον έλεγχο αυτών των συστημάτων», υπογράμμισε.
Παράλληλα, σημείωσε ότι η συνεχής βελτίωση των δυνατοτήτων των μοντέλων καθιστά ολοένα πιο απαιτητική τη διαδικασία αξιολόγησής τους.
Όπως εξήγησε, η αυξανόμενη ισχύς και πολυπλοκότητα των εφαρμογών AI καθιστούν απαραίτητο να παρέχεται στους ειδικούς επαρκής χρόνος για τη διεξαγωγή ουσιαστικών δοκιμών πριν από την ευρεία χρήση τους.
Η Κομισιόν ζητεί εξηγήσεις για τα μέτρα ασφαλείας
Η Ευρωπαία επίτροπος υπενθύμισε ότι οι αρμόδιες υπηρεσίες της Κομισιόν έχουν ήδη απευθυνθεί στις μεγαλύτερες επιχειρήσεις του κλάδου, ζητώντας αναλυτικές πληροφορίες για τις δικλίδες ασφαλείας που εφαρμόζουν, καθώς και για τις διαδικασίες ανεξάρτητης αξιολόγησης των συστημάτων τους.
Η πρωτοβουλία αυτή εντάσσεται στο ευρύτερο πλαίσιο εποπτείας της αγοράς Τεχνητής Νοημοσύνης, καθώς η Ευρωπαϊκή Ένωση επιδιώκει να διασφαλίσει ότι η τεχνολογική πρόοδος δεν πραγματοποιείται εις βάρος της ασφάλειας και της διαφάνειας.
Από το καλοκαίρι, η ΕΕ διαθέτει νέες ρυθμιστικές αρμοδιότητες βάσει του ευρωπαϊκού κανονισμού για την Τεχνητή Νοημοσύνη (AI Act), ο οποίος θεσπίζει κανόνες για την ανάπτυξη και τη χρήση της συγκεκριμένης τεχνολογίας.
Στο πλαίσιο αυτό, οι ευρωπαϊκές αρχές έχουν αρχίσει να ζητούν διευκρινίσεις από τις εταιρείες για σειρά ζητημάτων, από την ασφάλεια των μοντέλων έως την προστασία των πνευματικών δικαιωμάτων.
Η Βίρκουνεν ξεκαθάρισε ότι η δυνατότητα των επιχειρήσεων να ελέγχουν τα συστήματα που αναπτύσσουν δεν αποτελεί απλώς επιθυμητή πρακτική, αλλά βασική απαίτηση του ευρωπαϊκού κανονιστικού πλαισίου.
«Ο έλεγχος των συστημάτων Τεχνητής Νοημοσύνης αποτελεί απαίτηση που διατυπώνεται με σαφήνεια στον AI Act», τόνισε.
