Ανησυχία για τον κίνδυνο ενίσχυσης των διακρίσεων εις βάρος μειονοτικών ομάδων προκαλεί η ολοένα μεγαλύτερη αξιοποίηση της τεχνητής νοημοσύνης από τις αστυνομικές και άλλες διωκτικές αρχές. Ερευνητές επισημαίνουν ότι τα συστήματα που χρησιμοποιούνται για την πρόβλεψη της εγκληματικότητας ενδέχεται να αναπαράγουν υφιστάμενες προκαταλήψεις, καθώς συχνά εκπαιδεύονται με ιστορικά δεδομένα που δεν είναι απαλλαγμένα από μεροληψία.

Όπως προειδοποιούν οι ειδικοί, όταν οι αλγόριθμοι βασίζονται σε ελλιπή ή στρεβλά στοιχεία, υπάρχει ο κίνδυνος να ενισχύουν τις ήδη υπάρχουσες κοινωνικές ανισότητες, δημιουργώντας έναν φαύλο κύκλο στον οποίο οι αρχικές προκαταλήψεις αναπαράγονται και αποκτούν ακόμη μεγαλύτερη ισχύ.

Για τον λόγο αυτό, οι ερευνητές ζητούν επανεξέταση του τρόπου με τον οποίο εφαρμόζεται η τεχνητή νοημοσύνη στην αστυνόμευση, με μεγαλύτερη έμφαση στον ανθρώπινο έλεγχο και στην αξιολόγηση των δεδομένων που χρησιμοποιούνται από τα σχετικά συστήματα.

Οι προκαταλήψεις των δεδομένων και ο κίνδυνος λανθασμένων προβλέψεων

Η Κάρολιν ΜακΚέι, αναπληρώτρια καθηγήτρια και ερευνήτρια στον τομέα της ψηφιακής δικαιοσύνης στη Νομική Σχολή του Πανεπιστημίου του Σίδνεϊ, υπογραμμίζει ότι είναι απαραίτητο να ελέγχονται διεξοδικά οι πληροφορίες στις οποίες στηρίζονται τα συστήματα τεχνητής νοημοσύνης, ώστε να εντοπίζονται και να διορθώνονται πιθανές μεροληψίες.

Όπως εξηγεί, τα συστήματα αυτά εκπαιδεύονται συχνά με δεδομένα που έχουν ήδη επηρεαστεί από ανθρώπινες προκαταλήψεις. Αυτό μπορεί να οδηγήσει σε αποτελέσματα που επιβεβαιώνουν τις αρχικές υποθέσεις, δημιουργώντας καταστάσεις αυτοεκπληρούμενης προφητείας.

Με άλλα λόγια, όταν ένα σύστημα χαρακτηρίζει μια συγκεκριμένη περιοχή ή κοινωνική ομάδα ως υψηλού κινδύνου, οι αυξημένοι έλεγχοι που ενδέχεται να ακολουθήσουν μπορούν να οδηγήσουν στην καταγραφή περισσότερων περιστατικών. Τα νέα δεδομένα επιστρέφουν στη συνέχεια στο σύστημα, ενισχύοντας την αρχική εκτίμηση, ακόμη και αν αυτή δεν αποτυπώνει αντικειμενικά την πραγματικότητα.

Η έρευνα στο Λος Άντζελες και η δυσανάλογη αστυνομική επιτήρηση

Σημαντικά ευρήματα για τη χρήση των δεδομένων στην πρόληψη του εγκλήματος παρουσίασε η κοινωνιολόγος Σάρα Μπρέιν από το Πανεπιστήμιο του Τέξας. Στο πλαίσιο της έρευνάς της, η οποία δημοσιεύθηκε στο επιστημονικό περιοδικό American Sociological Review, μελέτησε από κοντά τον τρόπο με τον οποίο το Αστυνομικό Τμήμα του Λος Άντζελες αξιοποιεί τα μεγάλα δεδομένα.

Η έρευνά της έδειξε ότι οι αστυνομικές αρχές στρέφονται ολοένα περισσότερο σε αναλυτικά εργαλεία που δεν περιορίζονται στην αντιμετώπιση εγκλημάτων που έχουν ήδη διαπραχθεί, αλλά χρησιμοποιούνται και για την πρόβλεψη πιθανών μελλοντικών περιστατικών.

Ωστόσο, η Μπρέιν διαπίστωσε ότι τα δεδομένα στα οποία βασίζονται αυτές οι προβλέψεις ενδέχεται να παρουσιάζουν σημαντικές στρεβλώσεις. Τα περιστατικά που συμβαίνουν σε δημόσιους χώρους έχουν μεγαλύτερη πιθανότητα να γίνουν αντιληπτά από τις αρχές και να καταγραφούν επίσημα, ενώ η αστυνομική δραστηριότητα εμφανίζεται να επικεντρώνεται δυσανάλογα σε περιοχές όπου κατοικούν μαύροι πολίτες.

Επομένως, οι πληροφορίες που συγκεντρώνονται δεν αντικατοπτρίζουν απαραίτητα την πραγματική κατανομή της εγκληματικότητας, αλλά ενδέχεται να επηρεάζονται από το πού και σε ποιους επιλέγουν οι αρχές να επικεντρώνουν τους ελέγχους τους.

Η τεχνητή νοημοσύνη μπορεί να ξεπεράσει τα δεδομένα εκπαίδευσης, αλλά απαιτείται έλεγχος

Μια διαφορετική προσέγγιση διατυπώνει ο Δημήτρης Κόλλιας, αναπληρωτής καθηγητής πολυτροπικής τεχνητής νοημοσύνης στο Πανεπιστήμιο Queen Mary του Λονδίνου (QMUL). Ο ίδιος επισημαίνει ότι η τεχνολογική εξέλιξη έχει δώσει στα σύγχρονα συστήματα δυνατότητες που δεν περιορίζονται στην απλή αναπαραγωγή των πληροφοριών με τις οποίες εκπαιδεύτηκαν.

«Τα σύγχρονα συστήματα ΑΙ δεν ανακτούν ή αντιγράφουν απλώς τα παραδείγματα εκπαίδευσής τους. Μπορούν να συνδυάσουν τις πληροφορίες που έχουν μάθει με νέους τρόπους και να δημιουργήσουν αποτελέσματα και λύσεις που δεν υπήρχαν ρητά σε αυτά τα παραδείγματα».

Παρά τις δυνατότητες αυτές, ο Κόλλιας προειδοποιεί ότι η αυξανόμενη αυτονομία των συστημάτων δημιουργεί νέες απαιτήσεις ως προς την ασφάλεια και την αξιοπιστία τους.

«Καθώς τα συστήματα τεχνητής νοημοσύνης γίνονται πιο ικανά να παράγουν νέες αποφάσεις και να ενεργούν με μεγαλύτερη αυτονομία, πρέπει να διασφαλίσουμε ότι η συμπεριφορά τους παραμένει ασφαλής, αξιόπιστη και υπό ουσιαστικό ανθρώπινο έλεγχο», λέει.

Η δυνατότητα παραγωγής νέων συμπερασμάτων, συνεπώς, δεν εξαλείφει αυτομάτως τον κίνδυνο μεροληψίας. Αντίθετα, καθιστά ακόμη πιο αναγκαία την παρακολούθηση των αποφάσεων που λαμβάνονται και τον έλεγχο των επιπτώσεών τους.

Τα «βρώμικα δεδομένα» και οι εσφαλμένες αστυνομικές καταγραφές

Ένα από τα δυσκολότερα προβλήματα που καλούνται να αντιμετωπίσουν οι ειδικοί αφορά την ποιότητα των αρχείων που έχουν συγκεντρώσει οι αστυνομικές αρχές. Ερευνητές του Πανεπιστημίου της Νέας Υόρκης επισημαίνουν ότι οι αλγόριθμοι ενδέχεται να αξιοποιούν «βρώμικα δεδομένα», δηλαδή πληροφορίες που έχουν προκύψει από μεροληπτικές, παράνομες ή διεφθαρμένες πρακτικές.

Σε αυτές μπορεί να περιλαμβάνονται κατασκευασμένα στοιχεία για εγκληματικές υποθέσεις, καθώς και συλλήψεις ανθρώπων που δεν είχαν διαπράξει κάποιο αδίκημα.

Το πρόβλημα είναι ότι ένα σύστημα τεχνητής νοημοσύνης δεν μπορεί κατ’ ανάγκη να αναγνωρίσει από μόνο του ότι οι πληροφορίες που έχει στη διάθεσή του είναι ανακριβείς ή προϊόν άδικων πρακτικών. Αντίθετα, μπορεί να τις αντιμετωπίσει ως έγκυρα στοιχεία και να εντοπίσει σε αυτές επαναλαμβανόμενα μοτίβα, τα οποία στη συνέχεια χρησιμοποιεί για την παραγωγή νέων προβλέψεων.

Η διόρθωση τέτοιων προβλημάτων δεν είναι εύκολη υπόθεση, καθώς οι ανακρίβειες δεν εντοπίζονται πάντοτε με απλές τεχνικές μεθόδους. Σύμφωνα με τους ερευνητές του Πανεπιστημίου της Νέας Υόρκης, οι τεχνικές παρεμβάσεις που προτείνουν οι εταιρείες ανάπτυξης τέτοιων συστημάτων δεν επαρκούν από μόνες τους. Απαιτείται και ανεξάρτητος έλεγχος του τρόπου με τον οποίο συγκεντρώθηκαν και καταχωρίστηκαν εξαρχής τα δεδομένα.

Το παράδειγμα της υγειονομικής περίθαλψης στις ΗΠΑ

Οι κίνδυνοι που συνδέονται με τη χρήση μεροληπτικών δεδομένων δεν περιορίζονται στον τομέα της αστυνόμευσης. Χαρακτηριστικό παράδειγμα αποτελεί μελέτη που δημοσιεύθηκε το 2019 στο επιστημονικό περιοδικό Science και εξέτασε σύστημα τεχνητής νοημοσύνης που χρησιμοποιούνταν στον τομέα της υγείας στις Ηνωμένες Πολιτείες.

Το συγκεκριμένο εργαλείο είχε σχεδιαστεί για να βοηθά στον εντοπισμό ασθενών που χρειάζονταν πρόσθετη υποστήριξη, εκτιμώντας το κόστος της ιατρικής φροντίδας τους. Ωστόσο, η μελέτη ανέδειξε μια σημαντική στρέβλωση: οι δαπάνες για τους μαύρους ασθενείς ήταν χαμηλότερες από εκείνες των λευκών ασθενών με αντίστοιχες ανάγκες, εν μέρει εξαιτίας της περιορισμένης πρόσβασης των πρώτων στις υπηρεσίες υγείας.

Επειδή το σύστημα αντιμετώπιζε το υψηλότερο κόστος περίθαλψης ως ένδειξη μεγαλύτερης ανάγκης για υποστήριξη, κατέληγε να ευνοεί άδικα τους λευκούς ασθενείς. Έτσι, μια φαινομενικά ουδέτερη μέτρηση αναπαρήγαγε τις ανισότητες που υπήρχαν ήδη στο σύστημα υγείας.

Το παράδειγμα αναδεικνύει πώς ένας αλγόριθμος μπορεί να παράγει διακριτικά αποτελέσματα ακόμη και όταν δεν χρησιμοποιεί άμεσα το φυλετικό χαρακτηριστικό ως κριτήριο, εφόσον βασίζεται σε άλλες μεταβλητές που επηρεάζονται από υφιστάμενες κοινωνικές ανισότητες.

Πώς μπορεί να περιοριστεί η μεροληψία των συστημάτων ΑΙ

Ο Δημήτρης Κόλλιας αναγνωρίζει ότι η αξιοποίηση προβληματικών δεδομένων αποτελεί σοβαρή πρόκληση για την ανάπτυξη και τη χρήση της τεχνητής νοημοσύνης. Ωστόσο, τονίζει ότι υπάρχουν τρόποι να περιοριστούν οι επιπτώσεις, εφόσον εφαρμοστούν κατάλληλες δικλίδες ασφαλείας.

«Όμως αυτό δεν σημαίνει ότι δεν μπορούμε να αποφύγουμε τις προκαταλήψεις. Μπορούμε να δοκιμάσουμε συστήματα για άδικα αποτελέσματα, να βελτιώσουμε τα δεδομένα και τους στόχους που χρησιμοποιούν και να εισαγάγουμε μέτρα ασφαλείας για τη μείωση αυτών των επιπτώσεων», λέει.

Η συστηματική αξιολόγηση των αλγορίθμων, η βελτίωση της ποιότητας των δεδομένων, η ανεξάρτητη εποπτεία και η ουσιαστική συμμετοχή ανθρώπων στη λήψη κρίσιμων αποφάσεων αποτελούν βασικές προϋποθέσεις για την υπεύθυνη χρήση της τεχνητής νοημοσύνης.

Το βασικό ζήτημα, όπως προκύπτει από τις επισημάνσεις των ερευνητών, δεν είναι μόνο το πόσο εξελιγμένη είναι μια τεχνολογία, αλλά και το κατά πόσο οι πληροφορίες στις οποίες στηρίζεται είναι αξιόπιστες και απαλλαγμένες από συστηματικές αδικίες. Χωρίς αποτελεσματικούς ελέγχους, η τεχνητή νοημοσύνη κινδυνεύει να μετατρέψει τις κοινωνικές προκαταλήψεις σε αυτοματοποιημένες αποφάσεις, με σοβαρές συνέπειες για τα δικαιώματα και την ίση μεταχείριση των πολιτών.

Διαβάστε ακόμη: