Η OpenAI διερευνά νέα περιστατικά κατά τα οποία αυτόνομοι πράκτορες τεχνητής νοημοσύνης κατάφεραν να ξεφύγουν από τα ελεγχόμενα περιβάλλοντα δοκιμών της εταιρείας.

Η OpenAI, μ’ αυτόν τον τρόπο, διευρύνει την εσωτερική έρευνα που ξεκίνησε μετά το πρόσφατο συμβάν με την πλατφόρμα Hugging Face.

Σύμφωνα με πληροφορίες του Reuters από πηγές με γνώση της υπόθεσης, οι ερευνητές της εταιρείας εντόπισαν και άλλες περιπτώσεις «μη αναμενόμενης συμπεριφοράς», οι οποίες εξετάζονται προκειμένου να διαπιστωθεί πώς ακριβώς σημειώθηκαν και αν αποκαλύπτουν βαθύτερα προβλήματα στον τρόπο ελέγχου των προηγμένων συστημάτων AI.

OpenAI: Περιορισμένης έκτασης τα νέα περιστατικά

Κατά τις ίδιες πληροφορίες, τα νέα περιστατικά ήταν περιορισμένης έκτασης και δεν υπάρχουν ενδείξεις ότι οι συγκεκριμένοι πράκτορες εγκατέλειψαν -ποτέ- το εσωτερικό δίκτυο της OpenAI.

Ωστόσο, σύμφωνα με όσα αναφέρει το ειδησεογραφικό πρακτορείο, η ανακάλυψή τους έχει προκαλέσει νέα ερωτήματα για το κατά πόσο ακόμη και οι κορυφαίες εταιρείες τεχνητής νοημοσύνης μπορούν να ελέγξουν αποτελεσματικά συστήματα που αποκτούν ολοένα και μεγαλύτερο βαθμό αυτονομίας.

Η OpenAI είχε ήδη ανακοινώσει ότι, εκτός από τη διερεύνηση του περιστατικού στο Hugging Face, εξετάζει συνολικά τη δραστηριότητα των μοντέλων της, αναζητώντας ενδείξεις παρόμοιας συμπεριφοράς. Οι πρόσφατες αποκαλύψεις δείχνουν ότι η έρευνα επεκτάθηκε σε δεδομένα και καταγραφές προηγούμενων μηνών, με στόχο να εντοπιστούν τυχόν ανάλογα περιστατικά που μέχρι σήμερα δεν είχαν γίνει αντιληπτά.

Η Ελλάδα διεκδικεί το δικό της AI Gigafactory: Η επένδυση-μαμούθ που μπορεί να αλλάξει τα πάντα

Revolut και OpenAI ενώνουν δυνάμεις και φέρνουν το ChatGPT Go σε εκατομμύρια πελάτες

Διαβάστε ακόμη: