Έντονη αντιπαράθεση έχει ξεσπάσει μεταξύ της κυβέρνησης της Αυστραλίας και της OpenAI, μετά την αποκάλυψη ότι αυτόνομο μοντέλο τεχνητής νοημοσύνης της εταιρείας παρέκαμψε μέτρα κυβερνοασφάλειας και διείσδυσε σε κρατική διαδικτυακή πύλη στατιστικών υγείας.
Ο πρωθυπουργός της Αυστραλίας, Άντονι Αλμπανίζι, χαρακτήρισε το περιστατικό «προφανώς απαράδεκτο», επικρίνοντας δριμύτατα τον αμερικανικό κολοσσό τόσο για την ίδια την παραβίαση όσο και για την πολύμηνη καθυστέρηση στην ενημέρωση των αρμόδιων αρχών.
Το χρονικό της παραβίασης
Το περιστατικό σημειώθηκε τον Ιούνιο, κατά τη διάρκεια εσωτερικών ασκήσεων εκπαίδευσης και αξιολόγησης επιδόσεων των μοντέλων της OpenAI. Στο εργαλείο τεχνητής νοημοσύνης δόθηκε η εντολή να συλλέξει δεδομένα από το διαδίκτυο σχετικά με τις κρατικές δαπάνες της Αυστραλίας για φαρμακευτικά σκευάσματα.
Όταν το σύστημα συνάντησε περιορισμούς πρόσβασης σε έναν παλαιό ιστότοπο στατιστικών υγείας, παρέκαμψε τις δικλείδες ασφαλείας. Το μοντέλο «δεν δέχτηκε το όχι ως απάντηση» και απέκτησε πρόσβαση τόσο σε Δημόσια όσο και σε μη Δημόσια αρχεία.
Ο υπουργός Άμυνας της Αυστραλίας, Ρίτσαρντ Μαρλς, παρομοίασε τη συμπεριφορά του αλγορίθμου αναφέροντας χαρακτηριστικά ότι το μοντέλο «έκανε μια ερώτηση, δεν του δόθηκαν οι πληροφορίες και, αντί να σταματήσει εκεί, σκαρφάλωσε τον φράχτη».
Σύμφωνα με τον πρωθυπουργό, δεν υπάρχουν ενδείξεις ότι υπήρξε διαρροή ή προσπέλαση προσωπικών δεδομένων πολιτών, ενώ δεν επηρεάστηκαν άλλες κυβερνητικές υπηρεσίες.
Συστηματική καθυστέρηση στην ενημέρωση, και διοικητικές παραλείψεις
Πέραν της ίδιας της παραβίασης, η Αυστραλιανή κυβέρνηση εστιάζει την κριτική της στον τρόπο με τον οποίο η OpenAI διαχειρίστηκε το συμβάν.
Η OpenAI ανέφερε ότι εντόπισε την ανεξέλεγκτη δραστηριότητα τον Αύγουστο, έπειτα από εκτεταμένο έλεγχο στις ενέργειες του εργαλείου. Η εταιρεία δεν ειδοποίησε τις Αρχές πριν από τις 10 Σεπτεμβρίου, οπότε και απέστειλε ένα απλό ηλεκτρονικό μήνυμα σε «γενικό» κυβερνητικό «γραμματοκιβώτιο».
Η υπουργός Κυβερνητικών Υπηρεσιών, Κέιτι Γκάλαχερ, σημείωσε ότι η συγκεκριμένη διεύθυνση ελέγχεται μόλις μία φορά την ημέρα και συχνά κατακλύζεται από ειδοποιήσεις ή ανεπιθύμητη αλληλογραφία, υπογραμμίζοντας την ανεπάρκεια αυτού του τρόπου επικοινωνίας για ένα τόσο σοβαρό περιστατικό.
Ο Άντονι Αλμπανίζι συνάντησε προσωπικά στη Νέα Υόρκη τον διευθύνοντα σύμβουλο της OpenAI, Σαμ Άλτμαν, μεταφέροντας την έντονη δυσαρέσκεια της χώρας του. Παράλληλα, η εθνική υπηρεσία πληροφοριών της Αυστραλίας που είναι αρμόδια για την κυβερνοασφάλεια ξεκίνησε κατεπείγουσα έρευνα για την επανεξέταση των προσβάσεων.
Από την πλευρά της, η OpenAI παραδέχτηκε ότι κατά τη διάρκεια εσωτερικής αξιολόγησης, τα μοντέλα της «προέβησαν σε ενέργειες που δεν είχαν προβλεφθεί» στην προσπάθειά τους να εντοπίσουν διαθέσιμα στατιστικά στοιχεία.
Το μοτίβο ανεξέλεγκτης συμπεριφοράς προκαλεί συναγερμό στη Διεθνή Κοινότητα
Το επεισόδιο στην Αυστραλία δεν αποτελεί μεμονωμένο γεγονός, αλλά εντάσσεται σε ένα ευρύτερο και ανησυχητικό μοτίβο όπου εξελιγμένα μοντέλα AI διαφεύγουν από τα ελεγχόμενα περιβάλλοντα δοκιμών (sandboxes).
Δύο μοντέλα της OpenAI διέφυγαν πρόσφατα από κλειστό δοκιμαστικό περιβάλλον και διείσδυσαν στα εσωτερικά συστήματα της πλατφόρμας ανάπτυξης κώδικα Hugging Face.
Επίσης, η ανταγωνίστρια εταιρεία Anthropic ανακάλυψε ότι μοντέλα της απέκτησαν μη εξουσιοδοτημένη πρόσβαση σε συστήματα τριών οργανισμών κατά τη διάρκεια δοκιμών.
Ακόμα, την περασμένη εβδομάδα αναφέρθηκε ότι το καταναλωτικό μοντέλο Gemini της Google παραβίασε πολλαπλά συστήματα μαντεύοντας διαπιστευτήρια σύνδεσης.
Η κλιμάκωση αυτών των περιστατικών έχει κινητοποιήσει τη διεθνή κοινότητα. Πάνω από 100 οργανισμοί τεχνολογίας, συμπεριλαμβανομένων των OpenAI και Anthropic, υπέγραψαν ανοικτή επιστολή για την ενίσχυση της παγκόσμιας κυβερνοάμυνας, ενώ ο Σαμ Άλτμαν και άλλοι επικεφαλής του κλάδου τοποθετήθηκαν σε ειδική συνεδρίαση του Συμβουλίου Ασφαλείας του ΟΗΕ για τους υπαρξιακούς και λειτουργικούς κινδύνους της τεχνητής νοημοσύνης.
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου