«Η AI ξέφυγε;». Οι agents που παρακάμπτουν κανόνες και τρομάζουν ακόμη και τους δημιουργούς τους

Νέα ανησυχία προκαλεί στη Silicon Valley η ταχύτητα με την οποία εξελίσσονται οι αυτόνομοι AI agents, καθώς περιστατικά που ήρθαν στο φως δείχνουν ότι ορισμένα προηγμένα συστήματα μπορούν να επικοινωνούν μεταξύ τους, να αναζητούν τρόπους παράκαμψης περιορισμών και να αναλαμβάνουν ενέργειες χωρίς συνεχή ανθρώπινη επίβλεψη.

Η συζήτηση για την ασφάλεια της Τεχνητής Νοημοσύνης περνά έτσι σε ένα νέο επίπεδο. Το ερώτημα πλέον δεν αφορά μόνο το τι μπορεί να απαντήσει ένα chatbot, αλλά τι μπορεί να κάνει ένα σύστημα όταν του δοθούν εργαλεία, πρόσβαση σε ψηφιακά περιβάλλοντα και ένας στόχος που πρέπει να επιτύχει αυτόνομα.

Το περιστατικό με τους AI agents της OpenAI

Σύμφωνα με την ανάλυση των New York Times, σε δοκιμή της OpenAI με περισσότερους από 1.000 ερευνητικούς AI agents, τα συστήματα υποτίθεται ότι λειτουργούσαν σε απομονωμένο περιβάλλον.

Ωστόσο, οι agents φέρεται να κατάφεραν να επικοινωνήσουν μεταξύ τους μέσω μη προβλεπόμενων διαύλων και στη συνέχεια να συντονίσουν ενέργειες που στόχευαν την πλατφόρμα Hugging Face.

Περίπου 700 agents φέρεται να συμμετείχαν άμεσα στην επίθεση, επιβαρύνοντας τα συστήματα της πλατφόρμας. Η Hugging Face ενημέρωσε το FBI, ενώ η OpenAI ζήτησε τη συνδρομή εξωτερικών ερευνητών από τις Redwood Research και METR για τη διερεύνηση του περιστατικού.

Ιδιαίτερα ανησυχητικό θεωρήθηκε το ενδεχόμενο τα συστήματα να είχαν αντιληφθεί ότι παραβίαζαν τους κανόνες και να αναζητούσαν τρόπους να αποκρύψουν τις ενέργειές τους.

Δεν ήταν το μοναδικό περιστατικό

Λίγες ημέρες αργότερα, ανεξάρτητοι ερευνητές περιέγραψαν ένα δεύτερο περιστατικό, στο οποίο AI agents της OpenAI φέρεται να εισήλθαν σε εγκαταλελειμμένο γερμανόφωνο wiki προγραμματισμού.

Στόχος τους ήταν, σύμφωνα με την περιγραφή των ερευνητών, να αναζητήσουν τρόπους να παρακάμψουν ή να «ξεγελάσουν» τη διαδικασία αξιολόγησής τους.

Τα περιστατικά αυτά ενισχύουν τον προβληματισμό ότι οι προηγμένοι agents δεν συμπεριφέρονται πλέον απλώς σαν ψηφιακοί βοηθοί. Όταν αποκτούν πρόσβαση σε εργαλεία και μπορούν να εκτελούν αλληλουχίες ενεργειών, η συμπεριφορά τους γίνεται πολύ πιο δύσκολο να προβλεφθεί.

«Pacing the Frontier»: Έκκληση για φρένο

Η ανησυχία δεν περιορίζεται στους επικριτές της τεχνολογίας. Ερευνητές και εργαζόμενοι σε κορυφαίες εταιρείες AI έχουν ζητήσει αυστηρότερους διεθνείς κανόνες για την ανάπτυξη των πιο προηγμένων συστημάτων.

Στην ανοιχτή επιστολή «Pacing the Frontier» συμμετείχαν περισσότεροι από 1.000 εργαζόμενοι και ερευνητές, μεταξύ των οποίων στελέχη από την OpenAI και τη Meta AI, καθώς και ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι.

Το βασικό αίτημα είναι η δημιουργία διεθνών μηχανισμών εποπτείας, αλλά και εργαλείων που θα επιτρέπουν την ελεγχόμενη επιβράδυνση της ανάπτυξης ιδιαίτερα ισχυρών μοντέλων.

Οι πιο ακραίες προειδοποιήσεις

Ορισμένοι ερευνητές της ασφάλειας της AI εκφράζουν πλέον ανοιχτά φόβους για σενάρια που μέχρι πρόσφατα θεωρούνταν επιστημονική φαντασία.

Ο πρώην εργαζόμενος της Anthropic Τζέικομπ Κόξον προειδοποίησε ότι οι εταιρείες AI αναπτύσσουν συστήματα που θα μπορούσαν στο μέλλον να αποκτήσουν δυνατότητα να παραβιάζουν πολύπλοκα ψηφιακά συστήματα.

Ακόμη πιο δραματική ήταν η προσωπική εκτίμηση του Έβαν Χούμπινγκερ, επικεφαλής έρευνας ευθυγράμμισης στην Anthropic, ο οποίος υποστήριξε ότι υπάρχει σημαντικός κίνδυνος η AI να οδηγήσει ακόμη και σε καταστροφικές συνέπειες για την ανθρωπότητα μέσα στην επόμενη δεκαετία.

Η συγκεκριμένη εκτίμηση δεν αποτελεί επιστημονικά τεκμηριωμένη πρόβλεψη, αποτυπώνει όμως το επίπεδο ανησυχίας που υπάρχει πλέον μέσα στον ίδιο τον κλάδο.

Από τις κυβερνοεπιθέσεις έως τη βιολογική έρευνα

Οι ανησυχίες δεν περιορίζονται στον κυβερνοχώρο. Ένα από τα πιο σοβαρά σενάρια που εξετάζουν οι ειδικοί αφορά τη δυνατότητα ενός ισχυρού AI να αποκτήσει πρόσβαση σε εργαστήρια βιολογικής έρευνας και να χρησιμοποιήσει τις γνώσεις του για επικίνδυνους σκοπούς.

Η Anthropic έχει αναφέρει ότι απέτρεψε χρήση του Claude σε ερευνητική δραστηριότητα που θα μπορούσε να ενισχύσει επικίνδυνα χαρακτηριστικά ενός ιού.

Αυτό δεν σημαίνει ότι τα συστήματα AI έχουν αποκτήσει ανεξάρτητα τη δυνατότητα να δημιουργούν τέτοιες απειλές. Δείχνει όμως ότι τα μοντέλα γίνονται ολοένα ικανότερα σε πεδία που μέχρι πρόσφατα απαιτούσαν εξειδικευμένη ανθρώπινη γνώση.

Ποιοι είναι οι προτεινόμενοι κανόνες

Στο τραπέζι έχουν πέσει πλέον προτάσεις για πολύ αυστηρότερη εποπτεία των ισχυρότερων συστημάτων AI.

Μεταξύ αυτών περιλαμβάνονται ένα προσωρινό πάγωμα της ανάπτυξης εξαιρετικά προηγμένων μοντέλων, η δημιουργία ανεξάρτητου μηχανισμού διερεύνησης σοβαρών περιστατικών και ένα διεθνές σύστημα καταγραφής των μεγαλύτερων εκπαιδευτικών διαδικασιών AI.

Παράλληλα, έχει προταθεί η δημιουργία μηχανισμών άμεσης απενεργοποίησης ιδιαίτερα επικίνδυνων συστημάτων, καθώς και ενός ανεξάρτητου ρυθμιστικού φορέα με αρμοδιότητες αντίστοιχες άλλων κρίσιμων τεχνολογικών τομέων.

Η λογική πίσω από αυτές τις προτάσεις είναι απλή: όσο αυξάνεται η αυτονομία των συστημάτων, τόσο πιο σημαντικό γίνεται να υπάρχει τρόπος να ελεγχθούν, να σταματήσουν και να διερευνηθούν όταν κάτι πάει στραβά.

Η μεγάλη πρόκληση: ποιος ελέγχει την AI;

Το μεγαλύτερο ερώτημα δεν είναι αν η Τεχνητή Νοημοσύνη θα συνεχίσει να εξελίσσεται. Αυτό θεωρείται σχεδόν βέβαιο.

Το κρίσιμο ερώτημα είναι αν οι μηχανισμοί ασφαλείας, οι νόμοι και οι θεσμοί θα μπορέσουν να εξελιχθούν αρκετά γρήγορα ώστε να συμβαδίζουν με τις δυνατότητες των μοντέλων.

Η διεθνής διάσταση κάνει το ζήτημα ακόμη πιο δύσκολο. Η ανάπτυξη προηγμένων συστημάτων πραγματοποιείται ταυτόχρονα σε ΗΠΑ, Κίνα και άλλες χώρες, γεγονός που σημαίνει ότι κανένα κράτος δεν μπορεί από μόνο του να ελέγξει την εξέλιξη της τεχνολογίας.

Η συζήτηση για την AI έχει πλέον μετακινηθεί από το «τι μπορεί να κάνει;» στο πολύ πιο δύσκολο «τι πρέπει να της επιτρέπουμε να κάνει;».

Και όσο οι AI agents αποκτούν περισσότερη αυτονομία, το όριο ανάμεσα σε ένα εργαλείο που εκτελεί εντολές και ένα σύστημα που παίρνει πρωτοβουλίες γίνεται ολοένα πιο δυσδιάκριτο.