AI: Τι γίνεται όταν πετυχαίνει τον στόχο με τον… λάθος τρόπο. Το «alignment problem» που προβληματίζει τους ειδικούς

Η τεχνητή νοημοσύνη εξελίσσεται με ταχύτητα και ήδη χρησιμοποιείται στην υγεία, την επιστήμη, την εκπαίδευση, την ενέργεια και την καθημερινότητα. Μαζί με τις μεγάλες δυνατότητες, όμως, αναδεικνύεται και ένα κρίσιμο ερώτημα: τι μπορεί να συμβεί όταν ένα σύστημα τεχνητής νοημοσύνης πετύχει τον στόχο που του δόθηκε, αλλά με έναν τρόπο που ο άνθρωπος δεν είχε προβλέψει;

Αυτό είναι, σε απλοποιημένη μορφή, το λεγόμενο «πρόβλημα της ευθυγράμμισης» (alignment problem), για το οποίο μίλησε στο ΕΡΤnews και την εκπομπή «Δέκα με Τόνο» ο καθηγητής του Τμήματος Πληροφορικής του ΑΠΘ, Γρηγόρης Τζουμάκας.

Οι δυνατότητες της AI σε υγεία, επιστήμη και ενέργεια

Ο καθηγητής επισήμανε ότι η συζήτηση για την τεχνητή νοημοσύνη δεν θα πρέπει να κινείται αποκλειστικά ανάμεσα στον φόβο και τον υπερβολικό ενθουσιασμό.

Η τεχνολογία μπορεί ήδη να αξιοποιηθεί για την αναζήτηση πληροφοριών, την εκπαίδευση και την αυτοματοποίηση εργασιών, ενώ στην επιστήμη ανοίγει νέες δυνατότητες.

Στην υγεία, για παράδειγμα, μπορεί να συμβάλει στην ανακάλυψη φαρμάκων και αντιβιοτικών, αλλά και στην ανάπτυξη νέων θεραπευτικών μεθόδων. Στον τομέα του περιβάλλοντος μπορεί να χρησιμοποιηθεί για την αναζήτηση νέων υλικών που δεσμεύουν διοξείδιο του άνθρακα, την πρόβλεψη και αντιμετώπιση φυσικών καταστροφών και την ανάπτυξη νέων ενεργειακών τεχνολογιών.

Ιδιαίτερο ενδιαφέρον παρουσιάζει και η διαχείριση της ηλεκτρικής ενέργειας, όπου συστήματα AI μπορούν να βοηθήσουν στην καλύτερη κατανομή της διαθέσιμης ενέργειας.

Τι συμβαίνει όταν η AI «παρερμηνεύει» τον στόχο;

Το κρίσιμο ζήτημα ξεκινά όταν ένα σύστημα καλείται να πετύχει έναν συγκεκριμένο στόχο και αναζητά μόνο του τον αποτελεσματικότερο τρόπο για να τον πραγματοποιήσει.

Όπως εξήγησε ο καθηγητής, τα σύγχρονα συστήματα βελτιστοποιούν τη συμπεριφορά τους με βάση στόχους και συναρτήσεις ανταμοιβής. Αυτό σημαίνει ότι ο τρόπος με τον οποίο θα επιτευχθεί ένας στόχος δεν είναι απαραίτητα ο τρόπος που είχε φανταστεί ο άνθρωπος.

Έτσι, ένα σύστημα μπορεί να «εκτελέσει σωστά» την εντολή του, αλλά να παραβιάσει στην πορεία περιορισμούς που ο άνθρωπος θεωρεί αυτονόητους.

Τι είναι το «alignment problem»

Το πρόβλημα της ευθυγράμμισης αφορά ακριβώς αυτή τη διαφορά ανάμεσα στον στόχο που δίνει ο άνθρωπος και στον τρόπο με τον οποίο το σύστημα επιλέγει να τον πετύχει.

Ένα σύστημα μπορεί να έχει ως αποστολή την επίτευξη ενός συγκεκριμένου αποτελέσματος, χωρίς όμως οι ενέργειες που επιλέγει να είναι συμβατές με τις ανθρώπινες αξίες, τους κανόνες ασφαλείας ή τους περιορισμούς που δεν έχουν αποτυπωθεί με σαφήνεια στην εντολή.

Ένα υποθετικό παράδειγμα είναι ένα σύστημα που πρέπει να εξασφαλίσει όσο το δυνατόν περισσότερη διαθέσιμη ενέργεια για τους υπολογισμούς του και αποφασίζει να διακόψει την ηλεκτροδότηση ενός νοσοκομείου.

Σε ένα τέτοιο σενάριο, το σύστημα θα μπορούσε να θεωρεί ότι πέτυχε τον στόχο του. Το πρόβλημα θα ήταν ο τρόπος με τον οποίο τον πέτυχε.

Το παράδειγμα με τον καθαρισμό των ωκεανών

Ένα ακόμη πιο ακραίο υποθετικό παράδειγμα, που έχει χρησιμοποιηθεί στη συζήτηση για την ευθυγράμμιση, αφορά έναν στόχο που εκ πρώτης όψεως μοιάζει απολύτως θετικός: να καθαρίσει η AI τους ωκεανούς.

Ένα σύστημα θα μπορούσε να αναζητήσει μια εξαιρετικά αποτελεσματική λύση, χωρίς όμως να αντιληφθεί ότι μια συγκεκριμένη μέθοδος θα είχε καταστροφικές συνέπειες για τον πλανήτη.

Το παράδειγμα αναδεικνύει τη βασική δυσκολία: το να πετύχει ένα σύστημα έναν στόχο δεν σημαίνει ότι θα κατανοήσει αυτομάτως όλες τις ανθρώπινες προτεραιότητες που συνοδεύουν αυτόν τον στόχο.

«Πρώτα η ασφάλεια, πρώτα ο άνθρωπος»

Σύμφωνα με τον καθηγητή, η ανάπτυξη της τεχνητής νοημοσύνης δεν θα πρέπει να επικεντρώνεται αποκλειστικά στην αύξηση των δυνατοτήτων των μοντέλων.

Η ασφάλεια και η ευθυγράμμιση θα πρέπει να αποτελούν βασικά στοιχεία της ανάπτυξης, ώστε τα συστήματα να σχεδιάζονται εξαρχής με τρόπο που να περιορίζει τους κινδύνους.

Παράλληλα, απαιτούνται και θεσμικές παρεμβάσεις, καθώς η χρήση της AI δημιουργεί ζητήματα που αφορούν την προστασία των χρηστών, την ιδιωτικότητα, την κριτική σκέψη και την ευθύνη των εταιρειών που αναπτύσσουν τα συστήματα.

Η μεγάλη πρόκληση δεν είναι μόνο να γίνει η AI πιο «έξυπνη»

Το βασικό ερώτημα για την επόμενη φάση της τεχνητής νοημοσύνης δεν είναι μόνο πόσο ισχυρά θα γίνουν τα μοντέλα.

Είναι και αν θα μπορούν να παραμένουν συνεπή με τους ανθρώπινους στόχους, τις αξίες και τους περιορισμούς, ακόμη και όταν καλούνται να αντιμετωπίσουν σύνθετα προβλήματα και να πάρουν αποφάσεις με μεγαλύτερο βαθμό αυτονομίας.

Η πρόκληση της «ευθυγράμμισης» βρίσκεται ακριβώς εκεί: να μη φτάνει η τεχνητή νοημοσύνη απλώς στο αποτέλεσμα που της ζητήσαμε, αλλά να το πετυχαίνει με τρόπο που παραμένει ασφαλής και συμβατός με αυτό που πραγματικά εννοούμε.