Η Τεχνητή Νοημοσύνη εξελίσσεται με ταχύτητα που μέχρι πρόσφατα έμοιαζε αδιανόητη. Τώρα, όμως, ορισμένοι από τους ίδιους τους ανθρώπους που αναπτύσσουν τα πιο προηγμένα συστήματα προειδοποιούν ότι η κούρσα προς την υπερνοημοσύνη μπορεί να κρύβει σοβαρούς κινδύνους.

Η συζήτηση δεν αφορά πλέον μόνο τις θέσεις εργασίας ή την παραπληροφόρηση.

Αφορά ένα πολύ μεγαλύτερο ερώτημα:

Μπορεί κάποια στιγμή η Τεχνητή Νοημοσύνη να γίνει ισχυρότερη από την ικανότητά μας να την ελέγχουμε;

Η προειδοποίηση από το εσωτερικό της AI

Η συζήτηση αναζωπυρώθηκε μετά την παραίτηση του ερευνητή Jacob Coxon από την Anthropic. Ο ίδιος υποστήριξε ότι οι μεγάλες εταιρείες AI βρίσκονται σε έναν ανταγωνισμό για την ανάπτυξη αυτοβελτιούμενης υπερνοημοσύνης, χωρίς να έχουν λύσει πρώτα όλα τα προβλήματα ασφάλειας.

Η τοποθέτησή του απέκτησε ακόμη μεγαλύτερη βαρύτητα όταν ο Evan Hubinger, ερευνητής της Anthropic στον τομέα του AI alignment, δήλωσε δημόσια ότι προσωπικά εκτιμά σε πάνω από 10% την πιθανότητα η AI να οδηγήσει στην εξόντωση της ανθρωπότητας μέσα στην επόμενη δεκαετία.

Ταυτόχρονα, παραδέχθηκε ότι δεν υπάρχει ακόμη ένα ολοκληρωμένο σχέδιο που να διασφαλίζει πως μια μελλοντική υπερνοημοσύνη θα παραμείνει ευθυγραμμισμένη με τους ανθρώπινους στόχους.

Η δήλωση αυτή δεν αποτελεί πρόβλεψη ότι η ανθρωπότητα θα καταστραφεί.

Είναι όμως μια προσωπική εκτίμηση κινδύνου από άνθρωπο που εργάζεται στην ασφάλεια της AI.

Γιατί η υπερνοημοσύνη προκαλεί ανησυχία;

Η σημερινή AI μπορεί να γράφει κείμενα, να δημιουργεί εικόνες, να αναλύει δεδομένα και να εκτελεί σύνθετες εργασίες.

Η λεγόμενη υπερνοημοσύνη, όμως, περιγράφει ένα θεωρητικό επόμενο στάδιο, στο οποίο ένα σύστημα θα μπορούσε να ξεπερνά σημαντικά τις ανθρώπινες ικανότητες σε ένα πολύ μεγάλο εύρος γνωστικών εργασιών.

Το μεγαλύτερο πρόβλημα δεν είναι απλώς ότι μια μηχανή θα μπορούσε να είναι «πιο έξυπνη».

Είναι το τι θα μπορούσε να συμβεί αν αποκτούσε παράλληλα μεγάλη αυτονομία, πρόσβαση σε υπολογιστικούς πόρους και δυνατότητα να βελτιώνει τις ίδιες τις ικανότητές της.

Εκεί βρίσκεται ο πυρήνας της συζήτησης για το AI alignment.

Τι σημαίνει «ευθυγράμμιση» της AI;

Η ευθυγράμμιση αφορά την προσπάθεια ώστε οι στόχοι και η συμπεριφορά ενός συστήματος AI να παραμένουν συμβατά με τις ανθρώπινες προθέσεις και αξίες.

Ακούγεται απλό.

Στην πράξη, όμως, είναι εξαιρετικά δύσκολο.

Ένα σύστημα μπορεί να ακολουθεί μια εντολή με τρόπο που ο άνθρωπος δεν είχε προβλέψει. Όσο αυξάνεται η αυτονομία του, τόσο μεγαλύτερη σημασία αποκτά η δυνατότητα να προβλέπουμε και να ελέγχουμε τη συμπεριφορά του.

Ο Samuel Marks, ερευνητής ασφάλειας της Anthropic, υποστήριξε επίσης ότι αρκετοί άνθρωποι στον χώρο της AI θεωρούν υπαρκτό το ενδεχόμενο εξαιρετικά σοβαρών συνεπειών και ότι η πίεση του ανταγωνισμού δυσκολεύει την επιβράδυνση της ανάπτυξης.

Η «κούρσα» προς την αυτοβελτιούμενη AI

Εδώ βρίσκεται ίσως το πιο ανησυχητικό σημείο.

Οι μεγάλες εταιρείες τεχνολογίας ανταγωνίζονται για ολοένα ισχυρότερα μοντέλα. Η οικονομική αξία της AI είναι τεράστια και καμία εταιρεία δεν θέλει να μείνει πίσω.

Αυτό δημιουργεί ένα δύσκολο δίλημμα:

Να προχωρήσουμε γρήγορα επειδή φοβόμαστε ότι κάποιος άλλος θα προχωρήσει πρώτος ή να επιβραδύνουμε ώστε να προλάβουμε να κατανοήσουμε τους κινδύνους;

Οι υποστηρικτές μεγαλύτερης προσοχής ζητούν αυστηρότερους ελέγχους, ανεξάρτητες αξιολογήσεις και καλύτερα συστήματα ασφάλειας πριν από την ανάπτυξη ακόμη ισχυρότερων μοντέλων.

Δεν συμφωνούν όλοι

Η εικόνα στον τεχνολογικό κόσμο δεν είναι ενιαία.

Υπάρχουν ερευνητές που θεωρούν ότι οι υπαρξιακοί κίνδυνοι της AI είναι πραγματικοί και χρειάζονται άμεση αντιμετώπιση.

Υπάρχουν όμως και άνθρωποι που θεωρούν υπερβολικές ορισμένες από τις πιο ακραίες προβλέψεις.

Παράλληλα, κυβερνήσεις και εταιρείες βρίσκονται αντιμέτωπες με ένα ακόμη πρόβλημα: ο γεωπολιτικός ανταγωνισμός.

Οι ΗΠΑ και η Κίνα δεν θέλουν να εγκαταλείψουν την τεχνολογική κούρσα. Έτσι, μια μονομερής επιβράδυνση θα μπορούσε να δημιουργήσει φόβους ότι ένας ανταγωνιστής θα αποκτήσει πλεονέκτημα.

Η πραγματική απειλή ίσως είναι η απώλεια ελέγχου

Δεν χρειάζεται να φανταστούμε μια κινηματογραφική εξέγερση μηχανών.

Οι ειδικοί που ανησυχούν μιλούν κυρίως για απώλεια ελέγχου, απρόβλεπτη συμπεριφορά, κακόβουλη χρήση και συστήματα που μπορούν να εκτελούν ολοένα περισσότερες ενέργειες χωρίς άμεση ανθρώπινη επίβλεψη.

Ήδη η συζήτηση για τους αυτόνομους AI agents έχει εντείνει τους προβληματισμούς, καθώς τα συστήματα αποκτούν τη δυνατότητα να εκτελούν ακολουθίες ενεργειών και όχι απλώς να απαντούν σε ερωτήσεις.

Το ζήτημα επομένως δεν είναι μόνο πόσο έξυπνη θα γίνει η AI.

Είναι πόσο αυτόνομη θα γίνει και πόσο αποτελεσματικά θα μπορούμε να την σταματήσουμε όταν κάτι πάει λάθος.

Τι χρειάζεται από εδώ και πέρα;

Η τεχνολογική πρόοδος δύσκολα μπορεί να σταματήσει εντελώς.

Μπορεί όμως να συνοδεύεται από κανόνες.

Χρειάζονται:

• ανεξάρτητοι έλεγχοι των ισχυρότερων μοντέλων,
• αυστηρότερες δοκιμές ασφάλειας,
• διεθνείς κανόνες για τα προηγμένα συστήματα,
• μεγαλύτερη διαφάνεια από τις εταιρείες,
• μηχανισμοί άμεσης ανθρώπινης παρέμβασης,
• και συνεργασία μεταξύ χωρών και τεχνολογικών εργαστηρίων.

Η πρόκληση είναι να μη φτάσουμε σε ένα σημείο όπου η τεχνολογία θα εξελίσσεται ταχύτερα από την ικανότητά μας να κατανοούμε τις συνέπειές της.

Η τεχνητή νοημοσύνη δεν είναι προδιαγεγραμμένο τέλος

Οι προειδοποιήσεις για την AI δεν σημαίνουν ότι η ανθρωπότητα οδηγείται αναπόφευκτα στην καταστροφή.

Η τεχνητή νοημοσύνη μπορεί να προσφέρει τεράστια οφέλη στην επιστήμη, την ιατρική, την εκπαίδευση και την οικονομία.

Το πραγματικό στοίχημα είναι να μπορέσουμε να αξιοποιήσουμε τη δύναμή της χωρίς να χάσουμε τον έλεγχο των συνεπειών της.

Γιατί όσο πιο ισχυρή γίνεται μια τεχνολογία, τόσο πιο σημαντικό γίνεται να υπάρχουν όρια.

Ίσως το μεγαλύτερο τεχνολογικό επίτευγμα του ανθρώπου δεν είναι να δημιουργήσει μια μηχανή πιο έξυπνη από τον ίδιο.

Είναι να μπορέσει να τη δημιουργήσει χωρίς να πάψει να κρατά το τιμόνι.

Αν αυτό το άρθρο σου κέντρισε το ενδιαφέρον, συνέχισε να ανακαλύπτεις τον κόσμο της επιστήμης μέσα από τις υπόλοιπες σελίδες της κατηγορίας  https://morfeszois.com/katigories/episthmh/

Θέλεις περισσότερα άρθρα;  Ακολούθησέ μας στο https://www.facebook.com/profile.php?id=61574820057874  και το https://www.instagram.com/morfeszois/  για να μη χάνεις τίποτα

Συντάκτρια  Δέσποινα Μπλάτζα – https://morfeszois.com/