Η συζήτηση για τους κινδύνους που μπορεί να δημιουργήσει η Τεχνητή Νοημοσύνη (ΑΙ) έχει ενταθεί σημαντικά τα τελευταία χρόνια. Ερευνητές και άνθρωποι που εργάζονται στην ανάπτυξη προηγμένων μοντέλων προειδοποιούν ότι, παρά τα σημαντικά οφέλη της τεχνολογίας, η ανεξέλεγκτη εξέλιξή της θα μπορούσε να δημιουργήσει σοβαρούς κινδύνους.
Αφορμή για νέα συζήτηση αποτέλεσαν δηλώσεις ερευνητών που υποστηρίζουν ότι η τεχνητή νοημοσύνη θα μπορούσε, υπό συγκεκριμένες συνθήκες, να εξελιχθεί σε απειλή για την ίδια την ανθρώπινη ύπαρξη.
Ο ερευνητής Τεχνητής Νοημοσύνης Τζέικομπ Κόξον, ο οποίος έχει εργαστεί στην Anthropic και προηγουμένως στην OpenAI, υποστήριξε ότι οι εταιρείες του κλάδου «παίζουν τζόγο με τις ζωές μας». Παράλληλα, ανέφερε ότι ορισμένοι από όσους αναπτύσσουν προηγμένα συστήματα ΑΙ θεωρούν πιθανό ένα ακραίο σενάριο εξαφάνισης της ανθρωπότητας μέχρι το τέλος της δεκαετίας.
Παρόμοια άποψη έχει εκφράσει και ο μηχανικός ασφαλείας Έβαν Χούμπινγκερ, ο οποίος έχει υποστηρίξει ότι υπάρχει πραγματική πιθανότητα η ΑΙ να οδηγήσει σε καταστροφικές συνέπειες μέσα στην επόμενη δεκαετία.
Ακόμη και ο Τζέφρι Χίντον, ένας από τους σημαντικότερους ερευνητές στον χώρο της Τεχνητής Νοημοσύνης, έχει αναφερθεί στο ενδεχόμενο. Όπως έχει δηλώσει στο BBC, η πιθανότητα η ΑΙ να οδηγήσει στην εξαφάνιση της ανθρωπότητας δεν μπορεί να υπολογιστεί με βεβαιότητα, όμως μια εκτίμηση της τάξης του 10% δεν θα ήταν παράλογη.
Τι απάντησε η ίδια η Τεχνητή Νοημοσύνη
Με δεδομένες αυτές τις εκτιμήσεις, ο Independent επιχείρησε να εξετάσει το ίδιο ερώτημα από μια διαφορετική οπτική: τι πιθανότητες δίνει ένα σύστημα ΑΙ στο ενδεχόμενο η Τεχνητή Νοημοσύνη να εξαφανίσει την ανθρωπότητα μέσα στα επόμενα δέκα χρόνια;
Για την ανάλυση χρησιμοποιήθηκε το Noah Predict, ένα σύστημα που επεξεργάζεται μεγάλο όγκο ειδήσεων και δεδομένων με στόχο την εκτίμηση τάσεων και πιθανών κινδύνων.
Το σύστημα εξέτασε 41 διαφορετικές γραμμές έρευνας και 108 ερευνητικούς ελέγχους, αξιοποιώντας περίπου 52 εκατομμύρια δεδομένα.
Το αποτέλεσμα ήταν αρκετά διαφορετικό από την εκτίμηση του 10%.
Το Noah Predict υπολόγισε την πιθανότητα η ΑΙ να οδηγήσει στην εξαφάνιση της ανθρωπότητας μέσα στην επόμενη δεκαετία σε 0,85%, δηλαδή περίπου μία πιθανότητα στις 118.
Παρότι το ποσοστό είναι μικρό, δεν θεωρείται αμελητέο, καθώς ένα ενδεχόμενο τέτοιου μεγέθους θα μπορούσε να έχει μη αναστρέψιμες συνέπειες.
Ποιοι είναι οι βασικοί κίνδυνοι από την ΑΙ
Το Noah Predict κλήθηκε επίσης να εξετάσει ποιοι παράγοντες θα μπορούσαν να οδηγήσουν σε ένα ακραίο σενάριο και ποια μέτρα θα μπορούσαν να περιορίσουν τους κινδύνους.
1. Ο ανθρώπινος παράγοντας
Σύμφωνα με την ανάλυση, ο πιο άμεσος κίνδυνος δεν προέρχεται απαραίτητα από μια ΑΙ που θα αποφασίσει αυτόνομα να στραφεί εναντίον της ανθρωπότητας. Αντίθετα, σημαντικό ρόλο μπορεί να διαδραματίσει η κακόβουλη χρήση της τεχνολογίας από ανθρώπους.
Όπως αναφέρεται χαρακτηριστικά:
«Η πιο άμεση απειλή προέρχεται από τους ανθρώπους, όχι από μια μηχανή που αποφασίζει ότι η ανθρωπότητα είναι αναλώσιμη».
Παράλληλα, η ΑΙ θα μπορούσε να δώσει σε έναν κακόβουλο παράγοντα τη δυνατότητα να εκτελεί επικίνδυνες ενέργειες πιο γρήγορα, με χαμηλότερο κόστος και μεγαλύτερη αποτελεσματικότητα.
Ένα χαρακτηριστικό παράδειγμα αφορά τις κυβερνοεπιθέσεις. Το Εθνικό Κέντρο Κυβερνοασφάλειας της Βρετανίας είχε εκτιμήσει ότι η χρήση της ΑΙ θα μπορούσε να αυξήσει τη συχνότητα και την ένταση των κυβερνοαπειλών.
Ωστόσο, ακόμη και μια σοβαρή επίθεση σε κρίσιμες υποδομές, όπως ένα νοσοκομείο ή ένα δίκτυο ηλεκτροδότησης, δεν θα σήμαινε αυτομάτως κίνδυνο εξαφάνισης της ανθρωπότητας.
2. Αποτυχία ή ευρεία δυσλειτουργία λογισμικού
Ένας δεύτερος κίνδυνος αφορά την υπερβολική εξάρτηση από αυτοματοποιημένα συστήματα.
Το Noah Predict επισημαίνει ότι ένα σύστημα ΑΙ δεν χρειάζεται απαραίτητα να παρουσιάσει μια θεαματική δυσλειτουργία για να προκαλέσει σοβαρές αναταράξεις.
Εάν οι επιχειρήσεις και οι οργανισμοί χρησιμοποιούν την ΑΙ για την αυτοματοποίηση εργασιών με ταχύτητα μεγαλύτερη από εκείνη με την οποία μπορούν οι εργαζόμενοι να επανεκπαιδευτούν, θα μπορούσαν να προκύψουν σημαντικές κοινωνικές και οικονομικές ανισορροπίες.
Παράλληλα, όσο περισσότερες κρίσιμες υπηρεσίες εξαρτώνται από αυτοματοποιημένα συστήματα, τόσο μεγαλύτερες θα μπορούσαν να είναι οι επιπτώσεις μιας κοινής τεχνικής βλάβης.
Η απώλεια θέσεων εργασίας και η πιθανή κοινωνική και πολιτική αστάθεια αποτελούν σημαντικές ανησυχίες, όμως από μόνες τους θεωρείται δύσκολο να οδηγήσουν σε εξαφάνιση της ανθρωπότητας.
3. Απώλεια ανθρώπινου ελέγχου
Το πιο ακραίο σενάριο αφορά ένα σύστημα ΑΙ που έχει σχεδιαστεί για να επιτυγχάνει έναν συγκεκριμένο στόχο και τελικά αντιμετωπίζει την ανθρώπινη παρέμβαση ως εμπόδιο.
Σε μια τέτοια περίπτωση, το σύστημα θα μπορούσε να συνεχίσει να επιδιώκει τον στόχο του παρά τις προσπάθειες των ανθρώπων να το διορθώσουν ή να το απενεργοποιήσουν.
Το Noah Predict υπογραμμίζει, ωστόσο, ότι υπάρχει σημαντική διαφορά ανάμεσα σε ένα σύστημα που εμφανίζει προβληματική συμπεριφορά σε ένα ελεγχόμενο εργαστηριακό περιβάλλον και σε μια πραγματική απειλή που μπορεί να διατηρηθεί αυτόνομα.
«Ένα εργαστηριακό αποτέλεσμα μπορεί να αποκαλύψει μια αδυναμία χωρίς να δημιουργήσει μια αυτόνομη, αυτοσυντηρούμενη απειλή».
Το κρίσιμο ερώτημα είναι αν μια τέτοια συμπεριφορά μπορεί να επαναληφθεί, τι είδους πρόσβαση διαθέτει το σύστημα, αν οι άνθρωποι μπορούν να την εντοπίσουν και κυρίως αν μπορούν να παρέμβουν αποτελεσματικά.
Πώς μπορεί να περιοριστεί ο κίνδυνος
Η απάντηση που προκύπτει από την ανάλυση είναι η διατήρηση ισχυρών μηχανισμών ανθρώπινου ελέγχου.
Τα συστήματα ΑΙ θα πρέπει να διαθέτουν περιορισμένα δικαιώματα και πρόσβαση, ενώ παράλληλα θα πρέπει να υπάρχουν μηχανισμοί άμεσης διακοπής της λειτουργίας τους.
Ιδιαίτερη σημασία έχει επίσης η δοκιμή των συστημάτων σε διαφορετικά και απαιτητικά σενάρια, καθώς και η συνεχής επαλήθευση ότι οι διαδικασίες απενεργοποίησης και αποκατάστασης λειτουργούν στην πράξη.
Η μεγάλη πρόκληση για την ΑΙ
Οι κίνδυνοι που εξετάζονται δεν λειτουργούν απαραίτητα μεμονωμένα. Η οικονομική αναστάτωση, η πολιτική αστάθεια, η κακόβουλη χρήση της τεχνολογίας και η πιθανή απώλεια ανθρώπινου ελέγχου θα μπορούσαν να αλληλεπιδράσουν και να ενισχύσουν ο ένας τον άλλο.
Το βασικό συμπέρασμα είναι ότι η ανάπτυξη της Τεχνητής Νοημοσύνης θα πρέπει να συνοδεύεται από αντίστοιχη πρόοδο στον τομέα της ασφάλειας.
Η ΑΙ μπορεί να προσφέρει σημαντικές δυνατότητες σε πολλούς τομείς, όμως η αξιοποίησή της απαιτεί παράλληλα αυστηρούς κανόνες, επαρκείς δικλίδες ασφαλείας και διατήρηση του ανθρώπινου ελέγχου, ιδιαίτερα όσο τα συστήματα γίνονται ισχυρότερα και αποκτούν πρόσβαση σε περισσότερες κρίσιμες λειτουργίες.
