Δεν πρόκειται για σενάριο επιστημονικής φαντασίας ούτε για μια προειδοποίηση από κάποιον πολέμιο της τεχνολογίας. Αυτή τη φορά, οι ανησυχητικές δηλώσεις έρχονται από ανθρώπους που βρίσκονται –ή βρίσκονταν μέχρι πριν από λίγες ημέρες– μέσα στα εργαστήρια όπου αναπτύσσονται μερικά από τα ισχυρότερα συστήματα τεχνητής νοημοσύνης στον κόσμο.

Ο 27χρονος ερευνητής Jacob Coxon, ο οποίος εργάστηκε επί τρία χρόνια στην ανάπτυξη προηγμένων μοντέλων τεχνητής νοημοσύνης στην OpenAI και στη συνέχεια στην Anthropic, παραιτήθηκε από την τελευταία στις 8 Σεπτεμβρίου, προκαλώντας μεγάλη συζήτηση στη Silicon Valley.

Και ο λόγος της παραίτησής του ήταν ιδιαίτερα ανησυχητικός.

Ο Coxon κατηγόρησε τις δύο εταιρείες ότι συμμετέχουν σε μια κούρσα προς την ανάπτυξη αυτοβελτιούμενης υπερνοημοσύνης, χωρίς να υπάρχουν ακόμη επαρκείς εγγυήσεις ότι ένα τέτοιο σύστημα θα μπορεί να παραμείνει υπό ανθρώπινο έλεγχο.

«Οι άνθρωποι που κατασκευάζουν την AI πιστεύουν πραγματικά ότι θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας», έγραψε, υποστηρίζοντας ότι οι εταιρείες «τζογάρουν με τις ζωές μας».

Σε συνέντευξή του στο WIRED προχώρησε ακόμη περισσότερο, λέγοντας ότι μεταξύ πολλών ανθρώπων που εργάζονται στον χώρο επικρατεί η αίσθηση πως «τα επόμενα ένα με δύο χρόνια είναι κρίσιμα για την ανθρωπότητα».

Τι φοβάται πραγματικά ο Coxon

Η ανησυχία δεν αφορά τα σημερινά chatbots που απαντούν σε ερωτήσεις, γράφουν κείμενα ή δημιουργούν εικόνες.

Το κρίσιμο σημείο είναι η λεγόμενη αναδρομική ή recursive αυτοβελτίωση.

Πρόκειται για το ενδεχόμενο ένα προηγμένο σύστημα AI να γίνει αρκετά ικανό ώστε να συμμετέχει ουσιαστικά στην έρευνα και στον προγραμματισμό της επόμενης, καλύτερης γενιάς AI. Εκείνη με τη σειρά της θα μπορούσε να βοηθήσει στη δημιουργία μιας ακόμη ισχυρότερης γενιάς και ο κύκλος να επαναλαμβάνεται ολοένα και ταχύτερα.

Ο φόβος ορισμένων ερευνητών είναι ότι, εάν αυτή η διαδικασία εξελιχθεί πολύ γρήγορα, η ανθρωπότητα μπορεί να μην προλάβει να δημιουργήσει αντίστοιχα αποτελεσματικούς μηχανισμούς ελέγχου.

Ο Coxon υποστηρίζει ότι ήδη τα μοντέλα γίνονται εξαιρετικά ικανά σε τομείς όπως ο προγραμματισμός, τα μαθηματικά και οι κυβερνοεπιθέσεις και ότι η πρόοδος δεν δείχνει να επιβραδύνεται.

Ερευνητής της Anthropic: Πάνω από 10% πιθανότητα να σκοτώσει η AI όλους τους ανθρώπους

Ακόμη μεγαλύτερη αίσθηση προκάλεσε η αντίδραση του Evan Hubinger, επικεφαλής του Alignment Science στην Anthropic – του ερευνητικού τομέα που ασχολείται ακριβώς με το πώς τα προηγμένα συστήματα AI μπορούν να παραμένουν ευθυγραμμισμένα με τις ανθρώπινες προθέσεις και υπό έλεγχο.

Ο Hubinger όχι μόνο δεν απέρριψε τις ανησυχίες του πρώην συναδέλφου του, αλλά δήλωσε δημόσια:

«Πραγματικά πιστεύουμε ότι η AI θα μπορούσε να σκοτώσει όλους τους ανθρώπους. Προσωπικά θεωρώ ότι η πιθανότητα είναι μεγαλύτερη από 10% μέσα στην επόμενη δεκαετία».

Παράλληλα ξεκαθάρισε ότι θεωρεί πως η Anthropic προσπαθεί σοβαρά να αντιμετωπίσει το πρόβλημα.

Το ανησυχητικό, σύμφωνα με τον ίδιο, είναι κάτι διαφορετικό: παραδέχθηκε ότι δεν υπάρχει ακόμη σχέδιο που να έχει λύσει το πρόβλημα της ασφαλούς ευθυγράμμισης μιας μελλοντικής υπερνοημοσύνης, ούτε είναι σαφές ότι η έρευνα βρίσκεται σε πορεία που θα οδηγήσει εγκαίρως σε μια τέτοια λύση.

Και τώρα ο επικεφαλής της Anthropic ζητά επιβράδυνση

Μόλις λίγες ημέρες μετά τις παραπάνω δηλώσεις, ήρθε μια ακόμη εξέλιξη.

Ο διευθύνων σύμβουλος και συνιδρυτής της Anthropic Dario Amodei κάλεσε στις 12 Σεπτεμβρίου τις εταιρείες τεχνητής νοημοσύνης να επιβραδύνουν τον ρυθμό με τον οποίο αυξάνουν τις δυνατότητες των μοντέλων τους.

«Πρέπει να επιβραδύνουμε τον ρυθμό με τον οποίο βελτιώνουμε τις δυνατότητες των μοντέλων AI», έγραψε.

Η πρότασή του δεν είναι να σταματήσει η ανάπτυξη της τεχνητής νοημοσύνης. Στόχος, όπως υποστηρίζει, είναι να κερδηθεί πολύτιμος χρόνος ώστε οι μηχανισμοί ασφαλείας να μπορέσουν να συμβαδίσουν με τις δυνατότητες των νέων συστημάτων.

Ο Amodei προτείνει μεταξύ άλλων ανεξάρτητους ελέγχους των εταιρειών AI, κοινά πρότυπα ασφαλείας για ολόκληρο τον κλάδο και διεθνή συνεργασία.

Ακόμη και ο Sam Altman μιλά για «απαράδεκτο» κίνδυνο

Η συζήτηση πλέον δεν περιορίζεται στην Anthropic.

Ο επικεφαλής της OpenAI, Sam Altman, δήλωσε ότι ακόμη και πιθανότητα 10% να προκαλέσει η τεχνητή νοημοσύνη την εξαφάνιση της ανθρωπότητας έως το τέλος της δεκαετίας θα ήταν «απαράδεκτη».

Παράλληλα εξέφρασε συμφωνία με βασικές ανησυχίες του Amodei και τάχθηκε υπέρ ισχυρότερων ανεξάρτητων μηχανισμών αξιολόγησης της ασφάλειας των συστημάτων AI.

Ο Elon Musk επίσης εξέφρασε τη συμφωνία του με την έκκληση Amodei για επιβράδυνση της ανάπτυξης των ισχυρότερων μοντέλων.

Περισσότεροι από 1.200 άνθρωποι μέσα στην AI είχαν ήδη ζητήσει σχέδιο «φρένου»

Οι τελευταίες προειδοποιήσεις δεν εμφανίστηκαν από το πουθενά.

Τον Ιούλιο, περισσότεροι από 1.200 εργαζόμενοι και στελέχη κορυφαίων εργαστηρίων τεχνητής νοημοσύνης υπέγραψαν πρωτοβουλία με τίτλο «Pacing the Frontier».

Ανάμεσα στους υπογράφοντες βρίσκονταν άνθρωποι από τις Anthropic, OpenAI, Google DeepMind και Meta, μεταξύ αυτών ο Dario Amodei, ο επικεφαλής επιστήμονας της OpenAI Jakub Pachocki και άλλα κορυφαία στελέχη του χώρου.

Δεν ζητούσαν να σταματήσει τώρα η ανάπτυξη της AI.

Ζητούσαν όμως να δημιουργηθούν εκ των προτέρων οι μηχανισμοί που θα επιτρέψουν μια συντονισμένη επιβράδυνση.

Το βασικό επιχείρημα είναι απλό: καμία εταιρεία δεν μπορεί εύκολα να πατήσει φρένο μόνη της, εάν πιστεύει ότι οι ανταγωνιστές της θα συνεχίσουν να τρέχουν. Για αυτό οι υπογράφοντες ζητούν κοινά πρότυπα, κρατική εποπτεία και διεθνή συνεννόηση.

Είναι πραγματικά πιθανό «να πεθάνουμε όλοι»;

Εδώ χρειάζεται μια σημαντική διευκρίνιση.

Οι συγκεκριμένες δηλώσεις δεν αποτελούν επιστημονική πρόβλεψη ότι η ανθρωπότητα θα εξαφανιστεί, ούτε υπάρχει επιστημονική συναίνεση ότι ένα τέτοιο σενάριο είναι αναπόφευκτο.

Ωστόσο, κάτι έχει αλλάξει αισθητά στη δημόσια συζήτηση: οι προειδοποιήσεις για έναν ενδεχόμενο υπαρξιακό κίνδυνο δεν προέρχονται πλέον μόνο από εξωτερικούς επικριτές της AI. Προέρχονται από ανθρώπους που κατασκευάζουν τα ίδια τα συστήματα, από ερευνητές που ασχολούνται με την ασφάλειά τους και, πλέον, ακόμη και από τους επικεφαλής ορισμένων από τις ισχυρότερες εταιρείες τεχνητής νοημοσύνης στον κόσμο.

Το ερώτημα που θέτουν πλέον οι ίδιοι οι άνθρωποι που βρίσκονται στην πρώτη γραμμή της AI είναι διαφορετικό: τι θα συμβεί εάν η τεχνολογία αρχίσει να εξελίσσεται ταχύτερα από την ικανότητά μας να την ελέγχουμε;

Και, για πρώτη φορά, αρκετοί από αυτούς λένε δημόσια ότι πρέπει να πατήσουμε φρένο πριν μάθουμε την απάντηση.

Προσθήκη του Paidis.com ως προτεινόμενη πηγή στην Google

Προσοχή! Επιτρέπεται η αναδημοσίευση των πληροφοριών του παραπάνω άρθρου ή μέρους αυτών μόνο αν αναφέρεται ως πηγή το https://paidis.com/ και υπάρχει ενεργός σύνδεσμος.