Η τεχνητή νοημοσύνη αποκτά ολοένα μεγαλύτερο ρόλο στις στρατιωτικές επιχειρήσεις, προκαλώντας ανησυχία για την πιθανή εμπλοκή της σε αποφάσεις που αφορούν ακόμη και τη χρήση πυρηνικών όπλων. Ο ΟΗΕ αναλαμβάνει νέα πρωτοβουλία για τη θέσπιση διεθνών κανόνων.

Ένα σύστημα τεχνητής νοημοσύνης αναλύει δεδομένα από στρατιωτικά ραντάρ και δορυφόρους και προειδοποιεί για επικείμενη πυραυλική επίθεση. Οι υπεύθυνοι καλούνται να αποφασίσουν μέσα σε ελάχιστα λεπτά εάν η απειλή είναι πραγματική. Τι θα συμβεί όμως εάν ο υπολογιστής έχει κάνει λάθος;

Το ενδεχόμενο αυτό βρίσκεται στο επίκεντρο των ανησυχιών του Οργανισμού Ηνωμένων Εθνών, καθώς οι αλγόριθμοι αποκτούν όλο και μεγαλύτερη επιρροή στις στρατιωτικές αποφάσεις.

Σύμφωνα με το Associated Press, ο επικεφαλής του Ινστιτούτου Έρευνας Αφοπλισμού του ΟΗΕ (UNIDIR), Ρόμπιν Γκάις, προειδοποίησε στις 20 Οκτωβρίου ότι η αυξανόμενη χρήση της τεχνητής νοημοσύνης περιορίζει τον χρόνο που διαθέτουν οι άνθρωποι για να αξιολογήσουν κρίσιμες πληροφορίες.

Ο κίνδυνος στα πυρηνικά συστήματα

Η τεχνητή νοημοσύνη μπορεί να εντοπίζει ενδείξεις πιθανής επίθεσης πολύ ταχύτερα από έναν άνθρωπο. Ωστόσο, ενδέχεται να ερμηνεύσει λανθασμένα δεδομένα, οδηγώντας σε ψευδή συναγερμό.

Στην περίπτωση των πυρηνικών όπλων, μια τέτοια αστοχία θα μπορούσε να έχει καταστροφικές συνέπειες, ιδιαίτερα εάν οι υπεύθυνοι βασιστούν στην εκτίμηση του συστήματος χωρίς να έχουν επαρκή χρόνο να την επαληθεύσουν.

Ο γενικός γραμματέας του ΟΗΕ, Αντόνιο Γκουτέρες, έχει ζητήσει η απόφαση για τη χρήση πυρηνικών όπλων να παραμείνει αποκλειστικά σε ανθρώπινα χέρια.

Από την αναγνώριση στόχων μέχρι τα αυτόνομα όπλα

Η τεχνητή νοημοσύνη χρησιμοποιείται ήδη για την ανάλυση στρατιωτικών πληροφοριών, τον εντοπισμό πιθανών στόχων και την υποστήριξη επιχειρήσεων με drones.

Ορισμένα συστήματα περιορίζονται στην παροχή πληροφοριών στους χειριστές τους. Άλλα έχουν τη δυνατότητα να επιλέγουν και να πλήττουν στόχους χωρίς να απαιτείται νέα ανθρώπινη εντολή.

Αυτή η εξέλιξη δημιουργεί σοβαρά ερωτήματα για την προστασία των αμάχων, καθώς ένα αυτόνομο όπλο μπορεί να δυσκολεύεται να αξιολογήσει σύνθετες καταστάσεις στο πεδίο της μάχης.

Παράλληλα, τίθεται το ζήτημα της ευθύνης σε περίπτωση παράνομης επίθεσης. Η χρήση τεχνητής νοημοσύνης δεν απαλλάσσει τα κράτη και τους στρατιωτικούς διοικητές από τις υποχρεώσεις τους βάσει του διεθνούς δικαίου.

Η νέα πρωτοβουλία του ΟΗΕ

Στις 22 Οκτωβρίου, το UNIDIR παρουσίασε νέα διεθνή πρωτοβουλία για τη συνεργασία κυβερνήσεων, επιστημόνων και τεχνολογικών εταιρειών στη στρατιωτική χρήση της τεχνητής νοημοσύνης.

Η προσπάθεια επικεντρώνεται στη διαμόρφωση κανόνων υπεύθυνης ανάπτυξης της τεχνολογίας, στον καθορισμό κοινών ορισμών για τα αυτόνομα συστήματα και στην αντιμετώπιση της πιθανής αξιοποίησής τους από ένοπλες οργανώσεις.

Αξιοσημείωτο είναι ότι το σχετικό Κέντρο Αριστείας του UNIDIR έχει λάβει χρηματοδότηση και από τις πέντε αναγνωρισμένες πυρηνικές δυνάμεις: ΗΠΑ, Ρωσία, Κίνα, Βρετανία και Γαλλία.

Η χρηματοδότηση αυτή δεν συνεπάγεται συμφωνία των συγκεκριμένων κρατών για περιορισμούς στα όπλα τεχνητής νοημοσύνης.

Η τεχνολογία προχωρά, οι διεθνείς κανόνες καθυστερούν

Ο ΟΗΕ και η Διεθνής Επιτροπή του Ερυθρού Σταυρού ζητούν τη σύναψη νομικά δεσμευτικής συμφωνίας που θα απαγορεύει ορισμένες κατηγορίες αυτόνομων όπλων και θα επιβάλλει αυστηρούς περιορισμούς σε άλλες.

Μέχρι σήμερα, ωστόσο, δεν έχει επιτευχθεί μια τέτοια παγκόσμια συμφωνία, ενώ οι στρατιωτικές εφαρμογές της τεχνητής νοημοσύνης εξελίσσονται με ταχύτητα.

Η νέα πρωτοβουλία επιχειρεί να καλύψει μέρος αυτού του κενού, χωρίς προς το παρόν να θεσπίζει δεσμευτικές υποχρεώσεις.

Προσθήκη του Paidis.com ως προτεινόμενη πηγή στην Google

Προσοχή! Επιτρέπεται η αναδημοσίευση των πληροφοριών του παραπάνω άρθρου ή μέρους αυτών μόνο αν αναφέρεται ως πηγή το https://paidis.com/ και υπάρχει ενεργός σύνδεσμος.