Η Google απέσυρε εργαλείο AI μέσα σε λιγότερο από 24 ώρες – Αυτό που κατάφεραν οι πρώτοι χρήστες προκάλεσε συναγερμό
Μία νέα λειτουργία τεχνητής νοημοσύνης της Google έμεινε διαθέσιμη λιγότερο από ένα 24ωρο, πριν η ίδια η εταιρεία αποφασίσει να την αποσύρει. Ο λόγος δεν ήταν κάποιο τεχνικό πρόβλημα, αλλά ο φόβος ότι θα μπορούσε να χρησιμοποιηθεί για τη δημιουργία εξαιρετικά πειστικών ψεύτικων δορυφορικών εικόνων, με πιθανές συνέπειες στην ενημέρωση, την ασφάλεια και τη δημόσια εμπιστοσύνη.
Το περιστατικό αποτελεί ακόμη μία ένδειξη ότι η τεχνητή νοημοσύνη εξελίσσεται ταχύτερα από τους μηχανισμούς που μπορούν να ελέγξουν την ασφαλή χρήση της, δημιουργώντας νέα ερωτήματα για το πού πρέπει να μπαίνουν τα όρια.
Ένα εργαλείο που δημιουργούσε… δορυφορικές εικόνες από μια απλή περιγραφή
Η νέα λειτουργία, που ενσωματώθηκε πιλοτικά στο Google Earth, επέτρεπε στον χρήστη να πληκτρολογήσει μια απλή περιγραφή και η τεχνητή νοημοσύνη να δημιουργήσει μια φωτορεαλιστική εικόνα σαν να είχε ληφθεί από δορυφόρο.
Οι δυνατότητες για νόμιμες χρήσεις ήταν πολλές. Θα μπορούσε να αξιοποιηθεί στην πολεοδομία, την αρχιτεκτονική, την εκπαίδευση, την παρουσίαση έργων υποδομής ή ακόμη και στον σχεδιασμό πόλεων.
Ωστόσο, πολύ γρήγορα έγινε φανερό ότι η ίδια τεχνολογία μπορούσε να χρησιμοποιηθεί και για την παραγωγή εικόνων που δεν αντιστοιχούσαν σε πραγματικά γεγονότα.
Οι πρώτες δοκιμές αποκάλυψαν τον κίνδυνο
Μέσα σε λίγες ώρες από τη διάθεσή του, ερευνητές και ειδικοί στην κυβερνοασφάλεια άρχισαν να δοκιμάζουν τα όρια του συστήματος.
Σύμφωνα με τις δοκιμές τους, ήταν δυνατό να παραχθούν ιδιαίτερα ρεαλιστικές εικόνες που εμφάνιζαν ανύπαρκτες πυρκαγιές, μεγάλες πλημμύρες, καταστροφές από πολεμικές επιχειρήσεις, ακόμη και στρατιωτικές εγκαταστάσεις που δεν υπήρχαν.
Οι εικόνες αυτές θα μπορούσαν εύκολα να διαμοιραστούν στα κοινωνικά δίκτυα, δίνοντας την εντύπωση ότι πρόκειται για πραγματικό δορυφορικό υλικό.
Γιατί το θέμα ανησυχεί τόσο τους ειδικούς
Οι δορυφορικές εικόνες αποτελούν σήμερα ένα από τα σημαντικότερα εργαλεία επαλήθευσης πληροφοριών.
Χρησιμοποιούνται καθημερινά από δημοσιογράφους, επιστήμονες, υπηρεσίες πολιτικής προστασίας, διεθνείς οργανισμούς και ερευνητές για να επιβεβαιώνουν φυσικές καταστροφές, πυρκαγιές, πλημμύρες ή στρατιωτικές εξελίξεις.
Αν όμως η τεχνητή νοημοσύνη μπορεί να δημιουργεί εικόνες σχεδόν αδύνατο να ξεχωρίσουν από τις πραγματικές, τότε η παραπληροφόρηση αποκτά ένα ακόμη πιο ισχυρό εργαλείο.
Οι ειδικοί εκτιμούν ότι τέτοιες εικόνες θα μπορούσαν να χρησιμοποιηθούν για τη διασπορά ψευδών ειδήσεων, τη δημιουργία πανικού σε περιόδους φυσικών καταστροφών ή ακόμη και για την παραπλάνηση της κοινής γνώμης σε διεθνείς κρίσεις.
Η άμεση απόφαση της Google
Απέναντι στις αντιδράσεις, η Google επέλεξε να αποσύρει προσωρινά τη λειτουργία, ώστε να προσθέσει ισχυρότερα φίλτρα ασφαλείας και μηχανισμούς που θα αποτρέπουν την κακόβουλη χρήση της.
Η εταιρεία έχει αφήσει ανοιχτό το ενδεχόμενο να επαναφέρει το εργαλείο όταν διασφαλίσει ότι θα υπάρχουν επαρκείς δικλίδες προστασίας.
Η μεγαλύτερη πρόκληση της εποχής του AI
Το περιστατικό δείχνει ότι η μεγαλύτερη πρόκληση της τεχνητής νοημοσύνης δεν είναι πλέον μόνο τί μπορεί να δημιουργήσει, αλλά και πώς μπορεί να αποτρέπεται η κατάχρησή της.
Προσοχή! Επιτρέπεται η αναδημοσίευση των πληροφοριών του παραπάνω άρθρου ή μέρους αυτών μόνο αν αναφέρεται ως πηγή το https://paidis.com/ και υπάρχει ενεργός σύνδεσμος.
▌ΤΑ ΠΙΟ ΔΗΜΟΦΙΛΗ ΣΗΜΕΡΑ
