Το Supermind Είναι Εκτός Ελέγχου. Οι Επιστήμονες Ανησυχούν Για Μια Νέα Απειλή

Τα επιτεύγματα των τελευταίων ετών στον τομέα της μηχανικής μάθησης κατέστησαν δυνατή τη δημιουργία αυτόνομων ρομποτικών συστημάτων, συμπεριλαμβανομένων των στρατιωτικών. Από αυτή την άποψη, μια συζήτηση σχετικά με τους πιθανούς κινδύνους που συνδέονται με την ανάπτυξη της τεχνητής νοημοσύνης έχει φουντώσει στην επιστημονική κοινότητα με ανανεωμένο σθένος. Πρόσφατη έρευνα έδειξε ότι οι αποφάσεις που λαμβάνονται από υπολογιστές συχνά θεωρούνται άδικες από τους ανθρώπους και ο έλεγχος της υπερευφυΐας είναι μακροπρόθεσμα αδύνατος λόγω των θεμελιωδών αρχών που τη διέπουν.

Από τη φαντασία στην πραγματικότητα

Συγγραφέας του όρου «τεχνητή νοημοσύνη» (AI) θεωρείται ο Άλαν Τούρινγκ, Βρετανός μαθηματικός, ένας από τους ιδρυτές της θεωρίας της επιστήμης των υπολογιστών. Μίλησε για αυτό το 1950.

Για περισσότερο από μισό αιώνα, το θέμα της ανόδου των μηχανών ήταν εξαιρετικά δημοφιλές, αλλά γενικά δεν ξεπερνούσε το πεδίο των μυθιστορημάτων και ταινιών επιστημονικής φαντασίας. Σοβαρά, οι υπαρκτικοί κίνδυνοι που συνδέονται με την τεχνητή νοημοσύνη άρχισαν να συζητούνται σχετικά πρόσφατα – αφού οι ψηφιακές τεχνολογίες έχουν διεισδύσει βαθιά σε όλους τους τομείς της ζωής.

Χωρίς υπολογιστή και smartphone, ένας σύγχρονος άνθρωπος δεν μπορεί να κάνει ούτε λίγες ώρες. Ακόμη και μια βραχυπρόθεσμη αποτυχία επικοινωνίας ή διακοπή του Διαδικτύου μπορεί να παραλύσει ολόκληρες βιομηχανίες, να προκαλέσει κατάρρευση των μεταφορών και της ενέργειας.

Αλλά το «πρόβλημα διακοπής», όπως αποκαλούν οι ειδικοί αυτήν την κατάσταση, δεν είναι η χειρότερη προοπτική. Όσο οι μηχανές μπορούν να απενεργοποιηθούν ή να επαναπρογραμματιστούν, παραμένουν υπό τον ανθρώπινο έλεγχο. Οι πραγματικές απειλές θα προκύψουν όταν το AI γίνει πιο έξυπνο από εμάς. Και η ανθρωπότητα έχει πλησιάσει αυτή τη γραμμή.

εξυπνότερος από τον πιο έξυπνο

Σήμερα, η τεχνητή νοημοσύνη αναλύει ιατρικές εικόνες με μεγαλύτερη ακρίβεια από οποιονδήποτε γιατρό, βελτιστοποιεί τις λογιστικές διαδρομές καλύτερα από τον πιο έμπειρο διεκπεραιωτή και εκτελεί χιλιάδες περισσότερες λειτουργίες παραγωγής και διαχείρισης πιο αποτελεσματικά από έναν άνθρωπο. Και η δύναμη των υπερυπολογιστών για την επεξεργασία και την ανάλυση πληροφοριών είναι πολλές φορές μεγαλύτερη από τις δυνατότητες όλων των ανθρώπων στον πλανήτη μαζί.

Σύμφωνα με τον Σουηδό φιλόσοφο, καθηγητή του Πανεπιστημίου της Οξφόρδης, Nick Bustrem, γνωστό για το έργο του στον τομέα του διανθρωπισμού, έρχεται η εποχή της υπερνοημοσύνης – η τεχνητή νοημοσύνη, η οποία όχι μόνο είναι «πιο έξυπνη από τους καλύτερους ανθρώπινους εγκεφάλους σε όλους σχεδόν τους τομείς», αλλά είναι επίσης έτοιμο να αναλάβει δημιουργικές λειτουργίες που παραδοσιακά θεωρούνται προνόμιο του ανθρώπου. Αλλά το κύριο πράγμα στα υπερέξυπνα συστήματα είναι η ικανότητα να ενεργούν ανεξάρτητα, να λαμβάνουν τις δικές τους αποφάσεις με βάση την ανάλυση εξωτερικών πληροφοριών.

Η υπερευφυΐα των υπολογιστών πρόκειται να ανατεθεί με τη διαχείριση μεμονωμένων διαδικασιών στην παραγωγή και την εφοδιαστική. Καθαρά τεχνικά, αυτό δεν είναι δύσκολο να εφαρμοστεί, αλλά δεν είναι σαφές σε ποιο βαθμό θα μπορέσει ένα άτομο να διορθώσει τις ενέργειες του μηχανήματος και πόσο μεγάλος είναι ο κίνδυνος η τεχνητή νοημοσύνη κάποια στιγμή να ξεφύγει από τον έλεγχο. Επιπλέον, δεν είναι ξεκάθαρο πώς να βάλουμε στον υπολογιστή τις έννοιες της ηθικής και της δικαιοσύνης που επηρεάζουν τη λήψη των ανθρώπινων αποφάσεων.

Δικαιοσύνη εναντίον ορθολογισμού

Αν και τα ηθικά ζητήματα που σχετίζονται με τη χρήση της υπερευφυΐας παραμένουν ανοιχτά, τέτοια συστήματα χρησιμοποιούνται ήδη ενεργά, συμπεριλαμβανομένης της κοινωνικής σφαίρας. Γερμανοί επιστήμονες ανακάλυψαν πώς αντιδρούν οι άνθρωποι σε αυτό.

Ζητήθηκε από τους συμμετέχοντες στο πείραμα να αξιολογήσουν σε κλίμακα δικαιοσύνης υπό όρους τις αποφάσεις που ελήφθησαν σε αυτόματη, ημιαυτόματη ή εντελώς χειροκίνητη λειτουργία σε τέσσερις συγκεκριμένες περιπτώσεις: κατά την υποβολή αίτησης για τραπεζικό δάνειο, την επιλογή ενός υποψηφίου για την κάλυψη μιας κενής θέσης, αντιδικία και χορήγηση επιδομάτων ανεργίας. Οι χειρότερες ήταν οι αυτόματες αποφάσεις και οι πιο δίκαιες ήταν αυτές που ελήφθησαν από κοινού από υπολογιστή και άτομο.

Οι συγγραφείς του έργου σημειώνουν ότι η τεχνητή νοημοσύνη έχει ένα αναμφισβήτητο πλεονέκτημα στην επεξεργασία μεγάλων ποσοτήτων δεδομένων, αλλά δεν λαμβάνει υπόψη τις συνοδευτικές περιστάσεις – το λεγόμενο πλαίσιο απόφασης. Και σε καταστάσεις που επηρεάζουν τα συμφέροντα των ανθρώπων ή αφορούν την υγεία και τη ζωή τους, αυτό μπορεί να γίνει κρίσιμος παράγοντας.

«Υπερέξυπνα» τουφέκια επίθεσης Καλάσνικοφ

Το 2015, εκατοντάδες κορυφαίοι εμπειρογνώμονες παγκοσμίως στον τομέα της ρομποτικής και της τεχνητής νοημοσύνης δημοσίευσαν μια ανοιχτή επιστολή προς τον ΟΗΕ ζητώντας την απαγόρευση θανατηφόρων αυτόνομων συστημάτων ικανών να εντοπίζουν ανεξάρτητα στόχους και να τους καταστρέφουν χωρίς ανθρώπινη παρέμβαση στη Σύμβαση για τη χρήση Συμβατικά όπλα.

Η «έκκληση για την απαγόρευση των ρομπότ δολοφόνων» υπογράφηκε από περίπου 1.300 επιστήμονες και επαγγελματίες, μεταξύ των οποίων ο επιχειρηματίας Elon Musk , ο διάσημος φυσικός Stephen Hawking , ο συνιδρυτής της Apple Steve Wozniak , ο συνιδρυτής του Skype Jaan Tallinn και ο ακτιβιστής φιλόσοφος Noam Chomsky . Το έγγραφο δημοσιεύθηκε την ημέρα έναρξης της Διεθνούς Κοινής Διάσκεψης για την Τεχνητή Νοημοσύνη, το κύριο παγκόσμιο φόρουμ στον τομέα αυτό.

«Οι τεχνολογίες τεχνητής νοημοσύνης έχουν φτάσει σε ένα σημείο όπου η ανάπτυξη αυτόνομων συστημάτων είναι πρακτικά εφικτή μέσα σε λίγα χρόνια, όχι σε δεκαετίες», σημειώνει η επιστολή. «Και το διακύβευμα είναι πολύ υψηλό: μπορούν να δημιουργήσουν μια τρίτη επανάσταση στις στρατιωτικές υποθέσεις — μετά την πυρίτιδα και πυρηνικά όπλα.<… > Τα τουφέκια επίθεσης Καλάσνικοφ μπορεί να γίνουν αυτόνομα όπλα αύριο».

Σε αντίθεση με τα πυρηνικά όπλα, τα ρομποτικά συστήματα δεν απαιτούν ακριβές ή δυσεύρετες πρώτες ύλες. Θεωρητικά, σχεδόν κάθε χώρα μπορεί να τα δημιουργήσει. Επομένως, οι επιστήμονες πιστεύουν ότι αν δεν απαγορευτούν έγκαιρα αυτά τα είδη όπλων, θα εξαπλωθούν πολύ γρήγορα, θα πέσουν στα χέρια τρομοκρατών και θα οδηγήσουν σε αποσταθεροποίηση στον κόσμο.

Ωστόσο, συνεχίζουν να αναπτύσσονται μηχανές θανάτωσης που βασίζονται στην τεχνητή νοημοσύνη. Υπάρχουν ήδη τεχνολογικά πρωτότυπα. Για παράδειγμα, μια αυτόνομη ή ημι-αυτόνομη λειτουργία είναι ενσωματωμένη στο νοτιοκορεατικό πυροβόλο φύλαξης Samsung SGR-A1 , στο βρετανικό μαχητικό drone BAE Systems Taranis και στο μη επανδρωμένο ανθυποβρυχιακό πλοίο American Sea Hunter.

Μοντέλο μαχητικού drone BAE Systems Taranis στο Farnborough Airshow 2008 - RIA Novosti, 1920, 30/09/2022 — CC0 / Mike Young / Μοντέλο μάχης drone της BAE Systems Taranis στο Farnborough Airshow 2008

Έλεγχος Super Intelligence

Για πρώτη φορά οι ηθικοί κανόνες για τα ρομπότ διατυπώθηκαν το 1942 από τον Αμερικανό συγγραφέα επιστημονικής φαντασίας Isaac Asimov . Τους ονόμασε τρεις νόμους της ρομποτικής. Πρώτον, ένα ρομπότ δεν μπορεί να βλάψει ένα άτομο ή, μέσω της αδράνειας, να επιτρέψει να προκληθεί βλάβη. Το δεύτερο είναι ότι το ρομπότ πρέπει να υπακούει σε όλες τις εντολές ενός ατόμου, εκτός αν έρχονται σε αντίθεση με τον πρώτο νόμο. Και το τρίτο: το ρομπότ πρέπει να φροντίζει για την ασφάλειά του στο βαθμό που δεν έρχεται σε αντίθεση με τον πρώτο ή τον δεύτερο νόμο.

Ήταν αμέσως σαφές ότι αυτοί οι νόμοι θα παρέμεναν στη σφαίρα της φαντασίας. Και μια ζωντανή επιβεβαίωση αυτού είναι τα αυτόνομα οπλικά συστήματα. Άλλωστε, ο κύριος στόχος τους είναι να βλάψουν έναν άνθρωπο. Επιπλέον, ο Asimov αναφερόταν σε «συνηθισμένη», σκληρά κωδικοποιημένη τεχνητή νοημοσύνη, όπως αυτή των ανθρωπόμορφων ρομπότ ή των αυτοκινήτων χωρίς οδηγό. Και το υπερμυαλό είναι ικανό να μάθει. Οποιοδήποτε υπερέξυπνο σύστημα εγκαινιάζει ένα πρόγραμμα αναλυτικής επεξεργασίας πληροφοριών, το οποίο συνεπάγεται τη δημιουργία μιας «νέας εμπειρίας» στη μηχανή και την εφαρμογή της σε μελλοντικές ενέργειες.

Μια μελέτη από μαθηματικούς και επιστήμονες υπολογιστών από πέντε χώρες έδειξε ότι ακόμη και θεωρητικά, τα συστήματα αυτόματου ελέγχου και διόρθωσης των αποφάσεων που λαμβάνονται από μια υπερκατασκοπία υπολογιστή είναι αδύνατα. Ο αλγόριθμος μηχανικής μάθησης που είναι ενσωματωμένος σε αυτό βασίζεται στις αρχές των νευρωνικών δικτύων παρόμοιων με εκείνες του ανθρώπινου εγκεφάλου και η ικανότητα εύρεσης μοτίβων σε μεγάλες ποσότητες δεδομένων είναι ανώτερη από αυτή των ανθρώπων.

Οι επιστήμονες προειδοποιούν ότι αργά ή γρήγορα, η υπερευφυΐα, αναλύοντας τα πρότυπα των ανθρώπινων ενεργειών, θα μάθει να τα αντιγράφει και στη συνέχεια να τα παρακάμπτει. Όπως κι εμείς, παρατηρώντας τις συνήθειες ενός χιμπατζή, θα μπορέσουμε τελικά να τον ξεπεράσουμε. Η τεχνητή νοημοσύνη κέρδισε ήδη τους ανθρώπους στο σκάκι, το πούλι και άλλα πνευματικά παιχνίδια, δημιουργώντας έργα τέχνης με βάση την ανάλυση βιβλίων που διαβάστηκαν και προβλήθηκαν εικόνες. Και αυτό είναι μόνο η αρχή.

……………………………………………………………

ΠΗΓΗ :https://alfeiospotamos.gr/2022/10/03/%cf%84%ce%bf-supermind-%ce%b5%ce%af%ce%bd%ce%b1%ce%b9-%ce%b5%ce%ba%cf%84%cf%8c%cf%82-%ce%b5%ce%bb%ce%ad%ce%b3%cf%87%ce%bf%cf%85-%ce%bf%ce%b9-%ce%b5%cf%80%ce%b9%cf%83%cf%84%ce%ae%ce%bc%ce%bf%ce%bd/