Τα ρομπότ δολοφόνοι είναι εδώ… ετοιμοπόλεμα

Τα ρομπότ δολοφόνοι είναι εδώ… ετοιμοπόλεμα

  • |

Οι άνθρωποι θα έχουν πάντοτε την τελική απόφαση για το αν οπλισμένα ρομπότ θα ανοίγουν πυρ, διαβεβαιώνει το υπουργείο Άμυνας των ΗΠΑ. Η αποσαφήνιση αυτή έρχεται εν μέσω φόβων για το νέο προηγμένο σύστημα στόχευσης, γνωστό ως ATLAS, το οποίο θα χρησιμοποιεί τεχνητή νοημοσύνη στα οχήματα μάχης, θα στοχεύει και θα εκτελεί απειλές.

Σύμφωνα με το BBC, οι διαβεβαιώσεις αυτές έγιναν εν μέσω αποκαλύψεων για σχέδια περί φονικών ρομπότ που θα επιλέγουν μόνα τους, τους στόχους στο πεδίο μάχης. Τα σχέδια αυτά αφορούν στην αναβάθμιση υπαρχόντων συστημάτων στόχευσης και στην ανάπτυξη και παραγωγή ρομπότ νέας γενιάς που θα βοηθούν τα ανθρώπινα στρατεύματα στο πεδίο των μαχών. Ωστόσο, η αμερικανική κυβέρνηση τονίζει πως οι κανόνες που θα διέπουν τη χρήση οπλισμένων ρομπότ εξακολουθούν να υφίστανται και οι άνθρωποι θα διατηρούν τη δύναμη του βέτο.

Ειδικότερα, τα σχέδια του Πενταγώνου αφορούν στην αναβάθμιση του συστήματος Atlas (Advanced Targeting and Lethality Automated System) που χρησιμοποιείται σε οχήματα εδάφους για να βοηθά τους χειριστές οπλισμού να στοχεύουν. Οι αμερικανικές ένοπλες δυνάμεις αναζητούν εμπορικούς εταίρους για να βοηθήσουν στην ανάπτυξη σκοπευτικών συστημάτων που θα «εντοπίζουν, ταυτοποιούν και θα εμπλέκουν στόχους τουλάχιστον τρεις φορές γρηγορότερα από τη σημερινή χειροκίνητη διαδικασία». Αρκετοί ήταν αυτοί που εξέφρασαν αμφιβολίες ως προς το αν τα συστήματα αυτά θα επέλεγαν στόχους και θα αποφάσιζαν μόνα τους να ανοίξουν πυρ, οπότε και οι αμερικανικές ένοπλες δυνάμεις προέβησαν σε τροποποιήσεις στην πρότασή τους, δίνοντας έμφαση στον ρόλο των ανθρώπων στη διαδικασία σκόπευσης.

Όπως υπογραμμίστηκε από το Πεντάγωνο, εξακολουθεί να υφίσταται η δέσμευση στους κανόνες που διέπουν την αλληλεπίδραση ανθρώπων-ρομπότ, γνωστή ως «οδηγία 3000.9», που προϋποθέτει «ανθρώπινο δάκτυλο στη σκανδάλη».

Η νέα γενιά στρατιωτών-ρομπότ

 

Σύμφωνα με το Bloomberg, η νέα γενιά ρομπότ θα μπορούν να εκπληρώνουν πολύπλοκα καθήκοντα όπως αναγνωρίσεις, να οσφραίνονται επικίνδυνα χημικά αέρια να μεταφέρουν αλλά και να χρησιμοποιούν όπλο. «Δεν έχω καμία αμφιβολία ότι θα υπάρχουν ρομπότ σε κάθε σχηματισμό του αμερικανικού στρατού τα επόμενα χρόνια», δήλωσε ο Bryan McVeigh, ο υπεύθυνος του στρατού για το πρότζεκτ προστασίας των στρατιωτών.

Στην πραγματικότητα τα αποκαλούμενα «ρομπότ δολοφόνοι» αναπτύχθηκαν ήδη από το 2007 στο Ιράκ. Μάλιστα, οι αμερικανικές ένοπλες δυνάμεις έχουν ένα απόθεμα 7.000 ρομπότ και πλέον από τους πολέμους στο Ιράκ και στο Αφγανιστάν που είναι σχεδιασμένα να εξουδετερώνουν εκρηκτικούς μηχανισμούς.

Πηγαίνοντας ακόμη πιο πίσω, όπως αναφέρει και το δημοσίευμα του Conversation, αυτές οι τεχνολογίες υπάρχουν από τον Β’ Παγκόσμιο Πόλεμο. Τα όπλα με σχετικό βαθμό αυτονομίας δεν είναι κάτι καινούργιο. Πρώτη τα κατασκεύασε η ναζιστική Γερμανία το 1943. Επρόκειτο για μια τορπίλη με έναν ειδικό ακουστικό μηχανισμό που της επέτρεπε να βρει τον στόχο της.

Όμως το είδος της αυτονομίας των συστημάτων που έρχονται θα είναι κάτι τελείως διαφορετικό. Το 2016, το Επιστημονικό Συμβούλιο Άμυνας του Πενταγώνου απεφάνθη ότι «για να είναι αυτόνομο ένα σύστημα, πρέπει να έχει τη δυνατότητα να “συνθέτει” ανεξάρτητα και να επιλέγει το ίδιο μεταξύ διαφόρων τρόπων για να επιτύχει τους στόχους του, βασιζόμενο στην “κατανόηση” του κόσμου, του εαυτού του και της κάθε δεδομένης κατάστασης».

Έτσι, η συζήτηση στο Πεντάγωνο αλλά και στα στρατιωτικά επιτελεία των υπολοίπων μεγάλων δυνάμεων (Ρωσία, Κίνα) αφορά το ποια ακριβώς θα πρέπει να είναι η αλληλεπίδραση ανθρώπων – επικεφαλής χειριστών με μηχανές ικανές για διάφορες βαθμίδες αυτονομίας. Το σίγουρο είναι πως τα συστήματα αυτά που βασίζονται στην τεχνητή νοημοσύνη θα αλλάξουν τον τρόπο που διεξάγονται οι πόλεμοι, τη φύση των πολέμων, ακόμα και τον τρόπο που οι άνθρωποι αντιμετωπίζουν τους πολέμους.

Η γέννηση της κυβερνητικής

 

Κατά τη διάρκεια του Β’ Παγκοσμίου Πολέμου, ο μαθηματικός Νόρμπερτ Βίνερ έθεσε τις βάσεις της Κυβερνητικής, μιας εξαιρετικά πλατιάς επιστήμης που περιλαμβάνει τη θεωρία των πληροφοριών σαν ένα από πολλά συμπληρωματικά σύνολα ιδεών. Η Κυβερνητική είναι η επιστήμη της διατήρησης της τάξης μέσα σ’ ένα σύστημα, είτε το σύστημα αυτό είναι φυσικό, είτε είναι τεχνητό. Αφού όλα τα πράγματα στον κόσμο έχουν την τάση να γίνονται εντροπικά, ακατάστατα, οι άτακτες αποκλίσεις τους από την τάξη πρέπει να διορθώνονται συνέχεια. Αυτό επιτυγχάνεται με τη χρησιμοποίηση πληροφοριών σχετικά με τη συμπεριφορά του συστήματος, έτσι ώστε να του επιβάλλεται μια διαφορετική, τακτικότερη συμπεριφορά. Με τον τρόπο αυτό το σύστημα διατηρείται στην κανονική πορεία του. Ο όρος Κυβερνητική προέρχεται από την ελληνική λέξη κυβερνήτης και περιέχει την έννοια της σταθερότητας, της αδιάκοπης και σωστής λειτουργίας.

Στον δεύτερο παγκόσμιο πόλεμο κατάφερε να εξασφαλίσει μια μικρή επιχορήγηση για να εργαστεί πάνω σε έναν τρόπο ελέγχου των αντιαεροπορικών πυρών και μετά για ένα στρατιωτικό ερευνητικό πρόγραμμα υψίστης σημασίας.

Τον καιρό εκείνο τα διαθέσιμα όπλα ήταν σχεδόν ανίσχυρα απέναντι στα γερμανικά βομβαρδιστικά, που πετούσαν ψηλότερα και γρηγορότερα από εκείνα του πρώτου παγκοσμίου πολέμου. Τον Οκτώβριο του 1940, τρεις μήνες από τότε που άρχισε ο βομβαρδισμός της Αγγλίας, υπολογίσανε ότι είχαν ριχτεί περισσότερες από 10.000 βολές από αντιαεροπορικά όπλα των τριών ιντσών για κάθε αεροπλάνο που είχε καταρριφθεί πάνω από το Λονδίνο. Εκείνο τον καιρό, ενώ τα βρετανικά όπλα σκόρπιζαν τα πυρά τους σχεδόν στην τύχη πάνω στους εισβολείς, το εργαστήριο Βell έριξε μια ιδέα που είχε δει στο όνειρο του ένας από τους ερευνητές του: ένα ηλεκτρονικό στόχαστρο που θα υπολόγιζε και θα προέβλεπε τη θέση του αεροπλάνου μερικά δευτερόλεπτα μετά την εκπυρσοκρότηση του όπλου. Ξεκίνησε μια εντατική ερευνητική προσπάθεια με τη χρησιμοποίηση επιστημόνων από τα Bell laboratories και το ΜΙΤ, όπου βρισκόταν τότε και ο Wiener, για τη σχεδίαση αυτόματων διατάξεων που θα μπορούσαν να ανιχνεύσουν ένα αεροπλάνο, να υπολογίσουν τη θέση, τη διεύθυνση και την ταχύτητα του και να προβλέπουν πού θα βρίσκεται όταν το αντιαεροπορικό βλήμα θα έχει διασχίσει την απόσταση από το όπλο ως το στόχο.

Το πρόβλημα του να πετύχει κανείς ένα μακρινό, ιδιότροπα κινούμενο αεροπλάνο ήταν δύσκολο. Τα αγγλικά πληρώματα που προσπαθούσαν να καταρρίψουν τα γερμανικά βομβαρδιστικά δαιμονίζονταν από δύο τουλάχιστον αιτίες αβεβαιότητας. Για να ρίξουν μια βολή δεν ήταν αρκετό να σκοπεύσουν απλώς απευθείας το εχθρικό αεροπλάνο. Εφόσον ο στόχος κινείτο στον ουρανό με ταχύτητα περίπου ίση με εκείνην του αντιαεροπορικού βλήματος, τα πληρώματα έπρεπε να σκοπεύουν μπροστά από το αεροπλάνο σε μια απόσταση τριάντα φορές περίπου το μήκος του αεροπλάνου. Για να βρει ο πύραυλος τον στόχο του με τη χρησιμοποίηση αυτής της νέας διάταξης, το σήμα του ραντάρ θα έπρεπε να φτάσει με τη μεγαλύτερη δυνατή ακρίβεια και η πτήση του βομβαρδιστικού θα έπρεπε να είναι όσο γίνεται πιο προβλέψιμη. Όμως στην οθόνη ενός ραντάρ τα στίγματα που ανιχνεύουν την πορεία ενός αεροπλάνου παραμορφώνονται από τυχαίες ηλεκτρικές παρεμβολές στην ατμόσφαιρα και ο πιλότος του αεροπλάνου βάζει φυσικά όλα του τα δυνατά για να μπερδέψει τα πληρώματα των αντιαεροπορικών πετώντας όσο πιο ιδιόμορφα και απρόβλεπτα μπορεί.

Ο Wiener εξέθεσε τις ιδέες του σε μια απόρρητη πολεμική αναφορά προς την Επιτροπή Ερεύνης Εθνικής Αμύνης. Η αναφορά αυτή έγινε γνωστή στους κύκλους της ελίτ σαν Κίτρινος Κίνδυνος, εξαιτίας του χρώματος του εξωφύλλου του και της τρομακτικής δυσκολίας του περιεχομένου της. Η τεχνική του Wiener ήταν τόσο περίπλοκη, ώστε ένα μεγάλο μέρος της αναφοράς ήταν ακατάληπτο ακόμη και για τους πιο εξελιγμένους τεχνικούς.

Τελικά η αμερικανικής σχεδιάσεως ηλεκτρική διάταξη προσδιορισμού της μελλοντικής θέσης του στόχου για τις αντιαεροπορικές βολές, μπήκε σε λειτουργία στην ανατολική ακτή της Αγγλίας τον Αύγουστο του 1944, λιγότερο από δύο μήνες μετά την εμφάνιση στον ουρανό του πρώτου κύματος γερμανικών ιπταμένων βομβών. Επέφεραν μια εκπληκτική βελτίωση στην ακρίβεια. Πριν την εγκατάσταση τους μόνο τα 10 τοις εκατό των πυραύλων καταρρίπτονταν από τη γη. Μετά, τα 50 τοις εκατό καταστρέφονταν.

Επικίνδυνες ερωτήσεις, θανάσιμες απαντήσεις

 

Έτσι ο Wiener όρισε τη νέα επιστήμη που αφορά την κυβέρνηση, με την έννοια της διεύθυνσης ή της ρύθμισης, δηλαδή, του ελέγχου και της επικοινωνίας συστημάτων ζώντων οργανισμών και μηχανών κατασκευασμένων από τον άνθρωπο. Τα τεχνολογικά επιτεύγματα, που οδήγησαν στο Διαδίκτυο, την Εικονική Πραγματικότητα (virtual reality) και γενικώς στα σύγχρονα επιτεύγματα της Πληροφορικής και της Τεχνητής Νοημοσύνης, έχουν τις ρίζες τους στην Κυβερνητική.

Η επόμενη φάση φαίνεται πως είναι η εξάλειψη των στρατιωτικών αποτελεσμάτων από τους ανθρώπους εντελώς – μειώνοντας παράλληλα το πολιτικό κόστος που συνδέεται με την απώλεια ζωών.

Θα πρέπει ένας άνθρωπος να επιβλέπει μονίμως την επιχείρηση και να παραμένει πάντα ο υπεύθυνος για τις κρίσιμες αποφάσεις; Θα πρέπει απλώς να επιβλέπει, με τη δυνατότητα να παρέμβει σε οποιοδήποτε στάδιο της επιχείρησης; Ή θα είναι η μηχανή – οπλικό σύστημα αυτή που θα επιχειρεί, βάσει του αρχικού σχεδιασμού, χωρίς να υπάρχει καμία περαιτέρω ανθρώπινη παρέμβαση; Το ερώτημα έτσι ή αλλιώς είναι εάν ο υπολογιστής τους λέει να σκοτώσουν, υπάρχει πραγματικά κάποιος λόγος για τον οποίο δεν θα πρέπει; Και μήπως ο άνθρωπος θα χρησιμεύει ως μια μορφή «ηθικής κάλυψης» για μια σχεδόν εξ ολοκλήρου μηχανική, ρομποτική πράξη.

Ο πιο αποφασιστικός παράγοντας στους πολέμους του μέλλοντος θα είναι η ποιότητα των αλγορίθμων που θα διαθέτει η κάθε πλευρά. Ο Φρανκ Χόφμαν, Αμερικανός ειδικός του Πανεπιστημίου Εθνικής Άμυνας και υπεύθυνος για τον όρο «υβριδικός πόλεμος», πιστεύει ότι πρώτη φορά στην ιστορία οι ανθρώπινοι παράγοντες που μέχρι σήμερα καθόριζαν την έκβαση των πολέμων –η θέληση, ο φόβος, η λήψη αποφάσεων και η ανθρώπινη ευφυΐα– είτε θα είναι λιγότερο εμφανείς είτε, σχεδόν, θα εκλείψουν.

http://sioualtec.blogspot.com