Η κόκκινη γραμμή ξεπεράστηκε! Για πρώτη φορά στα χρονικά, πλήρως αυτόνομα drones, καθοδηγούμενα αποκλειστικά από τεχνητή νοημοσύνη, χωρίς ανθρώπινη παρέμβαση, αφαίρεσαν ανθρώπινες ζωές στο πεδίο της μάχης.
Ο «έξυπνος» πόλεμος δεν είναι πλέον σενάριο επιστημονικής φαντασίας
Ποιος φέρει τελικά την ευθύνη όταν ο αλγόριθμος αποφασίζει για τη ζωή και τον θάνατο; Διαβάστε την πλήρη ανάλυση για το ιστορικό και τρομακτικό ορόσημο που αλλάζει τον πόλεμο όπως τον ξέραμε.
Όπλα – μηχανές που αποφασίζουν αυτόνομα
Η ιστορία του πολέμου άλλαξε για πάντα. Η κόκκινη γραμμή που χώριζε την ανθρώπινη απόφαση από την αυτοματοποιημένη εκτέλεση στο πεδίο της μάχης έχει πλέον ξεπεραστεί.
Για πρώτη φορά στα χρονικά, πλήρως αυτόνομα drones, καθοδηγούμενα αποκλειστικά από αλγορίθμους τεχνητής νοημοσύνης και χωρίς καμία απολύτως ανθρώπινη επίβλεψη, εντόπισαν και σκότωσαν στρατιώτες.
Το συγκλονιστικό αυτό γεγονός έλαβε χώρα κατά τη διάρκεια μιας ειδικής δοκιμής στο μέτωπο της Ουκρανίας, στην περιοχή του Μπαχμούτ.
Ένα ιστορικό και τρομακτικό ορόσημο
Στη συγκεκριμένη επιχείρηση, μια ομάδα από δέκα αυτόνομα τετρακόπτερα (quadcopters) στάλθηκε στη γραμμή του μετώπου, με μία και μοναδική εντολή: να καταστρέψουν οτιδήποτε εντόπιζαν μέσα σε μια προκαθορισμένη ζώνη.
Τα drones, λειτουργώντας ως ένα ενιαίο σύστημα, έλαβαν τις δικές τους αποφάσεις στόχευσης, με αποτέλεσμα τον θάνατο δύο Ρώσων στρατιωτών.
Η εξέλιξη αυτή επιβεβαιώνει τους χειρότερους φόβους των επιστημόνων και των αναλυτών ασφαλείας. Δεν μιλάμε πλέον για όπλα που απλώς υποβοηθούνται από την τεχνητή νοημοσύνη, αλλά για μηχανές που αποφασίζουν αυτόνομα ποιος θα ζήσει και ποιος θα πεθάνει.
Η λεπτή γραμμή μεταξύ υποστήριξης και απόφασης
Μέχρι σήμερα, η χρήση των drones στις πολεμικές συγκρούσεις βασιζόταν στη λογική του «ανθρώπου στον βρόχο» (human in the loop). Αυτό σήμαινε ότι, ακόμη και αν ένα drone χρησιμοποιούσε προηγμένα συστήματα εντοπισμού ή πλοήγησης, η τελική εντολή για την πυροδότηση ή την επίθεση δινόταν πάντα από έναν ανθρώπινο χειριστή, που βρισκόταν πίσω από μια οθόνη.
Στη συγκεκριμένη περίπτωση, όμως, η ανθρώπινη παρέμβαση απουσίαζε εντελώς κατά το τελικό στάδιο. Οι αλγόριθμοι ανέλαβαν τη σάρωση του εδάφους, την αναγνώριση των στόχων, την αξιολόγηση της απειλής και, τελικά, την εκτέλεση της θανατηφόρας επίθεσης.
Παρόλο που η επίσημη στρατιωτική γραμμή της Ουκρανίας επιβάλλει τη διατήρηση του ανθρώπινου ελέγχου στις τελικές αποφάσεις στόχευσης, οι κατασκευαστές των συγκεκριμένων συστημάτων πιέζουν για την αλλαγή αυτών των κανόνων.
Ήδη αναπτύσσεται μια νέα, ακόμη πιο εξελιγμένη συστοιχία αναχαίτισης, που θα αποτελείται από 64 αυτόνομα drones, όπου η ανθρώπινη παρουσία θα περιορίζεται στο ελάχιστο, κυρίως στην αρχική ενεργοποίηση του συστήματος.
Κι όλα αυτά γιατί η ανάγκη για ταχύτητα αντίδρασης, απέναντι στα εχθρικά πυρά, καθιστά την ανθρώπινη σκέψη «πολύ αργή» για τα δεδομένα ενός σύγχρονου «ψηφιακού» πολέμου.
Ηθικά διλήμματα και το νομικό κενό
Η μετάβαση στον πλήρως αυτόνομο πόλεμο ανοίγει έναν ασκό του Αιόλου γεμάτο από ηθικά, νομικά και φιλοσοφικά ερωτήματα.
Το βασικότερο ερώτημα που προκύπτει είναι εξαιρετικά απλό, αλλά ταυτόχρονα και εξαιρετικά δύσκολο να απαντηθεί: Όταν μια μηχανή επιλέγει και σκοτώνει έναν στόχο χωρίς ανθρώπινη επιβεβαίωση, ποιος φέρει την ευθύνη;
- Είναι ο προγραμματιστής που έγραψε τον κώδικα και τον αλγόριθμο αναγνώρισης;
- Είναι ο διοικητής που έδωσε την εντολή για την απογείωση των drones και την ενεργοποίηση της αυτόνομης λειτουργίας;
- Ή μήπως η ευθύνη βαραίνει την ίδια την κυβέρνηση που επέτρεψε τη διεξαγωγή μιας τέτοιας δοκιμής;
Ο Οργανισμός Ηνωμένων Εθνών έχει επανειλημμένα κρούσει τον κώδωνα του κινδύνου, ζητώντας την άμεση και καθολική απαγόρευση των πλήρως αυτόνομων φονικών όπλων. Ωστόσο, η διεθνής διπλωματία κινείται με απελπιστικά αργούς ρυθμούς.
Αυτή τη στιγμή, δεν υφίσταται κανένας δεσμευτικός διεθνής νόμος που να ρυθμίζει ή να απαγορεύει τη χρήση αυτών των συστημάτων.
Το δικαίωμα της ζωής και του θανάτου
Η πραγματικότητα είναι ότι οι μεγάλες στρατιωτικές δυνάμεις παγκοσμίως, συμπεριλαμβανομένων των ΗΠΑ και της Κίνας, επενδύουν δισεκατομμύρια στην αυτοματοποίηση των οπλοστασίων τους.
Η πίεση του ανταγωνισμού οδηγεί τις εξελίξεις με τέτοια ταχύτητα, ώστε το χάσμα μεταξύ της τεχνολογικής πραγματικότητας και του διεθνούς δικαίου να μεγαλώνει επικίνδυνα.
Ο «έξυπνος» πόλεμος δεν είναι πλέον σενάριο επιστημονικής φαντασίας. Είναι μια σκληρή πραγματικότητα που δοκιμάζεται καθημερινά, αποδεικνύοντας ότι το μέλλον των συγκρούσεων θα κριθεί σε μεγάλο βαθμό από το ποιος διαθέτει τους πιο αποτελεσματικούς αλγόριθμους.
Η ανθρωπότητα, ωστόσο, καλείται να αποφασίσει αν είναι έτοιμη να παραδώσει το δικαίωμα της ζωής και του θανάτου στην τεχνητή νοημοσύνη…