Γρηγόρης Τσόλιας: Τεχνητή Νοημοσύνη και Δίκαιο

Η Τεχνητή Νοημοσύνη (ΤΝ) αποτελεί πλέον μέρος της καθημερινότητάς μας, ενδεχομένως χωρίς να το συνειδητοποιούμε. Ερχόμαστε σε επαφή με εικονικούς ψηφιακούς υπαλλήλους εξυπηρέτησης π.χ. στην επικοινωνία μας με τηλεπικοινωνιακούς Παρόχους, οι οποίοι αναγνωρίζουν τις λέξεις μας και μας κατευθύνουν στην λύση του προβλήματος ή στην παροχή της υπηρεσίας, χρησιμοποιούμε υπηρεσίες διαδικτυακής αυτόματης μετάφρασης, λαμβάνουμε εξατομικευμένες προτάσεις επιλογής π.χ. θέασης ταινιών από το Netflix με βάση το ιστορικό και τις προτιμήσεις μας, προστατευόμαστε από αζήτητη, μαζική, ίσως και επικίνδυνη ηλεκτρονική αλληλογραφία (junk, infected και spam e-mails) καθώς το σχετικό λογισμικό αντιλαμβάνεται και την κατηγοριοποιεί σχετικά, παίζουμε σκάκι με αντίπαλο τον υπολογιστή, ο οποίος αποφασίζει τις κινήσεις του.

Αναλύει ο δικηγόρος Γρηγόρης Τσόλιας*

Περισσότερο εξειδικευμένες και προηγμένες τεχνολογικά εφαρμογές της ΤΝ αποτελούν τα λογισμικά ανάλυσης εικόνας και κίνησης για την ταυτοποίηση ενός προσώπου ή για την πρόβλεψη τέλεσης εγκληματικής ενέργειας (π.χ. κλοπής, άσκησης βίας), τα λογισμικά για την πρόβλεψη υποτροπής τέλεσης εγκληματικών πράξεων κατηγορουμένων, τα αυτόνομα – αυτοοδηγούμενα οχήματα, τα λογισμικά ανίχνευσης και εντοπισμού κακοήθων όγκων μέσω της σύγκρισης ακτινογραφιών ή ακόμη και τα λογισμικά που λαμβάνουν αποφάσεις για την χορήγηση ή μη τραπεζικού δανείου με βάση την προβλεπόμενη φερεγγυότητά του υποψηφίου δανειολήπτη. 

Βασικό μέγεθος της τέταρτης βιομηχανικής επανάστασης αποτελεί η ΤΝ, όπως παλαιότερα υπήρξε ο ηλεκτρισμός και η ατμομηχανή. Η Ευρωπαϊκή Επιτροπή (ΕΕ) προωθεί την έρευνα, την ανάπτυξη και την χρήση της ΤΝ με σχετική χρηματοδότησης 1,5 δις. ευρώ έως το 2020, ενώ αναμένονται ιδιωτικές επενδύσεις ύψους 20 δις. ευρώ.

Η σημασία της ΤΝ συμπυκνώνεται σε μια φράση που περιλαμβάνεται σε Ανακοίνωση της ΕΕ: «Ο τρόπος που προσεγγίζουμε την τεχνητή νοημοσύνη θα καθορίσει τον κόσμο στον οποίο ζούμε». Κοινά αποδεκτός ή τουλάχιστον επίσημος ορισμός της ΤΝ δεν υφίσταται. Με όσο το δυνατόν απλούστερα λόγια ΤΝ είναι η επιστήμη του να προγραμματίζεις τις μηχανές να κάνουν πράγματα για τα οποία θα χρειαζόταν ευφυϊα εάν γίνονταν από άνθρωπο (Marvin Minsky).

Η ΤΝ βασίζεται στην δημιουργία ενός αλγορίθμου, ο οποίος προγραμματίζεται να εξάγει ένα ζητούμενο αποτέλεσμα, χωρίς όμως ο άνθρωπος να του υποδείξει τον τρόπο. Πολλές φορές ο τρόπος με τον οποίο καταλήγει ο αλγόριθμος στο αποτέλεσμα αποτελεί ένα μυστήριο για τους επιστήμονες καθώς αναπτύσσεται μόνος του, όπως αντίστοιχα τα νευρωνικά δίκτυα του ανθρώπινου εγκεφάλου! Έτσι, στο πλαίσιο εφαρμογής μιας υποκατηγορίας της ΤΝ που ονομάζεται επιβλεπόμενη μηχανική εκμάθηση (supervised machine learning) το λογισμικό μαθαίνει πώς να ξεχωρίζει π.χ. τα μήλα από τα πορτοκάλια. Εκπαιδεύεται με την τροφοδότηση του από χιλιάδες στοιχεία και φωτογραφίες με την εικόνα, το σχήμα, το χρώμα κ.λπ. στοιχεία των φρούτων ώστε στο τέλος να μπορεί να τα αναγνωρίσει από μόνο του. Σε πρόσφατο πείραμα που έγινε για την αναγνώριση μεταξύ φωτογραφιών λύκων και σκύλων huskie (που μοιάζουν με λύκους), διαπιστώθηκε από τους επιστήμονες ότι η «απόφαση» του λογισμικού για την αναγνώριση του ζώου ως λύκου βασιζόταν στην ύπαρξη ή μη χιονιού στον περιβάλλοντα χώρο. Στην περίπτωση αυτή, υπεισέρχεται η ευθύνη του ανθρώπινου παράγοντα με την «εκπαίδευση» του αλγορίθμου μέσω της χορήγησης των ορθών και ποιοτικών δεδομένων (φωτογραφιών κ.λπ).

Ήδη από τις παραπάνω περιπτώσεις αντιλαμβανόμαστε ότι η ΤΝ αφορά την «τεχνητή λήψη αποφάσεων» βοηθώντας ή στο μέλλον, υποκαθιστώντας δραστηριότητες του ανθρώπου.

Η ΤΝ έχει κάνει ήδη την εμφάνιση της στο χώρο του δικαίου και της απονομής της δικαιοσύνης. Στις ΗΠΑ χρησιμοποιούνται ήδη προς υποβοήθηση του δικαστή λογισμικά πρόβλεψης της μελλοντικής υποτροπής – τέλεσης νέων εγκλημάτων από τον κατηγορούμενο ως εργαλεία επιμέτρησης της ποινής ή επιλογής εναλλακτικών μέτρων έκτισης της ποινής.

Τα λογισμικά αυτά ενδέχεται να βαρύνονται με υπόνοιες προκατάληψης και άρα να έχουν οδηγήσει σε εσφαλμένες προβλέψεις εξαιτίας της ποιότητας των δεδομένων με τα οποία έχει τροφοδοτηθεί ο αλγόριθμος. Ήδη στο πλαίσιο έρευνας που έλαβε χώρα από την ProPublica αναφορικά με το λογισμικό Compas διαπιστώθηκε ότι παρείχε εσφαλμένα μεγαλύτερα ποσοστά υποτροπής σε έγχρωμους δράστες εξαιτίας των δεδομένων που είχε λάβει προς εκπαίδευση και σε μεγάλο αριθμών αφορούσαν καταδίκες έγχρωμων δραστών με αποτέλεσμα να οδηγηθεί σε αντίστοιχες εσφαλμένες και προκατειλημμένες προβλέψεις.

Αντίστοιχα, τόσο στις ΗΠΑ, όσο και στην Ε.Ε. χρησιμοποιούνται λογισμικά πρόβλεψης του αποτελέσματος μιας δίκης, ιδίως από δικηγορικές, ασφαλιστικές και ελεγκτικές εταιρίες, προκειμένου να παρέχουν συμβουλές στους πελάτες τους τόσο για την λήψη απόφασης περί ανάληψης ή μη δικαστικού αγώνα, όσο και για την εγγραφή προβλέψεων στον εταιρικό προϋπολογισμό που επηρεάζεται από το αποτέλεσμα μιας δίκης.

Στην Ελλάδα συστάθηκε πρόσφατα Διαρκής Επιστημονική Επιτροπή του Υπουργείου Δικαιοσύνης με αντικείμενο την εξέταση των επιπτώσεων στο δικαστικό σύστημα, της εισαγωγής της ΤΝ, αποτελούμενη από δικαστές, εισαγγελείς, δικηγόρους και εξειδικευμένους επιστήμονες – καθηγητές του τομέα της πληροφορικής.

Περισσότερο απτές όμως είναι οι συνέπειες της τεχνητής νοημοσύνης από τη λειτουργία αυτόνομων – αυτοοδηγούμενων οχημάτων, η κυκλοφορία των οποίων επιτρέπεται προς το παρόν στα κράτη-μέλη της Ε.Ε. μόνο για ερευνητικούς και δοκιμαστικούς λόγους, όπως εξάλλου έγινε στην περίπτωση της πόλης των Τρικάλων.

Δεν απέχει όμως χρονικά το στάδιο όποτε τα αυτόνομα οχήματα θα επιτρέπεται να κυκλοφορούν στους δρόμους και να χρησιμοποιούνται από ιδιώτες. Τα αυτόνομα οχήματα αναμένεται σύμφωνα με την Ε.Ε. ότι θα μειώσουν τα ατυχήματα σε ποσοστό 90% καθώς χρησιμοποιώντας προηγμένο λογισμικό αναγνώρισης εικόνας αντιλαμβάνονται τα σήματα οδικής κυκλοφορίας, σέβονται τον Κ.Ο.Κ., άρα και τα καθορισμένα όρια ταχύτητας αφού συνδέονται με GPS και ψηφιακούς χάρτες όπου ορίζεται το ανώτερο επίπεδο ταχύτητας, δεν «κινδυνεύουν», ούτε θέτουν σε κίνδυνο τους λοιπούς επιβάτες, πεζούς και οδηγούς καθώς δεν καταναλώνουν αλκοόλ, ούτε δακτυλογραφούν μηνύματα στο κινητό τηλέφωνο!

Επαρκεί όμως το νομικό πλαίσιο σε περίπτωση κατά την οποία ένα όχημα προκαλέσει ένα θανατηφόρο ατύχημα το οποίο κινείται σε αυτόνομη λειτουργία (με την παρουσία του οδηγού μεν, χωρίς την επίβλεψη του και την διαχείριση από αυτόν δε); Τι θα γίνει σε περίπτωση κατά την οποία το λογισμικό δεν καταφέρει να αναγνωρίσει την πινακίδα “STOP” εξαιτίας φθοράς της και έτσι να προκληθεί ατύχημα; Ποιος ευθύνεται; Ο κατασκευαστής του αυτοκινήτου; Ο δημιουργός του λογισμικού; Ο προγραμματιστής; Ο εκπαιδευτής του λογισμικού που ενδεχομένως το τροφοδότησε με μη ποιοτικά δεδομένα (training data); Ο ιδιοκτήτης του οχήματος, παρά το ότι βρισκόταν σε αυτόνομη λειτουργία;

Ακόμη δυσχερέστερη είναι η απάντηση σε διλημματικές καταστάσεις, σε τραγικά δηλαδή διλήμματα που μπορεί να τεθούν σε περίπτωση ατυχήματος όταν το λογισμικό πρέπει να αποφασίσει ποιος θα σωθεί και ποιος θα επιβιώσει. Όταν δηλαδή ένα αυτόνομο όχημα εντοπίζοντας στο δρόμο π.χ. ένα εμπόδιο πρέπει να λάβει μια απόφαση. Να σώσει τους επιβαίνοντες κατευθυνόμενο στο πεζοδρόμιο όπου όμως θα σκοτώσει πεζούς ή να κατευθυνθεί στο γκρεμό όπου θα σκοτωθούν οι επιβαίνοντες;

Πώς πρέπει να προγραμματισθεί το λογισμικό σε μια τέτοια περίπτωση; Επιτρέπεται  να τεθεί ένα π.χ. ποσοτικό κριτήριο (να σωθούν οι 10 και να πεθάνει ο 1) ή ποιοτικό κριτήριο (να σωθεί ο κάτοχος του βραβείο Nobel και να πεθάνει ο ληστής της τράπεζας); Και εάν έτσι είναι τα πράγματα, στην πράξη ποιος καταναλωτής θα αγοράσει ένα αυτόνομο όχημα το οποίο σε μια τέτοια διλημματική κατάσταση θα επιλέξει να τον σκοτώσει;

Τέτοιου είδους ηθικά διλήμματα που άπτονται μάλιστα της δογματικής του ποινικού δικαίου απασχολούν εδώ και έτη τους νομικούς ερευνητές τόσο στις ΗΠΑ, όσο και στην Ε.Ε., ενώ το γνωστό τεχνολογικό ινστιτούτο της Μασαχουσέτης των ΗΠΑ (Μ.Ι.Τ.) έχει δημιουργήσει σχετική πειραματική εφαρμογή για την περίπτωση των αυτόνομων οχημάτων όπου ο κάθε χρήστης λαμβάνει την σχετική απόφαση.

Το Συμβούλιο της Ευρώπης έχει ήδη συστήσει Ομάδα Ειδικών Εμπειρογνωμόνων για την ΤΝ και το Ποινικό Δίκαιο η οποία εργάζεται στην κατεύθυνση της υιοθέτησης κοινών νομικών προτύπων – κατευθυντήριων γραμμών που μπορούν να οδηγήσουν στην εκπόνηση προτεινόμενης ευρωπαϊκής νομοθεσίας.

Δεν έχουν παρέλθει πολλά έτη από τότε που τα ανωτέρω συνιστούσαν επιστημονική φαντασία. Ήδη συνυπάρχουμε και έχουμε συνεργάτες λογισμικά και αλγορίθμους, ενώ δεν απέχουμε χρονικά από την στιγμή κατά την οποία θα συνυπάρχουμε με ανθρωποειδή robots. «Το μέλλον είναι τώρα» όπως και οι οικείες προκλήσεις που άπτονται της ηθικής, των ατομικών δικαιωμάτων, ανάμεσα στα οποία της προστασίας της ιδιωτικότητάς και των προσωπικών δεδομένων, αλλά και της ανάγκης ορθής νομοθέτησης.

*Δικηγόρος – ΜΔ Ποινικών Επιστημών Μέλος (αν.) της Αρχής Προστασίας Δεδομένων Προσωπικού Χαρακτήρα Εθνικός Εκπρόσωπος στην Ομάδα Ειδικών Εμπειρογνωμόνων του Συμβουλίου της Ευρώπης για την ΤΝ και το Ποινικό Δίκαιο   

Ακολουθήστε το dikastiko.gr στο Google News και δείτε πρώτοι όλες τις ειδήσεις

Διαβάστε όλες τις τελευταίες ειδήσεις από την Ελλάδα και τον Κόσμο στο dikastiko.gr