Ηλίας Κλάππας: Τεχνητή νοημοσύνη και Δικαιοσύνη – Σχέση υψηλού κινδύνου

1      Η ανθρωπότητα στην εποχή μας βρίσκεται σε έναν τεχνολογικό ίλιγγο.

Αρκεί μόνο να σκεφτεί κανείς την εξέλιξη και διεύρυνση χρήσης των ηλεκτρονικών εφαρμογών στη ζωή μας τα τελευταία τριάντα χρόνια και τις εξαρτήσεις και επιρροές που αυτές δημιουργούν στην καθημερινότητά μας, στον τρόπο σκέψης και στις αποφάσεις μας και στην διαπροσωπική επικοινωνία μας.

Η τεχνολογία ασκεί έντονη γοητεία για τις ευκολίες που συνεπάγεται, αλλά και ταυτόχρονα προβληματισμό και φοβίες για τους κινδύνους που επιφυλάσσει. Η γοητεία οδηγεί σε πειρασμούς, οι προβληματισμοί σε αναστολές.

2      Εντελώς πρόσφατα η Τεχνητή Νοημοσύνη (Τ.Ν.) εισέβαλε απότομα και επεκτατικά στο λεξιλόγιο και τη ζωή μας μεταφέροντας την τεχνολογική εξέλιξη σε άλλο επίπεδο. 

Και αυτό γιατί είναι ένα πρόγραμμα που επιδεικνύει ιδιότητες ευφυΐας που μέχρι τώρα συνδέαμε αποκλειστικά με τον άνθρωπο, όπως να μαθαίνει από την εμπειρία του ή από παραδείγματα, να αναγνωρίζει αντικείμενα, να καταλαβαίνει την γλώσσα, να παίρνει  αποφάσεις και να επιλύει προβλήματα.

Πρόκειται για μια εντελώς διαφορετική τεχνολογία, η οποία δεν παράγει αποφάσεις με βάση  ένα συγκεκριμένο προγραμματισμό και συγκεκριμένες οδηγίες, αντιθέτως, διακρίνεται για την αυτονομία στην λειτουργία και τον τρόπο εκμάθησης. Τα ευφυή συστήματα της Τ.Ν. δεν βασίζονται σε κανόνες για να εξάγουν συμπεράσματα, αλλά  μαθαίνουν από τα δεδομένα με τα οποία τροφοδοτούνται και εξάγουν νέους βελτιωμένους κανόνες  για να επιτελέσουν το έργο που τους ανατίθεται.

3      Η Τ.Ν. δεν άργησε να διεκδικήσει ρόλο και μερίδιο στον χώρο της Δικαιοσύνης. Εφαρμογές Τ.Ν. για τη Δικαιοσύνη, είδαν το φως στην άλλη πλευρά του Ατλαντικού και γοήτευσαν πολλούς νομικούς δημιουργώντας αυξημένες προσδοκίες από τη χρήση του. Παράλληλα, στάθηκαν αφορμή να ανοίξει η συζήτηση σε επίπεδο θεωρίας και πράξης ώστε να αναζητηθούν πιθανές συνέργειες μεταξύ Τ.Ν. και Δικαιοσύνης.

4      Βέβαια, η Δικαιοσύνη ως θεσμός και δημόσια λειτουργία συνδεόμενη με την απονομή του δικαίου σε μία συγκεκριμένη κοινωνία σε συγκεκριμένο χρόνο δεν αποτελεί το αποτέλεσμα τεχνικών πράξεων με μαθηματικά και υπολογιστικά χαρακτηριστικά ούτε απλή εξαγωγή συμπερασμάτων βάσει δεδομένων, αλλά μία περίπλοκη και σύνθετη νοητική διαδικασία.

Στη διαδικασία αυτή, αφενός, συγκρίνονται και εκτιμώνται η βαρύτητα και η αξιοπιστίααντικρουόμενων αποδεικτικών μέσων και, αφετέρου, ερμηνεύονται κανόνες δικαίου και εφαρμόζονται αόριστες νομικές έννοιες, όπως της αναλογικότητας, της επιείκειας, των χρηστών ηθών, της καλής πίστης, των διδαγμάτων της κοινής πείρας, της κατάχρησης δικαιώματος, του καλώς εννοούμενου συμφέροντος του τέκνου, της στάθμισης των συμφερόντων.

Επιπλέον, η δικαστική απόφαση ως αποτέλεσμα της δικαιοδοτικής διαδικασίας για να είναι πλήρης δεν αρκεί να περιέχει μόνο το συμπέρασμα αυτής, δηλαδή το διατακτικό, αλλά πρέπει να έχει ειδική και εμπεριστατωμένη  αιτιολογία χωρίς αντιφάσεις  με υποχρεωτική δημοσίευση της γνώμης της μειοψηφίας, όπως το ίδιο το Σύνταγμα απαιτεί (93 παρ. 3). Και αυτό για να μπορεί να ελέγχεται όλη η διαδικασία του δικανικού συλλογισμού, δηλαδή ο τρόπος που παρήχθη το αποτέλεσμα αυτό.

5      Προφανώς, οι δυσλειτουργίες που όλοι γνωρίζουμε στο χώρο απονομής της δικαιοσύνης με τα προβλήματα οργάνωσης και  διαχείρισης τεράστιου όγκου δεδομένων, την καθυστέρηση στην έκδοση αποφάσεων και την έκδοση εσφαλμένων αποφάσεων σε συνδυασμό και με την γοητεία των τεχνολογικών εξελίξεων,γεννούν πειρασμούς  μεταξύ άλλων και για την εισαγωγή συστημάτων Τ.Ν. στο χώρο απονομής της Δικαιοσύνης.

6      Πλέον δεν συζητάμε μόνο για ψηφιοποίηση της Δικαιοσύνης, αλλά για εισαγωγή Τ.Ν. στη Δικαιοσύνη σε τρία επίπεδα

α. Στην εξωδικαστική επίλυση διαφορών

β. Ως εργαλείο ή αποδεικτικό μέσο στην υπηρεσία του Δικαστή

γ. Ως αυτόνομο υποκείμενο λήψης απόφασης

7      Την ίδια στιγμή γεννώνται εύλογοι προβληματισμοί για τους κινδύνους που εγκυμονεί η χρήση της Τ.Ν. στη  Δικαιοσύνη, το κατά πόσο η Τ.Ν. είναι σε θέση να παραμετροποιήσει το σύνολο των νοητικών διεργασιών που απαιτούνται για το σχηματισμό της δικανικής κρίσης.

Ένα πρόγραμμα Τ.Ν. θα μπορούσε ενδεχομένως να κρίνει επί του παραδεκτού, αναρωτιέται όμως κανείς αν μπορεί να αξιολογήσει τις αντικρουόμενες μαρτυρικές καταθέσεις, να ερμηνεύσει διατάξεις νόμου, να εφαρμόσει τις  θεμελιώδεις αρχές δικαίου και να εξειδικεύσει κατά περίπτωση τις αόριστες νομικές έννοιες.

H Τ.Ν. δεν παράγει σκέψη, αλλά έχει ως βασική λειτουργία την αναζήτηση μοτίβων και την αναπαραγωγή τους. Η Τ.Ν. «λειτουργεί ως ένα μαύρο κουτί» που καταλήγει σε ένα αποτέλεσμα με κριτήρια που δεν είναι διαφανή καθώς δεν υπάρχει αιτιολογία και δεν προκύπτουν κατά τρόπο ευκρινή τα κριτήρια και η διαδικασία για την έκδοση συγκεκριμένου αποτελέσματος και η λειτουργία αυτή  είναι ασυμβίβαστη με τον πυρήνα της δικαιοσύνης, πολύ περισσότερο μάλιστα όταν αναπαράγει στερεότυπα  και προκαταλήψεις.

Αρκεί να σκεφτεί κανείς ότι μέσω συγκεκριμένων παραμέτρων μπορεί να θεμελιώνεται μια νέα μορφή κανονικότητας, η  οποία θα  λειτουργεί προς την κατεύθυνση της τυποποίησης των δικαστικών αποφάσεων.  Έχουμε ακούσει να γίνεται λόγος στο παρελθόν, με αφέλεια ή σκοπιμότητα, για το «τέλος της ιστορίας», αναρωτιέται εύλογα κανείς αν η χρήση της Τ.Ν. με την αναπαραγωγή των ίδιων μοτίβων θα οδηγήσει στο «τέλος της νομολογίας».

Και όμως,  η  νομολογία δεν μπορεί είναι στατική και οφείλει να εξελίσσεται και να ανταποκρίνεται στο διαρκώς μεταβαλλόμενο νομικό και κοινωνικό περιβάλλον με το οποίο βρίσκεται σε συνεχή διάλογο.

8      Η αντικατάσταση του φυσικού δικαστή ολικώς ή μερικώς από συστήματα που θα λαμβάνουν αποφάσεις χωρίς την παρέμβαση του ανθρώπου, εγκυμονεί  κινδύνους που δεν μπορούμε να παραβλέψουμε.

 Ούτε βεβαίως μπορούμε να παραβλέψουμε τον κίνδυνο να μεταφερθεί το σύνολο ή μέρος του δικαιοδοτικού έργου σε εταιρείες και ειδικούς της Πληροφορικής οι οποίοι χωρίς νομική γνώση, χωρίς δικαστική εκπαίδευση και εμπειρία, χωρίς λογοδοσία, χωρίς εχέγγυα προσωπικής και λειτουργικής ανεξαρτησίας θα επιχειρήσουν να παραμετροποιήσουν το σύνολο ή μέρος των δεδομένων και διαδικασιών που απαιτούνται για τη δικαστική κρίση.

Ο φυσικός δικαστής δεν πρέπει να αντικατασταθεί από μια εταιρία λογισμικού και από ένα σύστημα Τ.Ν. που θα λειτουργεί με αυτονομία και κατ’ επέκταση με αδιαφάνεια και αδυναμία κατανόησης της διαδικασίας εξαγωγής των αποτελεσμάτων του.

Και βεβαίως δεν μπορεί να υπάρξει Δικαιοσύνη δύο ταχυτήτων, μία  φθηνή και γρήγορη για τους πολλούς μέσω Τ.Ν. και μία πολυτελής για τους λίγους από Δικαστές όπως μέχρι σήμερα.

9      Ο Δικηγορικός Σύλλογος Πειραιά (Δ.Σ.Π.) είναι από τους πρώτους επιστημονικούς φορείς της χώρας, ο οποίος, ακολουθώντας την από 25-5-2023 Ανακοίνωση του Συμβουλίου Ευρωπαϊκών Δικηγορικών Συλλόγων (CCBE), ανέδειξε το θέμα της εισαγωγής της Τ.Ν. στη Δικαιοσύνη, τις προκλήσεις και τους κινδύνους που αυτή γεννά.

Ο ΔΣΠ με το Ψήφισμά του της 22ας-6-2023, παρότι αναγνωρίζει τα οφέλη από την τεχνολογική εξέλιξη,  επισημαίνει τους κινδύνους που μπορούν να επέλθουν στα ανθρώπινα δικαιώματα και στο κράτος δικαίου από αυτοματοποιημένες διαδικασίες απονομής δικαιοσύνης.

Ο ΔΣΠ, λόγω των ραγδαίων εξελίξεων στον χώρο της Τ.Ν., τάχθηκε υπέρ της άμεσης υιοθέτησης ρυθμιστικού νομικού πλαισίου από τα αρμόδια εθνικά, ευρωπαϊκά και διεθνή όργανα που θα θέτει τα όρια και θα διασφαλίζει ότι οποιαδήποτε χρήση εφαρμογών προηγμένης Τ.Ν. στον τομέα της Δικαιοσύνης θα γίνεται με σεβασμό στις αρχές της δημοκρατίας, της διαφάνειας, της δίκαιης δίκης, των θεμελιωδών δικαιωμάτων και ελευθεριών, του τεκμηρίου αθωότητας και της απαγόρευσης διακρίσεων, καθώς και με τρόπο τέτοιο που να εγγυάται πάντοτε την παρουσία του φυσικού δικαστήκαι την έκδοση των αποφάσεων από αυτόν.

Όσο πιεστική κι αν είναι η ανάγκη αντιμετώπισης των δυσλειτουργιών στην απονομή της Δικαιοσύνης, μείωσης δαπανών, κατάργησης χρονοβόρων διαδικασιών και αποσυμφόρησης της ύλης, δεν μπορούμε να επιτρέψουμε σε ιδιωτικές εταιρείες να υποκαταστήσουν την ανεξάρτητη ανθρώπινη σκέψη  με ελεγχόμενα λογισμικά ούτε μπορούμε να επιτρέψουμε οποιαδήποτε έκπτωση στις αρχές της δίκαιης δίκης, όπως διατυπώνονται και προστατεύονται από το Σύνταγμα και από υπερνομοθετικούς κανόνες και έχουν αποτελέσει από την εποχή του Διαφωτισμού ως σήμερα αντικείμενο κοινωνικών διεκδικήσεων, νομοθετικών αλλαγών και νομολογιακής επεξεργασίας.

10    Αντί επιλόγου, παρατίθεται μία ιστορική αναφορά που πιστεύω ότι διατηρεί αξία μέχρι σήμερα.

Στην Εσθονία συζητούν από το 2019 για τη δημιουργία ενός ρομπότ-Δικαστή, όπως τον ονομάζουν, ο οποίος θα υποκαταστήσει τον άνθρωπο-Δικαστή, για την ώρα στις μικροδιαφορές στον πρώτο βαθμό δικαιοδοσίας.

Η λέξη ρομπότ χρησιμοποιήθηκε για πρώτη φορά το 1921 από τον Τσέχο συγγραφέα Κάρελ Τσάπεκ στο θεατρικό έργο του «R.U.R.» (Rossum’s universal robots- καθολικά ρομπότ του Ρόσουμ, όπου η εταιρική επωνυμία «Rossum» υπαινικτικά συνδέεται με τη τσέχικη λέξη «rozum» που σημαίνει νόηση).

Ενδιαφέρουσας σημασίας είναι ότι η λέξη «ρομπότ» προέρχεται από την σλάβικη λέξη «ρομπότα» (ή «ραμπότα» όπως προφέρεται στα ρώσικα) που σημαίνει δουλειά – όχι εργασία, καθώς ανατρέχει περαιτέρω ετυμολογικά στη σλάβικη λέξη «ρόμπστβα» που σημαίνει δουλεία.

Στο έργο αυτό του Κάρελ Τσάπεκ, ένας από τους ήρωες, ο Γενικός Διευθυντής της εταιρείας R.U.R, στην ερώτηση «τι είναι τα ρομπότ» απαντά «τα ρομπότ δεν είναι άνθρωποι, είναι μηχανές πιο ανεπτυγμένες από εμάς, κατέχουν απίστευτη τεχνητή νοημοσύνη, αλλά δεν έχουν ψυχή».

Όπως όλοι γνωρίζουμε, χρειάζεται πρώτα απ’ όλα ψυχή, χρειάζεται ελεύθερη βούληση και συνείδηση για να αποδώσεις Δικαιοσύνη.

*Ηλίας Κλάππας, Πρόεδρος Δικηγορικού Συλλόγου Πειραιά

Ακολουθήστε το dikastiko.gr στο Google News και δείτε πρώτοι όλες τις ειδήσεις

Διαβάστε όλες τις τελευταίες ειδήσεις από την Ελλάδα και τον Κόσμο στο dikastiko.gr