Από το “χαρτοβασίλειο” στην… ψηφιακή γραφειοκρατία: Η έκθεση του ΣτΠ – Τι λέει για την τεχνητή νοημοσύνη στο χώρο της Δικαιοσύνης

Φαινόμενα «ψηφιακής γραφειοκρατίας» από τον ΣτΠ όπως καταγράφονται σε ειδική έκθεσή του με θέμα «ψηφιακές πλατφόρμες και Δημόσια Διοίκηση». Προβαίνοντας σε μία πρώτη αξιολόγηση η ανεξάρτητη Αρχή αναγνωρίζει και αναδεικνύει τις θετικές πτυχές, ιδίως στην επιτάχυνση διαδικασιών, στη διευκόλυνση των διοικούμενων, στη σταδιακή ψηφιακή διασύνδεση των δημοσίων υπηρεσιών. Ωστόσο, καταγράφει, παράλληλα, και στρεβλώσεις και ελλιπή σχεδιασμό που ενίοτε οδηγούν σε αποκλεισμούς ή και σε απώλεια δικαιωμάτων.

«Το έργο της ψηφιοποίησης των διοικητικών διαδικασιών και υπηρεσιών μετρά δεκαετίες στη χώρα μας» αναφέρει ο Συνήγορος του Πολίτη Ανδρέας Ποττάκης. «Η διοίκηση κλήθηκε να υλοποιήσει και διαχειριστεί απότομες, ενίοτε με ημιτελή σχεδιασμό, δομικές αλλαγές, αλλαγές τόσο στην οργάνωση όσο και στον τρόπο λειτουργίας της. Με αυτά τα δεδομένα, η επιτάχυνση και εντατικοποίηση της ψηφιακής μετάβασης φάνηκε ως αυτονόητη, και ασφαλής, πολιτική επιλογή. Αυτό, όμως, δεν σήμαινε πάντοτε, ότι ήταν και (άμεσα, τουλάχιστον) εφαρμόσιμη επιλογή».

Στο πλαίσιο της ειδικής έκθεσης σημειώνει πως «χαρακτηριστική περίπτωση, ο χώρος της κοινωνικής ασφάλισης. Η μεταρρύθμιση αφορούσε στη συγχώνευση των επιμέρους ασφαλιστικών ταμείων σε ένα, ενιαίο ασφαλιστικό φορέα, τον ΕΦΚΑ και μετέπειτα e-ΕΦΚΑ. Ωστόσο, παράλληλα με τη μεταρρύθμιση, δε διασφαλίστηκε η διαλειτουργικότητα των -διαφορετικών μεταξύ τους- ψηφιακών βάσεων δεδομένων των ταμείων».

Ιδιαίτερη αναφορά κάνει στην πρόσφατη πανδημία που έπαιξε καθοριστικό ρόλο στην επιτάχυνση και εντατικοποίηση της ψηφιακής μετάβασης, όχι μόνο στη χώρα μας, αλλά παγκοσμίως. «Πράγματι, ενώ μέχρι την εμφάνιση, και εξάπλωση, της πανδημίας και τη συνακόλουθη λήψη περιοριστικών μέτρων, η χρήση ψηφιακών πλατφορμών παρέμενε περιορισμένη, οι ειδικές συνθήκες που επικράτησαν ευνόησαν την σταδιακή, αν και ταχεία, αντικατάσταση παραδοσιακών μορφών επικοινωνίας διοίκησης-διοικούμενων με συναλλαγές μέσω ειδικά διαμορφωμένων ψηφιακών πλατφορμών. Σε ορισμένες, δε, περιπτώσεις, η αντικατάσταση ήταν πλήρης, αποκλειόμενης κάθε άλλης» αναφέρει.

Τονίζει όμως πως «αυτό θα πρέπει να γίνεται προσεκτικά, με σχέδιο. Αφενός, για να μην μείνει κανείς/καμία πίσω, «ψηφιακά περιθωριοποιημένος/η». Αφετέρου, για να υφίστανται οι κατάλληλες θεσμικές εγγυήσεις, ώστε οι κατά καιρούς προκλήσεις της αέναης ψηφιακής μετάβασης στη λειτουργία της οικονομίας, στην εργασία, στην εκπαίδευση, στην κοινωνία, να υποστηρίζουν και να θωρακίζουν περαιτέρω το κράτος δικαίου, τα δικαιώματά μας, τη δημοκρατία, και όχι να προκαλούν εστίες πιθανής διακινδύνευσης».

synigoros

Φαινόμενα «ψηφιακής γραφειοκρατίας» από τον ΣτΠ: Η εφαρμογή της τεχνητής νοημοσύνης στη Δικαιοσύνη

Οι αλγόριθμοι της τεχνητής νοημοσύνης αναπαράγουν στερεότυπα και επιτείνουν τις διακρίσεις, δεν είναι διαφανείς, δεν υπόκεινται σε «εξωτερικό», ανεξάρτητο έλεγχο.

Αυτό είναι το συμπέρασμα του Α. Ποττάκη σχετικά με την τεχνητή νοημοσύνη όπου ειδική μνεία κάνει και για την εφαρμογή της στο χώρο της Δικαιοσύνης. «Η μεγάλη πρόκληση της επόμενης μέρας πηγάζει μέσα από εφαρμογές φαινομενικά ακίνδυνες, εφαρμογές άρρηκτα συνδεδεμένες με την καθημερινότητά μας και τον τρόπο ζωής μας. Που καθορίζουν σε σημαντικό βαθμό τις καταναλωτικές μας συνήθειες και προτιμήσεις, τις κοινωνικές μας προσλαμβάνουσες, ακόμη και τις πολιτικές μας πεποιθήσεις. Που μας αναγνωρίζουν όχι ως υποκείμενα δικαιωμάτων και υποχρεώσεων, αλλά ως φορείς δεδομένων» λέει αρχικά.

Και προσθέτει: «Αυτή τη στιγμή, σε διάφορες χώρες είναι σε λειτουργία και χρήση αλγόριθμοι για την υποστήριξη των σωφρονιστικών πολιτικών ή και της απονομής της δικαιοσύνης, με profiling παραβατών ως προς την πιθανότητα να εγκληματήσουν ξανά και συνακόλουθη εκτίμηση επί της επιβαλλόμενης ποινής. Η ΕΕ χρηματοδοτεί την μελέτη και ανάπτυξη κατάλληλων αλγορίθμων για profiling αλλοδαπών, μεταναστών και αιτούντων άσυλο, με στόχευση την ανίχνευση εκείνων που θα «ενσωματωθούν ευκολότερα» στις κοινωνίες μας. Συστήματα κοινωνικής ασφάλισης, πρόνοιας και είσπραξης δημοσίων εσόδων βασίζονται σε αλγοριθμικές εφαρμογές. Μεγάλοι πολυεθνικοί κολοσσοί χρησιμοποιούν αλγόριθμους για την επιλογή των στελεχών τους, ή ακόμη και για δημιουργία μοντέλων με τα οποία καθορίζουν τις προοπτικές της εργασιακής σταδιοδρομίας καθενός και καθεμίας. Και οι αλγόριθμοι αυτοί δεν είναι «ουδέτεροι». Αντιθέτως, φαίνεται, ότι αναπαράγουν στερεότυπα και επιτείνουν τις διακρίσεις. Και δεν είναι διαφανείς, δεν υπόκεινται σε «εξωτερικό», ανεξάρτητο έλεγχο, ούτε κατά τη σχεδίαση, ούτε κατά την εφαρμογή τους. Λειτουργούν ακόμη με τη λογική της «αυτοδέσμευσης» του σχεδιαστή, του δημιουργού/παραγωγού, του φορέα, δημόσιου ή ιδιωτικού, που κάνει χρήση αυτών. Και φυσικά, υπάρχουν και εφαρμογές της τεχνητής νοημοσύνης και σε άλλους τομείς, υψηλής επικινδυνότητας, όπως η πολεμική βιομηχανία».

Η θετική εφαρμογή της σε τομείς όπως η Υγεία και «οι προκλήσεις μιας αρρύθμιστης εφαρμογής τους»

Κατά τον Συνήγορο του Πολίτη, «είναι γεγονός, ότι πολλές από τις εφαρμογές της τεχνητής νοημοσύνης είναι αναγκαίες, απαραίτητες σε διάφορους τομείς για την καλύτερη αντιμετώπιση προβλημάτων. Χαρακτηριστικό παράδειγμα, ο τομέας της υγείας, όπου η τεχνητή νοημοσύνη έχει συμβάλει και μπορεί να συμβάλλει περαιτέρω στην ανίχνευση και ταυτοποίηση ασθενειών ή γενετικών, γονιδιακών αποκλίσεων και τη θεραπεία τους. Αλλά και στην υπηρεσία της προστασίας της δημόσιας υγείας, είναι ήδη σε χρήση εφαρμογές που εγείρουν ζητήματα ως προς τους μηχανισμούς επεξεργασίας δεδομένων».

Τονίζει δε ότι «οι εφαρμογές της τεχνητής νοημοσύνης έχουν προ πολλού ξεπεράσει το στάδιο των αυτοματοποιημένων, μηχανικών λειτουργιών. Οι προκλήσεις μιας αρρύθμιστης εφαρμογής τους είναι παρούσες και είναι ιδιαιτέρως σύνθετες.

Λίγο πριν το ξέσπασμα της πανδημίας, η ΕΕ δημοσιοποίησε τη Λευκή Βίβλο της για τη τεχνητή νοημοσύνη, όπου παρουσίασε τους βασικούς άξονες στρατηγικής της. Και χαρτογράφησε και σειρά κινδύνων, την ανεπάρκεια του υφιστάμενου νομικού οπλοστασίου για την προστασία των δικαιωμάτων μας, την έλλειψη διαφάνειας, ρυθμιστικού πλαισίου και μηχανισμών εποπτείας, τόσο σε εθνικό όσο και σε υπερ-εθνικό, Ευρωπαϊκό επίπεδο. Και η αναγνώριση του προβλήματος είναι πάντα μία καλή αρχή, έστω και καθυστερημένη.

Στο διάστημα που μεσολάβησε, έλαβε χώρα ευρύς και έντονος διάλογος, και αποτελεί θετική εξέλιξη το γεγονός, ότι η Ένωση αναγνώρισε την ανάγκη νομοθετικής ρύθμισης, με Κανονισμό, ακολουθώντας έτσι τις ισχυρές παροτρύνσεις προς αυτή τη κατεύθυνση εθνικών και διεθνών φορέων προστασίας δικαιωμάτων, όπως η Επίτροπος Δικαιωμάτων του Συμβουλίου της Ευρώπης, ο Οργανισμός Θεμελιωδών δικαιωμάτων της ΕΕ αλλά και οι Συνήγοροι του Πολίτη, ιδίως της Ευρώπης.

Η προώθηση πραγματικά αποτελεσματικών μεθόδων και μηχανισμών που θα απαντούν στις προκλήσεις αυτές θα πρέπει να είναι απαίτηση όλων μας».

ΔΕΙΤΕ ΕΔΩ ΤΗΝ ΕΙΔΙΚΗ ΕΚΘΕΣΗ ΤΟΥ ΣτΠ

Ακολουθήστε το dikastiko.gr στο Google News και δείτε πρώτοι όλες τις ειδήσεις

Διαβάστε όλες τις τελευταίες ειδήσεις από την Ελλάδα και τον Κόσμο στο dikastiko.gr