Νομική θύελλα και εδώλιο για δικηγόρο: Παρουσίασε νομολογία που είχε συγκεντρώσει με τεχνητή νοημοσύνη αλλά ήταν ανύπαρκτη!

Σοβαρή δικαστική κρίση προκάλεσε η χρήση της τεχνητής νοημοσύνης σε δικαστήριο, φέροντας με καταιγιστικό τρόπο στην επικαιρότητα βασικά ερωτήματα για τον τρόπο διαχείρισής της και την αναγκαία παρέμβαση (ως φίλτρο) του ανθρώπινου παράγοντα. Η πρωτοφανής υπόθεση που αποκαλύπτει το dikastiko.gr προκάλεσε δικαστικό «σεισμό» στη γειτονική Ιταλία όταν αποκαλύφθηκε πως ένας δικηγόρος χρησιμοποίησε σε δίκη, για να ενισχύσει τη θέση και τα νομικά επιχειρήματά του, σειρά αποφάσεων ανωτάτων δικαστηρίων (νομολογία). Όπως αποκαλύφθηκε όμως, οι αποφάσεις ήταν προϊόν συλλογής με τη χρήση AI από συνεργάτη του δικηγόρου, όμως ήταν ανύπαρκτες. Δεν υπήρχαν!

Πρωτοφανές

Το περιστατικό είναι πρωτοφανές στα δικαστικά χρονικά και αποτελεί μία ακόμα ένδειξη για τους κινδύνους που μπορεί να προκαλέσει η αλόγιστη χρήση της τεχνολογίας, χωρίς να παρεμβαίνει ως «όρος αληθείας» ο ανθρώπινος παράγοντας. Προκάλεσε, δε, σοβαρό νομικό ζήτημα στην Ιταλία, με νομικούς να θέτουν σειρά ερωτημάτων, όπως αναφέρει στο dikastiko.gr με άρθρο-παρέμβασή του ο Γιάννης Καρούζος:  

• Μπορεί η τεχνητή νοημοσύνη να υποκαταστήσει τη νομική έρευνα;
• Ποιος φέρει ευθύνη για τα σφάλματα ενός AI εργαλείου;
• Πρέπει να υπάρξουν φίλτρα ή ακόμη κωδικοί δεοντολογίας χρήσης της τεχνητής νοημοσύνης από νομικούς;

Η δίκη

Η υπόθεση αποκαλύφθηκε τον περασμένο Μάρτιο σε δικαστήριο της Φλωρεντίας όταν ο συνήγορος του ενάγοντα επικαλέστηκε αποφάσεις ανώτατου δικαστηρίου, οι οποίες αποδείχθηκαν ανύπαρκτες. Οι «αποφάσεις» προέκυψαν έπειτα από χρήση εργαλείου τεχνητής νοημοσύνης και δη του ChatGPT, χωρίς να έχει γίνει πρότερος έλεγχος της εγκυρότητάς τους. Ο δικηγόρος της άλλης πλευράς κατηγόρησε τον συνήγορο του ενάγοντα για παραπλανητική τακτική, παραπλάνηση των δικαστικών αρχών και ζήτησε την επιβολή κυρώσεων για δόλο ή βαριά αμέλεια.

Ο δικηγόρος του ενάγοντα ισχυρίστηκε ότι οι «ανύπαρκτες» αποφάσεις που τελικώς χρησιμοποιήθηκαν προς ισχυροποίηση των αγωγικών ισχυρισμών, προέκυψαν μετά από σχετική αναζήτηση δεδομένων συνεργάτιδάς του, με εργαλείο τεχνητής νοημοσύνης ChatGPT και έγιναν χωρίς ο ίδιος να γνωρίζει τη χρήση του εργαλείου και επομένως χωρίς ο ίδιος να κάνει σχετικό έλεγχο εγκυρότητας, ως όφειλε.

ΔΕΙΤΕ ΕΔΩ ΤΗΝ ΑΠΟΦΑΣΗ ΤΟΥ ΔΙΚΑΣΤΗΡΙΟΥ ΤΗΣ ΦΛΩΡΕΝΤΙΑΣ

Η απόφαση

Το δικαστήριο επέλεξε τελικά μια σολομώντεια λύση αφού αναγνώρισε την αμέλεια, υπογραμμίζοντας τη σοβαρότητα μη επαλήθευσης των πηγών, ωστόσο έκρινε ότι οι συγκεκριμένες «ανύπαρκτες αποφάσεις» χρησιμοποιήθηκαν απλώς προς ενίσχυση ενός ήδη παρουσιασμένου νομικού επιχειρήματος και όχι προκειμένου να παραπλανήσουν ή να αλλοιώσουν το αποτέλεσμα με κακή πίστη. 

Παράλληλα εισήγαγε τον όρο «ψευδαισθήσεις της τεχνητής νοημοσύνης» καθώς, όπως λέχθηκε, τα συγκεκριμένα δεδομένα, όχι μόνο ήταν αναληθή και ανύπαρκτα, αλλά πέραν αυτού η τεχνητή νοημοσύνη, μετά τη σχετική αναζήτηση της συνεργάτιδας του πληρεξούσιου δικηγόρου, κατασκεύασε νομικά δεδομένα με τόση «αυτοπεποίθηση» και παρήγαγε ανύπαρκτο νομικό προηγούμενο, το οποίο παραλίγο να επηρεάσει τη δικαστική κρίση!

dikastiko.gr

Ολόκληρο το άρθρο έχει ως εξης:

Γιαννης Κ. Καρούζος: Η τεχνητή νοημοσύνη στο εδώλιο: Τεχνολογικό φάλτσο ή προειδοποιητικό καμπανάκι;

«Τον περασμένο Μάρτιο, σε αίθουσα δικαστικών αρχών της Φλωρεντίας, κατά τη διάρκεια συζήτησης υπόθεσης, αναφορικά με παραβίαση εμπορικού σήματος, ο πληρεξούσιος δικηγόρος και συνήγορος του ενάγοντα, επικαλέστηκε αποφάσεις ανώτατου δικαστηρίου, οι οποίες αποδείχθηκαν ανύπαρκτες. Όπως έγινε γνωστό οι εν λόγω «αποφάσεις» προέκυψαν έπειτα από χρήση εργαλείου τεχνητής νοημοσύνης και δη του ChatGPT, χωρίς να έχει γίνει πρότερος έλεγχος της εγκυρότητάς τους.

Ο δικηγόρος της εναγόμενης και αντίπαλης πλευράς, κατηγόρησε τον συνήγορο του ενάγοντα για παραπλανητική τακτική, παραπλάνηση των δικαστικών αρχών και ζήτησε την επιβολή κυρώσεων για δόλο ή βαριά αμέλεια.

Ο δικηγόρος του ενάγοντα ισχυρίστηκε ότι οι «ανύπαρκτες» αποφάσεις που τελικώς χρησιμοποιήθηκαν προς ισχυροποίηση των αγωγικών ισχυρισμών, προέκυψαν μετά από σχετική αναζήτηση δεδομένων συνεργάτιδάς του, με εργαλείο τεχνητής νοημοσύνης ChatGPT και έγιναν χωρίς ο ίδιος να γνωρίζει την χρήση του εργαλείου και επομένως χωρίς ο ίδιος να κάνει σχετικό έλεγχο εγκυρότητας, ως όφειλε. Μάλιστα, ισχυρίστηκε ενώπιον των δικαστικών αρχών, ότι ουδεμία πρόθεση εξαπάτησης είχε και ότι το περιστατικό συνέβη λόγω αβλεψίας. Παραδεχόμενος την παράλειψη ελέγχου, ζήτησε οι επίμαχες αναφορές να διαγραφούν από τη δικογραφία, εκτιμώντας ότι η υπερασπιστική του γραμμή, ήταν ήδη θεμελιωμένη και επαρκώς τεκμηριωμένη.

Το δικαστήριο, αναγνώρισε την αμέλεια, υπογραμμίζοντας τη σοβαρότητα μη επαλήθευσης των πηγών. Ωστόσο, έκρινε ότι οι συγκεκριμένες «ανύπαρκτες αποφάσεις» χρησιμοποιήθηκαν απλώς προς ενίσχυση ενός ήδη παρουσιασμένου νομικού επιχειρήματος και όχι προκειμένου να παραπλανήσουν ή να αλλοιώσουν το αποτέλεσμα με κακή πίστη. Έτσι το δικαστήριο δεν διαπίστωσε πρόθεση εξαπάτησης, καθώς οι «ανύπαρκτες αποφάσεις», δεν επηρέασαν την ουσία της απόφασης. Ως εκ τούτου, απέρριψε το αίτημα της αντίπαλης πλευράς για καταβολή επιπλέον ποσού δικαστικής δαπάνης, κρίνοντας πως η έκβαση της υπόθεσης δεν επηρεάστηκε από τις εσφαλμένες αναφορές και το κύριο αντικείμενο της δίκης κρίθηκε σε άλλα επίπεδα.

Το δικαστήριο μάλιστα, έκανε λόγο και εισήγαγε για πρώτη φορά τον όρο  «ψευδαισθήσεις της τεχνητής νοημοσύνης», καθώς όπως λέχθηκε, τα συγκεκριμένα δεδομένα, όχι μόνο ήταν αναληθή και ανύπαρκτα, αλλά πέραν αυτού η τεχνητή νοημοσύνη, μετά την σχετική αναζήτηση της συνεργάτιδας του πληρεξούσιου δικηγόρου, κατασκεύασε νομικά δεδομένα με τόση «αυτοπεποίθηση» και παρήγαγε ανύπαρκτο νομικό προηγούμενο, το οποίο παραλίγο να επηρεάσει τη δικαστική κρίση.

Η τεχνολογική νοημοσύνη παρήγαγε λοιπόν, εξαιρετικά πειστικά αλλά εντελώς ψευδή αποτελέσματα.  Αυτά παρουσιαστήκαν ως Νομολογία και ως δικαστικές αποφάσεις – προηγούμενα δεδικασμένα. Η υπόθεση της Φλωρεντίας, έφερε στο φως νέα ερωτήματα, όπως:

• Μπορεί η τεχνητή νοημοσύνη να υποκαταστήσει τη νομική έρευνα;
• Ποιος φέρει ευθύνη για τα σφάλματα ενός AI εργαλείου;
• Πρέπει να υπάρξουν φίλτρα ή ακόμη κώδικοι δεοντολογίας χρήσης της τεχνητής νοημοσύνης από νομικούς;

Η νομική επιστήμη βασίζεται στην ακρίβεια, στη δεοντολογία και λογική συνέπεια. Αντιθέτως τα AI μοντέλα γλώσσας – όσο προηγμένα και να είναι – δε διαθέτουν «γνώση» με την ανθρώπινη έννοια, παρά βασίζονται σε πρότυπα πρόβλεψης λέξεων.

Η υπόθεση της Φλωρεντίας, λειτούργησε ως καμπανάκι: δεν είναι η τεχνολογία επικίνδυνη, αυτή καθαυτή, άλλα η άγνοια ή η απερίσκεπτη χρήση της. Και η ευθύνη τελικά για αυτό ανήκει στον άνθρωπο. Το περιστατικό της Φλωρεντίας δεν είναι απλώς ένα «τεχνολογικό φάλτσο», αλλά ένα προειδοποιητικό σήμα για τη θέση και τα όρια της τεχνητής νοημοσύνης στο νομικό κόσμο. Το μέλλον ανήκει στην τεχνολογία – αλλά μόνο όταν αυτή συνοδεύεται από την ανθρώπινη επίγνωση και τον επαγγελματισμό. Η νομοθεσία εξελίσσεται μπροστά σε μια τεχνολογία που ταξιδεύει με φρενήρεις ρυθμούς και εξαιρετικά υψηλή ταχύτητα. Άλλη μία πρόκληση ανάμεσα σε δικηγόρους και δικαστές».

*Δικηγόρος – εργατολόγος

Ακολουθήστε το dikastiko.gr στο Google News και δείτε πρώτοι όλες τις ειδήσεις

Διαβάστε όλες τις τελευταίες ειδήσεις από την Ελλάδα και τον Κόσμο στο dikastiko.gr