Η Homo Digitalis, το ΙΝΕΡΠ και δημόσια υπάλληλος ζητούν έλεγχο για τη χρήση τεχνητής νοημοσύνης που, σύμφωνα με την καταγγελία, ανέτρεψε μαζικά τις αξιολογήσεις του 2023
Ποιος αξιολόγησε τελικά τους δημόσιους υπαλλήλους; Οι προϊστάμενοί τους, τα αρμόδια όργανα ή ένας αλγόριθμος που λειτούργησε πίσω από κλειστές πόρτες;
Αυτό είναι το ερώτημα που βρίσκεται πλέον ενώπιον της Εθνικής Αρχής Διαφάνειας, μετά τις συντονισμένες καταγγελίες της Homo Digitalis, του Ινστιτούτου Έρευνας Ρυθμιστικών Πολιτικών και μίας δημόσιας υπαλλήλου κατά του Υπουργείου Εσωτερικών.
Οι καταγγέλλοντες ζητούν να διερευνηθεί εάν τηρήθηκε ο νόμος κατά τη χρήση εργαλείου τεχνητής νοημοσύνης στην αξιολόγηση των δημοσίων υπαλλήλων για το 2023, καθώς και εάν αντίστοιχη επεξεργασία συνεχίστηκε ή πρόκειται να συνεχιστεί τα επόμενα έτη..
Η υπόθεση δεν αφορά μια απλή τεχνική διευκόλυνση. Αφορά μια διαδικασία που επηρεάζει την υπηρεσιακή εικόνα, την επαγγελματική πορεία και τα δικαιώματα δεκάδων χιλιάδων εργαζομένων.
Από τους 54.500 στους λιγότερους από 4.500
Σύμφωνα με όσα αναφέρονται στην καταγγελία, περίπου 54.500 υπάλληλοι είχαν αρχικά αξιολογηθεί ως υψηλής απόδοσης. Στη συνέχεια, τα δεδομένα τους φέρεται να υποβλήθηκαν σε επεξεργασία με εργαλείο τεχνητής νοημοσύνης.
Μετά την επεξεργασία, λιγότεροι από 4.500 παρέμειναν στην κατηγορία της υψηλής απόδοσης, ενώ 1.329 υπάλληλοι κατατάχθηκαν ως χαμηλής απόδοσης.
Αυτό δεν σημαίνει ότι περισσότεροι από 50.000 εργαζόμενοι χαρακτηρίστηκαν χαμηλής απόδοσης. Σημαίνει, όμως, ότι πάνω από 50.000 αρχικές κρίσεις υψηλής απόδοσης δεν διατηρήθηκαν μετά την αλγοριθμική επεξεργασία. Και μόνο το μέγεθος αυτής της ανατροπής επιβάλλει πλήρη εξήγηση.
Ποια δεδομένα χρησιμοποιήθηκαν; Με ποια κριτήρια απορρίφθηκαν οι αρχικές αξιολογήσεις; Ποιος σχεδίασε και ποιος έλεγξε το εργαλείο; Υπήρχε ουσιαστική ανθρώπινη εποπτεία; Είχαν οι υπάλληλοι δυνατότητα να μάθουν γιατί άλλαξε η κατάταξή τους και να αμφισβητήσουν το αποτέλεσμα;
Μέχρι σήμερα, σύμφωνα με τους καταγγέλλοντες, οι απαντήσεις δεν έχουν δοθεί με τον απαιτούμενο τρόπο.
Οι υπάλληλοι φέρεται να το έμαθαν εκ των υστέρων
Ιδιαίτερα σοβαρό είναι και το ζήτημα της ενημέρωσης. Η χρήση του εργαλείου, όπως υποστηρίζεται, δεν γνωστοποιήθηκε εγκαίρως και με σαφήνεια στους εργαζομένους, αλλά έγινε γνωστή εκ των υστέρων μέσα από δημοσιεύματα και δημόσιες τοποθετήσεις στελεχών του Υπουργείου.
Αν αυτό επιβεβαιωθεί, τότε δεν μιλάμε μόνο για ένα αμφισβητούμενο τεχνικό φίλτρο. Μιλάμε για χιλιάδες ανθρώπους που ενδέχεται να είδαν την υπηρεσιακή τους αξιολόγηση να αλλάζει χωρίς να γνωρίζουν ότι παρενέβη αλγοριθμικό σύστημα, χωρίς να ξέρουν τη λογική του και χωρίς να μπορούν να ελέγξουν αν το αποτέλεσμα ήταν ορθό ή μεροληπτικό.
Η τεχνητή νοημοσύνη δεν είναι αλάνθαστος κριτής. Λειτουργεί με δεδομένα, παραμέτρους και στόχους που επιλέγονται από ανθρώπους. Αν τα δεδομένα είναι προβληματικά, αν τα κριτήρια είναι ακατάλληλα ή αν ο έλεγχος είναι ανεπαρκής, η τεχνολογία δεν εξαφανίζει την αδικία. Μπορεί απλώς να την εφαρμόσει μαζικά και να την κρύψει πίσω από έναν τεχνικό όρο.
Το κρίσιμο ζήτημα της νομιμότητας
Η καταγγελία στηρίζεται στις προβλέψεις του ν. 4961/2022 για τη χρήση συστημάτων τεχνητής νοημοσύνης από φορείς του Δημοσίου. Κατά τη θέση των καταγγελλόντων, όταν ένα τέτοιο σύστημα χρησιμοποιείται για αποφάσεις που επηρεάζουν δικαιώματα πολιτών ή εργαζομένων, απαιτείται ειδική νομοθετική βάση και συγκεκριμένες εγγυήσεις προστασίας.
Οι οργανώσεις υποστηρίζουν ότι για τη συγκεκριμένη χρήση στην αξιολόγηση δημοσίων υπαλλήλων δεν υπήρχε η αναγκαία ειδική διάταξη. Παράλληλα, αναφέρουν ότι δεν προκύπτει να δημοσιεύτηκαν η απαιτούμενη αλγοριθμική εκτίμηση αντικτύπου και οι πληροφορίες διαφάνειας που θα επέτρεπαν τον δημόσιο και θεσμικό έλεγχο της διαδικασίας.
Αυτά αποτελούν ισχυρισμούς που καλείται τώρα να εξετάσει η Εθνική Αρχή Διαφάνειας. Δεν υπάρχει ακόμη πόρισμα που να κρίνει τη χρήση του συστήματος παράνομη. Υπάρχουν, όμως, συγκεκριμένα και σοβαρά ερωτήματα στα οποία το Υπουργείο Εσωτερικών οφείλει καθαρές απαντήσεις.
Εφαρμογή «υψηλού κινδύνου» για την Ευρώπη
Ο ευρωπαϊκός Κανονισμός για την τεχνητή νοημοσύνη αντιμετωπίζει ως υψηλού κινδύνου συστήματα που χρησιμοποιούνται για την παρακολούθηση ή αξιολόγηση εργαζομένων και μπορούν να επηρεάσουν ουσιαστικά την επαγγελματική τους πορεία και τα δικαιώματά τους.
Ο χαρακτηρισμός αυτός δεν είναι υπερβολή. Μια αλγοριθμική απόφαση μπορεί να επηρεάσει την εξέλιξη, την επιμόρφωση, την τοποθέτηση, την υπηρεσιακή φήμη ή άλλες κρίσιμες πλευρές της εργασιακής ζωής. Γι’ αυτό απαιτούνται διαφάνεια, τεκμηρίωση, ανθρώπινη εποπτεία και πραγματική δυνατότητα προσφυγής.
Η αξιολόγηση στο Δημόσιο είναι αναγκαία. Χωρίς αξιολόγηση δεν μπορεί να υπάρξει βελτίωση υπηρεσιών, ανάδειξη ικανών υπαλλήλων και λογοδοσία. Αξιολόγηση, όμως, δεν σημαίνει αλγοριθμική εκκαθάριση αριθμών χωρίς ενημέρωση και εξηγήσεις.
Το κράτος δεν μπορεί να ζητά διαφάνεια και λογοδοσία από τους υπαλλήλους του, όταν το ίδιο δεν αποκαλύπτει με ποιο εργαλείο, ποια κριτήρια και ποιες εγγυήσεις τους έκρινε.
Η ΕΑΔ καλείται τώρα να εξετάσει την καταγγελία και να διαπιστώσει τι ακριβώς συνέβη. Μέχρι τότε, ένα ερώτημα μένει αναπάντητο:
Όταν ένας αλγόριθμος ανατρέπει πάνω από 50.000 ανθρώπινες αξιολογήσεις, ποιος αναλαμβάνει την ευθύνη — το μηχάνημα ή εκείνοι που το έβαλαν να αποφασίσει;