Όταν οι αλγόριθμοι μπαίνουν στη Δημόσια Διοίκηση: ποιος αποφασίζει τελικά; (της Ιωάννας Μπερτσιμά)

Η Τεχνητή Νοημοσύνη (AI) δεν αποτελεί πλέον μια τεχνολογία που αφορά μόνο τις μεγάλες πολυεθνικές εταιρείες. Μπαίνει σταδιακά και στη δημόσια διοίκηση, δημιουργώντας νέες δυνατότητες, αλλά και σοβαρά ερωτήματα.

Ως εργαζόμενη στον δημόσιο τομέα, βλέπω καθημερινά τις τεράστιες δυνατότητες που προσφέρει η τεχνολογία. Παράλληλα, όμως, προβληματίζομαι — όπως πιστεύω και πολλοί συνάδελφοι και συμπολίτες μας — για το πώς θα αξιοποιηθεί χωρίς να χαθούν αξίες που αποτελούν θεμέλιο της δημόσιας διοίκησης.

Διεθνείς μελέτες, μεταξύ των οποίων και μελέτες του ΟΟΣΑ, αναδεικνύουν ότι η Τεχνητή Νοημοσύνη μπορεί να μετασχηματίσει τη διακυβέρνηση σε τρεις βασικούς άξονες: παραγωγικότητα, ανταπόκριση και λογοδοσία.

• Λιγότερη γραφειοκρατία: αυτοματοποίηση επαναλαμβανόμενων εργασιών και ψηφιακοί βοηθοί (chatbots) που μπορούν να απαντούν άμεσα σε ερωτήματα των πολιτών.
• Καλύτερη αξιοποίηση των δεδομένων: επεξεργασία μεγάλων όγκων πληροφοριών που μπορεί να βοηθήσει τη διοίκηση να εντοπίζει ανάγκες, να προβλέπει κινδύνους και να σχεδιάζει αποτελεσματικότερες πολιτικές.
• Καλύτερη λήψη αποφάσεων: η ανάλυση δεδομένων μπορεί να υποστηρίξει τη δημόσια διοίκηση, για παράδειγμα, στη διαχείριση φυσικών καταστροφών ή στην παροχή υπηρεσιών υγείας.
• Καταπολέμηση της απάτης: αλγοριθμικά συστήματα μπορούν να συμβάλουν στον εντοπισμό ανωμαλιών στη φορολογική διοίκηση, στις δημόσιες συμβάσεις και σε άλλους τομείς.

Όλα αυτά είναι σημαντικά. Ένα κράτος που μπορεί να επεξεργάζεται γρήγορα πληροφορίες και να περιορίζει τη γραφειοκρατία μπορεί να εξυπηρετεί καλύτερα τον πολίτη. Όμως, αρκεί μόνο η αποτελεσματικότητα;

Τα συστήματα Τεχνητής Νοημοσύνης βασίζονται σε δεδομένα και αλγοριθμικές διαδικασίες. Αν τα δεδομένα περιέχουν ήδη κοινωνικές ανισότητες ή προκαταλήψεις, υπάρχει ο κίνδυνος αυτές να αναπαραχθούν ή ακόμη και να ενισχυθούν μέσα από αυτοματοποιημένες διαδικασίες.

Έρευνες έχουν αναδείξει ότι αυτοματοποιημένα συστήματα, που χρησιμοποιήθηκαν στη διαχείριση κοινωνικών παροχών και στεγαστικής βοήθειας, δημιούργησαν σοβαρά προβλήματα και αποκλεισμούς για ευάλωτες κοινωνικές ομάδες.

Επίσης, όταν ένας αλγόριθμος προτείνει ή επηρεάζει μια απόφαση, η εξήγηση του «γιατί» δεν είναι πάντοτε εύκολη, ούτε για τον υπάλληλο ούτε για τον πολίτη. Είναι δύσκολο για έναν πολίτη να θεωρήσει δίκαιη μια απόφαση την οποία δεν μπορεί να κατανοήσει ή να αμφισβητήσει.

Τέλος, η ψηφιακή μετάβαση δεν ωφελεί όλους τους ανθρώπους με τον ίδιο τρόπο. Η πρόσβαση στην τεχνολογία, οι ψηφιακές δεξιότητες και η ικανότητα αξιοποίησής της διαφέρουν σημαντικά μεταξύ των πολιτών. Ηλικιωμένοι, κάτοικοι απομακρυσμένων περιοχών ή άνθρωποι με περιορισμένες ψηφιακές δεξιότητες μπορεί να βρεθούν αντιμέτωποι με έναν νέο τύπο αποκλεισμού.

Η δημόσια διοίκηση καλείται να εφαρμόζει κανόνες, αλλά ταυτόχρονα να προστατεύει δικαιώματα, να αντιμετωπίζει τον πολίτη με ισότητα και να λαμβάνει υπόψη τις ιδιαίτερες περιστάσεις κάθε υπόθεσης. Ο δημόσιος υπάλληλος δεν είναι απλώς ένας χειριστής ενός πληροφοριακού συστήματος. Η Τεχνητή Νοημοσύνη θα πρέπει να λειτουργεί ως εργαλείο υποστήριξης και όχι ως υποκατάστατο της ανθρώπινης κρίσης και ευθύνης.

Επομένως, η καλή διακυβέρνηση της Τεχνητής Νοημοσύνης δεν μπορεί να μετράται μόνο με βάση την αποδοτικότητα και την αποτελεσματικότητα. Το ζητούμενο δεν είναι να δημιουργήσουμε ένα κράτος που απλώς αποφασίζει γρηγορότερα, αλλά να δημιουργήσουμε ένα κράτος που αξιοποιεί την τεχνολογία χωρίς να χάνει τη διαφάνεια, τη νομιμότητα, τη δικαιοσύνη, την ισότητα και, τελικά, τον ανθρώπινο χαρακτήρα του.

Γιατί η τεχνολογική πρόοδος έχει αξία όταν κάνει τη ζωή του πολίτη καλύτερη χωρίς να περιορίζει τα δικαιώματά του. Και τελικά, όσο περισσότερες αποφάσεις περνούν μέσα από αλγορίθμους, τόσο πιο σημαντικό γίνεται να θυμόμαστε ότι πίσω από κάθε διοικητική απόφαση υπάρχει ένας άνθρωπος και απέναντί της ένας πολίτης.

Ιωάννα Μπερτσιμά, MSc

----------------------------------------------------------------------------------------------------------------------------

Πηγές: OECD, Christoph Lutz, Virginia Eubanks, Chen, Ahn & Wang, Tara Qian Sun & Rony Medaglia.

ΔΕΙΤΕ ΑΚΟΜΑ Κωνσταντίνος Τσουκαλάς: Να σκεφτόμαστε μέσα στον θόρυβο της εποχής ((του Γιώργου Καρανάσιου)