Η ταχύτατη υιοθέτηση συστημάτων Τεχνητής Νοημοσύνης σε κρίσιμους τομείς της οικονομικής και κοινωνικής ζωής ανέδειξε ένα από τα βασικότερα πρακτικά και νομικά προβλήματα: την αδιαφάνεια και την πολυπλοκότητα ορισμένων συστημάτων, ιδίως όταν αυτά επηρεάζουν την ασφάλεια, την πρόσβαση σε υπηρεσίες ή ακόμη και δικαιώματα. Για την αντιμετώπιση αυτών των ανησυχιών, αλλά και για να διευκολυνθούν οι φορείς που τα χρησιμοποιούν ώστε να τηρούν τις υποχρεώσεις τους, το ευρωπαϊκό πλαίσιο για την ΤΝ απαιτεί αυξημένη διαφάνεια ειδικά για τα συστήματα «υψηλού κινδύνου», πριν αυτά διατεθούν στην αγορά ή τεθούν σε λειτουργία.
Κεντρική θέση εδώ καταλαμβάνει η αρχή ότι τα συστήματα υψηλού κινδύνου πρέπει να σχεδιάζονται και να αναπτύσσονται με τρόπο που επιτρέπει στον φορέα εφαρμογής να κατανοεί και να αξιοποιεί ορθά τα αποτελέσματά τους. Με άλλα λόγια, δεν αρκεί ένα σύστημα να «λειτουργεί» τεχνικά· πρέπει να είναι και επαρκώς κατανοητό ως προς τις δυνατότητες, τους περιορισμούς και το πώς πρέπει να χρησιμοποιείται, ώστε να αποφεύγονται εσφαλμένες ερμηνείες, ακατάλληλες χρήσεις ή λήψη αποφάσεων χωρίς επαρκή τεκμηρίωση.
Τι θεωρείται «σύστημα υψηλού κινδύνου»
Τα συστήματα ΤΝ υψηλού κινδύνου διακρίνονται, σε γενικές γραμμές, σε δύο μεγάλες κατηγορίες.
Η πρώτη κατηγορία αφορά συστήματα ΤΝ που χρησιμοποιούνται ως συστατικό ασφάλειας προϊόντων, τα οποία καλύπτονται από ειδική τομεακή νομοθεσία και απαιτείται να περάσουν από διαδικασίες αξιολόγησης συμμόρφωσης πριν διατεθούν στην αγορά ή τεθούν σε λειτουργία. Η λογική της ταξινόμησης είναι σαφής: όταν η ΤΝ συνδέεται άμεσα με την ασφάλεια ανθρώπων και πραγμάτων, ο κίνδυνος από δυσλειτουργία, εσφαλμένη ρύθμιση ή κακή χρήση είναι αυξημένος. Ενδεικτικά, στην κατηγορία αυτή μπορούν να εμπίπτουν συστήματα ΤΝ που ενσωματώνονται ή λειτουργούν ως στοιχεία ασφάλειας σε μεταφορικά μέσα και μηχανήματα (όπως οχήματα, αεροπορικά/σιδηροδρομικά μέσα, πλοία, drones), σε ορισμένα ιατροτεχνολογικά προϊόντα, σε μηχανήματα, παιχνίδια, ανελκυστήρες, εξοπλισμό ατομικής προστασίας, ραδιοεξοπλισμό, εξοπλισμό υπό πίεση, τελεφερίκ και συσκευές αερίου.
Η δεύτερη κατηγορία αφορά συστήματα ΤΝ που προορίζονται για χρήση σε συγκεκριμένους τομείς και για συγκεκριμένους σκοπούς που έχουν αυξημένη επίπτωση σε θεμελιώδη δικαιώματα, την ασφάλεια ή την εύρυθμη λειτουργία κρίσιμων κοινωνικών δομών. Συνοπτικά, συχνά γίνεται αναφορά σε τομείς όπως βιομετρικά συστήματα, κρίσιμες υποδομές, εκπαίδευση και κατάρτιση, απασχόληση και διαχείριση εργαζομένων, πρόσβαση σε βασικές ιδιωτικές και δημόσιες υπηρεσίες, επιβολή του νόμου, διαχείριση μετανάστευσης/ασύλου/συνόρων, καθώς και απονομή δικαιοσύνης και δημοκρατικές διαδικασίες.
Διαφάνεια: σε ποιον απευθύνεται και γιατί έχει σημασία
Ένα ιδιαίτερο χαρακτηριστικό του πλαισίου διαφάνειας για τα συστήματα υψηλού κινδύνου είναι ότι, σε μεγάλο βαθμό, οργανώνεται ως υποχρέωση του παρόχου προς τον φορέα εφαρμογής. Δηλαδή, το κέντρο βάρους δεν βρίσκεται μόνο στην ενημέρωση του τελικού πολίτη που ενδέχεται να επηρεάζεται, αλλά στη διασφάλιση ότι ο οργανισμός ή η επιχείρηση που χρησιμοποιεί το σύστημα διαθέτει την απαραίτητη γνώση για:να επιλέξει κατάλληλα το σύστημα που προτίθεται να χρησιμοποιήσει, λαμβάνοντας υπόψη το είδος της δραστηριότητας και τους κινδύνους,να γνωρίζει ποιες χρήσεις προβλέπονται και ποιες αποκλείονται,να κατανοεί τους περιορισμούς, τα σφάλματα, τις συνθήκες λειτουργίας και τα απαιτούμενα μέτρα εποπτείας,να χρησιμοποιεί τα αποτελέσματα του συστήματος με τρόπο τεκμηριωμένο και σύμφωνο με τις υποχρεώσεις του.
Η προσέγγιση αυτή είναι ιδιαίτερα πρακτική: αν ο φορέας εφαρμογής δεν καταλαβαίνει πώς πρέπει να «διαβάζει» τις εξόδους (outputs) του συστήματος, τότε ακόμη και ένα τεχνικά άρτιο εργαλείο μπορεί να οδηγήσει σε εσφαλμένες αποφάσεις, διακρίσεις, αδικαιολόγητες απορρίψεις αιτημάτων, ή και κινδύνους για την ασφάλεια.
Ο ρόλος των οδηγιών χρήσης και της τεκμηρίωσης
Η διαφάνεια στην πράξη υλοποιείται κυρίως μέσω κατάλληλης πληροφόρησης που συνοδεύει το σύστημα, συνήθως με τη μορφή οδηγιών χρήσης σε κατάλληλο ψηφιακό μορφότυπο ή με άλλο πρόσφορο τρόπο. Οι πληροφορίες αυτές πρέπει να είναι συνοπτικές αλλά πλήρεις, ορθές, σαφείς, συναφείς, προσβάσιμες και κατανοητές από τους στοχευόμενους φορείς εφαρμογής.
Στο πλαίσιο αυτό, οι οδηγίες χρήσης αναμένεται να καλύπτουν, κατ’ ελάχιστον, ζητήματα όπως:
την ταυτότητα και τα στοιχεία επικοινωνίας του παρόχου και, όπου απαιτείται, του εξουσιοδοτημένου αντιπροσώπου,τα χαρακτηριστικά, τις ικανότητες και τους περιορισμούς των επιδόσεων του συστήματος,τις προβλεπόμενες αλλαγές στο σύστημα και στις επιδόσεις του, όπως είχαν προσδιοριστεί κατά την αρχική αξιολόγηση, όπου αυτό είναι σχετικό,τα μέτρα ανθρώπινης εποπτείας και τα τεχνικά μέτρα που διευκολύνουν την ερμηνεία των εξόδων από τον φορέα εφαρμογής,τους αναγκαίους υπολογιστικούς πόρους και πόρους υλισμικού, την αναμενόμενη διάρκεια ζωής, καθώς και τα μέτρα συντήρησης και φροντίδας, συμπεριλαμβανομένης της συχνότητάς τους και των επικαιροποιήσεων λογισμικού,όπου εφαρμόζεται, περιγραφή των μηχανισμών που επιτρέπουν τη συλλογή, αποθήκευση και ορθή ερμηνεία αρχείων καταγραφής.
Ιδιαίτερη αξία έχουν, όπου είναι δυνατό, ενδεικτικά παραδείγματα σχετικά με τους περιορισμούς, καθώς και τις προβλεπόμενες και αποκλειόμενες χρήσεις. Τα παραδείγματα αυτά βοηθούν τον φορέα εφαρμογής να κατανοήσει όχι μόνο «τι μπορεί να κάνει» το σύστημα, αλλά κυρίως «πότε δεν πρέπει να το χρησιμοποιήσει» ή «πότε δεν πρέπει να βασιστεί αποκλειστικά σε αυτό».
Τι σημαίνει αυτό για επιχειρήσεις και φορείς που χρησιμοποιούν ΤΝ
Για μια επιχείρηση ή έναν οργανισμό που σκέφτεται να ενσωματώσει ΤΝ υψηλού κινδύνου στις διαδικασίες του, η διαφάνεια δεν είναι απλώς ένα θεωρητικό ζητούμενο. Είναι λειτουργικό εργαλείο συμμόρφωσης και διαχείρισης κινδύνου. Πρακτικά, πριν από την προμήθεια ή την ενεργοποίηση ενός τέτοιου συστήματος, πρέπει να μπορεί να απαντήσει, με βάση την τεκμηρίωση:
ποια είναι η προβλεπόμενη χρήση και ποια χρήση αποκλείεται\
σε ποιες συνθήκες το σύστημα αποδίδει αξιόπιστα και πού εμφανίζει περιορισμούς,
ποιος είναι ο ρόλος του ανθρώπου στη λήψη της τελικής απόφασης και ποια μέτρα εποπτείας είναι αναγκαία,
τι αρχεία τηρούνται και αν μπορεί να τεκμηριώσει εκ των υστέρων μια κρίσιμη απόφαση,
τι απαιτήσεις συντήρησης ή ενημερώσεων υπάρχουν και ποιος τις αναλαμβάνει.
Η ορθή αξιολόγηση της τεκμηρίωσης, η προσαρμογή των εσωτερικών διαδικασιών και η εκπαίδευση των χρηστών του συστήματος είναι, συχνά, το σημείο όπου «κρίνεται» η συμμόρφωση στην πράξη.
Συμπέρασμα
Η υποχρέωση διαφάνειας στα συστήματα ΤΝ υψηλού κινδύνου λειτουργεί ως θεμέλιο για ασφαλή και υπεύθυνη χρήση. Δεν περιορίζεται σε γενικές δηλώσεις περί «εξηγησιμότητας», αλλά μεταφράζεται σε συγκεκριμένες πληροφορίες και οδηγίες που πρέπει να λαμβάνει ο φορέας εφαρμογής, ώστε να μπορεί να ερμηνεύει τα αποτελέσματα, να κατανοεί τις δυνατότητες και τους περιορισμούς, και να λαμβάνει τεκμηριωμένες αποφάσεις.
Σε επίπεδο νομικής υποστήριξης, η αξιολόγηση του αν η τεκμηρίωση είναι πράγματι επαρκής, αν ανταποκρίνεται στον σκοπό χρήσης, και αν έχουν ληφθεί τα κατάλληλα οργανωτικά μέτρα (ανθρώπινη εποπτεία, πολιτικές χρήσης, διαδικασίες ελέγχου και καταγραφής) είναι κρίσιμη τόσο για τη συμμόρφωση όσο και για τον περιορισμό ευθύνης σε περίπτωση συμβάντος ή διαφοράς.
Πηγή: Νομική Βιβλιοθήκη, Η εφαρμογή της αρχής της διαφάνειας στη τεχνητή νοημοσύνη, Βόρας Α.
