Από την άλλη όμως, οι εφαρμογές της θα πρέπει να οριοθετηθούν χωρίς να αντικαταστήσουν τον ανθρώπινο παράγοντα στην άσκηση των πολιτειακών λειτουργιών. 

Η ανθρώπινη επίβλεψη στις εφαρμογές της τεχνητής νοημοσύνης είναι απαραίτητος όρος για την διατήρηση του σύγχρονου δημοκρατικού κράτους δικαίου.

Μπορεί κανείς να φανταστεί μια δικαιοσύνη, η οποία δεν θα αξιολογεί με ανθρώπινους όρους αλλά μηχανικά και ανώνυμα, μέσω των εφαρμογών της τεχνητής νοημοσύνης, και με αποτελέσματα που θα είναι δύσκολα επαληθεύσιμα και ελέγξιμα; 

Μπορεί κανείς να φανταστεί μια αστυνομία που θα παρακολουθεί και θα συλλαμβάνει υπόπτους και «υπόπτους» με βάση τα αποτελέσματα αλγοριθμικών δεδομένων που κανείς δεν θα μπορεί να ελέγξει και να επαληθεύσει;

Εικόνες από το μακρινό μέλλον; 

Όχι τόσο, αν σκεφτεί κανείς την πολύ πρόσφατη απόφαση του γερμανικού Ομοσπονδιακού Συνταγματικού Δικαστηρίου, που δημοσιεύτηκε στα μέσα Φεβρουαρίου. 

Η απόφαση αυτή έκρινε ως αντισυνταγματική τη νομοθεσία δύο γερμανικών κρατιδίων (Έσσης και Αμβούργου) που επέτρεπαν στην αστυνομία την αυτοματοποιημένη αλγοριθμική ανάλυση δεδομένων ως μέσο για την πρόληψη της εγκληματικής δραστηριότητας. 

Το Συνταγματικό Δικαστήριο δέχθηκε ότι η νομοθεσία αυτή παραβιάζει πολλαπλώς το δικαίωμα στην προστασία των προσωπικών δεδομένων και τον πληροφοριακό αυτοκαθορισμό του προσώπου.

Ειδικότερα, κρίθηκε ότι η χρήση αλγορίθμων από την αστυνομία επιτρέπει την επεξεργασία μεγάλου αριθμού πληροφοριών και τη δημιουργία «προφίλ» συγκεκριμένων ανθρώπων, κάτι που με τη σειρά του συνεπάγεται πολύ έντονη επέμβαση στο δικαίωμα της προσωπικότητας και δημιουργεί τον κίνδυνο καταχρήσεων. 

Εξάλλου, η αυτοματοποιημένη επεξεργασία βάσει αλγορίθμων στα γερμανικά κρατίδια δεν τηρούσε μια σειρά από δικαιοκρατικές εγγυήσεις: 

Δεν περιοριζόταν μόνο στην πρόληψη και στην καταστολή ιδιαίτερα σοβαρών εγκλημάτων κατά της ζωής, της σωματικής ακεραιότητας και της προσωπικής ελευθερίας και δεν υπήρχε η απαραίτητη σαφήνεια όσον αφορά το πλαίσιο συγκέντρωσης, ανάλυσης και αξιοποίησης των πληροφοριών από την αστυνομία. 

Όπως σημειώνεται χαρακτηριστικά στην απόφαση, το λογισμικό που χρησιμοποιούσε η αστυνομία της επέτρεπε με ένα «κλικ» να δημιουργήσει ένα πλήρες προφίλ ατόμων και ομάδων και να καταστήσει πολυάριθμα αθώα πρόσωπα αντικείμενο αστυνομικής παρακολούθησης.

Περαιτέρω, η χρήση των αλγορίθμων δεν περιοριζόταν μόνο στην αντιμετώπιση συγκεκριμένων και υπαρκτών κινδύνων και δεν υπήρχαν όρια ως προς τα είδη των προσωπικών δεδομένων που καθίσταντο αντικείμενα της αυτοματοποιημένης επεξεργασίας. 

Τέλος, δεν ξεκαθαρίζονταν οι μέθοδοι ανάλυσης και αξιοποίησης των πληροφοριών, που επέτρεπαν ακόμη και την εξόρυξη δεδομένων («Data-Mining»).

Μήπως όλα τα ανωτέρω αποτελούν «πολυτέλειες», ιδίως αν συγκριθούν με ζητήματα όπως αυτό των τηλεφωνικών υποκλοπών; 

Μπορεί να είναι και έτσι. Σε κάθε, πάντως, περίπτωση πρόκειται για «πολυτέλειες» που ενισχύουν τα ατομικά δικαιώματα και το κράτος δικαίου.