Μια υπόθεση δολοφονίας στο Κλίβελαντ του Οχάιο θα μπορούσε να καταρρεύσει επειδή η αστυνομία της πόλης βασίστηκε σε λογισμικό αναγνώρισης προσώπου με βάση την Τεχνητή Νοημοσύνη για να αποκτήσει ένταλμα έρευνας.
Και αυτό παρά τη συγκεκριμένη προειδοποίηση από τον πάροχο αυτής της Τεχνητής Νοημοσύνης, την Clearview AI, ότι τα αποτελέσματα από το λογισμικό αναζήτησης αναγνώρισης προσώπου του δεν πρέπει να «χρησιμοποιούνται ως αποδεκτά αποδεικτικά στοιχεία σε δικαστήριο ή σε οποιαδήποτε δικαστική κατάθεση, ούτε θα πρέπει να χρησιμοποιούνται ως μοναδική βάση για μια σύλληψη, επειδή μπορεί να μην είναι ακριβή», σύμφωνα με τον προγραμματιστή.
Όπως αναφέρει η εφημερίδα The Cleveland Plain Dealer, η αστυνομία που ερευνούσε τη δολοφονία του Blake Story στις 14 Φεβρουαρίου 2024, έλαβε βίντεο παρακολούθησης που κατέγραφε το θύμα να πυροβολείται από άγνωστο άτομο. Το πρόσωπο του δολοφόνου δεν είναι ορατό στο βίντεο της 14ης Φεβρουαρίου, οπότε η Clearview AI δεν μπόρεσε να τον αναγνωρίσει.
Απτόητοι, οι αστυνομικοί χρησιμοποίησαν την αναγνώριση προσώπου της Clearview AI για να αναγνωρίσουν ένα άτομο σε ξεχωριστό βίντεο παρακολούθησης που καταγράφηκε ημέρες αργότερα, στις 20 Φεβρουαρίου 2024. Η ίδια η αστυνομία της αμερικανικής πόλης υπέθεσε ότι το πρόσωπο αυτό, με βάση τα ρούχα του και τον τρόπο που περπατούσε, μπορεί να είναι ο δράστης στο βίντεο της 14ης Φεβρουαρίου και έλαβε ένταλμα έρευνας κατά του άνδρα που αναγνωρίστηκε από τον υπολογιστή.
Το ένταλμα έρευνας, που εκτελέστηκε στο σπίτι της φίλης του υπόπτου, είχε ως αποτέλεσμα η αστυνομία να πει ότι βρήκε ένα όπλο, το οποίο οι αστυνομικοί πιστεύουν ότι είναι το φονικό όπλο. Επίσης, ελήφθησαν και άλλα αποδεικτικά στοιχεία, όπως ρούχα και καταθέσεις.
Όμως στις 9 Ιανουαρίου 2025, ο δικαστής που προήδρευε της υπόθεσης στην κομητεία Cuyahoga του Οχάιο, έκανε δεκτή την αίτηση της υπεράσπισης να αποκλειστούν τα αποδεικτικά στοιχεία, επειδή δεν γνωστοποιήθηκαν επαρκώς στο δικαστήριο οι λεπτομέρειες της έρευνας, όπως η χρήση της τεχνολογίας αναγνώρισης προσώπου Clearview AI.
Στην αίτησή του για την απόρριψη, ο συνήγορος υπεράσπισης Brian M. Fallon επικαλέστηκε μια δήλωση της αστυνομίας που σημείωνε ότι οι αστυνομικοί ζήτησαν από το Northeast Ohio Regional Fusion Center, μια διυπηρεσιακή ομάδα πληροφοριών για την επιβολή του νόμου, να αναγνωρίσει κάποιον στο βίντεο παρακολούθησης της 20ής Φεβρουαρίου, ώστε να ληφθεί η διεύθυνσή του, και το κέντρο συνέταξε μια έκθεση που έκανε ακριβώς αυτό: Αναγνώρισε το πρόσωπο στο παρεχόμενο βίντεο, αν και όχι στο βίντεο της πραγματικής δολοφονίας.
Και όχι μόνο αυτό, αλλά η κατάθεση του Fallon αναφέρει ότι η ταυτοποίηση επιτεύχθηκε με τη χρήση AI με προειδοποιητικές ετικέτες παντού: «Η έκθεση από το κέντρο σύντηξης προέρχεται από την Clearview AI, μια εταιρεία λογισμικού αναγνώρισης προσώπου με τεχνητή νοημοσύνη. Η εταιρεία αυτή έχει τόση πίστη στο λογισμικό της που τυπώνει τα εξής σε κάθε σελίδα της αναφοράς της…»
ΑΠΟΠΟΙΗΣΗ ΕΥΘΥΝΗΣ: Τα αποτελέσματα της αναζήτησης αναγνώρισης προσώπου πρέπει να αντιμετωπίζονται ως στοιχεία έρευνας και δεν πρέπει να χρησιμοποιούνται αποκλειστικά για τη διενέργεια συλλήψεων. Οι ερευνητές οφείλουν να διεξάγουν ενδελεχείς έρευνες, να επαληθεύουν ανεξάρτητα τις αναγνωρίσεις και να τηρούν τους ισχύοντες νόμους και τις πολιτικές της υπηρεσίας όσον αφορά τα αποτελέσματα της αναζήτησης με αναγνώριση προσώπου. Οι πληροφορίες στο παρόν έγγραφο προορίζονται μόνο για εσωτερική χρήση και δεν πρέπει να κοινοποιούνται εκτός της υπηρεσίας του χρήστη. Αυτά τα αποτελέσματα αναζήτησης δεν προορίζονται ούτε επιτρέπεται να χρησιμοποιηθούν ως αποδεκτά αποδεικτικά στοιχεία σε δικαστήριο ή σε οποιαδήποτε δικαστική κατάθεση.
Η πρόταση παραθέτει στη συνέχεια εκτενέστερη δήλωση αποποίησης ευθυνών στην ιστοσελίδα της Clearview AI, η οποία αναφέρει: «Η Clearview δεν παρέχει καμία εγγύηση ως προς την ακρίβεια του λογισμικού αναγνώρισης αναζήτησης».
Ο Fallon επεσήμανε την αποποίηση ευθυνών της εταιρείας και τη συγκεκριμένη απαγόρευση χρήσης των αποτελεσμάτων του λογισμικού της ως αποδεικτικών στοιχείων σε δικαστήριο.
«Αυτό τα λέει όλα», είπε, προσθέτοντας ότι η διατύπωση της ένορκης βεβαίωσης της αστυνομίας δεν καθιστά σαφές ότι το βίντεο από το οποίο αναγνωρίστηκε ο ύποπτος καταγράφηκε έξι ημέρες μετά το βίντεο που κατέγραψε τη δολοφονία και δεν αποδεικνύει ότι ο κατηγορούμενος που αναγνωρίστηκε από το λογισμικό της Clearview στο τελευταίο βίντεο εμφανίστηκε και στην καταγραφή της δολοφονίας.
Η ένορκη βεβαίωση της αστυνομίας συνδέει τον κατηγορούμενο που αναγνωρίστηκε από το AI της Clearview στο βίντεο της 20ής Φεβρουαρίου με τον άγνωστο ύποπτο στο βίντεο της 14ης Φεβρουαρίου που κατέγραφε τη δολοφονία, σημειώνοντας ότι ο κατηγορούμενος έχει «την ίδια σωματική διάπλαση, το ίδιο στυλ μαλλιών, την ίδια ενδυμασία και τα ίδια χαρακτηριστικά βάδισης που παρατηρήθηκαν στον ύποπτο στις 14 Φεβρουαρίου 2024».
Σύμφωνα με την εφημερίδα The Cleveland Plain Dealer, ένας εισαγγελέας της χώρας υποστήριξε κατά τη διάρκεια της ακρόασης της αίτησης ότι η αστυνομία δεν στήριξε την υπόθεσή της αποκλειστικά στην ΑΙ.
Όσον αφορά την ίδια την τεχνολογία Τεχνητής Νοημοσύνης, το πραγματικό ζήτημα είναι ότι ο εισαγγελέας είναι υποχρεωμένος να αποκαλύψει στον δικαστή τις σχετικές λεπτομέρειες, όπως η χρήση της Τεχνητής Νοημοσύνης. Ο Fallon δήλωσε ότι ζήτησε ακρόαση Daubert, αναφερόμενος στην υπόθεση του Ανώτατου Δικαστηρίου των ΗΠΑ που επιτρέπει την αμφισβήτηση του παραδεκτού μιας μαρτυρίας από έναν εμπειρογνώμονα. Η μονάδα ανθρωποκτονιών, δήλωσε πως δεν κατανοεί την τεχνολογία και δεν έχει εκπαιδευτεί σε αυτήν και δεν υπάρχουν ακόμη κανόνες για τη χρήση της τεχνητής αναγνώρισης προσώπου στο Οχάιο.
Η επιτυχημένη πρόταση της υπεράσπισης να αποκλειστούν τα αποδεικτικά στοιχεία έχει εφεσιβληθεί και οι εισαγγελείς έχουν αναγνωρίσει ότι η υπόθεσή τους κινδυνεύει εάν η απόφαση αυτή δεν ανατραπεί.
[via]
