Τα σημαντικότερα AI μοντέλα για την παραγωγή εικόνων γίνονται ολοένα και πιο εξελιγμένα. Παρόλο που ο κύριος όγκος των χρηστών τα χρησιμοποιεί για εντελώς ακίνδυνους σκοπούς, όπως το να μετατρέπουν τις selfies τους σε απεικονίσεις εμπνευσμένες από το Studio Ghibli, υπάρχουν και εκείνοι που ανακάλυψαν γρήγορα πώς αυτά τα εργαλεία μπορούν να χρησιμοποιηθούν για τουλάχιστον προβληματικούς σκοπούς. Για παράδειγμα, το Gemini είναι πολύ καλό στο να αφαιρεί υδατογραφήματα από εικόνες που προστατεύονται από πνευματικά δικαιώματα.
Αλλά αυτό είναι μόνο η κορυφή του παγόβουνου: ένας χρήστης του Linkedin αποκάλυψε ότι κατάφερε να χρησιμοποιήσει την Τεχνητή Νοημοσύνη για να δημιουργήσει ένα άκρως αληθοφανές πλαστό διαβατήριο. Ένας εφιάλτης για τις τράπεζες, τα καζίνο, τα ανταλλακτήρια κρυπτονομισμάτων και πολλές άλλες πλατφόρμες που βασίζονται σε σαρώσεις εγγράφων για να επαληθεύσουν την ταυτότητα των πελατών τους και να καταπολεμήσουν το ξέπλυμα χρήματος, την απάτη και την κλοπή ταυτότητας.
Ο Borys Musielak αποκάλυψε στο LinkedIn ότι κατάφερε να δημιουργήσει ένα ψεύτικο διαβατήριο, αρκετά ρεαλιστικό ώστε να μπορεί να περάσει τους ελέγχους KYC (ακρωνύμιο για το Know Your Customer) ορισμένων πλατφορμών. Για να το κάνει αυτό, χρειάζεται απλώς να χρησιμοποιήσει το GPT-4o, την τελευταία έκδοση του μοντέλου που τροφοδοτεί το ChatGPT.
Αυτό πήρε μόλις λίγα λεπτά. Το πείραμα είχε ήδη επιχειρηθεί στο παρελθόν, αλλά μέχρι σήμερα η Τεχνητή Νοημοσύνη είχε αποδειχθεί αναξιόπιστη: τα παραγόμενα έγγραφα είχαν σοβαρές ατέλειες, όπως ασυνέπειες στη διάταξη ή στην επιλογή των χαρακτήρων, τεχνουργήματα στη φωτογραφία του εγγράφου ή σφάλματα στο τμήμα του εγγράφου που μπορεί να σαρωθεί. Ασυνέπειες που δεν θα μπορούσαν να περάσουν απαρατήρητες από το μάτι ενός ειδικού – ή από τα αυτοματοποιημένα συστήματα επαλήθευσης που χρησιμοποιούνται συχνά για τις διαδικασίες KYC.
Η τελευταία έκδοση του μοντέλου της OpenAI κατάφερε να δημιουργήσει ένα τέλειο αντίγραφο ενός κανονικού διαβατηρίου. Ίσως να μην μπορεί να χρησιμοποιηθεί για τη διέλευση συνόρων ή την επιβίβαση σε αεροπλάνο (το έγγραφο εξακολουθεί να μην διαθέτει το chip), αλλά είναι αρκετά αποτελεσματικό για να εξαπατήσει τράπεζες, εταιρείες και, πιθανότατα, ακόμη και καταλύματα που είναι αναγκασμένα να συλλέγουν τα δεδομένα των πελατών τους. Για πλατφόρμες όπως η Revolut και η Binance (αντίστοιχα η πιο διαδεδομένη κινητή τραπεζική και ανταλλαγή στον κόσμο), οι οποίες ζητούν απλώς από τους πελάτες τους ένα αντίγραφο των εγγράφων ταυτότητάς τους, πρόκειται για τρομερά νέα: σημαίνει ότι τα συστήματα ασφαλείας τους δεν μπορούν να ανταποκριθούν στις προκλήσεις που θέτει η ολοένα και πιο εξελιγμένη Τεχνητή Νοημοσύνη.
Το πρόβλημα των πλαστών εγγράφων δεν είναι από μόνο του καινούργιο, αλλά ανησυχητικό είναι η αφοπλιστική ευκολία με την οποία είναι πλέον δυνατή η δημιουργία τους. Η διαδικασία δεν απαιτεί εξειδίκευση ή μεγάλες τεχνικές δεξιότητες και δεδομένου ότι διαρκεί λίγα λεπτά, μπορεί να αναπαραχθεί σε μεγάλη κλίμακα. Για τους επιτήδειους, η διενέργεια μαζικών επιχειρήσεων κλοπής ταυτότητας έχει γίνει πλέον πολύ απλή.
Η OpenAI έχει ήδη εφαρμόσει μέτρα ασφαλείας για να καταστήσει πιο περίπλοκη τη δημιουργία πλαστών εγγράφων ταυτότητας. Πλέον το ChatGPT αρνείται να εκτελέσει την εντολή, επικαλούμενο λόγους ασφαλείας και τις εσωτερικές του πολιτικές. Το πρόβλημα είναι ότι, όπως έχουμε δει αρκετές φορές, οι εγκληματίες και οι χάκερς γίνονται όλο και πιο ικανοί στο να βρίσκουν τρόπους να παρακάμπτουν τα όρια των μεγάλων γλωσσικών μοντέλων (LLM). Επιπλέον, υπάρχουν ακόμη μοντέλα ανοιχτού κώδικα, τα οποία δεν ακολουθούν τους ίδιους κανόνες και την αυτολογοκρισία της υπηρεσίας που προσφέρει η OpenAI.
Για να παρακαμφθεί το πρόβλημα, η μπάλα περνάει αναπόφευκτα στις ίδιες τις τράπεζες και τις εταιρείες fintech, αλλά κυρίως στις κυβερνήσεις που εκδίδουν έγγραφα. Για να αντιμετωπιστεί αυτό που κινδυνεύει να εξελιχθεί σε επιδημία ολοένα και πιο εξελιγμένης απάτης, καθίσταται επιτακτική η προσφυγή σε πιο εξελιγμένα μέτρα ασφάλειας και επαλήθευσης της ταυτότητας. Οι εμπειρογνώμονες προτείνουν ήδη ορισμένες πιθανές λύσεις, συμπεριλαμβανομένης της υποχρέωσης χρήσης ταυτοτήτων και διαβατηρίων νέας γενιάς με τεχνολογία NFC ή με τσιπ που πρέπει να σαρώνονται.
[via]
