Μαμά εσύ; Πώς θα καταλάβεις αν μια φωνή, εικόνα ή βίντεο είναι deepfake

Κάποτε το «το είδα με τα μάτια μου» ή το «τον άκουσα να το λέει» ήταν αρκετά ισχυρό επιχείρημα. Σήμερα, με το AI να κάνει… παπάδες, τα πράγματα έχουν γίνει αρκετά πιο ζόρικα.

Τα εργαλεία γενετικής τεχνητής νοημοσύνης μπορούν πλέον να δημιουργήσουν φωτογραφίες, βίντεο και φωνές ανθρώπων που μοιάζουν πραγματικά. Τα λεγόμενα deepfakes δεν αποτελούν πια τεχνολογία διαθέσιμη μόνο σε ανθρώπους με εξειδικευμένες γνώσεις. Εργαλεία δημιουργίας συνθετικής φωνής και εικόνας είναι εύκολα προσβάσιμα, ενώ για την κλωνοποίηση μιας φωνής μπορεί να αρκούν λίγα δευτερόλεπτα πραγματικού ηχητικού υλικού.

Αυτό σημαίνει ότι ένα βίντεο με κάποιο γνωστό πρόσωπο, ένα φωνητικό μήνυμα από κάποιον συγγενή ή ακόμα και μια φαινομενικά κανονική βιντεοκλήση δεν πρέπει πλέον να θεωρούνται αυτομάτως αποδείξεις ταυτότητας.

Ποια είναι τα σημάδια που πρέπει να προσέξεις;

Κοίτα πρώτα το φως και τις σκιές

Οι εικόνες που δημιουργούνται ή τροποποιούνται με AI εξακολουθούν να δυσκολεύονται με τη φυσική του φωτός. Κοίτα από πού φαίνεται να έρχεται το φως και αν οι σκιές στο πρόσωπο συμφωνούν με το υπόλοιπο περιβάλλον. Ένα πρόσωπο μπορεί, για παράδειγμα, να βρίσκεται δίπλα σε ένα παράθυρο αλλά να φωτίζεται σαν να βρίσκεται σε στούντιο. Αντίστοιχα, οι αντανακλάσεις πάνω στο δέρμα ή σε γυαλιά και άλλα αντικείμενα μπορεί να φαίνονται παράξενες ή να λείπουν εντελώς.

Σε μια φωτογραφία, τσέκαρε προσεκτικά τα μάτια. Οι αντανακλάσεις στις δύο ίριδες ενός πραγματικού προσώπου συνήθως προέρχονται από την ίδια φωτεινή πηγή και επομένως μοιάζουν μεταξύ τους. Σε μια συνθετική εικόνα μπορεί να εμφανίζονται μικρές ασυνέπειες.

Πρόσεξε τα μαλλιά και το περίγραμμα του προσώπου

Η γραμμή των μαλλιών μπορεί να φαίνεται θολή, να τρεμοπαίζει ή να αλλάζει ελαφρώς καθώς κινείται το κεφάλι. Το ίδιο μπορεί να συμβαίνει γύρω από τα αυτιά, το πηγούνι ή τον λαιμό. Στα βίντεο, αυτές οι μικρές παραμορφώσεις είναι συχνά ευκολότερο να εντοπιστούν όταν το πρόσωπο κινείται γρήγορα ή στρέφεται προς κάποια κατεύθυνση.

The eyes, chico!

Στα παλαιότερα deepfakes, οι άνθρωποι ανοιγόκλειναν τα μάτια τους περίεργα. Τα σύγχρονα μοντέλα έχουν βελτιωθεί σημαντικά, οπότε αυτό το «τεστ» από μόνο του δεν αρκεί.

Παρόλα αυτά, μπορεί να δεις περίεργες κινήσεις στα βλέφαρα, τα δύο μάτια να ανοιγοκλείνουν ελαφρώς ασυγχρόνιστα ή ένα βλέμμα που μοιάζει υπερβολικά στατικό και «γυάλινο». Ακόμη και η κόρη του ματιού μπορεί περιστασιακά να παρουσιάζει μικρές αφύσικες κινήσεις ή παραμορφώσεις.

Δες αν τα χείλη ακολουθούν πραγματικά τη φωνή

Στα deepfake βίντεο η εικόνα και ο ήχος πρέπει να συγχρονιστούν με εξαιρετική ακρίβεια. Και εκεί μπορεί να εμφανιστούν λάθη. Παρατήρησε αν οι κινήσεις του στόματος αντιστοιχούν πραγματικά σε αυτά που ακούς. Μια μικρή καθυστέρηση, περίεργα σχήματα των χειλιών ή στιγμές στις οποίες το στόμα φαίνεται να «γλιστράει» από τη θέση του είναι ύποπτα σημάδια.

Το ίδιο ισχύει και για τις εκφράσεις. Ένα αληθινό πρόσωπο δημιουργεί δεκάδες μικρές κινήσεις όταν χαμογελά, θυμώνει ή εκπλήσσεται. Σε ένα deepfake το χαμόγελο μπορεί να παραμένει υπερβολικά σταθερό ή το πρόσωπο να μη δείχνει το συναίσθημα που ταιριάζει με όσα λέγονται.

Μην κοιτάς μόνο το πρόσωπο

Το φόντο είναι συχνά πιο αποκαλυπτικό από τον άνθρωπο που πρωταγωνιστεί στην εικόνα. Μπορεί να είναι υπερβολικά θολό, αντικείμενα να αλλάζουν ελαφρώς σχήμα από καρέ σε καρέ ή το περιβάλλον να παραμένει περίεργα ακίνητο ενώ κινείται η κάμερα.

Προσοχή όμως. Η συμπίεση ενός βίντεο, μια κακή σύνδεση ή τα εφέ θολώματος που χρησιμοποιούν οι εφαρμογές βιντεοκλήσεων μπορούν να δημιουργήσουν παρόμοια προβλήματα χωρίς να υπάρχει deepfake.

Και πώς ακούγεται μια deepfake φωνή;

Η συνθετική φωνή είναι ιδιαίτερα επικίνδυνη επειδή δεν έχεις εικόνα για να αναζητήσεις οπτικά λάθη, ενώ μέσω τηλεφώνου μικρές ατέλειες του ήχου μπορούν εύκολα να αποδοθούν στην κακή σύνδεση.

Άκου πρώτα τον ρυθμό της ομιλίας. Μπορεί να είναι υπερβολικά ομοιόμορφος, με ασυνήθιστες παύσεις ή λέξεις που μοιάζουν σαν να έχουν ενωθεί μεταξύ τους. Η φωνή μπορεί επίσης να ακούγεται πιο επίπεδη συναισθηματικά από όσο θα περίμενες ή να έχει μια ελαφρώς ηλεκτρονική ή «ξύλινη» χροιά.

Ιδιαίτερη προσοχή χρειάζεται και στην αναπνοή. Οι πραγματικοί άνθρωποι παίρνουν μικρές ανάσες ανάμεσα στις φράσεις, σταματούν, ξεροβήχουν, καταπίνουν ή κάνουν μικρά λάθη. Οι συνθετικές φωνές μπορεί να μιλούν για μεγάλα χρονικά διαστήματα χωρίς φυσικές ανάσες ή να τοποθετούν τις ανάσες σε παράξενα σημεία.

Άκου επίσης τον τρόπο που μιλά συγκεκριμένα ο άνθρωπος που υποτίθεται πως βρίσκεται στην άλλη άκρη του ακουστικού. Έχει χαρακτηριστικές εκφράσεις; Προφορά; Ιδιαίτερο λεξιλόγιο; Κάνει συγκεκριμένα λάθη ή χρησιμοποιεί κάποιες λέξεις πολύ συχνά; Η AI μπορεί να αντιγράψει εξαιρετικά καλά τη χροιά μιας φωνής χωρίς απαραίτητα να αντιγράψει εξίσου καλά τον άνθρωπο πίσω από αυτή.

Το «κακό σήμα» μπορεί να είναι μέρος της απάτης

Μην υποθέτεις ότι ένας θολός ήχος ή ένα βίντεο που διακόπτεται κάνει ένα deepfake λιγότερο πιθανό. Μπορεί να συμβαίνει ακριβώς το αντίθετο. Οι απατεώνες μπορούν να εκμεταλλευτούν σκόπιμα την υποτιθέμενη κακή σύνδεση για να καλύψουν τις ατέλειες ενός συνθετικού βίντεο ή μιας φωνής.

Ένα πιθανό σενάριο είναι μια βιντεοκλήση που «κολλάει» συνεχώς και στη συνέχεια αντικαθίσταται από ένα σύντομο βίντεο ή φωνητικό μήνυμα. Η χαμηλή ποιότητα κάνει πολύ δυσκολότερο να εντοπίσεις μικρές αναντιστοιχίες.

Αν υποψιάζεσαι ότι το πρόσωπο που βλέπεις σε βιντεοκλήση είναι deepfake, ζήτησέ του να γυρίσει το κεφάλι του τελείως στο πλάι. Πολλά συστήματα λειτουργούν καλύτερα όταν βλέπουν ένα πρόσωπο περίπου από μπροστά. Με μεγαλύτερη περιστροφή μπορεί να εμφανιστούν παραμορφώσεις, τρεμόπαιγμα ή στιγμιαία αλλοίωση της εικόνας.

Μπορείς επίσης να ζητήσεις μια απρόβλεπτη κίνηση. Να περάσει το χέρι μπροστά από το πρόσωπό του, να αγγίξει τη μύτη του, να καλύψει για λίγο τα μάτια ή να πιει μια γουλιά νερό. Όταν χέρια και αντικείμενα περνούν μπροστά από το συνθετικό πρόσωπο, τα συστήματα deepfake μπορεί να δυσκολευτούν και να δημιουργήσουν παραμορφώσεις.

Κάνε μια ερώτηση που δεν περιμένει

Αν κάποιος γνωστός σου ζητά επειγόντως χρήματα, ρώτησέ τον κάτι που γνωρίζετε μόνο οι δυο σας. Κάτι για μια πρόσφατη συνάντηση, ένα ταξίδι ή μια προσωπική ανάμνηση που δεν είναι διαθέσιμη δημόσια στα social media.

Σε επαγγελματική βιντεοκλήση μπορείς αντίστοιχα να ζητήσεις από έναν συνάδελφο να μοιραστεί την οθόνη του και να ανοίξει ένα συγκεκριμένο έγγραφο ή εφαρμογή.

Μια ακόμα λύση είναι να έχεις συμφωνήσει με στενούς συγγενείς ένα μυστικό συνθηματικό για καταστάσεις έκτακτης ανάγκης.

Αν υποψιαστείς deepfake, κλείσε και πάρε εσύ τηλέφωνο

Αν ένας γνωστός, συγγενής, συνάδελφος ή προϊστάμενος σου ζητήσει κάτι ασυνήθιστο μέσω τηλεφώνου, φωνητικού μηνύματος ή βιντεοκλήσης, μη βασιστείς στην εικόνα και στη φωνή του.

Τερμάτισε την επικοινωνία και επικοινώνησε εσύ μαζί του από ένα κανάλι που ήδη γνωρίζεις: στον αριθμό που έχεις αποθηκευμένο, μέσω άλλης εφαρμογής ή, αν πρόκειται για δουλειά, μέσω του εταιρικού συστήματος επικοινωνίας. Και προφανώς, μην κάνεις μεταφορά χρημάτων ή μην αποκαλύψεις κωδικούς, στοιχεία πρόσβασης και κωδικούς επιβεβαίωσης επειδή κάποιος σε πιέζει χρονικά.