Με μόλις 3-5 δευτερόλεπτα ηχογράφησης και λίγες φωτογραφίες, η ΑΙ μπορεί να δημιουργήσει πειστικά ψεύτικα βίντεο και φωνές

Το αποτέλεσμα είναι μια νέα μορφή ψηφιακής απάτης, που μπορεί να ξεγελάσει ακόμη και έμπειρους χρήστες του διαδικτύου. Τα σύγχρονα τεχνητά νευρωνικά δίκτυα έχουν πλέον τη δυνατότητα να κλωνοποιούν μια ανθρώπινη φωνή, χρησιμοποιώντας μόλις τρία έως πέντε δευτερόλεπτα ηχητικού υλικού.

Παράλληλα, μπορούν να δημιουργούν εξαιρετικά πειστικά βίντεο βασισμένα σε ελάχιστες φωτογραφίες ενός προσώπου. Σε πολλές περιπτώσεις, τα ψεύτικα μηνύματα, που παράγονται με αυτές τις τεχνολογίες, είναι τόσο ρεαλιστικά, ώστε το 95% των ανθρώπων δεν μπορεί να τα διακρίνει από τα αυθεντικά.

Όπως εξηγεί η Kaspersky, οι απατεώνες βασίζονται, κυρίως, σε δημόσια διαθέσιμο υλικό για να δημιουργήσουν τα deepfakes. Συλλέγουν εικόνες και ήχους από διαδικτυακά σεμινάρια, βίντεο σε κοινωνικά δίκτυα, online παρουσιάσεις ή δημόσιες ομιλίες. Σε ορισμένες περιπτώσεις επικοινωνούν απευθείας με πιθανά θύματα και προσπαθούν να τα κρατήσουν όσο το δυνατόν περισσότερο στη γραμμή, προκειμένου να συλλέξουν επαρκές ηχητικό υλικό για την κλωνοποίηση της φωνής τους.

Ακόμη πιο πολύτιμο για τους απατεώνες είναι η παραβίαση ενός λογαριασμού, που χρησιμοποιείται συχνά για αποστολή φωνητικών ή βιντεομηνυμάτων. Με πρόσβαση σε τέτοια αρχεία μπορούν να δημιουργήσουν εξαιρετικά ρεαλιστικές απομιμήσεις της φωνής ή του προσώπου ενός ατόμου και να τις χρησιμοποιήσουν για να εξαπατήσουν συγγενείς, φίλους ή συνεργάτες του.

Τί προδίδει ένα deepfake

Παρά την εντυπωσιακή πρόοδο της τεχνητής νοημοσύνης, τα deepfakes εξακολουθούν να αφήνουν ορισμένα ίχνη, που μπορούν να αποκαλύψουν την απάτη. Ένα από τα πιο συνηθισμένα προβλήματα αφορά τον φωτισμό και τις σκιές. Τα συστήματα τεχνητής νοημοσύνης συχνά αποτυπώνουν λανθασμένα τη φυσική του φωτός, με αποτέλεσμα οι σκιές να μην συμβαδίζουν με την πηγή φωτισμού ή οι αντανακλάσεις στο δέρμα να φαίνονται αφύσικες.

Επίσης, οι γραμμές των μαλλιών ή τα περιγράμματα του προσώπου μπορεί να εμφανίζουν θόλωμα, τρεμόπαιγμα ή περίεργες μεταβολές χρώματος. Οι παραμορφώσεις αυτές οφείλονται σε σφάλματα του αλγορίθμου, που τοποθετεί το «κλωνοποιημένο» πρόσωπο πάνω στο αρχικό βίντεο.

Ιδιαίτερα χαρακτηριστικό είναι και το αφύσικο ανοιγοκλείσιμο των ματιών. Ένας άνθρωπος ανοιγοκλείνει τα μάτια του κατά μέσο όρο 10 έως 20 φορές το λεπτό. Σε πολλά deepfakes, η συχνότητα αυτή είναι είτε υπερβολικά μικρή, είτε υπερβολικά μεγάλη, ενώ συχνά το ένα μάτι δεν συγχρονίζεται σωστά με το άλλο. Παράλληλα, το βλέμμα μπορεί να μοιάζει «γυάλινο» ή άδειο.

Άλλο ένα στοιχείο, που προδίδει την τεχνητή κατασκευή, είναι τα προβλήματα συγχρονισμού μεταξύ φωνής και κινήσεων των χειλιών. Ακόμη και μια καθυστέρηση της τάξης των 100 χιλιοστών του δευτερολέπτου μπορεί να γίνει αντιληπτή από τον θεατή.

Τα σημάδια μιας συνθετικής φωνής

Παρά τη βελτίωση των συστημάτων τεχνητής ομιλίας, υπάρχουν ακόμη χαρακτηριστικά, που αποκαλύπτουν μια τεχνητή φωνή. Η ομιλία μπορεί να ακούγεται επίπεδη ή να έχει μια ελαφρώς ηλεκτρονική χροιά. Η πραγματική ανθρώπινη φωνή περιλαμβάνει μικρές μεταβολές στον τόνο και φυσικές ατέλειες, που συχνά απουσιάζουν από τις συνθετικές φωνές.

Επιπλέον, οι άνθρωποι κάνουν φυσικές παύσεις για να αναπνεύσουν ή μπορεί να ακουστούν μικρά βηξίματα ή ρουθουνίσματα ανάμεσα στις προτάσεις. Στα deepfakes, αυτές οι λεπτομέρειες είτε λείπουν, είτε εμφανίζονται σε αφύσικες στιγμές. Συχνά η ομιλία παρουσιάζει απότομες διακοπές, ενώ η έμφαση στις λέξεις δεν ταιριάζει με τον τρόπο που μιλά συνήθως το πραγματικό άτομο.

Συμπεριφορικές ενδείξεις απάτης

Η παρατήρηση της συμπεριφοράς κατά τη διάρκεια μιας βιντεοκλήσης μπορεί να αποτελέσει το πιο αποτελεσματικό μέσο εντοπισμού ενός deepfake. Για παράδειγμα, αν ζητήσετε από το άτομο να γυρίσει το κεφάλι του εντελώς στο πλάι, το σύστημα μπορεί να αποτύχει να αποδώσει σωστά την κίνηση και η εικόνα να παραμορφωθεί.

Αντίστοιχα, αυθόρμητες κινήσεις, όπως το να κουνήσει κάποιος το χέρι μπροστά από το πρόσωπό του ή να πιάσει κάποιο αντικείμενο, συχνά δημιουργούν σφάλματα στην εικόνα. Σε επαγγελματικές συζητήσεις, η απαίτηση κοινής χρήσης οθόνης ή η υποβολή ερωτήσεων, που μόνο το πραγματικό άτομο μπορεί να απαντήσει, μπορεί επίσης να αποκαλύψει έναν απατεώνα.

Πώς πρέπει να αντιδράσουν οι χρήστες

Αν υπάρχει η παραμικρή υποψία ότι μια συνομιλία βασίζεται σε deepfake, η πιο ασφαλής κίνηση είναι ο άμεσος τερματισμός της κλήσης και η επικοινωνία με το άτομο μέσω άλλου καναλιού, όπως τηλεφωνικά ή με μήνυμα σε διαφορετική εφαρμογή.

Ιδιαίτερη προσοχή χρειάζεται, όταν ο συνομιλητής ζητά επειγόντως χρήματα ή προσπαθεί να δημιουργήσει αίσθηση πανικού. Η πίεση χρόνου αποτελεί μια από τις πιο συνηθισμένες τακτικές των απατεώνων.

Η ενημέρωση φίλων ή συνεργατών σε περίπτωση πιθανής παραβίασης λογαριασμού αποτελεί επίσης κρίσιμο βήμα, καθώς μπορεί να αποτρέψει τη διάδοση της απάτης σε μεγαλύτερο δίκτυο επαφών.

Η εξάπλωση των deepfakes δείχνει ότι η ψηφιακή ασφάλεια δεν εξαρτάται, πλέον, μόνο από ισχυρούς κωδικούς ή ασφαλείς πλατφόρμες. Απαιτεί πλέον εγρήγορση, κριτική σκέψη και την ικανότητα να αναγνωρίζει κανείς τα μικρά σημάδια, που αποκαλύπτουν μια τεχνητά κατασκευασμένη πραγματικότητα.

Πηγή: sepe.gr

Το άρθρο Deepfakes: Η νέα ψηφιακή απάτη που μιμείται πρόσωπα και φωνές εμφανίστηκε πρώτα στο NewIdeas | Το κανάλι με άποψη.

Πτώση-ρεκόρ στις τιμές πλαστών βίντεο και ήχου, με την αγορά να γίνεται πιο προσιτή από ποτέ σε κυβερνοεγκληματίες

Σε σχέση με προηγούμενα ευρήματα της εταιρείας, όπου οι τιμές κυμαίνονταν από $300 έως $20.000 ανά λεπτό, το κόστος έχει καταρρεύσει έως και 400 φορές. Σύμφωνα με την ανάλυση της εταιρείας, η ραγδαία πτώση του κόστους για deepfake υπηρεσίες δείχνει ότι η τεχνολογία περνά από τα εργαστήρια των ειδικών στα χέρια κάθε κυβερνοεγκληματία. Η προσιτή τιμή και οι εξελιγμένες δυνατότητες δημιουργούν ένα νέο, επικίνδυνο περιβάλλον, όπου η εμπιστοσύνη στην εικόνα και τη φωνή δεν είναι πλέον δεδομένη.

Οι υπηρεσίες deepfake βίντεο και ήχου σε πραγματικό χρόνο περιλαμβάνουν ρεαλιστικά face swaps κατά τη διάρκεια βιντεοκλήσεων σε πλατφόρμες τηλεσυνεδριάσεων, χρήση deepfake για διαδικασίες επαλήθευσης ταυτότητας, αλλά και αντικατάσταση της ροής κάμερας σε συσκευές. Οι αγγελίες υπόσχονται λογισμικό ικανό να συγχρονίζει εκφράσεις προσώπου με κείμενο ακόμα και σε ξένες γλώσσες, να κλωνοποιεί φωνές και να αποδίδει διαφορετικά συναισθήματα μέσω ρύθμισης τόνου και χροιάς.

Αυξημένη πολυπλοκότητα

Παρ’ όλα αυτά, η Kaspersky προειδοποιεί ότι δεν είναι όλα αυτά τα «πακέτα» αληθινά, πολλές προσφορές αποτελούν απάτες, που στοχεύουν σε πρόχειρους αγοραστές. Η ανάλυση δείχνει πως η ζήτηση είναι υπαρκτή και αυξανόμενη. «Δεν βλέπουμε μόνο διαφημίσεις που προσφέρουν deepfake–as–a–service, αλλά και σαφή ενδιαφέρον για αυτά τα εργαλεία», εξηγεί η Kaspersky. «Οι επιτήδειοι πειραματίζονται συνεχώς με την τεχνητή νοημοσύνη, ενσωματώνοντας την στις εκστρατείες τους. Ορισμένες πλατφόρμες διαθέτουν ακόμη και κακόβουλα LLMs, αναπτυγμένα από το μηδέν και λειτουργικά ανεξάρτητα από τα δημόσια μοντέλα, ενισχύοντας θεαματικά τις δυνατότητες των επιτιθέμενων», εξηγεί η εταιρεία.

Η εταιρεία σημειώνει ότι, αν και οι τεχνολογίες αυτές δεν δημιουργούν απαραίτητα νέες κατηγορίες απειλών, αυξάνουν την πολυπλοκότητα και το εύρος των υφιστάμενων. Από τη χειραγώγηση ψηφοφόρων μέχρι την εξαπάτηση μέσω πλαστών ταυτοτήτων και τη διείσδυση σε εταιρικές διαδικασίες, το deepfake εξελίσσεται σε πολυεργαλείο για την κυβερνοεγκληματικότητα.

Η Kaspersky προτείνει τριπλή στρατηγική για την προστασία. Πρώτον, οι οργανισμοί πρέπει να διαθέτουν ισχυρά μέτρα κυβερνοασφάλειας και εξειδικευμένους IT ειδικούς, αξιοποιώντας λύσεις για έγκαιρο εντοπισμό απειλών. Δεύτερον, οι εργαζόμενοι χρειάζονται τακτική εκπαίδευση, ώστε να κατανοούν τη φύση των deepfakes και να αναγνωρίζουν τα σημάδια εξαπάτησης.

Τρίτον, πρέπει να καλλιεργηθεί οπτικός και ακουστικός «αλφαβητισμός», ώστε να εντοπίζονται ύποπτα στοιχεία, όπως αφύσικες κινήσεις, ασυμβατότητες στον φωτισμό ή παραμορφώσεις στην εικόνα και στον ήχο.

Πηγή: sepe.gr

Το άρθρο Deepfakes με κόστος-σοκ: 400 φορές φθηνότερες οι υπηρεσίες στο darknet εμφανίστηκε πρώτα στο NewIdeas | Το κανάλι με άποψη.

FARAH NAYERI: Νομίζω ότι τα deep fakes έγιναν για πρώτη φορά γνωστά στο ευρύ κοινό το 2017, όταν κυκλοφόρησε ένας τεράστιος αριθμός από πορνογραφικά βίντεο με διασημότητες και ηθοποιούς, που ήταν όμως παραποιημένα. Έτσι άρχισε να φουντώνει όλη αυτή η αντιπαράθεση. Τώρα, στις μέρες μας, απ’ ό,τι καταλαβαίνω, σχεδόν ο καθένας μπορεί να δημιουργήσει ένα deep fake.

Barnaby, ας ξεκινήσουμε με εσάς. Το καλλιτεχνικό σας όνομα είναι Bill Posters και θα ήθελα να μας μιλήσετε για την έννοια των deep fakes, καθώς για εσάς το βίντεο είναι ένας τρόπος καλλιτεχνικής έκφρασης. Καταλαβαίνουμε ότι η τέχνη έχει να κάνει πολλές φορές με την εξαπάτηση και την αναπαράσταση των ανθρώπων σε ένα φαντασιακό πλαίσιο. Όμως, ποιες είναι οι επιπτώσεις αυτής της τέχνης στη δημοκρατία ή στην πολιτική;

BARNABY FRANCIS: Έχω δημιουργήσει με τον συνεργάτη μου Daniel Howe μια σειρά έργων τέχνης με τίτλο «Big Data Public Faces». Αυτά περιλάμβαναν ένα ψεύτικο βίντεο με τον Mark Zuckerberg του Facebook και διάφορες άλλες διασημότητες. Πήραν τον δρόμο τους, έγιναν viral και δημιούργησαν σάλο γύρω από τα ζητήματα που θέσαμε και αφορούσαν την παραπληροφόρηση και την παραπλάνηση, τον τρόπο με τον οποίο παρουσιάζεται η αλήθεια στο διαδίκτυο ή το πώς οι αντιλήψεις μας μπορούν να αλλάξουν από διάφορες μορφές τεχνολογιών που χρησιμοποιούν νέα μέσα όπως αυτό. Χρησιμοποιούμε, λοιπόν, το deep fake ως μια μορφή του ίδιου του deep fake.

F.Ν.: Έτσι, όμως, μπορεί κάποιος που θα παρακολουθήσει το βίντεό σας με τον Zuckerberg, στο οποίο λέει μερικά πολύ δυσοίωνα πράγματα, να πιστέψει ότι ο Mark όντως το είπε αυτό και έτσι να το εκμεταλλευθεί και να το ανεβάσει σε άλλες πλατφόρμες.

Β.F.: Ναι, φυσικά είναι δυνατό, απολύτως.

F.Ν.: Κάνεις τέχνη και η τέχνη στο αυστηρό της πλαίσιο είναι μια χαρά, αλλά όταν βγαίνεις από αυτό το πλαίσιο υπάρχουν όλων των ειδών οι κίνδυνοι.

Β.F.: Απολύτως σωστό. Κι αυτό ισχύει για κάθε μορφή πληροφορίας που μοιράζεται σε οποιοδήποτε forum ή οικοσύστημα πληροφοριών στο διαδίκτυο, είτε πρόκειται για παραπλανητικές αναφορές είτε για παραποιημένες πληροφορίες κ.λπ. Έτσι, το κλειδί εδώ είναι η εγγραματοσύνη και το πλαίσιο αναφοράς.

Οτιδήποτε μοιράζομαι στο διαδίκτυο έχει σαφές εννοιολογικό πλαίσιο τέχνης, είναι πλαισιωμένο από τμήματα σύγχρονης τέχνης. Έτσι, υπάρχει πάντα διαφάνεια σε σχέση με τα μέσα που κοινοποιούνται. Δυστυχώς, αυτό δεν συμβαίνει σε πολλά από τα fora ή τις πληροφορίες που διακινούνται στο Internet.

F.Ν.: Toomas Hendrik Ilves, είστε πρώην πρόεδρος της Εσθονίας. Το περιοδικό «Forbes» έγραψε ότι όσο είχατε αυτό το αξίωμα, η Εσθονία ήταν η πιο προηγμένη ψηφιακά χώρα στον κόσμο. Τελικά, πόσο ψηφιακή είναι η Εσθονία; Χρησιμοποιείτε προγράμματα αναγνώρισης προσώπου;

TOOMAS HENDRIK ILVES: Στην Εσθονία όλες οι δημόσιες υπηρεσίες ή όλες οι αλληλεπιδράσεις μεταξύ του πολίτη και του κράτους μπορούν να γίνουν ψηφιακά, εκτός από τον γάμο, το διαζύγιο και τις αγοραπωλησίες φυσικής ιδιοκτησίας -κάτι που δεν είναι κακή ιδέα να εξετάσουμε, αν λάβουμε υπόψη λ.χ. ότι πρόσφατα δύο Ρώσοι μαφιόζοι αγόρασαν διαμερίσματα στον «Πύργο Trump» στις ΗΠΑ μέσω υπεράκτιων εταιρειών.

Όλα τα υπόλοιπα μπορούν να γίνουν διαδικτυακά. Διάβασα τον Ιανουάριο του 2021 ένα άρθρο στην εφημερίδα σας σχετικά με το ότι υπήρχε μια καθυστέρηση 3,5 εκατομμυρίων αιτήσεων για διαβατήρια μετά από δύο μήνες Covid και αναρωτήθηκα γιατί συνέβαινε αυτό. Ήταν επειδή τα γραφεία ήταν κλειστά. Στην Εσθονία, για να ανανεώσω το διαβατήριό μου, απλώς μπαίνω στο Internet. Έπρεπε μόνο να ενημερώσω τη φωτογραφία μου. Δεν χρειάστηκε να συμπληρώσω τίποτα. Αυτό κάνουμε.

Όσον αφορά την αναγνώριση προσώπου, όχι, δεν τη χρησιμοποιούμε ιδιαίτερα. Αλλά για τα deep fakes ανησυχώ πολύ περισσότερο.

F.Ν.: Αν η χώρα σας χρησιμοποιεί τεχνολογίες αναγνώρισης προσώπου, μπορεί κάποιος να προσποιηθεί ότι είμαι εγώ και να φτιάξει ένα βίντεο με εμένα να εμπλέκομαι σε μια εγκληματική δραστηριότητα -αντιλαμβάνεστε τι εννοώ;

T.H.I.: Νομίζω ότι είναι χειρότερο από αυτό. Βασικά, νομίζω ότι η άνοδος των deep fakes, σε αντίθεση με τη φωτογραφία και το Photoshop, επειδή υπάρχει κίνηση, φωνή και εικόνα, πλήττει πραγματικά την εμπειρική βάση της δημοκρατίας.

F.Ν.: Γιατί πιστεύετε ότι αυτό απειλεί τη δημοκρατία;

T.H.I.: Γιατί ουσιαστικά μπορείς να υπονομεύσεις τα πάντα. Μπορείς να φτιάξεις ένα ψεύτικο βίντεο με έναν πολιτικό να δωροδοκείται, μπορείς να δυσφημίσεις ανθρώπους που έχουν εκλεγεί νόμιμα. Και το πρόβλημα είναι ότι οι τεχνολογικές λύσεις για την καταπολέμηση αυτού του φαινομένου είναι αρκετά περιορισμένες. Επομένως, θα πρέπει να εκπαιδεύσουμε τους ανθρώπους να μην πιστεύουν αυτό που βλέπουν.

ASHLEY TOLBERT: Συμμερίζομαι την πεποίθηση ότι τα deep fakes είναι κάτι για το οποίο πρέπει να ανησυχούμε, αν και βρίσκομαι κάπου στη μέση όσον αφορά την άποψη ότι τα deep fakes είναι εξ ορισμού επικίνδυνα. Τα συνδυασμένα μέσα είναι μια μορφή τέχνης που υπάρχει από τον 19ο αιώνα. Αλλά όταν βγαίνεις έξω από τα όρια αυτής της τέχνης, υπάρχουν καταστροφικοί κίνδυνοι.

Ένα καλοφτιαγμένο deep fake μπορεί να έχει πραγματικό αντίκτυπο σε εκλογές, στη φήμη κάποιου.

Ουσιαστικά, ο δημιουργός ενός deep fake δανείζεται αυτή την ισχύ για ένα συγκυριακό κίνητρο. Και μόλις φυτευτεί αυτός ο σπόρος, δεν μπορείς να γυρίσεις πίσω και να ανατρέψεις αυτή τη διάδοση της «στιγμιαίας γνώσης». Θεωρώ, λοιπόν, ότι αυτό που απειλεί τη δημοκρατία είναι το γεγονός ότι είναι πολύ λεπτή η γραμμή που χωρίζει τα deep fakes και την παραπληροφόρηση από την πραγματικότητα.

Πηγή: euro2day.gr

Το άρθρο Deepfakes: Κίνδυνος με ήχο και εικόνα εμφανίστηκε πρώτα στο NewIdeas | Το κανάλι με άποψη.