Τον Ιούλιο του 1969 ο πρόεδρος της Αμερικής, Richard Nixon, εμφανίζεται στους τηλεοπτικούς δέκτες διεθνώς για να κάνει δηλώσεις σχετικά με την αποστολή του Apollo 11 στη σελήνη.
Όπως εξηγεί ο Nixon “οι αστροναύτες που είχαν σαν αποστολή να εξερευνήσουν ειρηνικά τη σελήνη, πλέον αναπαύονται εν ειρήνη στο φεγγάρι”. Ο Neil Armstrong και ο Buzz Aldrin, δεν γύρισαν ποτέ… Ή μήπως γύρισαν;
Που πήγε το ένα “μικρό βήμα για τον άνθρωπο, ένα τεράστιο βήμα για την ανθρωπότητα” και η επική επιστροφή του Apollo στον Ειρηνικό Ωκεανό στις 24 Ιουλίου του 1969; Σίγουρα η αλήθεια πριν πέντε δεκαετίες δεν ήταν τόσο δυσδιάκριτη, καθώς η εξέλιξη της τεχνολογίας και της τεχνητής νοημοσύνης δεν είχε φτάσει ως τα… deepfakes. Tο video που ο Nixon ανακοινώνει τη μοιραία εξέλιξη για το Apollo – και υπάρχει στο youtube- είναι κατασκευασμένο. Ένα πολύ αληθοφανές deepfake το οποίο φτιάχτηκε με τη βοήθεια της AI από το Massachusetts Institute of Technology. Ti είναι το deepfake; Ένα video ή ένα ηχητικό αρχείο που εμφανίζει τεχνηέντως κάποιον να λέει κάτι που δεν το είπε ποτέ. Ένα video που δεν μπορείς να το ξεχωρίσεις από την αλήθεια. Ένα εργαλείο παραπληροφόρησης στα χέρια πολλών που μπορεί να επηρεάσει μέσα σε λίγα λεπτά εκατομμύρια ανθρώπους σε παγκόσμιο επίπεδο.
Τα deepfakes ήταν ένας από τους λόγους που το 2016 ο Aviv Ovadya, απόφοιτος του MIT που είχε περάσει από εταιρείες όπως οι Google, Amazon, Quora σταμάτησε να εργάζεται σε τέτοιου είδους συστήματα, καθώς διέκρινε ότι οι τεχνολογίες που μπορούν να διαστρεβλώσουν την αλήθεια αναπτύσσονται με ραγδαίο ρυθμό και μπορούν να έχουν καταστροφικές συνέπειες όχι μόνο για μία προεκλογική καμπάνια αλλά ακόμα και για την ίδια τη φύση του ανθρώπου μακροχρόνια.
Η τεχνολογία σε αυτό το επίπεδο άνοιξε το κουτί της Πανδώρας. Το ζήτημα είναι πώς θα μπορέσουμε να ελέγξουμε κάθε μέσο που καθιστά την αλήθεια ευάλωτη στη διαστρέβλωση και την κοινωνία ευάλωτη στην πόλωση και τον πανικό. Η χρήση της τεχνολογίας με στόχο τη δημιουργία ψευδών ειδήσεων είναι ζήτημα τόσο εθνικό όσο και διεθνές και πλέον καθίσταται αναγκαίο να υπάρξουν όρια και νομοθετικό πλαίσιο που θα προστατεύσει τους πολίτες.
Project για την παραγωγή αληθοφανών εικόνων
Κορυφαίες εταιρείες τεχνολογίες επενδύουν στο deepfake. Η εταιρεία τεχνολογίας Nvidia “τρέχει’ πιλοτικά ένα πρόγραμμα κατασκευής υπερρεαλιστικών εικόνων προσώπων και πραγμάτων. Η Adobe πρόσφατα λάνσαρε επίσης σε δοκιμαστική φάση δύο προγράμματα: Το Voco που είναι photoshop για αρχεία ήχου και το Cloak ένα εργαλείο που μπορεί να αφαιρέσει απο video αντικείμενα και ανθρώπους με μερικά clicks. Στο ερευνητικό κέντρο του πανεπιστημίου του Στάνφορντ, οι τεχνολόγοι έχουν δημιουργήσει προγράμματα που αναμιγνύουν καταγεγραμμένα πλάνα βίντεο με τεχνικές ανίχνευσης προσώπου και μπορούν να αλλοιώσουν video σε ζωντανή μετάδοση.
Και deepfake πυρηνικός πόλεμος
Σε ρεπορτάζ που δημοσιεύτηκε το Φεβρουάριο του 2018 στο BuzzFeed ο ερευνητής Aviv Ovadya που σήμερα είναι επικεφαλής ερευνητής στο Κέντρο για την Υπευθυνότητα των Κοινωνικών Μέσων στη Σχολή Πληροφορικής του Πανεπιστημίου του Μίσιγκαν και σύμβουλος καινοτομίας στο Κέντρο Tow για την Ψηφιακή Δημοσιογραφία του Πανεπιστημίου Κολούμπια αναφέρει το εξής παράδειγμα για να γίνει αντιληπτό το πόσο μπορεί η κοινωνία να επηρεαστεί: “Φανταστείτε ένα λογισμικό ικανό να αναλύει τεράστιους όγκους δεδομένων για να διδάξει τον εαυτό του να εκτελεί μια συγκεκριμένη λειτουργία. Αυτό το λογισμικό θα τροφοδοτείται με εκατοντάδες ώρες βίντεο του Donald Trump ή του Kim Jong Un. Στο τέλος, θα μας δώσει ένα φαινομενικά «αυθεντικό» ηχητικό ή οπτικό κλιπ όπου κάποιος από τους δύο θα εμφανίζεται να κηρύσσει πυρηνικό ή βιολογικό πόλεμο εναντίον του άλλου. Δεν χρειάζεται να είναι τέλειο. Φτάνει να είναι αρκετά καλό για να κάνει τη μια ή την άλλη πλευρά να πιστέψει ότι όντως κάτι συνέβη, κι αυτό με τη σειρά του να πυροδοτήσει μια σπασμωδική και απερίσκεπτη αντίδραση”.
Χειραγώγηση της πραγματικότητας και… του Obama
H εξέλιξη της τεχνολογίας έχει καταστήσει δύσκολη τη διαφοροποίηση της αλήθειας από το ψέμμα. Toν Ιούλιο του 2017 ερευνητές από το Πανεπιστήμιο της Washington δημοσίευσαν την εργασία τους για το πώς δημιούργησαν έναν ψεύτικο Obama. Ανέπτυξαν έναν αλγόριθμο, χρησιμοποίησαν ηχητικά ντοκουμέντα 14 ωρών, ένα τρισδιάστατο μοντέλο του προσώπου του Obama και με τη βοήθεια της ΑΙ έβαλαν τον πρώην πρόεδρο των ΗΠΑ να δηλώνει κάτι…που δεν είπε ποτέ. Ένας από τους ερευνητές ο Dr Supasorn Suwajanakorn, αργότερα συμμετέχοντας σε Ted talk ανέφερε ότι η τεχνολογία μπορεί να χρησιμοποιηθεί και για κακό σκοπό.
Euler Hermes: Κλοπή 240.000 δολαρίων με ψεύτικη φωνή
To 2019 η Euler Hermes αποκαλύπτει ένα περισταστικό που συνέβη σε ασφαλισμένο της και είναι η πρώτη καταγεγραμμένη ληστεία με deepfake ήχο στην ιστορία. Ληστές χρησιμοποίησαν λογισμικό για να μιμηθούν τη φωνή στελέχους εταιρείας ενέργειας και να μεταφέρουν 240.000 δολάρια σε έναν λογαριασμό στην Ουγγαρία. Η εντολή ήταν περίεργη ωστόσο η φωνή ήταν τόσο όμοια με του στελέχους που ο διευθυντής που έκανε τη μεταφορά χρημάτων δεν μπορούσε να αρνηθεί. Η εν λόγω υπόθεση αναφέρθηκε σε δημοσιεύματα της Washington Post και της Wall Street Journal. Το λογισμικό φωνητικής σύνθεσης μπορεί να αντιγράψει τους ρυθμούς και τους τόνους της φωνής ενός ατόμου και να χρησιμοποιηθεί για να δημιουργήσει πειστική ομιλία. Τεχνολογικοί γίγαντες όπως η Google αλλά και μικρότερες επιχειρήσεις όπως η “ultrarealistic voice cloning” ή η startup Lyrebird έχουν δουλέψει στην τελειοποίηση τέτοιων εργαλείων.
Πολιτικό κόμμα φτιάχνει video για τον Trump
Το Νοέμβριο του 2018 το βελγικό πολιτικό κόμμα Socialistische Partij Anders εντάσσει στην πρακτική του το deepfake, καθώς φτιάχνει ένα video με τον Donald Trump να λέει: “«Όπως γνωρίζετε, είχα το θάρρος να αποσύρω τις ΗΠΑ από τη συμφωνία του Παρισιού για την κλιματική αλλαγή και έτσι πρέπει να κάνετε κι εσείς». Το κομμα εν συνεχεία υποστήριξε ότι πίστευε ότι ήθελε να ευαισθητοποιήσει τον κόσμο για την κλιματική αλλαγή αλλά και πώς δεν πίστευε ότι θα περάσουν το Video για αληθινό, καθώς φαινόταν ότι είχε υποστεί επεξεργασία.
H Μεριλυν και ο Dali είναι ακόμα εδώ
Όπως σε όλα τα πράγματα και εδώ υπάρχουν δύο όψεις. Η τεχνολογία που αναπτύσσεται μπορεί να μας φέρει πιο κοντά στην ιστορία και τον πολιτισμό. Το Samsung’s AI lab χρησιμοποίησε τη μηχανική εκμάθηση και την ΑΙ και έφτιαξε τα ζωντανά πρτραίτα του Salvador Dali της Marilyn Monroe και άλλων καλλιστεχνών. Το λογισμικό χρειάζεται μόνο μερικές φωτογραφίες του πραγματικού προσώπου για να φτιάξει ένα video με αυτό.
Πηγή: Ασφαλιστικό Marketing Δεκεμβρίου 2019
