Приблизительно в 2017-м году (на самом деле технология появилась гораздо раньше) страны и народы впервые узнали о дипфейках, хлынувших в социальные сети иногда из понятного, а иногда и из очень непонятного источника. Большинство считает дипфейки вставками в видеоряд поддельных изображений лиц, но на самом деле технология гораздо сложнее и шире. 

Дипфейки создаются так называемыми генеративно-состязательными  сетями ( Generative Adversarial Networks, GAN), где сам термин говорит о том, что сетей несколько, как минимум две. Одна сеть выступает как генератор нового изображения, вторая как его дискриминатор, то есть она сравнивает новое изображение со старым, находит несоответствия и передает данные назад генератору, чтобы тот поработал над ошибками. В итоге такой прогонки видео по кругу создается видеоряд, который при сравнении с оригиналом будет настолько хорош, что даже нейросеть не определит какой из роликов был взят за исходник. 

Доступные широкой публике варианты технологии рассчитаны на мозги этой самой публики, поэтому в социальных сетях все ограничивается порноликами со знаменитостями и разного рода юмором. Киностудии идут дальше и в современных фильмах актеры уже иногда и не приезжают на съемочную площадку – играет дублер, а дальше нужное лицо накладывают.  Например,  в сериале «Звездные войны. Книга Бобы Фетта» персонажа Люка Скайуокера играет актер с наложенной на его лицо юной  версией  Люка Скайуокера из 1970-х. Это позволяет удешевить съемки где-то в 10 раз, а в перспективе вообще выгнать всех актеров. 

 Но технологии идут вперед и в скором будущем дипфейк станет стандартным пакетом любой новой игры или фильма – в игре человек сможет вставлять свое лицо в  своего персонажа, а в кино зритель будет сам себе режиссер, выбирая перед просмотром кто и кого будет играть. Однако и эта перспектива только вершина надвигающегося на цивилизацию айсберга. 

Дело в том, что, как давно уже показали исследования психологов, связанных с юридической практикой, память людей можно в той или иной степени менять, например рассказав свидетелю свою версию события со слов другого очевидца. И одного воображения  предлагаемой новой картины уже достаточно, чтобы клиент начал путаться в показаниях. Но можно пойти и дальше, о чем пишет 6 июля научный журнал  PLOS One. Это целая статья про то, как дипфейками людям или полностью поменяли в голове воспоминая, или каким-то чудом вставили новые.

Суть исследования заключалась в показе испытуемым фрагментов известных официальных ремейков официальных фильмов вперемешку с дипфейками «Матрицы», «Индианы Джонса» и еще пакета фильмов, где главных героев играли менее прославленные актеры.

А дальше у людей начинали спрашивать: а что вы выдели? И  люди на полном серьезе стали рассказывать, как в каком-то там году какой-то голливудский хрен переснял «Индиану Джонса», весь мир это видел и я смотрел вместе с ним. А после этого  начинались рассказы про то, насколько ремейк плох или хорош. 

Само собой, испытуемые не пытались умничать, скрывая пробелы в эрудиции – они реально все это “помнили”. Главное было подать дипфейк в бутерброде  с реальными лентами – и как только мозг это глотал дальше все в голове  сортировалось и придумывалось автоматически. 

All were presented as if they were real and participants were asked if they had seen it and to rate how it compared to the original. pic.twitter.com/MYxzAJnrDy

— Gillian Murphy (@gillysmurf) July 13, 2023

В качестве выводов  своего эксперимента исследователи поют старую и известную песню про то, что нейросети – это нехорошо, а Искусственный Интеллект – это еще хуже, что все нужно контролировать и  ограничивать. Однако конспирологи, ознакомившиеся с материалом, подумали совершенно о другом – подумали про Манделу и все, с ним связанное. 

Как показывает этот эксперимент любая похожая на настоящую картинка и любой похожий на реальность фильм каким-то непостижимым образом переставляет в голове шарики и винтики. Клиент просто следит за фильмом, внимает в сюжету, а кино тем временем его в голове что-то реконфигурирует, создавая ложные воспоминая у целых стран и народов. Или даже у всей планеты, если вся планета посмотрела один и тот же видеоряд. Например, какую-нибудь рекламу зубной пасты. 

И новые воспоминания  к этому видео могут иметь или очень слабое отношение, или вообще никакого.  А потом все удивляются, откуда в «Бриллиантовой руке» взялся арбуз, ведь все помнят, что клиент поскользнулся на банане.  Дипфейков на эту тему люди не смотрели – и тем не менее, по какой-то причине воспоминание  сформировалось. 

Таким образом кино и телевизор – это инструмент, о всех возможностях которого не догадываются даже те, кто его использует,  ключики лишь у того, кто все это придумал. А теперь если в этот инструмент  добавить еще и видео, сделанное нейросетями,  то в башке стран и народов окончательно все перепутается. К чему это приведет мир так даже и не знаем, но следим за развитием событий.