В этом интервью, Йонас Бендиксен (Jonas Bendiksen) рассказывает интригующую историю своей позднейшей публикации, «Велесовой книги» (The Book of Veles), проекта, чей необычный путь к изданию был столь же странным, как и предмет, вдохновивший автора на его создание.
Скажите, почему вас вдруг очаровал современный город Велес в Северной Македонии?
В течение эры Трампа, меня сильно раздражала и напрягала ложь и неверная информация в СМИ. Я читал о Российских хакерских атаках, роли Facebook и Twitter, «альтернативных фактах» и о том, как работают алгоритмы. В какой-то момент я увидел упоминание о том, что Велес стал этим маловероятным центром дезинформации, откуда исходили фейковые новости во время выборов Трампа в 2016 году. Когда люди осознали, что там базируется множество сайтов с фейковыми новостями, многие большие «новостные» организации отправили туда своих представителей, чтобы разобраться в ситуации. Об этом городе упоминал даже Обама. Меня захватила сама идея того, что какие-то тинейджеры из далёкой Северной Македонии вдруг стали играть заметную роль в политике Америки. При этом, их мотивы были совершенно не политическими: они просто искали заработка в городе, где молодёжь почти лишена работы. Они стали информационными хакерами, потому что нашли креативный заработок, а не потому, что им так хотелось создать инфохаос в США.
Путь, которым мы создаём, распространяем и осознаём информацию, за последние 15 лет претерпел огромные изменения, и это — один из пугающих примеров перемен. Поэтому я начал «раскопки», и нашел остальные слои странной подоплёки этой истории.
Что такое древняя Велесова Книга, и какое отношение имеет она к вашему проекту?
Я стал искать город Велес в Гугле, и очень скоро понял, что он назван не просто так: это имя Велеса, одного из главных богов дохристианского языческого пантеона у славян. В старых мифах он был весьма коварным: оборотнем, богом хаоса, магии и обмана. Так что, думаю, ему понравилась бы эта история с фейком, исходящим из города, носящего его имя. Меня всегда интересовали такие ситуации, когда истории накладываются одна на другую и смешиваются самым удивительным образом
Читая о древних Славянских богах, я естественным образом наткнулся на Велесову (Влесову) книгу, предположительно древний манускрипт, найденный офицером Русской армии Фёдором Изенбеком в 1919 году на обожженных деревянных дощечках. Манускрипт был написан с использованием прото-Кириллического алфавита, и потребовались годы на его расшифровку. Но, когда русский учёный Юрий Миролюбов наконец расшифровал код, он обнаружил, что они содержат эпические сказания о древнем славянском народе и самом боге Велесе. В кругах славянских нацоиналистов этот текст стал чем-то вроде Ссященного писания, как и у фанатиков-«альтернативщиков».
«Поиграть со всем этим — было просто неодолимым искушением. Где тут реальность, а где фейк?»
— Йонас Бендиксен
Но сегодня, большинство историков и лингвистов считают, сто вся Велесова книга — подделка, сфабрикованная Изенбеком и Миролюбовым.
Позднее я обнаружил, что Велесова книга была переведена на английский язык парнем из Университета штата Огайо. Переводчик не понял, что имел дело с подделкой, и поэтому снабдил текст кучей комментариев и сносок, говорящих о его исторической важности. Как только я наткнулся на всё это, колёсики у меня в голове стали раскручиваться! Бесконечные слои хаоса и дезинформации вокруг бога Велеса или города Велеса — вещи, не связанные между собой непосредственно, но связавшиеся через имя. Теперь поиграть со всем этим стало просто непреодолимым искушением. Что здесь реальность, а что — фейк? Разные люди верят в разные версии.
Как и в остальных моих проектах, фотография всегда только инструмент, или оправдание для меня, чтобы поглубже влезть в то, что меня увлекает в то или иное время. Тут я увидел шанс разобраться со всеми вопросами о журналистике, манипуляциях, подделках, фейковых новостях и слиянии всего этого с фотографией — и возможно, заглянуть немного вперёд, за горизонт, и увидеть, к чему это приведёт.
«Я стал задавать себе вопрос — сколько времени осталось до того момента, когда мы увидим „документальную фотожурналистику“, в основе которой лежит только фантазия фотографа и мощная графическая карта в компьютере? Сможем ли мы увидеть разницу?»
— Йонас Бендиксен
Как вы исследовали и применяли дезинформацию в своей книге?
В прошлом, цифровые манипуляции использовались фотографами в чистом виде — как некая продвинутая форма «вырезал-вставил»; вы брали фрагмент одного кадра и аккуратно вставляли в другой. Но сегодня новые цифровые технологии грозят смыть нас, подобно цунами. Через несколько лет не будет ничего проще, как сделать фейковое видео просто на телефоне. Портреты, сделанные AI (как на thispersondoesnotexist. com) становятся убедительнее от месяца к месяцу, и уже активно используются в коммерции. Некоторые весьма влиятельные у детей персонажи Инстаграма — просто 3D аватары, сделанные по заказу в расчёте на определённую целевую аудиторию. Это другие способы манипулировать образами, новые в том смысле, что им не нужна камера как таковая — они просто вырабатываются компьютерным чипом.
Я стал задавать себе вопрос — сколько времени осталось до того момента, когда мы увидим «документальную фотожурналистику», в основе которой лежит только фантазия фотографа и мощная графическая карта в компьютере? Сможем ли мы увидеть разницу? Как сложно (будет) это сделать? Насколько изощрённым окажется наше сообщество фотографов и редакторов в определении того, что есть фейк, а что — реальность?
Я был так напуган возможными ответами, что решил попробовать сделать это сам.
Весь этот проект — моя попытка разобраться с вопросами о том, что такое эти новые технологии, и насколько легко использовать их во зло. Что это означает для понимания фотографии, как документации чего-либо? Как легко заставить людей подпевать фальшивой мелодии?
Проект «Велесова книга» стал моим собственным маленьким виртуальным тестом Тьюринга.
«Насколько изощрённым окажется наше сообщество фотографов и редакторов в определении того, что есть фейк, а что — реальность?»
— Йонас Бендиксен
Можете ли вы более детально остановиться на том, что именно вы фабриковали и как делали это? Что в книге подделка, а что — нет?
Прежде всего, я отправился на Ютуб и быстро разобрался в программах, которые используются в компьютерных играх и киноиндустрии для создания реалистичных 3D образов людей — аватар, которые вы можете вращать, освещать, оживлять, придавать им любые позы. Я приобрёл несколько основных типажей, и затем модифицировал их тысячей способов, чтобы создать множество разных персонажей. Затем я «одел» их и придал им текстурность. Наверное, я потратил на гардероб для своих виртуальных персонажей раз в десять больше времени, чем тратил на свой за последние несколько лет!
Затем, когда я поехал в Велес, мне не пришлось тратить кучу времени на контакт с нужными мне людьми. Я просто снимал пустые пространства, апартаменты, офисы, парковые скамейки, вообще все места, которые интересовали меня — и где я мог дождаться, чтобы в кадре не было людей. Затем я фиксировал освещение этой сцены специальной 360-градусной камерой, и некоторыми специальными FX технологиями. Вернувшись домой, я научился конвертировать эти фотографии в пространства 3D, и помещал в эти сцены созданные мной аватары, придав им соответствующие эмоции, позы и освещение.
Я сделал два «полевых» выезда в Велес. К счастью, последний из них завершился буквально за неделю до того, как во всей Европе резко начался ковидный локдаун. Так что, мне реально повезло, что я успел завершить полевую работу. Это означало, что я завершил самую сложную часть проекта до начала глобального карантина, и у меня не было других заказов: я мог целый год сидеть за компьютером, играясь с моими 3D аватарами и фейковыми новостными сценами. По мере того, как я глубже закапывался в эту работу, я добавлял новые слои.
Так же быстро, как генерирование цифровых изображений, развивается искусственный интеллект (AI), способный создавать тексты. Я нашел бесплатную обучаемую систему создания текста, под названием GPT-2, тренированную на миллионах реальных веб-сайтов. Эти системы обычно используются, когда фирме нужен автоматический бот для работы с заказчиками. Суть в том, что вы можете обучать систему сами, выбирая нравящийся вам тон голоса и манеру выражаться. Если вы загрузите AI собранием Шекспира, он выдаст нечто похожее на его стихи. Если вы загрузите его Библией, он выдаст похожий текст.
«История Велеса — источника фейковых новостей, реальна. Реальна и история открытия-подделки Велесовой книги. Но весь их внутренний контент — фейковый».
— Йонас Бендиксен
Чтобы получить текст для своей книги, я «суормил» системе все статьи из англоязычных СМИ, посвящённые проблеме индустрии фейковых новостей в Велесе, а затем искусственный интеллект написал для моей книги эссе в 5000 слов. Я не внёс туда ни слова. Я просто взял различные синтезированные AI фрагменты и обрывки и соединил их вместе так, чтобы прослеживалась логика повествования.
Затем я взял все настоящие цитаты людей, которые были причастны к производству фейковых новостей, и ввел их в AI, который затем произвел новые заявления. Вот откуда взялись все цитаты в книге: они представляют собой фейк, созданный компьютером, но основаны на реальных интервью с реальными людьми.
Творческой точке зрения это была непростая задача. Я нашел английский перевод манускрипта Велесовой книги. Но я чувствовал, что эта древняя (подделка под) рукопись недостаточно хорошо соотносится с остальным моим материалом. Так что, естественно, я скормил весь исходный текст своему AI, и вуаля, у меня появилось практически бесконечное количество смоделированного на компьютере «древнего текста», которым я мог всё дополнить.
В результате, я получил фейковую новостную историю о производителях фейковых новостей. История находки/подделки Велесовой книги реальна. Но её содержимое — фейк. Единственное, что осталось неподделанным в моей книге из Велеса — это цитаты из фейковых новостей, с сайтов, управлявшихся из этого города, которые сами по себе — нелепая тарабарщина.
Считаете ли вы, что машинное обучение и технологии как таковые оказали в целом полезный эффект на способность общества взаимодействовать с информацией?
Я очень сомневаюсь, что вся эта технология и информация делает нас умнее или мудрее. Просто посмотрите на мир вокруг, как каждый, кому не лень, манипулирует всем подряд в выбранном направлении. Информации стало слишком много, её слишком легко получить и распространять, и каждый может выбирать, какой фрагмент её он хочет взять для себя. Наша способность к анализу не становится лучше, и мы не мастера в отборе плохих данных от хороших. Да, социальные сети и Ютуб — просто супер удобны, когда мне надо разобраться, как заменить топливный фильтр в моторе моей лодки. Но по отношению к более широким и сложным областям, я пессимист. Этот проект был для меня чем-то вроде теста на тему, куда всё идёт.
Кого вы обманули этим проектом и от чего получили больше всего удовольствия?
Ответить легко: моих товарищей по «Магнум», фотографов. Обычно мои коллеги весьма проницательны и легко видят насквозь любое дерьмо, что им подсовывают. Тот факт, что ни один из них не поймал меня за руку «на горячем», был хорошим показателем того, что я двигаюсь в правильном направлении. Или же неправильном — это зависит от точки отсчёта.
Конечно, я получаю удовольствие, когда люди, купившие книгу, рассказывают мне о том, какое удовольствие они получили, читая её, или о том, какую важную историю я рассказал. Очевидно, что мне нравится, когда кто-то размещает ссылку на книгу в Инстаграме, говоря, как хорошо, что люди делают такую хорошую журналистику, как эта история из Велеса. С другой стороны, я не люблю обманывать людей, и, как и многие преступники, я с нетерпением ждал, когда мой розыгрыш будет раскрыт, чтобы мне больше не приходилось играть в эту игру, и я снова мог быть честным.
«История „Велесовой книги“ стала моим собственным маленьким тестом Тьюринга».
— Йонас Бендиксен
Несколько журналов хотели опубликовать фрагменты книги, и мне пришлось придумывать поводы для отказа, так как публикация в журнале для широкой публики — это уже шаг за грань этически допустимого. Я чувствовал себя вправе разыграть мой фотографическое сообщество, но не весь мир.
Я получил отдельное удовольствие от положительных отзывов об эссе и книге в социальных сетях. Множество людей писали комментарии на тему того, какой интересный и содержательный текст я написал. На самом деле, изначально я сомневался, что текст пройдёт, так как он был полностью написан AI. Это чётко показывает, что совсем скоро мы будем окружены множеством написанных ботами материалов, и большинство людей не смогут отличить их от созданных людьми.
Есть ли у вас послание к настоящим жителям Велеса, теперь, когда работа сделана?
Да, я надеюсь, что они не сильно обижены тем, что я использовал происшедшее в их городе как стартовый посыл для моих махинаций. Но каковы этические последствия моей работы для жителей Велеса, учитывая, что все люди в моем рассказе — цифровые аватары? Какие обязательства могут быть у меня перед людьми, которых я не фотографировал? Это каверзный вопрос, который будет актуален в последующие годы.
Я надеюсь на то, что жители Велеса воспримут ситуацию, как некий баланс «честной игры», восстановление равновесия. Некая команда молодых ребят из их города выпустила кучу нелепых фантазий о далёкой стране, США, и заработала на этом. А потом из отдалённой страны приехал я и создал некую фантазию о них, но основанную на реальной истории. Я не замышлял никакого вреда, и Велес показался мне приятным и дружелюбным местом. Я на самом деле не встречался ни с кем, имевшим отношение к индустрии фейковых новостей, да и не пытался сделать это. Всё, что я об этом знаю, получено из вторых рук, через СМИ.
Я планировал, что правда о моём проекте всплывёт очень быстро, не собираясь продолжать обман. На самом деле, в книге разбросана масса улик, которые должны были, по моему мнению, разоблачить «спрятанного в шляпе кролика» весьма быстро.
Какое сходство, какие его виды вы можете назвать между созданием изображений с помощью камеры и с помощью компьютера?
Я узнал многое о своей фотографии, пока создавал эти фейковые картинки. Я никогда не умел толком ставить свет — но тут мне пришлось двигать виртуальные источники на своих 3D-сценах и правильно освещать моих виртуальных героев. Этот процесс научил меня внимательнее смотреть на реальный мир. Я могу стоять за кем-то в очереди к кассе в супермаркете, и вот этот отблеск света на волосах... «Откуда он взялся? Что именно заставляет волосы выглядеть так?» Какие детали текстуры и освещения я должен имитировать?
Чтобы сделать эти работы, я, по сути, должен был создать «с нуля» серию собственных клише, таких «фотографий Йонаса Бендиксена». Я хотел, чтобы конечный результат выглядел так, будто бы я поехал в Велес, провёл там пару недель, имея более-менее приличный доступ туда и сюда, в общем, проделал обычную работу фотожурналиста... и на её основе собрал книгу. Так что, для каждой сцены мне приходилось думать — «а как бы Йонас снял эту ситуацию с реальными людьми»? И затем мне надо было выстроить сцену, кусочек за кусочком, поза за позой, как будто играя в Лего.
«Я надеюсь, на него посмотрят, как на «шаг назад, два шага вперёд, — и что этот проект откроет людям глаза на то, что лежит впереди нас, на какую территорию вступает фотография и журналистика».
— Йонас Бендиксен
Я, наверное, иногда несколько перегибал, это было очень весело. По легендам, древний бог Велес был оборотнем, принимавшим форму медведя. Так что, я вставил в книгу ряд фотографий 3D-образов медведей, бродящих по окраинам города, так что сам Велес как бы присутствует в истории. Я превратился во что-то вроде фотографа, снимающего дикую природу для National Geographic, только без недельного ожидания по кустам.
Какое влияние, на ваш взгляд, этот проект может оказать на мир фотожурналистики? Подрывает ли такой проект жанр фотожурналистики или, в свою очередь, фотографии в целом?
Коротко говоря, я думаю, что сама история, в которой я солгал и создал фейковый материал, подрывает, конечно, доверие к моей работе. Но я надеюсь, что на эту работу посмотрят, как на «шаг назад — два шага вперёд, — и затем, этот проект откроет людям глаза на то, что лежит впереди нас, на то, на какую территорию вступает фотография и журналистика.
Мои руки были связаны после выхода книги в Апреле. Я выкладывал её фрагменты в своих каналах в социальных сетях, и книга хорошо продавалась. Но я старался быть осторожным, и не давать другим медиа вляпаться в эту историю. Я также до сих пор не выпустил книгу в архиве «Магнум», так как не хочу, чтобы команда «Магнум» так или иначе продавала материал под фальшивым флагом.
Но вы отправили работы на Visa pour l’Image, крупнейший фестиваль фотожурналистики в Перпиньяне, во Франции?
Я был сильно удивлён, что никто из моих коллег не задал мне вопросов об этой книге. Так что, мне нужен был тест — смогут ли эти фальсифицированные картинки пройти через самые жесткие квалифицированные фильтры. Я отправил на фестиваль Visa pour l’Image полную серию фотографий и полноразмерные файлы PDF книги как таковой. Когда они связались со мной и предложили вечерний показ на фестивале на широком экране, я был очень смущён. Я чувствовал себя ужасно, так как обманул их. С другой стороны, я чувствовал, что происходящее очень важно для фотожурналистики и всей нашей индустрии.
Если сфабрикованные на компьютере фотографии были приняты кураторами, отбирающими лучшие работы фотожурналистов за год, это говорит о том, что вся индустрия весьма уязвима.
Крупные высокотехнологические компании регулярно нанимают хакеров высшего уровня, даже криминальных, чтобы те пытались взломать фирменные сайты. Это называется «тест на проникновение». Хакерам платят большие деньги за взлом всего, до чего они смогут добраться, чтобы выявить максимальное количество уязвимостей в системной структуре. В результате фирма может вовремя закрыть «дыры», чтобы обезопасить себя от реальной атаки. По-моему, то, что я сделал, играет такую же роль в отношении документальной фотографии и фотожурналистики, только на волонтёрской основе.
Я пришел к выводу, что, пока я не публикую эту историю в массовых СМИ, показ на экране во время специализированного фестиваля всё же допустим. Но даже в этом случае, я считаю необходимым принести публичные извинения Жану-Франсуа Леруа (Jean-François Leroy) и всем прекрасным людям, делающим фестиваль Visa. Они делают важнейшую работу. Даже когда оказывается, что они, как и все мы, должны быть в ещё большей степени настороже в отношении фейковых новостей.
Как скоро вы планировали раскрыть правду о проекте?
Когда я выпустил книгу в апреле, я думал, что кто-нибудь «расколет» её в течение нескольких недель. Когда этого не произошло, я решил помочь людям, возбудив в них подозрения.
Фейковые новости обычно распространяются через социальные сети, так что я решил, что нужно вызвать атаку на меня и «Велесову книгу» там. Я приобрёл готовый и предварительно «выдержанный» профиль в Фейсбуке. Её (профиль) звали «Chloe Miskin», и обошлась мне покупка примерно в 40 долларов. Парни, у которых я купил ее, утверждают, что ее фото в профиле созданы AI. Не имею понятия, правда это или нет. Ты просто платишь деньги и получаешь товар.
Я ввёл её в наше фотографическое сообщество. Через несколько недель, она «дружила» с более, чем шестью сотнями фоторедакторов, кураторов и прочих персонажей из фото индустрии.
Как только прошел показ на экране в Перпиньяне, я постарался раскрыть правду, чем скорее, тем лучше. В течение суток, я позволил фальшивой Хлое выдвинуть на Facebook обвинения в том, что я платил своим объектам за появление на фотографиях (что, конечно, было правдой в том смысле, что я купил базовые модели трехмерных аватаров). Моей целью было заставить людей присмотреться внимательнее. Я думал, что в течение нескольких часов всё будет кончено. К моему удивлению, наживка не сработала, более того, люди даже начали защищать моё предполагаемое поведение.
Я понял, что это неправильное место, и мне пришлось создать несколько новых фейковых профилей на Твиттере.
Твиттер-Хлоя стала повторять эти обвинения, в том, что я платил объектам съёмки. После некоторого начального возмущения, Бенджамин Честертон (Benjamin Chesterton), с ником Duckrabbit, нашел брешь в моих доспехах, и заметил, что одна из фейковых аватар моего аккаунта была производной женщины, появлявшейся в моей книге, и носила такую же одежду.
Я был очень рад, что дошел до этого момента. И я хочу поздравить Duckrabbit с отличной работой, сказать ему спасибо за то, что он помог мне вылезти из моей собственной лжи, и вернуться к жизни честного гражданина! Я отправлю ему книгу с автографом.
Может показаться некоторым инстинктивным проявлением, что люди, читающие какой-то материал «по работе», будут более скептичными. Фактически, проект вырос из вашего любопытства и энтузиазма в обсуждении вопросов, которые вы считаете важными для фотографии сегодня. Что нового и обнадёживающего вы смогли узнать в результате всей этой истории?
Моя гипотеза на всю эту тему состоит в том, что если один средний фотограф, «ботаник-фрилансер». Может сотворить такое в своём офисе в подвале дома, то впереди нас ждёт много весёлого. Самая оптимистичная перспектива состоит в том, что впереди — прогулка по минному полю, и хорошо бы правильно расставить все предупреждающие знаки, прежде чем вступать на него.
Подписанные копии «Велесовой книги» можно приобрести в магазине «Магнум».
Оригинал на сайте Magnum Photos
Перевод с английского Александра Курловича
