Обновлённый кодекс Евросоюза о борьбе с дезинформацией требует от крупных технологических компаний, таких как Google и Twitter, принять меры для противодействия на своих платформах дипфейкам и фейковым аккаунтам. Неудаление дипфейков будет караться штрафами размером до 6 процентов от глобального оборота корпораций.
Свод правил по борьбе с дезинформацией появился в 2018 году и до последнего времени не имел обязывающего характера. Теперь кодекс станет схемой совместного регулирования, при этом ответственность будет разделена между органами и сторонами, подписавшими документ.
Дипфейки и поддельные учётные записи указаны в обновлённом кодексе как примеры манипулятивного поведения, с которыми подписавшимся компаниям придётся бороться.
Созданные с помощью компьютерных технологий гиперреалистичные подделки, которые получили название дипфейков, в последнее время стали появляться всё чаще и использоваться не только в развлекательных целях. Эксперты по дезинформации и аутентификации контента в течение многих лет предупреждали о возможности распространения с помощью дипфейков хаоса, особенно по мере того, как они становятся всё более и более реалистичными.
Качество дипфейков значительно улучшилось за относительно короткий период времени. Например, в прошлом году в TikTok вышли вирусные видеоролики, на которых фальшивый Том Круз подбрасывает монету и играет в гольф, и уже за первые пару дней собрали порядка 2,5 млн просмотров. Большинство пользователей потом ещё долго не могли поверить, что это не реальный актёр.
TikTok отказался удалять аккаунт, где было опубликовано видео, сославшись на то, что оно не несёт никакой опасности.
Однако сам Том Круз в результате зарегистрировался в TikTok и верифицировал свой профиль.
Дипфейк с Илоном Маском, появившийся недавно, оказался не так безобиден. В нём фальшивый Маск утверждает, что создал проект BitVex, чтобы обеспечить широкое распространение биткоинов, и обещает 30-процентную прибыль каждый день в течение трёх месяцев с любой депонированной криптовалюты. Видео циркулировало в Twitter несколько дней, пока предприниматель не опроверг его подлинность.
Компания BleepingComputer определила несколько адресов кошельков, связанных с веб-сайтом мошенников из BitVex, и обнаружила там депозиты всего на 1700 долларов. Однако отметила, что обманщики могли иметь и другие адреса и со временем украли гораздо больше криптовалюты.
Мошенники взламывают учётные записи, представляются журналистами и создателями проекта NFT, что является особенно прибыльным предприятием. Когда Yuga Labs, стоящая за яхт-клубом Bored Ape, провела запуск NFT, они выдали себя за сотрудников компании и заработали миллионы долларов.
Создавать дипфейковые видео довольно просто с помощью легкодоступных приложений и инструментов. Например, существует сервис Overdub, который позволяет «заставлять знаменитостей говорить всё, что вы хотите», монтируя «реалистичные видео с синхронизацией губ».
Однако Google на днях нанёс серьёзный удар по любителям этой технологии, запретив использование своей платформы машинного обучения для создания дипфейков.
Сервис Google Colaboratory, известный как Colab, позволяет запускать код Python из личного браузера, но не на собственном оборудовании, по сути, предоставляя пользователю бесплатный доступ к большим вычислительным мощностям. Юзеры используют программу для разных целей: от запуска серверов Minecraft до создания нейронных сетей, которые могут автоматически распознавать рукописный текст. Те же вычислительные мощности, как выяснилось, использовались для монтирования дипфейкового порно.
В результате расследования Google Motherboard обнаружилось, что проект с открытым исходным кодом DeepFaceLab, который применялся при обработке вирусной подделки с Томом Крузом, стал наиболее популярным методом создания дипфейков. Google запретил DeepFaceLab, а «создание дипфейков» добавлено в список запрещённых действий.
15 июня 2022