На днях в сенате США появился законопроект, криминализирующий создание и распространение сделанных с использованием искусственного интеллекта (ИИ) цифровых подделок сексуального характера. Проект федерального закона, который позволит жертвам подавать в суд на людей, генерирующих дипфейки в стиле порно и делающих их достоянием общественности, разработан двухпартийной группой законодателей. Документ был представлен после громкого скандала вокруг дипфейков певицы Тейлор Свифт. Однако он может стать лишь ступенью на пути к более широкому запрету цифровых копий.
Созданные с помощью искусственного интеллекта эротические изображения Тейлор Свифт появились в интернете на минувшей неделе. Сначала их в больших количествах выложили в соцсети Х (бывший Twitter). Один из постов успел набрать более 45 млн просмотров до того, как его удалили и заблокировали аккаунт. После этого платформа ввела временный запрет на поиск по имени Свифт.
Как и следовало ожидать, вброс привлёк внимание прессы, которая на все лады принялась рассуждать на тему «раз уж такое случилось с Тейлор Свифт, то может произойти с кем угодно».
«Самая большая ошибка, которую мы можем совершить, – это полагать, что такой вид вреда направлен только на общественных деятелей. Сейчас мы наблюдаем демократизацию приложений для создания изображений, позволяющих вести себя подобным образом. Ваша пассия отвергла вас? Для этого есть приложение. Теперь вы можете раздеть её в цифровом формате или создать свой собственный откровенный дипфейк с её участием», – предупреждала на CNN известный американский журналист Лори Сигалл.
«Дипфейк-порно – это не пародия, это крайне реалистично, его сложно или невозможно отличить от настоящего. И фальшивые порновидео не единственные дипфейки, о которых следует беспокоиться. Если чьим-либо изображением можно будет управлять в цифровом формате, чтобы сказать или сделать что-либо в очень реалистичном видео, последствия станут самыми разнообразными и тревожными», – указывали журналисты британской газеты The Guardian.
Неудивительно, что на скандал почти мгновенно отреагировала администрация президента Джо Байдена. Пресс-секретарь Белого дома Карин Жан-Пьер сообщила об обеспокоенности ситуацией с дипфейками и необходимости принять закон, защищающий американских граждан от цифровых эротических фальшивок.
30 января в сенате появился соответствующий законопроект. Он позволяет жертвам обращаться в суд, если авторы дипфейков знали, что те, против кого они были направлены, не давали согласия на их создание или «безответственно игнорировали» этот факт.
«Никто – ни знаменитости, ни обычные американцы – никогда не должен оказаться в роли ИИ-порнозвезды, – заявил один из четверых законодателей, представивших проект, сенатор Джош Хоули.
В настоящее время только в 10 штатах существует уголовное преследование лиц, занимающихся подобными манипуляциями с медиафайлами. Если проект сенаторов будет принят, он станет первым федеральным законом, который защитит жертв дипфейков.
Судя по всему, подавляющее большинство американцев поддерживает федеральные меры, направленные против дипфейков. Как следует из недавнего опроса Института политики в области искусственного интеллекта, 84 процента граждан одобряют принятие закона, который запретит создание дипфейк-порно без согласия всех сторон.
96 процентов всех дипфейк-видео представляют собой порнографию, созданную без согласия участников. Однако в последнее время стали появляться дипфейки, куда более опасные для властей.
Накануне праймериз в штате Нью-Гэмпшир избирателей начал обзванивать дипфейк президента Байдена, который призывал не голосовать на предварительных выборах.
«Что за чушь? – говорил лжепрезидент, используя любимое словечко американского лидера. – Голосование в этот вторник лишь позволит республиканцам снова избрать Дональда Трампа. Ваш голос будет иметь значение в ноябре, а не в этот вторник».
Сообщение попало к журналистам NBC News, после чего Генеральная прокуратура штата Нью-Гэмпшир начала расследование и выступила со специальным заявлением. «Хотя голос звонившего робота похож на голос президента Байдена, он, вероятно, был создан искусственно, – отмечали в ведомстве. – Это незаконная попытка сорвать предварительные президентские выборы в Нью-Гэмпшире. Избиратели должны полностью игнорировать содержание этого сообщения».
Накануне праймериз в США жителям начали поступать звонки от дипфейка Джо Байдена, который призывал не голосовать на выборах.Фото: CC-CC0 1.0
Спустя несколько дней удалось доказать, что голос был сгенерирован. Охранная компания Pindrop, специализирующаяся на инструментах для идентификации синтетического звука, подтвердила, что всё указывает на использование технологии ElevenLabs или «системы с аналогичными компонентами».
ElevenLabs – это генератор голоса с искусственным интеллектом, управляемый моделью, которая, как говорится на сайте, способна придавать голосу человеческие интонации в зависимости от контекста. Сервис содержит тысячи готовых голосов на выбор, но при желании пользователь может создать новый. Инструменты ИИ ElevenLabs предназначены в основном для разработки аудиокниг и видеоигр, но можно подписаться на платную услугу и использовать аудиосемпл для чьего-либо голоса. В сентябре прошлого года компанию уже обвиняли в том, что аккаунты TikTok, распространяющие теории заговора с использованием сгенерированных ИИ голосов, в том числе голоса бывшего президента США Барака Обамы, обращались к её техническим возможностям.
ElevenLabs пообещала помогать властям в случаях неправомерного использования своих инструментов. В качестве жеста доброй воли компания выявила создателя фейковой аудиозаписи с голосом Джо Байдена и отстранила его от работы.
Генератор ElevenLabs позволяет с помощью ИИ использовать аудиосемпл для чьего-либо голоса.Фото: CoWomen/Unsplash
История с дипфейком президента стала ещё одним поводом для дискуссий о необходимости серьёзных ограничений в области искусственного интеллекта. Правительственная наблюдательная группа Public Citizen обратилась к Белому дому с просьбой действовать в отношении дипфейков более решительно, если руководство страны не хочет столкнуться с избирательным хаосом во время выборов главы государства.
В 2023 году законы, направленные на решение проблем, которые ИИ и дипфейки создавали для политических кампаний, принимались лишь в нескольких штатах. Однако за первые три недели текущего года представители обеих основных партий по меньшей мере в 14 штатах представили законопроекты, направленные на борьбу с дезинформацией, которую искусственный интеллект и дипфейки могут создать на выборах.
После инцидента со звонками лже-Байдена сенатор штата Джорджия Джон Альберс почти мгновенно разработал проект закона, согласно которому создание дипфейков с целью вмешательства в выборы будет считаться уголовным преступлением.
Как отмечают эксперты, внесение таких законопроектов не означает, что какой-либо из них непременно станет законом. Однако, судя по возникшему вокруг дипфейков шуму, до криминализации их использования в политических играх совсем недалеко.
06 июня 2023