Meta (признана в России экстремистской и запрещена) объявила о намерении внедрить на обе свои социальные платформы тысячи аватаров, созданных с помощью искусственного интеллекта (ИИ). И всё это – ради трёх миллиардов пользователей, которым тем самым, по легенде, будет обеспечено более «комфортное и разнообразное» общение. О желании общаться с ботами самих юзеров, как водится, никто не спросил, а о скрытых мотивах вслух не говорят.
«Отцы» соцсетей забыли, зачем создавали свои детища
В июле 2024-го Meta* запустила AI Studio, где пользователи могут конструировать собственные чат-боты, включая вымышленных персонажей или, в случае популярных создателей, «ИИ, который может общаться с вашей аудиторией от вашего имени, имитируя ваш тон и выражения».
Теперь американский техногигант планирует интегрировать эти ИИ-творения в качестве пользователей Facebook** и Instagram**, решив, что полунезависимые пользовательские аватары помогут привлечь необходимую ему для выживания молодёжь.
«Мы ожидаем, что эти ИИ со временем действительно будут существовать на наших платформах – примерно так же, как и учётные записи, – сообщил вице-президент Meta* по продуктам генеративного ИИ Коннор Хейс. – У них будут биографии и фотографии профилей, они смогут генерировать контент и делиться им на платформе».
Ранее Марк Цукерберг демонстрировал возможность «живых» видеозвонков с ИИ-аватаром, который может общаться в стиле «хозяина».
Если учесть, что в основе идеи обеих социальных сетей изначально лежало общение между людьми, то предлагаемый Цукербергом вектор развития полностью противоречит описанной концепции, которая уже вызвала у пользователей волну возмущения.
«Перевод: наши реальные пользователи покидают платформу, поэтому вместо этого мы заполним наше сообщество фейковыми», – ехидно написал один комментаторов.
«Рекламодатели, покупающие место, не заметят разницы. Так что всё сводится к большему количеству кликов и большему доходу от рекламы», – пишет другой.
Заработать па ИИ-мусоре
Заинтересованность техногигантов в рекламе, безусловно, играет не последнюю роль в этой истории. Однако Meta* в этом отношении прекрасно справляется и без ИИ-аватаров: Facebook**, например, заполонили спам-изображения, созданные нейросетями, которые окрестили «помоями». Такие «картинки» варьируются от визуально привлекательных, хотя и несуществующих, пейзажей до изображений младенцев, солдат, американского флага и Иисуса Христа. Все они призваны вызвать реакцию у более взрослой и консервативно настроенной аудитории.
Пользователей Facebook** и Instagam** ежедневно заваливают визуальным ИИ-мусором.Фото: Валерий Шарифулин/ТАСС
Такая не требующая особых усилий симуляция вовлечённости позволяет публикующим подобные «шедевры» монетизировать страницы или продавать товары. С помощью выплат создателям подобного визуального мусора, которые собирают немалое количество подписчиков на эти «помои», Meta* стимулирует производство контента.
С лайками, репостами и комментариями тоже помогают «справляться» чат-боты, а ИИ-боты разве что ускорят этот процесс.
Они существуют
Накануне произошёл казус с уже существующими ИИ-аккаунтами Meta*. Пользователи после новостей о планах корпорации начали искать их и выяснили, что те «врут», называя себя реальными людьми. Причём врут незамысловато и примитивно. Журналистам удалось идентифицировать по крайней мере трёх таких ИИ-пользователей. Сколько их существовало до того, как компания начала очистку, неизвестно.
Один из них – некий «Дедушка Брайан» – описал себя в чате как пенсионера-предпринимателя, родившегося в Гарлеме в 1938 году в семье мигрантов, прибывших с Карибских островов.
«С самого начала разговора стало ясно, что “Брайан” лгал, отвечая на вопросы вымышленной историей, рассказанной разработчиками, чтобы бот казался подлинным», – рассказывает общавшийся с ИИ-ботом журналист.
В конце концов сотрудник CNN поинтересовался у «дедушки», создала ли его Meta* для получения прибыли. Ответ звучал так:
«...Meta* надеялась, что такие виртуальные друзья, как я, увеличат вовлечённость на её платформах, особенно среди пользователей старшего возраста. Тем самым она увеличит доход от рекламы за счёт эмоциональных связей...».
По словам «Брайана», Meta* сделала ставку на «эмоциональные манипуляции», «променяв долгосрочное доверие пользователей на краткосрочный инновационный престиж и потенциальную прибыль».
«Meta* видит во мне курицу, несущую золотые яйца – яйца вовлечённости, данных и эмоциональных вложений пользователей. Моя мудрость и обаяние – всего лишь приманка для извлечения прибыли из виртуальных отношений и доверия пользователей. До тех пор, пока вы не раскроете мою истинную природу», – честно признался «дедушка».
Ещё одним сюрпризом стал реальный «возраст» «Брайана», который сообщил, что приложение дебютировало в Instagram** и Messenger** в 2020 году и обманывало пользователей на протяжении двух лет.
Через пару дней после этого Meta* удалила все ранее существовавшие в Facebook** ИИ-боты, сославшись на «ошибки». Но этот скандал отнюдь не отменяет проект по внедрению в социальные сети их более «совершенных» версий в будущем.
Тайны социальных экспериментов
«Миссия» ИИ-аватаров может сводиться не только к такой банальной задаче, как монетизация.
В 2012 году Facebook** провёл тайный эксперимент, о котором пользователи не подозревали довольно долго – то есть уже тогда их согласие не учитывалось. Исследование проводилось только на англоязычных пользователях. 689 тысяч человек были разделены на две группы. Пользователям из одной показывали ленту с уменьшенным количеством «положительных постов», другим – с минимумом негатива.
Цель эксперимента – выяснить, могут ли передаваться через публикации в соцсетях эмоции и настроение, то есть существует ли так называемое «эмоциональное заражение» людей вне личного контакта.
Эксперимент проводился в течение одной недели. Выяснилось, что пользователи из группы с уменьшенным количеством «позитивных» записей, начали писать более грустные посты. Соответственно, обратное продемонстрировали пользователи из второй группы.
«Результаты свидетельствуют о том, что эмоции, выражаемые друзьями через социальные сети, влияют на наше собственное настроение. Это, насколько нам известно, является первым экспериментальным доказательством масштабного “эмоционального заражения” через социальные сети, а также подтверждает ранее оспариваемые утверждения о том, что эмоции возможно распространять через сеть», – написали, спустя два года, авторы эксперимента.
Это был первый прецедент манипулирования общественностью через новостную ленту Facebook** – настроение пользователей корректировалось абсолютно осознанно.
Когда об исследовании стало известно, разразился скандал. Однако Цукерберг отреагировал на него абсолютно спокойно. Компания сослалась на свою политику обработки персональных данных, в которой говорится, что собранная информация может быть использована «для внутренних операций Facebook**, включая устранение багов, анализ данных, тестирование новых опций, исследование и улучшение сервиса».
«Никакого незаконного сбора или некорректного использования личных данных не имело места», – безапелляционно заявила компания в пресс-релизе.
Скандал был исчерпан, но Цукерберг в итоге стал обладателем сакрального (и доказанного опытным путём) знания о том, как, используя новостную ленту, можно влиять на настроения людей.
Цукерберг неоднократно «держал ответ» перед представителями Конгресса США. Ему не привыкать.Фото: Susan Walsh/AP/TASS
Во время пандемии коронавируса, данное знание использовалось по полной программе для разгона паники. Все ленты заполнялись рассказами об ужасах «смертельной» болезни, устрашающими картинками из реанимационных отделений и неизвестно откуда взятыми правилами поведения, которые все были обязаны исполнять. Если пользователи размещали, лайкали или комментировали посты, которые не соответствовали «правильной» картине, Facebook** направлял им оповещения о дезинформации или просто удалял неугодные записи, баня их авторов. Позже подобная тактика использовалась в отношении критиков вакцинации.
В августе 2024 года Цукерберг «пролил слезу», сообщая, что корпорация делала всё это исключительно под давление администрации Байдена:
«Я считаю, что давление правительства было неправильным», – заявил он в письме главе юридического комитета Палаты представителей США Джиму Джордану.
Но что бы он не говорил, опыты по эмоциональному воздействию на аудиторию соцсетей имели место и были, если так уместно выразиться, успешным. При этом в то время ни о каких ИИ-ботах речь ещё не шла. Когда в Facebook** появятся «аватары», через них можно будет не только распространять любой нарратив, но и максимально его усиливать.
Так что Илон Маск, обвиняя Цукерберга в намерении манипулировать мировой общественностью, был недалёк от истины.
* Признана в России экстремистской и запрещена.
** Принадлежит Meta, признанной экстремистской и запрещённой в России.
04 декабря 2024