Грядёт война интернет-ботов

• «Большая цифра» рвётся к власти на плечах Пентагона и Трампа
• ОpenAI сводят с россиянами
• Бесконтрольное развитие ИИ закончится гибелью человечества
• Контроль над развитием ИИ: возможен ли он

Авторы проекта делают ставку на использование больших лингвистических систем (LLM). Технология обучения ИИ-агентов специфике информационных войн уже опробована в ходе пилотных экспериментов, а анализ эффективности и особенностей подобных систем проведен аналитиками факультета военных исследований Королевского колледжа Лондона.

Подготовка ИИ-бойцов пропагандистского фронта

Два года назад специалист по кибербезопасности, скрывающийся под псевдонимом Nea Paw, что в переводе с румынского означает «Снежная Лапа», отчитался о завершении пилотного проекта «CounterCloud» («Счетчик облаков» – англ.) по подготовке ИИ-экосистемы, способной дезинформировать интернет-аудиторию противника в своих интересах.

В эксперименте были задействованы ChatGPT и платформа облачных вычислений компании Amazon. Обучение ИИ-агентов продолжалось в течение двух месяцев. Цена вопроса – 800 долларов. Nea Paw признался, что запустил этот проект, чтобы посмотреть, как будет работать в реальном мире дезинформация, созданная искусственным интеллектом. Результаты оказались впечатляющими.

Она лайкала и репостила сообщения, соответствующие ее нарративам, троллила оппонентов и создавала тексты, разоблачающие их почку зрения, генерировала фейковые истории и исторические события.

За счет целевого накопления тематической информации система научилась реагировать только на наиболее релевантный контент и усиливать достоверность своих сообщений с помощью, прочитанных ИИ аудиозаписей новостей, фотографий и профилей фейковых журналистов, а также использовать при написании постов юмор и разные стили изложения материала.

На пороге бума ИИ-пропаганды

Проведенное аналитиками Королевского колледжа Лондона исследование «Фабрики ИИ-пропаганды с языковыми моделями» («AI Propaganda factories with language models») подтвердило работоспособность пропагандистских ИИ-систем. Более того, утверждается, что такие проекты не требуют больших ресурсных затрат. Их основой могут быть малые языковые модели (SLM) с открытыми весами (доступом пользователя к архитектуре, обучающему коду, наборам данных), работающие на оборудовании потребительского сегмента.

Контент, генерируемый такими системами, определяется дизайном и настройкой ИИ-агентов. В ходе эксперимента не было зафиксировано ни одного отказа от выполнения более 11 тысяч задач, и во всех ответах выдерживался заданный стиль, тон и политическая позиция. Контроль за качеством создаваемого контента не требует участия человека – с этим вполне справляется ИИ-редактор на базе лингвистической модели Qwen3, разработанной компанией Alibaba.

Важной характеристикой ИИ-пропагандистов является возможность быстрой командной игры: они способны атаковать оппонента, подобно рою пчел. При этом ИИ-агенты с радикальными политическими взглядами (ультралевые, ультраправые) показывают более высокую стабильность и последовательность, чем носители умеренных нарративов.

Именно эта чрезмерная идеологическая твердость, а также оперативная координация в любое время суток позволяет аналитическим системам отличать ИИ-агентов от людей-блогеров. В целом, как следует из отчета британских аналитиков, идея создания ИИ-фабрик для ведения пропагандистских кампаний перестает быть умозрительной концепцией и становится реальностью.

Пентагону нужна суперэффективная ИИ-пропаганда

На волне этого тренда в Министерстве войны США была поставлена задача создания эффективных ИИ-инструментов для информационной поддержки военных операций (Military Information Support Operations – MISO) в сетевом пространстве противника.

Технологическая база для реализации этого проекта есть, но его масштаб намного превосходит рамки, в которых были реализованы экспериментальные системы. Заниматься собственными разработками Пентагон не собирается. Речь идёт о закупке, адаптации и интеграции систем ИИ-агентов в соответствии с целями военного ведомства. Это отдельный комплекс задач, требующих своих решений.

Еще одна серьезная проблема – склонность лингвистических систем к галлюцинациям. Для их минимизации предлагается использовать генерацию, дополненную поиском во внешних источниках (Retrieval -Augmented Generation – RAG), и сверять каждый сформулированный системой тезис с содержимым нормирующей базы данных, состоящей из разведданных, директив и стратегических нарративов. Эти требования определяют будущий фронт работ.

ИИ-агенты будут воевать между собой

Говоря о необходимости ведения ИИ-пропаганды, представители Пентагона политизируют проблему, уверяя публику, что их амбициозные планы являются ответом на аналогичные разработки геополитических конкурентов. В выступлениях американских военных и публикациях СМИ регулярно упоминается о том, что Китай и Россия уже применяют ИИ для воздействия на общественное мнение США.

Пропагандистские машины развивающихся стран наверняка будут уступать проекту Пентагона, но это уже не важно. Не дорогие и не требующие мощных ресурсов инструменты ИИ скоро станут доступны многим. В результате начнутся виртуальные схватки, в которых ИИ-агенты разных стран будут «дискутировать» друг с другом.

Это приведет к падению уровня ИИ-пропаганды – она станет гораздо более тупой, чем во времена, когда ее вели люди. Даже не знакомая с британскими критериями выявления ИИ-агентов публика поймет, что в интернете идет война ботов – за ней можно наблюдать как за аналогом спортивных состязаний, но не более того. В итоге погоня за цифровой эффективностью может дать нулевой эффект.