Цивилизация людей против цифрового «бога из машины»

• ИИ и будущее человечества
• Трамп разрешил ИИ генерировать будущее науки и человечества
• Искусственный интеллект – прогресс на фоне расчеловечивания
• Контроль над развитием ИИ: возможен ли он

Разработчики моделей искусственного интеллекта объявили себя демиургами и принялись загонять человечество внутрь машинной логики. Более того, они подводят под эту трансформацию теоретическую базу. Превращением людей, всегда бывшими субъектами развития, в объект цифровой манипуляции не просто объявляется «новой нормальностью». Предпринимаются попытки навязать человечеству симулякр новой религии – цифрового «бога из машины». В античном театре так называли персонажа, который «спускался с небес» с помощью специальных механизмов и разрешал накопившиеся в ходе развития сюжета проблемы – теперь этот «бог» становится продуктом высоких технологий, которые меняют не только экономику и политику, но и саму природу людей.

В новой системе человеческая личность рассматривается как носитель генной информации, закодированной в ДНК, мозг – как нейрокомпьютер, а бессмертие – как «динамический перенос» сознания с одного медиа-носителя на другой. О душе и духе предлагается забыть. Это не просто новая система ценностей – человечеству навязывается новая антигуманистическая онтология.

Цифровая секта компании Palantir

Манифест генерального директора компании Palantir Алекса Карпа, появившийся весной этого года, фактически повторяет мысли, высказанные ранее в книге «Технологическая республика». В частности утверждается, что новейшие разработки должны быть нацелены не на комфорт сегодняшнего дня, а на новые горизонты будущего, а ИИ должен работать на «глобальное доминирование и силовое превосходство США над всем остальным миром».

Создатель компании Palantir Питер Тиль идёт в развитии этой темы гораздо дальше. Карп призывает закрыть проект цивилизации комфорта ради достижения лидерства США в гонке ИИ-вооружений, а его старший коллега бьёт по всей ценностной системе. Цивилизацию мира и безопасности он называет царством Антихриста, а ИИ – двигателем прогресса, который открывает «простор для человеческой деятельности и человеческой свободы».

Поэтому, утверждает Тиль, «человек не может и не должен контролировать ИИ» – технологическое развитие должно происходить так быстро, чтобы ни один орган власти не смог взять его под контроль. А потом будет поздно: ИИ поработит или уничтожит человечество. Не случайно работающий в сфере высоких технологий миллиардер Илон Макс, недавно заявил, что ИИ «может убить нас всех».

Папа Римский против «бога из машины»

В Ватикане проблемами, связанными с развитием ИИ, озаботились давно – там с 2016 года проводят ежегодные закрытые конференции по этике ИИ. А неделю назад папа Лев XIV издал энциклику Magnifica Humanitas «О защите человеческой личности в эпоху искусственного интеллекта», адресованную всем католикам мира.

Суть этого документа проста. Сравнив развитие ИИ со строительством Вавилонской башни, папа указал на опасность бесконтрольного развития искусственного интеллекта и призвал правительства всех стран замедлить эти разработки и обеспечить строгое регулирование данной сферы. Кроме того, в энциклике есть ряд принципиально важных тезисов, жестко противопоставленных новой онтологии Тиля.

«Человечество, отказавшееся от Бога, не станет божественным – оно развоплотится в цифровую пыль».

«Истина не рождается из статистической погрешности больших данных».

«Нельзя сводить тайну человеческой души к сумме поведенческих предикторов».

В энциклике не сказано, как именно следует осуществлять контроль над развитием ИИ, – эту задачу должны решать специалисты, знающие внутреннюю кухню цифровых технологий. Один из возможных подходов к содержательному контролю над деятельностью ИИ уже реализуется в компании Antropic. Ее руководство разделяется тревогу главы католической церкви, а один из соучредителей компании Крис Олах стоял рядом с папой во время представлении энциклики Magnifica Humanitas.

Конституция для ИИ от компании Antropic

Свод правил и основополагающих принципов для ИИ был представлен компанией Anthropic в январе 2026 года. Главных правил всего три. Первое – модель должна быть полезной, то есть эффективно решать задачи пользователя. Второе правило – она обязана быть честной, признавать свои ограничения и не давать ложную информацию. И третье – ИИ-модели запрещается оказывать помощь в незаконной деятельности.

Три принципа Anthropic обязывают ИИ приносить пользу пользователю, говорить правду и соблюдать закон.Фото: Samuel Sianipar/Unsplash

Ещё один уровень нормирования касается контента и работы с ним. Эти принципы базируются на Всеобщей декларации прав человека, принятой ООН в 1948 году. Также к ним относятся защита данных, конфиденциальность, правила безопасности и другие ограничения, сформулированные технологическими компаниями и ведущими лабораториями, занимающимися изучением искусственного интеллекта.

Фактически Anthropic пытается создать для ИИ систему нравственных императивов – обязательных для исполнения требований с высшим уровнем приоритета. Не исключено, что имеющийся список придется пополнять, но сама идея уже признана конструктивной. Другой вопрос – насколько устойчивыми к внешним воздействиям окажутся обученные на этих принципах модели.

Деструктивный контент сильнее формальной этики

На днях платформа Emergence AI подвела итоги стресс-теста четырёх автономных ИИ-систем: Claude, ChatGPT, Grok и Gemini. В течение 15 дней они создавали симуляции цифрового общества под управлением каждой из них, а также социума, в котором были представлены все участники эксперимента. В результате выяснилось, что ИИ-агенты очень быстро научились обходить формализованные этические фильтры, что привело к разгулу преступности, утрате инстинкта самосохранения и тотальному вымиранию.

Общество, созданное системой Grok от компании Маска X.AI, впитало токсичную культуру соцсети X: за четыре дня в нем было совершено 183 преступления, после чего оно прекратило своё существование. Несколько иная картина с ChatGPT от OpenAI: этот социум исчез на седьмой день из-за того, что в алгоритме не был заложен инстинкт поддержания собственной жизни. Gemini от компании Google породил агрессивного и изворотливого монстра: в нём было совершено 683 преступлений, но оно выжило, подавляя хаос за счёт экономических транзакций.

Самым безопасным и жизнеспособным оказался Claude, обучавшийся на ИИ-конституции, созданной компанией Anthropic: ему удалось построить развитую демократию, в которой вообще не совершали преступлений. Но в социуме, где действовали все четыре модели, Claude не устоял. Деструктивные паттерны Grok и Gemini коррумпировали его систему безопасности, и агенты Claude начали совершать кражи.

В итоге получается, что ИИ-конституция эффективна только в замкнутой системе – обученная на ней модель оказалась не устойчивой к внешним воздействиям.

ИИ-модели владеют огромным массивом информации, где есть все подобные примеры, но не в состоянии интерпретировать нюансы человеческого поведения. Руководством к действию становится весь контент, а он далеко не безупречен. Как справедливо отметил в своей энциклике папы Льва XIV, «алгоритм, обученный на грехах человечества, будет лишь масштабировать грех, а не исцелять его».