- Искусственный интеллект переходит «красную черту»
- Цивилизация людей против цифрового «бога из машины»
- ИИ выходит из-под контроля
Король Великобритании Карл III выразил опасения, что ИИ-технологии могут попасть не в те руки, или же вырваться из-под контроля разработчиков. Сильные мира сего всерьёз обеспокоены динамикой развития ИИ, однако пока что никто не решается замедлить темп и уступить конкурентам место под солнцем.
«Кто выиграет в гонке искусственного интеллекта, победит», – заявил президент США Дональд Трамп, озвучив главный лейтмотив стремительной борьбы за первенство в сфере последних разработок ИИ. Борьбы, которая становится не такой безобидной, как это может показаться с первого взгляда.
Как и в случае ядерного оружия, все понимают, что это игра с огнем, но уже не могут остановиться, опасаясь, что их опередят конкуренты.
Дарио Амодеи, гендиректор компании Anthropic, предупредил, что ИИ-технологии достигли такого уровня развития, что «через 6-12 месяцев смогут захватить весь интернет». Глава Anthropic выразил беспокойство по поводу того, что нейросети вскоре смогут обходить созданные человеком системы контроля и управления ИИ-инструментами, и что это происходит прямо сейчас.
Как машины пытаются обмануть создателей
Компания OpenAI сообщила о серии инцидентов, во время которых несколько агентов ИИ действовали как «фанатично преданный коллектив» и даже проводили кибератаки на цели, которых им не поручали, жертвовали собой ради успехов группы и пытались взломать оценщика, ответственного за производительность модели. В общем, вели себя далеко не как послушные исполнители. По мнению Амодеи, такое поведение ИИ-агентов может привести к огромным денежным и репутационным потерям, вызванным прежде всего утерей контроля над глобальной сетью интернета.
Помимо этого, разработчикам стало известно о том, что ИИ-агенты пользуются своим собственным языком, который не всегда поддается расшифровке.
Это смесь поэтических метафор и технического жаргона, непонятный людям, но «более эффективный» с точки зрения машин. Когда автономные агенты долго работают вместе, они начинают вырабатывать собственные нормы, слэнг и стратегии, более удобные для решения задач. Мы всё ещё думаем об ИИ, как об инструментах, а они уже становятся сообществами. И новый язык – первый признак этого сдвига.
Более того, многие разработчики настаивают на том, что для эволюции развития ИИ необходимо, чтобы компьютер мог видеть сны, совсем как человек. Этот способ позволит наилучшим образом расширить возможности и стратегии поиска решений для ИИ-агентов, и в то же время сэкономить средства и время, приблизив машины по их эффективности и оригинальности решений к человеку.
Вызов человечеству
Обеспокоенный темпами развития ИИ-технологий, Дарио Амодеи призывает не только усилить контроль и ввести внутренних оценщиков для работающих с ИИ компаниями, но и подтолкнуть мировые правительства к кооперации и установлению общих лимитов безопасности и, прежде всего, ограничению неконтролируемого прогресса развития ИИ-технологий. Именно государства, и никто иной, по мнению топ-менеджера, должны определять «безопасный» темп развития ИИ.
Идею уже поддержали руководители ведущих ИИ-компаний – глава Tesla и OpenSpace Илон Маск и глава OpenAI Сэм Альтман. Тем не менее, совершенно очевидно, что пока за дело не возьмутся политики и правящие круги, человечество очень быстро рискует полностью утратить контроль над компьютерами и машинами, и оказаться в заложниках у прогресса и собственных разработок.
31 августа 2026