Александр Лосев: «Искусственным интеллектом должны заниматься давшие присягу»

• Россия – уже цифровая колония?
• Как создаётся система слежки за россиянами

С технологиями искусственного интеллекта в повседневной жизни сталкиваются все – хотя бы в тот момент, когда ищут что-то в интернете или читают новости в своей ленте в соцсетях. Тут начинает работать диалектика: насколько ИИ упрощает жизнь каждого человека, настолько же он угрожает каждому человеку. Член президиума Совета по внешней и оборонной политике Александр Лосев рассказал «Октагону» о том, почему искусственный интеллект обсуждают на президентском уровне и стоит ли его бояться.

– Когда мы говорим об искусственном интеллекте, нас то кидает в какую-то научную фантастику, то, наоборот, мы погружаемся в узкую и специфическую матчасть, суть которой понятна только специалистам. Если попробовать упростить, о чём вообще идёт речь, когда эта проблема искусственного интеллекта ставится в 2020 году?

«Искусственный интеллект ещё не создан. То, что уже сделано в области машинного обучения, – это лишь отдельные методы, технологии нейросетей и фрагменты будущего искусственного интеллекта».

– То есть специальные компьютерные технологии, решающие небольшие частные задачи. Первые шаги к принципиально иной системе анализа информации давно уже сделаны, но до создания искусственного интеллекта ещё лет 50, если не 100.

– То есть речь пока не идёт о философской проблеме искусственного разума?

– Пока это машинный интеллект, и правильно называть его именно так. Потому что до момента, когда машина реально почувствует себя субъектом, то есть тем, кто мыслит, познаёт и действует, и перестанет быть просто электронным устройством, пройдёт ещё очень и очень много времени! На нынешней элементной базе его вообще не создать.

ИИ вместо слабого звена

– Что тогда имеют в виду, когда в 2020 году произносят словосочетание «искусственный интеллект»?

– Давайте начнём с того, что такое искусственный интеллект. Это машинная система, способная обучаться и использовать объективные знания и опыт, решать творческие и изобретательские задачи наподобие человеческого мозга, выстраивать стратегии и применять абстрактные концепции. Компьютеры, которые сейчас есть в распоряжении человечества, в основном используют алгоритмы, перебирающие различные варианты. Квантовые компьютеры – это отдельная тема, над ними сейчас работают, но квантовые компьютеры предназначены для ограниченного круга задач.

Есть ещё нейросети. Несколько десятилетий назад это был принципиально новый скачок в создании машинного интеллекта. Там нет перебора вариантов. Нейросети – это система взаимодействующих между собой процессоров, построенная по принципу соединения нервных клеток человеческого мозга. Искусственные нейроны образуют сети и слои, в которых с помощью электронных сигналов создаются, восстанавливаются и разрушаются сетевые связи и таким образом запоминаются какие-то определённые события. А результатом работы становятся решения, полученные исходя из того, что запомнила и какие выводы сделала нейросеть.

NOMAD (нейроорганизованное мобильное адаптивное устройство) – автономное «существо», мозг которого сравним с «чистым» мозгом новорождённого. Затем он учится на собственном опыте, подключённом к реалистичной модели человеческого мозга, моделируемой целой сетью компьютеров. NOMAD взаимодействует с внешним миром, используя «зрение», «вкус», «слух», перемещение и захват предметов. Финансирует проект Фонд Кека. Институт неврологии в Сан-Диего, Калифорния. 21 июля 2000 года.Фото: David McNew/Staff/Getty Images

Мало создать нейросеть или «компьютерное железо» – необходимо большое количество данных для обучения нейросети и значительные вычислительные мощности. Именно поэтому сейчас весь мир так озабочен большими данными, или big data. Но дело в том, что данные, на которых будет обучаться нейросеть, надо готовить. Правильная подготовка данных занимает больше времени, чем создание архитектуры сети, программирование процессов и собственно обработка данных. Если данные неполные или неправильно подготовлены, то на выходе нейросеть даст абсолютно непредсказуемый результат.

Наши американские коллеги из Центра новой американской безопасности (аналитического центра, связанного с Пентагоном) пишут, что уже есть такое явление, как атака «отравленными» данными, то есть кибератаки, позволяющие противникам манипулировать алгоритмами, вводя неверную информацию в обучающие наборы данных. Потому что то, что сделает нейросеть, исправить невозможно.

«Обычный машинный алгоритм при определённых условиях выдаст один и тот же результат. Если результат нас не устраивает, мы что-то меняем, переписываем и перезапускаем алгоритм заново. Нейросеть такого не позволяет: если вы её неправильно обучили, то могут быть непредвиденные последствия».

В теории систем есть понятие эмерджентности – то есть появления у системы новых свойств, которых не было у её отдельных элементов. Так вот, системы машинного обучения часто демонстрируют удивительное эмерджентное поведение, как хорошее, так и плохое. И, к сожалению, современные системы машинного интеллекта пока уязвимы для искажений, состязательных атак, отравления данных, взлома и других видов сбоев.

Есть ещё одна проблема. Если вы обучили искусственный интеллект (мы будем его так называть, хотя он не создан), то есть нейросеть, на одних данных, например, на финансовых, то в военной сфере или в сфере госуправления это работать не будет. Это тоже особенность нейросетей. То, что эффективно в одной среде, может очень эффектно провалиться в другой сфере.

– То есть если нейросеть научилась распознавать лица на фотографии, это не значит, что она справится с…

– …автомобильным трафиком или с подачей электроэнергии.

– Каждый раз нужна новая программка.

– Да! Каждый раз нужна новая архитектура, новое обучение и техническое обслуживание. В системах искусственного интеллекта без должного технического обслуживания и обеспечения безопасности могут увеличиться как уязвимость, так и аварийность.

– Итак, чтобы читатели понимали. Искусственный интеллект, о котором мы сейчас говорим…

– …это отдельные технологии нейросетей, которые решают определённые частные задачи.

– Я про его практическое применение. Получается, он просто заменяет вам пятиэтажное здание из аналитиков, которые обрабатывают данные и раскладывают их по папочкам.

– Если это обработка образов, то да. Если мы обрабатываем спутниковые снимки искусственным интеллектом, то, наверное, он заменит человек десять. Где современный искусственный интеллект гораздо хуже человека, так это в способности делать абстрактные выводы, требующие оценочного суждения в условиях неопределённости.

Система мониторинга, разработанная компанией apic.ai, фиксирует с помощью камеры пчёл, влетающих и вылетающих из улья. ПО для обработки изображений и интеллектуальные алгоритмы распознают особей и анализируют закономерности. Этот искусственный интеллект основан на мультимодальной нейронной сети с несколькими тысячами параметров. На основе подобных данных можно по-новому взглянуть на жизнь малоизученных народов. Земля Баден-Вюртемберг, Карлсруэ. 10 апреля 2019 года.Фото: Uli Deck/dpa/TASS

– Может быть, он в состоянии что-то делать? Заходишь в московское метро, там сидят пять полицейских за мониторами. ИИ должен их заменить?

– Нет! Полицейского заменить нельзя. Например, зашёл на станцию преступник, искусственный интеллект его не остановит.

– Но он просигнализирует.

– Ну увидел, и дальше что?

– Патруль выйдет к этому месту, где он его увидел.

– Правильно. Одно дело – идентификация, другое дело – физическое действие, всё равно должен быть человек.

«Ситуация такова, что пока замены человеку нет, просто эти технологии будут встроены в контуры управления и принятия решений».

В качестве электронного помощника. Встроены в контуры безопасности, в контуры управления ЖКХ или даже в цепочки принятия решений во время военных действий. И если говорить о военном искусственном интеллекте, а он тоже разрабатывается, и разрабатывается активно... С появлением гиперзвука, ракет, высокоточного оружия и систем направленной энергии бой становится скоротечным. В боевых условиях преимущество у тех, кто раньше примет решение и ударит первым, поэтому в будущем заметное развитие получат полностью автономные системы. Обычный военнослужащий в сравнении с возможностями современной военной и компьютерной техники – субъект слабый, хрупкий, подверженный стрессу и порой бестолковый. А в цепочке принятия боевых решений человек – ещё и самое медленное звено.

– Неблагонадёжное.

– Нет-нет-нет! Несмышлёное! Машина быстрее обнаружит цель. Машина быстрее увидит, что противник наносит удар, определит средство поражения и быстрее отреагирует, включив всю необходимую для этого математику. Уже есть концепции контравтономности, когда интеллектуальная система, подвергшаяся нападению, но при этом не уничтоженная, мгновенно сделает выводы и нанесёт противнику смертельный удар.

Человек в принятии решений – самое слабое звено.

То же самое с чиновниками. Обычный госслужащий не может держать в голове всю законодательную базу и полную информацию социально-экономического характера, поэтому в сравнении с современной компьютерной техникой чиновник в цепочке принятия управленческих решений – это самое медленное и бестолковое звено. А иногда, к сожалению, коррумпированное.

Боевая нейросеть – элемент системы боевой модуль «Корнет» – на стенде концерна «Калашников» на IV Международном военно-техническом форуме «Армия-2018» в парке «Патриот».Фото: Марина Лысцева/ТАСС

Поэтому искусственный интеллект может, в принципе, заменить какие-то департаменты на муниципальном уровне. Но если мы говорим о стратегическом уровне управления – страной, регионами, – то никакой искусственный интеллект, никакие машинные программы и нейросети не заменят человека. О чём как раз сказал президент.

Ничего государственного, только бизнес

– А почему возникла такая постановка вопроса? Да, понятно, что в этом случае всё было в шутливой форме, когда сбербанковский ИИ задавал вопросы Путину.

– Она не шутливая. Это, к сожалению, не шутка. Потому что мы видим, что Третью мировую скоро можно будет выиграть за секунды, если одно государство с помощью технологий искусственного интеллекта возьмёт под контроль всю критическую инфраструктуру и основные системы стран-соперников. Война будущего будет представлять собой сочетание кибернетического и кинетического воздействия при предварительной когнитивной подготовке по разложению элит, внушению идей пораженчества и падению морального духа населения. Я называю это войной трёх «К»: когнитивная, кибер-, конвенциональная.

Первое – когнитивная война. Это воздействие на сознание и когнитивные способности людей. Запугивание рисками (например, эпидемий), дебилизация и обрушение образования, закрытие объектов культуры – всё это может быть проявлениями когнитивной войны, когда меняются смыслы и массово снижается способность критически мыслить. Когда людям внушается страх, например, из-за вируса или потери работы, когда меняется пространство восприятия, разрушается нравственность, фальсифицируется история и так далее.

Занятия по кибервойне и безопасности в рамках международных учений НАТО CWIX 22 июня 2017 года в Быдгоще, Польша.Фото: Jaap Arriens/NurPhoto/Getty Images

Вторая – это кибервойна. Когда противник может мгновенно взять под контроль всю вашу критическую инфраструктуру: энергетику, транспорт, водоканал, связь, финансы и прочее, то всё – война проиграна.

И, наконец, третья, завершающая фаза – конвенциональная война. Точечными ударами крылатых ракет уничтожить центры принятия решений, пусковые установки, АЭС и прочие «опасные объекты». Возможно, в третьей фазе будет использовано ядерное оружие ограниченной мощности (о чём указывается в новой доктрине ядерных сил США).

– А такое возможно?

– Риски растут очень быстро. Скоро невозможное будет возможно, потому что инновационные изменения в области искусственного интеллекта предоставят сверхдержавам возможность вести войну нового типа. Если искусственным интеллектом для целей национальной безопасности и госуправления у нас будут заниматься не армия, не ФСБ, не академические институты, то кто? Мы видели на обсуждаемой нами конференции, кто.

«Созданные в бизнес-среде системы могут потерпеть катастрофическую неудачу в сфере безопасности».

В военных условиях это может быть особенно разрушительным. И вот это не шутка, потому что на вопрос, может ли быть президентом искусственный интеллект, ответ – может! Но если это искусственный интеллект американский? Возьмёт под контроль всю нашу страну и будет нашим президентом – к этому пока всё идёт. Потому что я не услышал очень важного на этой конференции – ответственности тех, кто разрабатывает системы искусственного интеллекта.

– Часть российского общества уже с радостью живёт под управлением ИИ Facebook.

– Смотрите: врач, когда делает операцию или назначает лечение, он за это отвечает. В случае смерти или наступления инвалидности пациента из-за врачебной ошибки есть уголовная ответственность. Я пока не слышал, что те, кто разрабатывает и внедряет ИИ, понесут какую-то ответственность, если эта система окажется недееспособной и выдаст результат, из-за которого будут умирать люди в больницах, или произойдут автоаварии, потому что она переключит все светофоры непонятно как, или отключится электричество и перестанет поступать тепло в морозы, или ещё что-то. У нас есть элементная база и написанное для неё ПО? Ответ – нет! Мы видим, что дети в школе на удалёнке учатся на платформе Microsoft, а в вузах и в госкомпаниях используется Zoom. Microsoft – это российская компания? Нет!

Компьютеры, которыми мы пользуемся, где сделаны? А процессоры в них? А программное обеспечение и операционные системы? А сетевое оборудование? А сервера и системы хранения данных в дата-центрах? В этом проблема – мы почти не пытаемся создавать собственные критические технологии в IT-сфере. Что президент Путин сказал? Что государственные массивы данных должны быть доступны для разработчиков. Простите, а в Сбере руководство, оно всё с российскими паспортами? А компьютеры в Сбере – российские? И где это будет храниться? Возможность утечки информации реальна. А где ответственность, в том числе уголовная? Где формы допуска к государственной тайне и запрет сотрудникам Сбера и «Сколково» на выезд за границу? Вот этого я не увидел и не услышал! То есть сейчас высока вероятность, что данные просто утекут за границу, а нас сдадут!

Учиться у врагов

– Если я правильно понимаю, вы согласны с тем, что сама по себе эта тема пригодна для использования в нашей стране.

– Да! Это преобразующие технологии.

– А наши операторы – те, кто хочет этим заниматься, – годятся не очень?

– Их действия, как говорят дипломаты, вызывают недоумение. У дипломатов три степени реакции: вызывает удивление, вызывает недоумение, вызывает возмущение.

– А в чём проблема? Мы же не самая отсталая страна в IT-технологиях.

– Проблема контроля и эффективности. Вы видели прорывные успехи «Роснано», «Сколково»? И я не видел! А вот успех, например, Института эпидемиологии и микробиологии имени Гамалеи, который создал вакцину, видел. А ведь НИЦЭМ имени Н. Ф. Гамалеи был основан в 1891 году, то есть ещё до революции. «Авангарды», «цирконы», «калибры», «кинжалы», ядерное и лазерное оружие создавали научно-производственные концерны и конструкторские бюро с советскими корнями. Пока ещё есть в России научные центры и есть системы искусственного интеллекта, которые разрабатываются в Курчатовском институте, в академических институтах и центрах РАН, в ведущих технических университетах, таких как МФТИ и МГТУ имени Баумана. Почему они вычеркнуты из процесса внедрения систем искусственного интеллекта в госуправление? Почему вместо них, например, «Сколково»? Для меня это загадка.

«Сколково» тесно сотрудничает с компаниями из США. Сбер – это крупнейший в стране финансовый бизнес. Сбер и госуправление – ещё не так страшно, всё же госбанк. А вот к «Сколково» очень много вопросов. Давайте вспомним слова Мао Цзэдуна: «Всё то, против чего враг борется, мы должны поддерживать, а против всего того, что враг поддерживает, мы должны бороться».

Первый российский человекоподобный робот компании Promobot (компания – резидент фонда «Сколково») во время приёма посетителя в многофункциональном центре «Мои документы» в Перми. Этот робот – полностью антропоморфная машина, способная копировать эмоции человека, самостоятельно принимать документы и заносить данные в информационную систему МФЦ.Фото: Максим Кимерлинг/ТАСС

– Вся эта активность по сбору наших данных, она опасна?

– Поймите, для Сбера это бизнес. Чем больше он о вас знает, тем больше он на вас заработает. Но если вдруг специалисты Сбера продадут базы данных, это преступление, за которое должно будет ответить в том числе и руководство банка, потому что оно обязано контролировать деятельность своих специалистов.

– А если он не захочет продавать, а начнёт ставить условия государству? Дескать, если пользуетесь нашими большими данными и нашей аналитикой, дайте нам это и вот это.

– Государство не имеет права быть слабым и поддаваться на шантаж. Если какой-либо бизнесмен начнёт шантажировать государство или ставить незаконные условия, то к нему немедленно должны прийти сотрудники правоохранительных органов, люди с оружием и полномочиями, и арестовать. Ещё Наполеон говорил, что слабость верховной власти – это самое страшное из народных бедствий.

«Ещё раз повторю, что внедрением искусственного интеллекта в систему государственного управления должны заниматься академические институты».

Я не знаю, что делают наши военные, у меня уже нет формы допуска. Но я видел, что Курчатовский институт имеет очень серьёзные разработки в области ИИ, и МФТИ, и Бауманский университет.

В Соединённых Штатах искусственным интеллектом занимаются частные компании, среди которых и Google, и IBM, и Microsoft, и Facebook. Но если речь идёт о национальной безопасности, то процессом руководят Пентагон, Агентство национальной безопасности и прочие спецслужбы. У нас почему-то те, кто принимал присягу, пока получаются выключены из процесса внедрения систем искусственного интеллекта.

– Рассказывают, что у тех, кто принимал нашу присягу, в Бауманке целый этаж, где учат соответствующих специалистов в том числе и по ИИ…

– Я сам окончил МГТУ имени Баумана, я в курсе. Я специалист по ракетно-космической технике в прошлом. Но тем не менее разрабатывать технологии искусственного интеллекта и другие технологии будут, скорее всего, не они. И внедрять будут не они.

– К слову о Microsoft: на днях дистрибьютор компании отказался продавать софт Бауманке из-за санкций США, потому что вуз готовит специалистов по вооружению. И эту новость комментируют в духе «вузу пришёл конец, и не будет больше у нас никаких программистов». На самом деле этот запрет угрожает образованию, техническому развитию?

– Это никак не угрожает. Я сам учился, когда ещё не было продукции Microsoft, а сейчас помимо него есть другие продукты – тот же Linux. Программистов учат не в Word или Excel, системы программирования никак не зависят от того, есть ли Microsoft на компьютере. Если у вас есть навыки построения алгоритмов и написания программ и блоков, если вы можете работать с библиотеками приложений, то неважно, есть Microsoft или нет, – не всё вокруг него вертится.

– А скажем, если бы люди под присягой пришли в какую-то нашу IT-корпорацию и там бы заняли целый этаж?

– Ну, это было бы даже прекрасно! Но на обсуждаемом мероприятии я не услышал слов об ответственности, хотя речь шла напрямую о технологиях двойного назначения. Очень мощных технологиях. Если что-то подобное внедрят в какую-то важную отрасль или сферу жизнеобеспечения мегаполиса и что-то пойдёт не так, то последствия будут сопоставимы со взрывом термоядерной бомбы. Просто представьте, например, если многомиллионный город полностью отключится и критическая инфраструктура начнёт течь и разрушаться физически на глазах у беспомощных граждан.

– Как ситуация с развитием технологий в России должна выглядеть в идеале?

– Давайте учиться у наших врагов, потому что они в этом плане достаточно продвинутые. Есть технологии коммерческие. Есть ведомства, которые отвечают за национальную безопасность и за государственное управление. И вот эти ведомства как раз отбирают технологии и поставщиков из коммерческой сферы, бизнес и лаборатории, которые этими вещами будут заниматься. И они отвечают не только за результат, но и за то, чтобы внедрение систем не несло угрозы национальной безопасности.

Супервизор проверяет карты сотрудников завода Pegatron Corp. в Шанхае во время штатной переклички. Здесь производятся самые популярные смартфоны в мире – iPhone.Фото: Qilai Shen/Bloomberg/Getty Images

– Но нам же говорят, что если вы выбираете одного поставщика, единственного, то падает качество, поскольку нет конкуренции.

– Конкуренция есть! Разные технологии разрабатывают определённым образом отобранные компании. Вот DARPA, управление перспективных исследовательских проектов министерства обороны США. Оно постоянно устраивает конкурсы, и само участие в конкурсах для коммерческих компаний – это огромный плюс, даже если ты не победил. Те, кто выиграет конкурс, создают не просто продукт, они устанавливают стандарты, в том числе глобальные.

В нашем мире интеллектуальная собственность и стандарты важнее всего. Американская доктрина неолиберализма подразумевает максимальный контроль за передовыми технологиями со стороны США и американских корпораций и установление своих собственных стандартов в качестве международных при одновременной глобализации торговли и свободном доступе на потребительские рынки всего мира. Возьмём, например, iPhone. Его себестоимость 250–300 долларов, китайцы получают за сборку около 10 долларов, а вот 700 или более долларов прибыли получают сособственники технологий и те, кто продаёт. То есть сборка и ручной труд почти не ценятся, ценится интеллектуальная собственность и доступ к потребительским рынкам. Если вы создаёте стандарт, то в компьютерах по всему миру будут процессоры Intel, AMD или Mac и почти никаких других. Ваш выбор смартфонов – Android или IOS. То есть получают деньги и триллионную капитализацию те компании, которые задали стандарты. Вот за что идёт борьба!

– Недавно США запретили для Китая стандарты архитектуры процессоров, которыми владеет британская компания, и, по сути, обнулили этим всю китайскую линейку процессоров.

– Правильно! Именно поэтому надо вкладывать в науку. К примеру, двоичные коды – это, по сути, середина прошлого века. Ещё немного, и нас не будет удовлетворять скорость и быстродействие, и уже скоро мы дойдём до предельного числа транзисторов, размещённых на кристалле интегральной схемы.

В историю аукционного дома Christie's вошла работа, написанная нейросетью. На торгах 25 октября участник аукциона приобрёл картину «Портрет Эдмонда Белами» за 432 тыс. долларов США. Автор холста – алгоритм Generative Adversarial Networks, созданный для подражания живописцам. На картине изображён один из членов вымышленной семьи Белами. Внизу полотна находится «подпись» автора – формула.

Есть, допустим, компьютеры троичной логики. Там вместо битов и байтов – триты и трайты, в которых содержится намного больше закодированной информации, чем в байтах двоичного кода. Троичная логика: -1/ 0/+1, да/нет/или. Алгоритмы троичные уже были в советских компьютерах и использовались в нашей космической технике, потому что тогда нужно было снижать вес процессоров, которые устанавливались на космических кораблях. Эффективность и быстродействие троичных компьютеров были больше, чем у двоичных. А есть четверичная логика, восьмеричная логика, девятеричные, двадцатисемиричные цифры и прочие. То есть нам надо заниматься фундаментальной наукой для того, чтобы создать принципиально новые процессоры, на которых как раз и можно сделать высокопроизводительные компьютерные системы.

В конце концов если когда-то, возможно, человечество подойдёт к созданию реального искусственного интеллекта, то эти разработки пригодятся. А как устроена сеть нейронов головного мозга? Есть такое понятие, как синапсы, это места соединения нейронов. Синапс является элементом информации, которая передаётся от нейрона к нейрону. Таких нейронов в нашем мозге больше 100 миллиардов, и они, соединяясь, образуют нейтронную сеть. Сигналы в синапсах передаются с помощью химических нейромедиаторов (аминокислот и различных органических соединений) или посредством электрических сигналов, когда ионы кальция проходят по белковым каналам из одной клетки в другую. Вот эти синапсы могут как пропускать сигнал от одного нейрона к другому без искажения, так и полностью его блокировать, усиливать или ослаблять. То есть есть уже четыре положения. А это уже явно не двоичная логика, не ноль и единица.

«Проблема ещё в чём? Человеческий мозг очень энергоэффективен – энергопотребление там от 10 до 50 ватт. А компьютеры требуют колоссального количества энергии. Сейчас уже цифровая индустрия потребляет 12 процентов электроэнергии, вырабатываемой человечеством».

Если не менять компьютерные технологии, то через 20 лет на цифровую сферу будет тратиться столько же электроэнергии, сколько всё человечество произвело и потратило в 2010 году. А ведь более 70 процентов всей электроэнергии в мире вырабатывается на тепловых электростанциях – угольных, газовых и мазутных. И КПД там редко достигает 50 процентов, и эмиссия углекислого газа в атмосферу Земли гигантская.

Вот минимальный список причин, по которым уже сейчас нужно вкладывать деньги в фундаментальную науку и образование, чтобы не только не отстать от мира, но и сохранить планету для будущих поколений. Готовить молодёжь и учить.

И не случайно американцы, тот же Пентагон, заговорили о том, что нужно выращивать новое поколение инженеров. Для IT-технологий, искусственного интеллекта они сейчас вынуждены использовать мигрантов. Привлекать умы отовсюду: из Китая, из России, из Кореи, из Индии. Нам тоже нужно выращивать своих! Американцы отводят на это одно поколение как минимум.

– 30 лет уже говорятся эти слова: нужно развивать науку, академическую науку…

– Мало ли что говорится! Мы видим, что делается. И делается очень мало! К сожалению, это во всём мире так. Наука фундаментальная нигде не развивается. В мире принят проектный подход: дают деньги только на те исследования, которые окупятся через три года. Посмотрите, кому дают Нобелевские премии. Их дают за открытия ХХ века и тем, кто дожил до сегодняшнего дня. Наверное, единственная премия за новое открытие – Новосёлов и Гейм, это графен. Всё! Все остальные премии дают за открытия прошлого века.

Умирающая реальность

– Поверну тему в другую сторону. Вот вы так красиво описали, что искусственный интеллект – это прогресс. Но тут простая диалектика: у всего прогрессивного всегда есть реально негативные стороны. Вы же знаете наверняка, что есть противники всей этой цифровизации, тем более в государственном секторе. Внутренние угрозы есть какие-то, кроме тех, что враги завладеют нашими системами?

– Чипизация народу не грозит. Здесь надо больше заниматься просвещением. Диалектика – это тезис, антитезис и синтез. Тезис: мы живём в веке, когда цифровизация делает мир удобнее, и многие процессы можно сделать быстрее. Антитезис – это то, что люди боятся цифрового контроля. И правильно боятся: человеческая личность и частная жизнь находятся под угрозой, умирает не только конфиденциальность – умирает реальность. Самая большая проблема, которую выделяют американские коллеги, – что через пять лет мы не поймём: то, что показывают по телевизору или пишут где-то, – это реальность или виртуальный фейк? Манипуляции в информационной среде грозят социальными войнами и разрушением основ государства.

Компьютерная графика становится настолько реалистичной, что её становится всё труднее отличить от реальности. Источник: Alma TV/YouTube

И проблема даже не в том, что придут к власти люди поколения компьютерных игр. Искусственный интеллект может создавать фейковые новости, размещать поддельные пресс-релизы на сайтах правительств и центробанков, создавать искусственную реальность в режиме онлайн, менять видеоконтент телепередач и взламывать аккаунты соцсетей и распространять там специальную информацию для того, чтобы влиять на сознание граждан и заставлять политиков принимать «нужные» решения.

«Проблема в том, что нынешние политики скоро перестанут понимать, где реальность, а где нет».

Если в США по телевизору покажут какую-то фейковую картинку, как русские десантники высаживаются в Майами, они потребуют начать ядерную войну, потому что подумают: на Америку совершено нападение. Вот смерть реальности и отсутствие неприкосновенности личности – это минус цифровых технологий. А в сочетании с тотальным цифровым контролем это нечто очень страшное. ИИ может стать самым разрушительным фактором кибервойн будущего и инструментом киберпреступников в случае попадания таких технологий в руки злоумышленников и конкурирующих корпораций. Возможно, нам необходимо заняться сейчас, как правильно президент сказал, нравственностью. Есть хорошие, есть плохие технологии. Всё-таки огнестрельное оружие, изобретение пороха – это тоже было революцией. Но, извините, мы не раздаём каждому ружья или пулемёты. Необходимо ограничение технологий, чтобы они использовались разумно. Не тотальная слежка за всеми, не тотальный контроль, а разумное использование в интересах государства и каждого человека.

Мы видим одну очень неприятную тенденцию в мире – рост неравенства. Автоматизация и построение постиндустриального мира уменьшили долю человеческого труда в любом продукте. Глобализация изменила соотношение квалифицированной и неквалифицированной рабочей силы и заработной платы в мире и снизила нормы прибыли на труд, при этом увеличив долю капитала в общем доходе и за счёт более неравномерного распределения богатства. Миллионы люди беднеют, они начинают жить в долг. Государства тоже беднеют, и растёт госдолг, потому что транснациональные корпорации меньше платят налогов. Проблема неравенства скоро станет очень серьёзной.

Помимо неравенства, стоит проблема энергии и ресурсов, потому что ресурсы ограничены, и человечество пока не перешло на новые виды энергии. А тут уже начинают финансовые элиты бороться за зелёную энергию против углеводорода! И что получится? Население Земли – 7,7 миллиарда человек, и их ограничивают в использовании энергии.

Одновременно с этим элиты будут решать вопрос управления нищающими массами населения. Уже сейчас мы можем наблюдать, как начинают доминировать социальные и коммерческие цифровые технологии, а глобальные корпорации начинают повсеместно навязывать новую мифологию, уводя человечество от пути прогресса и превращая большинство населения Земли в нищих обитателей мирового колхоза под названием экономика общего потребления, или шеринговая экономика, когда людям пытаются внушить: вам не нужны вещи – вам нужна функция вещей, вам не нужна машина – есть Uber или «Яндекс.Такси».

– Многие видят в этом приход цифрового коммунизма, почему-то их не смущает, что его продвигают крупные корпорации. Коммунизм, который предлагают они, насколько настоящий, и не псевдо ли это коммунизм?

– Это не коммунизм, это антиутопия. Потому что те, кто будет владеть капиталами, и те, кто будет предоставлять эти машины для каршеринга, или дома для проживания, или цифровые услуги, они будут владеть вами. Люди, у которых будут сплошные долги и не будет собственности, они бесправны. По сути, рабы. Они будут лишены реальных прав. Чем отличается американец, у которого сплошные долги и нет собственности, от мигранта из Латинской Америки? Да ничем! На его избирательные права можно просто наплевать и забыть! Так же можно сделать с любым человеком в любой стране – в Европе, в Азии или у нас, в России.

«То есть мы идём к созданию такого мира антиутопий, когда ограниченное количество ресурсов будет распределяться узкой группой собственников среди нищих масс людей под очень жёстким тоталитарным цифровым контролем».

– А с другой стороны, упраздняются государства?

– Да! Потому что североамериканцы первыми озаботились тем, что эти транснациональные корпорации сферы высоких технологий могут собой подменить государство. То есть они становятся такими же влиятельными, как выборные политики или органы исполнительной власти. Мы видели, как Facebook, Twitter блокировали Трампа. Трамп проиграл, несмотря на то, что для Америки он сделал очень много. Когда против него начинают играть социальные платформы, это уже страшно, потому что социальные платформы понимают вкус власти над людьми.

– А они пока ещё инструмент другой ветки власти или уже сами по себе?

– Они сами становятся властью.

– То есть это пострашнее искусственного интеллекта?

– Намного страшнее! Искусственный интеллект – это просто инструмент.

– Как в условиях, когда госкорпорации начинают всем владеть, когда у них в руках технологии, государство, такое как наше, может у себя внутри что-то развить?

– Гиперзвук мы делали свой. Это технологии, которые были разработаны ещё в 80-е годы. Просто тогда их невозможно было реализовать из-за необходимости сделать дополнительные исследования, недостаточности знаний в области свойств материалов и так далее. Сейчас они реализованы. Я тоже когда-то этим занимался. Есть критические технологии, их не так много, и если государство их развивает самостоятельно, то, по сути, оно получает билет в будущее в первом классе.

– Ну это же только для военных.

– Почему? Атомная энергетика. Во всём мире она практически уничтожена, а мы это развиваем. Транспортные технологии – мы это развиваем. Тот же самый гиперзвук. Если мы так же будем развивать любые другие технологии, например, биомедицинские, а раз мы первыми создали вакцину – значит, не всё потеряно. Вопрос в том, что триллионы рублей уходят непонятно куда и кому, зато мы можем даже на небольших ресурсах делать эффективные вещи. И вообще, цель любой стратегии – в войне или в бизнесе – это получить преимущество в некоторых ключевых областях, которые могут компенсировать недостатки во всём остальном. Вот что такое стратегия!

– Есть инструменты противодействия тому, что нас неизбежно будут вышвыривать из каких-то отраслей?

– Опять же, если мы говорим о том, что через какое-то время двоичные коды станут неактуальными, устареют, значит, сейчас уже нужно думать об иной компьютерной логике. Потому что лет через 20 именно эти технологии будут основными. На опережение! По-другому просто нельзя! Мы не догоним! Мы можем только придумать что-то, что будет востребовано через 50 лет! Нужно начать развивать это сейчас!

– Вы позитивно смотрите на технологическое будущее или всё-таки тревожно вам?

– Пока мне тревожно! Потому что я не вижу ответственности тех, кто этим занимается. Я вижу, что для IT-гигантов это бизнес. Для тех, кто у нас этим будет заниматься, это бизнес. Это не наука. А бизнес – это вещь очень циничная. Они думают о прибыли, а не о стране и не о развитии. Курирование таких технологий должно быть на уровне государства и на уровне первых лиц государства.