Роботы-убийцы становятся реальностью

Департамент полиции Сан-Франциско предложил ввести в эксплуатацию 17 роботов, 12 из которых уже полностью готовы к использованию. Они представляют собой устройства на колёсах, размером примерно с собаку, с дистанционным управлением. Обычно их применяют при обезвреживании бомб.

«Департамент хочет использовать их для обучения и моделирования, задержания преступников, при возникновении критических ситуаций и неотложных обстоятельств, с целью исполнения ордера или во время оценки подозрительных устройств», – говорится в предложении полиции, одобренном наблюдательным советом города.

Полиция уверяет, что наземные роботы-убийцы будут применяться только в тех случаях, «когда гибель представителей общественности или офицеров неизбежна, а также для спасения невинных людей».

Предполагается, что в подобных ситуациях правоохранители смогут прикрепить бомбу к механической руке робота и активировать её, приблизив устройство к нарушителю закона. Ранее такая стратегия уже использовалась: шесть лет назад в Далласе полиция применила робота с несколькими килограммами взрывчатки против снайпера, убившего пятерых офицеров и ранившего ещё семерых. С тех пор в Штатах разгорелись споры о том, стоит ли выдавать сотрудникам полиции лицензию на убийство с помощью высокотехнологичных инструментов.

Обычно подобные роботы используются для обезвреживания бомб.Фото: Mine Safety and Health Administration/CC0

Управление государственной защиты Сан-Франциско выступило с заявлением о том, что такая политика является «бесчеловечной и милитаристской». Другие критики роботов-убийц утверждали, что для их продвижения и усиления своей власти полиция использует методы запугивания: на заседании городского совета помощник начальника полиции напомнил присутствовавшим о стрельбе на музыкальном фестивале в Лас-Вегасе в 2017 году и заявил, что робот мог бы быстро решить проблему.

Несмотря на то что стратегия применения роботов была принята Наблюдательным советом Сан-Франциско, прежде чем стать законом, она должна пройти дополнительное голосование, а затем получить одобрение мэра. Поскольку инициатива вызвала неодобрение, этого может и не случиться. Возможность появления на улицах роботов-убийц осуждают и справа, и слева.

«Это чрезвычайно опасная идея, – отмечает политический аналитик общественной организации Electronic Frontier Foundation Мэтью Гуарилья. – Полицейские технологии переходят на новый уровень. Это означает, что оборудование, зарезервированное только для применения в особых или экстремальных обстоятельствах, в конечном итоге всё чаще используется в повседневных целях».

«Решение властей Сан-Франциско позволит полицейским применять вооружённых роботов при каждом аресте и каждом обыске дома или транспортного средства. В зависимости от того, как полиция решит трактовать слова “критический” или “экстренный”, она сможет привести вооружённых роботов даже на демонстрацию протеста».

Мэтью Гуарилья
политический аналитик общественной организации Electronic Frontier Foundation

Известно, что компания Boston Dynamics, разработавшая знаменитую собаку-робота по кличке Спот, попала в неприятную ситуацию после того, как «собака», которую арендовал департамент полиции Нью-Йорка, в 2021 году была замечена во время штурма дома в Бронксе. Несколько месяцев спустя работа Спота в нью-йоркской полиции была прекращена, а Boston Dynamics стал одним из немногих производителей роботов, открыто выступающих против использования своей продукции в качестве оружия. В октябре компания подписала открытое письмо, в котором говорилось о прямой связи между эксплуатацией вооружённых роботов и растущим риском причинения вреда и возникновения серьёзных этических проблем. «Кто будет виноват, если робот кого-то случайно убьёт?» – интересовались разработчики.

Между тем на рынке появляется всё больше машин, которых можно оснащать оружием. Согласно докладу The Verge, робот-сапёр Remotec Andros дополнительно снабжён оружием. Модель F5A может использовать патроны для дробовика, которые применяются для детонации бомб. Устройство для разминирования Talon, изготовленное американской фирмой QinetiQ, также может быть оснащено оружием – пулемётами и гранатомётами.

Роботизированная модель Remotec Andros используется уже несколько лет в различных целях. Источник: Mitch Anderson/YouTube

На прошедшей в октябре выставке Ассоциации армии США было представлено множество боевых роботов. В частности, немецкий концерн Rheinmetall дебютировал со своим Mission Master CXT – беспилотным колёсным транспортным средством среднего размера, которое можно приспособить для перевозки оружия или автономного поиска и уничтожения целей.

Одним из ключевых клиентов большинство участников выставки видят армию США с её программой роботизированных боевых машин. Однако, по словам руководителя программы армии США по манёвренным боевым системам полковника Джеффри Джурана, в её рамках планируется «отделить аппаратное обеспечение от разработки программного обеспечения», что позволит вооружённым силам создавать мозг будущих боевых роботов отдельно от платформы. Речь идёт о приобретении «железа», программы для которого будут разрабатывать армейские специалисты.

У американских военных есть давняя доктрина, согласно которой люди должны быть в курсе принятия вооружёнными роботами решений о нацеливании на объект. Но такая политика допускает исключения, так что это скорее предпочтение, чем жёсткое правило. Кроме того, Пентагон опубликовал длинный список этических принципов, которыми следует руководствоваться не только при принятии решений о выборе целей, по которым могут стрелять роботы, но и при проектировании и тестировании устройств, чтобы убедиться, что они ведут себя должным образом.

Однако все эти меры вовсе не гарантируют, что автономный искусственный интеллект в какой-то момент сам не начнёт решать, нажимать на курок или нет.