На всех станциях московского метро 15 октября начнёт действовать система оплаты с помощью распознавания лиц. Столичные власти назвали её FacePay, видимо, по аналогии с Google Pay или Apple Pay. Поскольку практически любая Facial Recognition Technology (FRT) допускает ошибки, можно предвидеть инциденты, которые приведут к росту напряжения в обществе.
Американские системы и их уязвимые места
Москва станет первым российским городом, в котором начнёт испытываться новый механизм оплаты проезда в метро. И поскольку давно не секрет, что в ведущих государствах мира FRT, использующие возможности искусственного интеллекта (ИИ), тесно интегрированы с правоохранительной системой и спецслужбами, особенно актуален вопрос, какую модель контроля за повседневной жизнью граждан выберут российские власти – американскую или китайскую.
Недавние события показали, что американские системы имеют массу уязвимых мест. В прошлом месяце информагентство Associated Press сообщило о 65-летнем Майкле Уильямсе, который просидел почти год в тюрьме из-за ошибочных доказательств, полученных с помощью системы видеонаблюдения компании ShotSpotter, «увидевшей» в нём убийцу. За недостаточностью улик суд прекратил уголовное преследование.
Пикантность ситуации заключалась в том, что пожилой американец – чернокожий. В исследовании Национального института стандартов и технологий США сказано: «Среди алгоритмов, разработанных в Соединённых Штатах, наблюдался одинаково высокий процент ложных срабатываний при сопоставлении по принципу один к одному для азиатов, афроамериканцев и коренных жителей (к которым относятся коренные американцы, американские индейцы, индейцы Аляски и жители тихоокеанских островов). Демографическая группа американских индейцев имела самый высокий уровень ложных срабатываний».
На фоне протестных акций движения Black Lives Matter это привело к тому, что крупнейшие американские технологические корпорации – IBM, Amazon, Microsoft – приостановили исследования и разработки технологий в области распознавания лиц, а также сотрудничество с полицией.
Оскандалился Facebook, чей ИИ принял чернокожих людей за приматов. И только Google продолжает научные изыскания в этой деликатной сфере, пытаясь создать собственную шкалу оттенков человеческой кожи. Шквал критики обрушился на компанию ShotSpotter. Активисты из Electronic Frontier Foundation, ведущей цифровой правозащитной организации США, призвали правоохранительные органы прекратить использование программных продуктов этой фирмы.
В целом американский подход к цифровому миру хорошо объясняет концепция коммуникативного капитализма, предложенная Джоди Дин, социальным теоретиком левого направления из США. Она считает, что сложилась экономико-идеологическая формация, при которой произошла конвергенция демократии, капитализма, сетевых технологий и медиа. По этой причине основные демократические ценности материализовались в интернет-коммуникациях, которые и стали объектом эксплуатации. Те же Amazon, Facebook, Google претендуют на всю информацию, имеющую отношение к их сайтам. То есть персональные данные пользователей, их посты, репосты, лайки стали материальными активами, из которых техногиганты извлекают колоссальные прибыли.
Путь китайского дракона не подходит русскому медведю
Китайскую систему социального кредита нередко описывают в духе оруэлловских антиутопий. Она представляет собой саморазвивающуюся экосистему, в которой концентрируется информация не только о повседневной жизни граждан КНР, но и о деятельности компаний и госструктур. От того, насколько образ жизни и действий граждан и институтов соотносится с установленными властями критериями, зависит рост или падение их общественного рейтинга.
В отличие от американцев, китайцы поддерживают использование властями системы социального кредита. Согласно социологическому опросу, проведённому в 2018 году учёными Свободного университета Берлина, около 80 процентов граждан КНР положительно оценили это правительственное начинание. Россияне в этом смысле ближе к американцам. Как следует из доклада Центра исследований гражданского общества и некоммерческого сектора НИУ ВШЭ, 85 процентов российских граждан не готовы доверить принятие решений ИИ, 64 процента опасаются утечки персональных данных и лишь 20 процентов опрошенных считают, что цифровизация принесёт обществу только пользу.
В своём недоверии к технологиям распознавания лиц россияне больше похожи на американцев.Фото: Kirsty Wigglesworth/AP/TASS
Российские регуляторы, вероятно, изучили настроение общества и не стремятся брать в качестве примера китайскую цифровую модель. В преддверии думских выборов партия «Единая Россия» обнародовала свой «Цифровой манифест». В нём декларируется недопустимость «цифрового железного занавеса». В основе виртуального пространства КНР, как известно, как раз лежит принцип изолированности от внешнего мира, который базируется на технологических возможностях «Золотого щита» или, как ещё его называют, «Великого китайского файрвола».
Минцифры России не только разрабатывает стратегию развития программного обеспечения (ПО) с открытым исходным кодом, но и собирается приравнять открытое ПО (Open Source) к отечественному.
Не вдаваясь в теоретические аспекты термина «Open Source», нужно сказать, что подлинная цифровая независимость невозможна без использования открытых IT-технологий. Потому что они позволяют полноценно защитить собственную критическую информационную инфраструктуру, оставаясь уверенным в том, что софт, установленный на компьютерах в российских госучреждениях, не «сливает» важные данные на заграничные серверы. А значит, Россия твёрдо встала на путь отстаивания своих национальных интересов в виртуальном мире.
FacePay или Face/Off?
О самой системе FacePay известно совсем немного. По словам председателя правления банка ВТБ Андрея Костина, она «построена с применением компонентов отечественного программного обеспечения и программного обеспечения с открытым исходным кодом».
FacePay создана российской компанией VisionLabs, которая специализируется на «комплексных решениях в области распознавания лиц и объектов» и является резидентом фонда «Сколково». На GitHub, крупнейшем веб-сервисе для хостинга открытых IT-проектов, есть данные о компонентах, входящих в состав этой системы машинного зрения. Там упоминается FaceEngine, который, судя по всему, не что иное, как неотъемлемый элемент этой разработки. Но даже специалисту будет трудно понять алгоритмы, приводящие в действие этот интеллектуальный механизм.
Общеизвестно, что московские власти питают пристрастие к обезличенным персональным данным столичных жителей. Правда, не совсем ясно, к чему именно в данном случае приведёт подобное любопытство, потому что от утечек личной информации и трагических ошибок машинного зрения никто, никогда и нигде не застрахован. И не превратится ли, как в блокбастере «Без лица» (Face/Off), жизнь некоторых москвичей в кошмар?
13 апреля 2020
27 июля 2020