В тюрьмах США разговоры заключённых начал подслушивать искусственный интеллект
В округе Саффолк система Verus AI отметила телефонный разговор, во время которого заключённый сообщил своему отцу, что тюрьма скрывает вспышку COVID-19, и обсудил с ним возможность контактов со СМИ.Фото: Marcel Kusch/dpa/picture-alliance/TASS
В тюрьме округа Саффолк, штат Нью-Йорк, в результате установки системы искусственного интеллекта для подслушивания телефонных разговоров сканировалось до 600 тыс. минут бесед заключённых в месяц. Разговоры не всегда касались преступных намерений, выяснил фонд Thomson Reuters.
В 2019 году округ Саффолк стал первым, где начали тестировать продаваемую калифорнийской компанией LEO Technologies систему сканирования Verus AI, которая использует технологию преобразования речи в текст для расшифровки телефонных разговоров, отмеченных при помощи поиска по ключевым словам.
Сейчас тюрьма Саффолка входит в число десятков окружных и государственных исправительных учреждений в семи штатах США, включая крупные городские районы, такие как Хьюстон, Техас, Бирмингем и Алабама, внедривших систему Verus AI для отслеживания разговоров заключённых.
Проанализированные в восьми штатах электронные письма показывают, что этот инструмент используется для сканирования широкого спектра звонков, например разговоров с упоминанием некого испанского слова, означающего «адвокат», или обвинений в том, что в местах содержания под стражей скрывают вспышки COVID-19.
Судя по документам, в разгар пандемии коронавируса в прошлом году LEO Technologies в партнёрстве с тюремными властями расширила программу мониторинга телефонных разговоров о вирусе в местах заключения.
В таблице данных компании тысячи звонков отмечены по ключевым словам, включая «кашель» и «инфекция», что подчёркивает роль системы в сдерживании распространения заболевания среди заключённых.
Однако эта технология использовалась не только для обнаружения возможных вспышек COVID-19.
В округе Саффолк система Verus AI зафиксировала телефонный разговор, во время которого заключённый сообщил своему отцу, что тюрьма скрывает вспышку COVID-19, и обсудил с ним возможность контактов со СМИ. Официальный отчёт о телефонном звонке был представлен почти 10 сотрудникам тюрьмы и LEO Technologies.
Такие случаи демонстрируют то, как инструменты наблюдения на базе искусственного интеллекта могут использоваться для выявления заключённых, выступающих против жестокого обращения или желающих стать осведомителями, считают эксперты.
Помощник шерифа Кевин Каталина, который участвовал в запуске программы в округе Саффолк, утверждает, что система приносит пользу общественной безопасности, а также безопасности персонала и заключённых.
Но при использовании Verus AI для отслеживания деятельности банд по телефонным звонкам из исправительных учреждений рискуют пострадать и невиновные люди, утверждает Берил Липтон, сотрудник некоммерческой правозащитной организации Electronic Frontier Foundation, исследующей работу систем наблюдения за тюрьмами.
Содержание электронных писем, отправленных из офиса шерифа в округе Саффолк, свидетельствует о том, что в разговорах заключённых чиновники иногда искали многозначные слова, например такие, как «мара», которое может означать и банду, и просто компанию друзей.