Эксперты высказались о целесообразности мер по защите прав граждан при применении систем ИИ

Совет Федерации РФ поручил ряду министерств и ведомств, в том числе Минцифры, Минздраву и Минэкономики, разработать меры по защите прав граждан при применении систем искусственного интеллекта (ИИ). По мнению экспертов, принятие таких мер является целесообразным, поскольку необходимы механизмы контроля за алгоритмами ИИ.

– Уже есть подобный опыт работы систем, которые используют в разных странах мира, например в Америке, где происходит дискриминация по расовому признаку, где чёрные зачастую получают более высокие оценки, чем белые, что вытекает из вроде бы объективных социальных позиций и отражает реальное положение дел, – прокомментировал «Октагону» владелец и ведущий аналитик Mobile Research Group Эльдар Муртазин.

Он пояснил, что многим сегодня не нравится то, как ИИ оценивает реальность, поэтому законодатели в разных странах пытаются найти возможности для корректировки алгоритмов – нужен человек, который сможет их либо остановить, либо оспорить, проверить и так далее. Кроме того, алгоритмы должны быть прозрачны, чтобы люди могли понимать, на основании какой информации принимаются решения, насколько эта информация валидна в принципе.

«Одно дело, когда алгоритм считает, дать вам скидку в магазине или нет, другое, когда речь идёт о том, что соискатель подаёт документы на получение гражданства страны, а ему вдруг отказывают и зачисляют в потенциальные террористы. Это уже совсем другая история, и, чтобы этого избежать, необходимы механизмы контроля искусственного интеллекта».

Эльдар Муртазин
ведущий аналитик Mobile Research Group

Муртазин считает также, что непрозрачность алгоритмов, непонимание людьми логики принятия ими решений, в сущности, нарушают права человека.

О поручениях Совета Федерации по разработке мер для исключения дискриминации граждан искусственным интеллектом сообщил «Коммерсантъ».

Ранее эксперты скептически восприняли инициативу по привлечению технологий ИИ к анализу личности человека на основе данных социальных сетей. Тендер стоимостью 36 млн рублей на проведение исследований в этой области объявил Институт системного программирования имени В. П. Иванникова Российской академии наук (ИСП РАН).

«Октагон» сообщал, что почти половина россиян верят в возможность замены искусственным интеллектом некоторых профессий уже в ближайшем будущем.