В условиях цифровизации многих отношений, значительно ускоренной пандемией, большая часть решений, имеющие юридические последствия в отношении граждан, принимаются без участия человека системами алгоритмического принятия решений (АПР). В основе таких систем могут быть достаточно сложные алгоритмы, использующие технологии искусственного интеллекта. Такие системы используются в банковской сфере (для оценки платежеспособности потенциального заемщика), при приеме на работу (для оценки соответствия резюме кандидата критериям работодателя), в сфере государственного управления (для оценки соответствия гражданина определенному статусу, привлечения к административной ответственности, определения общественной опасности лица при назначении уголовного наказания и т.д.).

Применение систем АПР помогает сократить временные и финансовые издержки, связанные с принятием решений, а также снизить субъективизм при их принятии, но вместе с тем использование таких систем несет значительные вызовы для общества и правовой системы.

В силу крайней непрозрачности их функционирования, обусловленной их технической сложностью и защищенностью от внешнего аудита правами интеллектуальной собственности разработчиков принимаемые в рамках систем АПР решения могут носить дискриминационный характер вследствие несовершенства заложенных в нее алгоритмов или некачественных данных, использованных для обучения системы. Существует немало примеров ситуаций, при которых граждане не могли реализовать свои права на труд, получить кредит или страховку, эффективно обжаловать вынесенные в автоматическом режиме штрафы. По мере дальнейшей цифровизации отношений в обществе, все большее количество управленческих решений будет приниматься системами АПР, что повлечет появление нового типа управления – алгоритмического (algorithmic governance). В этой связи достаточно важным является выработка адекватного правового регулирования порядков разработки и эксплуатации таких систем.

Комиссия провела анализ отдельных примеров регулирования использования систем АПР, существующих за рубежом, и подготовила предложения по модели правового регулирования использования систем алгоритмического принятия решений в Российской Федерации, которые рассматривает в качестве приглашения к дискуссии по данной проблематике. Свои предложения Комиссия направила на рассмотрение 06 апреля 2021 года в Госдуму РФ, Совет Федерации РФ, Минцифры России и Роскомнадзор. 

Эксперты, участвовавшие в подготовке настоящего заключения:

Журавлев Александр Викторович – председатель Комиссии по правовому обеспечению цифровой экономики Московского отделения Ассоциации юристов России, управляющий партнер юридической компании «ЭБР»;

Савельев Александр Иванович – заместитель председателя Комиссии по правовому обеспечению цифровой экономики Московского отделения Ассоциации юристов России, доцент факультета права НИУ ВШЭ;

Едидин Борис Александрович – заместитель председателя Комиссии по правовому обеспечению цифровой экономики Московского отделения Ассоциации юристов России, к.ю.н., заместитель генерального директора по правовым вопросам Института развития интернета (ИРИ);

Перевалов Вадим Андреевич – член Комиссии по правовому обеспечению цифровой экономики Московского отделения Ассоциации юристов России;

Казанцев Ефим Александрович – ответственный секретарь и член Комиссии по правовому обеспечению цифровой экономики Московского отделения Ассоциации юристов России, к.ю.н., эксперт Moscow Digital School;

Орехович Александра Владимировна – член Комиссии по правовому обеспечению цифровой экономики Московского отделения Ассоциации юристов России, директор по правовым инициативам Фонда развития интернет-инициатив (ФРИИ);

Левашенко Антонина Давидовна – член Комиссии по правовому обеспечению цифровой экономики Московского отделения Ассоциации юристов России, руководитель Центра компетенций и анализа стандартов ОЭСР РАНХиГС, старший научный сотрудник ВАВТ Минэкономразвития России и РАНХиГС, эксперт Центра стратегических разработок.

Ознакомиться с заключением вы можете по ссылке: