Письма с предложением отрегулировать рынок ИИ направлены в Совет Федерации, Госдуму, Минцифры, Роскомнадзор, перечислил представитель ассоциации.

По мнению авторов обращения, риски дискриминации ИИ граждан и организаций возникают из-за возможного наличия предубеждений в алгоритмах, умышленно или бессознательно привнесенных разработчиками, некачественных или неполных данных, используемых для обучения системы или принятия решений в конкретной ситуации. При этом выявить ошибки ИИ и обжаловать их сейчас крайне затруднительно, из-за того что доступ сторонних экспертов к ИИ-системам закрыт, говорится в заключении.

«В сфере госуправления системы алгоритмического принятия решений используются для привлечения к административной ответственности на основе данных видео- или фотофиксации, а также на основе иных технических данных – например, от сотовых операторов, – отмечает представитель МО АЮР. – Такого рода системы применялись для привлечения к ответственности весной прошлого года в Москве за нарушение режима самоизоляции. В СМИ фигурировало много курьезных случаев ошибочного привлечения к ответственности, например, парализованных граждан».

Зачастую ИИ отклоняет заявки на кредиты, поданные вполне добросовестными заемщиками, на основании неверно интерпретированных данных и сырых алгоритмов, приводит пример специалист, знакомый с работой крупных компаний, использующих ИИ: «При решении этого вопроса человеком оно могло бы быть иным».

Дорожная карта развития нейросетей и ИИ, разработанная Минкомсвязи (ныне Минцифры) в 2019 г., предполагает, что в 2021 г. объем этой сферы рынка должен составить 48 млрд руб. К 2024 г. он должен увеличиться до 160 млрд руб.

«Такого рода решения следует начать регулировать с госорганов, а не коммерческих компаний, ведь именно решения, принимаемые государством, имеют значительное влияние и последствия для человека. После апробирования такого регулирования на государственных информационных системах следует рассмотреть возможность формирования законодательства для коммерческих компаний», – говорится в заключении МО АЮР.

Юристы предлагают урегулировать использование ИИ в сферах, где его использование может иметь юридически значимые последствия. В пример авторы заключения приводят Францию, где ввели запрет на анализ и прогнозирование методами ИИ действий судей в ходе разбирательств – он касается всех, кто может повлиять на исход суда.

По словам Бориса Едидина, зампредседателя комиссии по правовому обеспечению цифровой экономики МО АЮР, радикального изменения действующего законодательства для реализации инициатив не потребуется – например, можно дополнить закон «О персональных данных»: «В нем можно прописать необходимость оценки ИИ-систем независимыми экспертами, предусмотреть на сайтах госструктур предупреждения о том, что на них используется ИИ, потребовать от внедряющих ИИ-системы предусматривать наличие запасного плана на случай сбоев и иных непредвиденных ситуаций».

Минцифры изучает предложения АЮР, отметил его представитель. Получение заключения подтвердил председатель комитета по информполитике, информтехнологиям и связи Госдумы Александр Хинштейн: «Рассматриваем предложения ассоциации. Мы, безусловно, будем интегрировать лучшие практики в свою работу».

Подробнее: https://www.vedomosti.ru/technology/articles/2021/04/12/865680-iskusstvennii-intellekt