Московский государственный университет имени М. В. Ломоносова (Юридический институт)
Москва, Россия
В статье рассматриваются ключевые направления эволюции высокотехнологичного права как этапа развития правовой системы, характеризующегося, с одной стороны, внедрением высокотехнологичных решений в правоприменение (суд, полиция, исполнительное производство), а с другой – расширением нормативной регламентации взаимодействия общества с цифровыми и робототехническими системами. Показано, что российская модель цифровой трансформации правосудия в настоящее время в большей степени находится на стадии автоматизации и формирования единого информационного пространства, а внедрение искусственного интеллекта должно сопровождаться требованиями объяснимости, проверяемости, киберустойчивости и ясного распределения ответственности. Отдельное внимание уделено рискам нарушения прав человека при использовании видеонаблюдения, биометрии и предиктивной аналитики, а также социально-правовым последствиям роботизации производства для трудовых прав. На основе сравнительного анализа зарубежных подходов (включая риск-ориентированную модель ЕС) и отечественных инструментов (экспериментальные правовые режимы) формулируются предложения по дальнейшему развитию регулирования, включая конституционно-правовые гарантии приоритета человека над автономными системами и совершенствование механизмов защиты данных и доступа к правосудию
высокотехнологичное право, цифровизация, искусственный интеллект, электронное правосудие, видеонаблюдение, биометрия, предиктивная аналитика, роботизация, трудовые права, экспериментальные правовые режимы, ответственность, права человека
Нормативная готовность к эпохе ИИ: от «слабых» систем к AGI и правозащитным фильтрам
Постановка вопроса о корректировке конституционных и международно-правовых гарантий прав человека в связи с развитием искусственного интеллекта является методологически оправданной: уровень автономности и универсальности интеллектуальных систем прямо влияет на масштаб их воздействия на свободы личности, правовой статус гражданина и механизмы реализации публичной власти.
В российской юридической среде вопросы технологии искусственного интеллекта находятся в стадии постановки проблем правового регулирования, что привлекает к ним значительное число исследователей (А. А. Васильев, Д. Шпопер [1; 2], П. М. Морхат [3], И. В. Понкин, А. И. Редькина [4], Е. П. Сесицкий [5], Ю. С. Харитонова [6], О. А. Ястребов [7], В. Д. Зорькин [8]).
Наиболее существенные вызовы традиционно связываются с перспективой создания сильного искусственного интеллекта (AGI, Artificial General Intelligence), поскольку такой технологический скачок потенциально способен изменить распределение контроля над социально значимыми решениями. Однако в обозримой перспективе доминирующим остается «слабый» (узкоспециализированный) ИИ, и именно он уже сегодня трансформирует практики государственного управления, бизнеса и социальной сферы.
В условиях распространения слабого ИИ ключевой источник угроз для прав и свобод носит антропогенный характер: нарушения возникают не потому, что «машина» сама по себе нарушает права, а потому что люди формулируют цели, выбирают данные, определяют критерии эффективности, внедряют систему в административные процедуры и, что особенно опасно, подменяют персональную ответственность ссылкой на «объективность алгоритма». Следовательно, правовая защита должна быть ориентирована не только на последующее восстановление нарушенных прав, но и на предупреждение нарушений посредством процедур юридической допустимости и правозащитной экспертизы на всем жизненном цикле ИИ-решения.
Процесс создания и внедрения ИИ обычно проходит через следующие стадии:
1. Постановка цели и требований;
2. Анализ рисков и допустимости применения;
3. Проектирование решения;
4. Сбор и подготовка данных;
5. Обучение модели;
6. Тестирование;
7. Экспериментальный запуск;
8. Юридическое и организационное оформление;
9. Интеграция и промышленное внедрение;
10. Эксплуатация и мониторинг;
11. Обновления и улучшения;
12. Оценка эффекта и вывод из эксплуатации.
И на каждой из этих стадий должен быть поставлен фильтр, отсеивающий такие решения, которые могли бы привести к нарушению прав человека [9].
Рассмотрим жизненный цикл ИИ как объекта правового регулирования: содержание «правозащитного фильтра» на стадиях разработки и внедрения.
1. Постановка цели и требований: проверка правовой допустимости цели и границ вмешательства.
Содержание фильтра: на данной стадии подлежит оценке сама цель проекта и допустимость предполагаемого вмешательства в сферу прав и свобод. Для публичного сектора ключевыми критериями выступают законность, необходимость и соразмерность, а также недопустимость дискриминации и подмены конституционных гарантий управленческой целесообразностью.
Так, попытки внедрения предиктивного профилирования (выявления «потенциально опасных» лиц по поведенческим или социальным признакам) сталкиваются с риском нарушения презумпции невиновности и создания «цифрового подозреваемого» без процессуальных гарантий. Даже при высокой точности модель способна провоцировать необоснованные проверки и ограничения, что требует либо запрета такого применения, либо жесткой нормативной рамки: четко определенных оснований, судебного контроля, права на возражение и обязательного пересмотра решения человеком.
2. Анализ рисков и допустимости применения: оценка воздействия на права и свободы.
Содержание фильтра: проводится формализованная оценка воздействия на права и свободы человека, выявляются группы повышенной уязвимости, определяются допустимые сценарии применения, объем человеческого контроля и перечень недопустимых практик.
Например, при внедрении биометрической идентификации в массовых сервисах риск возникает не только из-за утечек, но и вследствие фактической «обязательности» согласия, когда без биометрии услуга становится труднодоступной. Это влияет на уровень добровольности, равный доступ к сервисам и отсутствие дискриминации.
3. Проектирование решения.
Содержание фильтра: требования защиты прав закрепляются в техническом задании и архитектуре системы: минимизация данных, ограничение по целям, логирование действий, объяснимость результатов, право на оспаривание и обязательный «человеческий пересмотр» юридически значимых решений.
На практике скоринговые модели в кредитовании способны воспроизводить скрытую дискриминацию через косвенные признаки (район проживания, тип занятости, поведенческие паттерны). Необходимо ограничение определенных классов признаков, аудит на дискриминационные эффекты и предоставление гражданину понятного механизма пересмотра решения.
4. Сбор и подготовка данных: законность источников, качество и репрезентативность.
Содержание фильтра: проверяются правовые основания обработки, законность источников, соблюдение целей обработки, исключение нерепрезентативных данных и предотвращение «ползучего расширения» использования наборов данных.
Иногда данные видеонаблюдения, собранные для охраны объекта, используются затем для иных целей (поиск лиц, контроль поведения, аналитика). Такая смена цели без надлежащих правовых оснований формирует риск незаконного вмешательства в частную жизнь и подрывает доверие к институтам публичной власти.
5. Обучение модели: контроль смещений и предотвращение систематических ошибок.
Содержание фильтра: модель проходит проверку на предвзятость, устойчивость и корректность; в качестве критериев эффективности закрепляются не только показатели точности, но и требования недискриминации и минимизации ложных срабатываний в значимых сферах жизни (правоохранительная деятельность, социальные выплаты, здравоохранение).
В случае если система распознавания лиц демонстрирует неодинаковую точность для разных групп населения, это может приводить к необоснованным задержаниям и штрафам. Допустимость применения должна зависеть от достижения порогов надежности, наличия независимого аудита и обязательного человеческого контроля.
6. Тестирование.
Содержание фильтра: необходимы независимые испытания и фиксация протоколов тестирования, сценариев отказа, порогов применимости и ограничений. Следует исключать «боевое применение» модели, если тесты не покрывают реальные условия эксплуатации.
Очевидно, что модель, успешно работающая в лаборатории, может давать иные результаты в условиях иной освещенности, качества камер и потока людей. Результатом становятся рост ложноположительных решений и, как следствие, необоснованные вмешательства в права граждан.
7. Экспериментальный запуск: пилотирование с ограничением негативных последствий.
Содержание фильтра: пилот должен иметь ограниченный масштаб, прозрачность для граждан, процедуры уведомления и понятный механизм остановки системы. В высокорисковых сферах в пилотный период целесообразно применять режим, исключающий автоматические санкции.
Например, при внедрении ИИ для фиксации нарушений в городских сервисах важно, чтобы штрафы не выносились автоматически без проверки уполномоченного лица, а гражданин имел упрощенный порядок обжалования с доступом к материалам.
8. Юридическое и организационное оформление.
Содержание фильтра: регламентируются полномочия и доступы, порядок принятия решений, ответственность оператора и поставщика, требования к информированию граждан и порядок рассмотрения жалоб. Принципиально важно исключить конструкцию «алгоритм принял решение» как способ уклонения от ответственности.
Так, если гражданину отказывают в услуге на основании «автоматической оценки», но не сообщают причины и порядок пересмотра, то право на эффективную защиту становится декларативным. Правовая модель должна закреплять, что юридически значимое решение принимает уполномоченный субъект, а ИИ выступает инструментом поддержки.
9. Интеграция и промышленное внедрение.
Содержание фильтра: запрещается расширение целей без повторной правозащитной экспертизы; контролируется интеграция с реестрами, обеспечивается кибербезопасность и минимизация «централизации» персональных данных.
Система, введенная для одной услуги, может «подключаться» к другим реестрам и фактически формировать единый цифровой профиль, где ошибка в одном контуре автоматически порождает отказ или ограничения в других. Это требует раздельности контуров, процедур исправления данных и прозрачности межведомственного обмена.
10. Эксплуатация и мониторинг: постоянный надзор за правовыми эффектами.
Содержание фильтра: устанавливаются метрики качества и справедливости, мониторинг жалоб, регулярные аудиты и механизм «ручного режима». При выявлении систематических ошибок должен действовать регламент временной приостановки применения.
Известно, что автоматизированные системы антифрода и блокировок в финансовых сервисах могут ошибочно ограничивать доступ к счетам или аккаунтам. Юридически значимым становится быстрый пересмотр человеком, разумные сроки восстановления прав и прозрачная коммуникация с пользователем.
11. Обновления и улучшения: управление изменениями как юридически значимый процесс.
Содержание фильтра: каждое обновление рассматривается как потенциально новая версия системы; требуется повторная оценка рисков, тестирование и документирование. Недопустимо «незаметное» изменение критериев принятия решений без правовой процедуры.
Встречаются ситуации, когда дообучение модели может ухудшить показатели в отдельных сценариях (например, при обработке документов пожилых людей из-за особенностей съемки). Без надлежащего управления изменениями гражданин несет ущерб, а оператор не способен доказать свою добросовестность.
12. Оценка эффекта и вывод из эксплуатации: сохранение гарантий защиты при прекращении работы системы.
Содержание фильтра: обеспечиваются правила хранения логов и доказательств, корректное архивирование и удаление данных, а также перенос обязанностей по рассмотрению жалоб и исполнению судебных решений на новый контур.
В частности, если система выведена из эксплуатации, а информация удалена, гражданин фактически лишается возможности доказать неправомерность автоматизированного решения (штрафа, отказа, блокировки). Следовательно, сроки хранения информации должны соотноситься со сроками обжалования и давности.
На практике нарушения прав человека при использовании ИИ чаще всего формируются через совокупность управленческих и организационных факторов. Их следует рассматривать как типовые механизмы риска:
- неправомерная или чрезмерно широкая цель применения (вмешательство без достаточного правового основания);
- ошибочная оценка эффективности (ориентация на показатели результативности без учета прав и свобод);
- дефицит процедур защиты (нет уведомления, объяснения причин, обжалования и человеческого аудита);
- размывание персональной ответственности должностных лиц («так решил алгоритм»);
- коммерциализация контроля и заинтересованность в масштабировании при недостаточной правовой оценке;
- низкое качество данных и некритичное доверие к автоматизированным выводам.
Указанные механизмы подтверждают, что объект правового регулирования в сфере ИИ – не только технология как таковая, но и социальная организация ее применения: распределение полномочий, процедурные гарантии, контроль соразмерности и доступность эффективных средств правовой защиты.
С этих позиций стоит пересмотреть организацию деятельности государственных органов, специальных правозащитных институтов, а также общественных и профессиональных организаций, которые занимаются защитой прав человека в России [10].
Как отмечают современные исследователи, главной проблемой в Российской Федерации и в регионах страны по-прежнему, как и в период появления первых правозащитных организаций, остается довольно низкая осведомленность общества о сферах деятельности правозащитных организаций и крайне слабые позиции самих правозащитных организаций в отдельных регионах. [11]
По всей видимости, назрела реформа Конституционного Суда РФ [12]. 18 декабря 2025 года представитель КПРФ Ю. П. Синельщиков внес на рассмотрение Государственной Думы РФ законопроект о реформе Конституционного Суда РФ. В пояснительной записке к законопроекту указывается, что за последние годы Конституционный Суд РФ утратил доверие значительной части общества, количество обращений в суд неуклонно снижается. В 2009 году в КС поступило 20 629 обращений, в 2014 году – уже 16 005, в 2019 – 14 809, а в 2024 году – 13 258. Почти в 99 % случаев принимаются решения об отказе в принятии к рассмотрению обращений. Все нормативные акты, касающиеся внедрения ИИ в различные сферы человеческой жизни и попавшие в поле зрения Конституционного Суда РФ, должны быть подвергнуты самому жесткому анализу с точки зрения возможного нарушения прав человека, гарантированных Конституцией РФ.
Представляется, что конституционный контроль в сфере внедрения ИИ должен оценивать не только формальные полномочия органа, издавшего нормативный акт, но и фактические последствия цифрового вмешательства для прав и свобод личности.
Развитие информационных технологий и систем ИИ не должно девальвировать конституционные гарантии статуса человека и гражданина, подменять идеи построения демократического, социального, правового государства парадигмой тотального внедрения искусственного интеллекта. [13].
Применительно к системам автоматизированного принятия решений требуется проверка предсказуемости регулирования, наличия эффективных средств защиты (включая право на объяснение причин решения и его пересмотр), а также соблюдения принципа соразмерности ограничений и запрета дискриминации [14]. Если норма фактически легализует «черный ящик», не предоставляя гражданину понятного механизма оспаривания и восстановления нарушенных прав, такая норма является конституционно уязвимой.
В системе Прокуратуры РФ целесообразно ввести новый надзор за соблюдением законодательства при внедрении и использовании искусственных интеллектуальных систем.
Предметом предлагаемого надзора может стать комплекс процедур: законность оснований обработки данных и межведомственного обмена, наличие регламентов человеческого контроля и рассмотрения жалоб, соответствие технических характеристик заявленным целям, соблюдение требований к информационной безопасности, а также проверка фактического исполнения судебных актов по делам об оспаривании автоматизированных решений. Практический эффект такого надзора проявляется, например, при проверке ведомственных ИИ-сервисов, которые формально «помогают» принимать решения (по соцвыплатам, допускам, контрольным мероприятиям), но на деле создают массовые необоснованные отказы без прозрачных критериев и без реального механизма пересмотра.
Серьезному реформированию подлежит и совет при Президенте РФ по развитию гражданского общества и правам человека, а также деятельность уполномоченного по правам человека в РФ (омбудсмена) и региональных омбудсменов, которые вообще не занимаются рассматриваемой проблемой. К примеру, они никак себя не проявили при массовом нарушении прав человека с использованием высоких технологий в период коронавирусной инфекции. Да и в настоящее время у них отсутствует систематическая деятельность, направленная на выявление и устранение нарушений прав человека при цифровизации общественной жизни.
В современных условиях институтам омбудсмена и общественным правозащитным структурам необходима специализация по «цифровым правам» (digital rights): методики приема и классификации жалоб на автоматизированные решения, взаимодействие с техническими аудиторами, подготовка публичных докладов о типовых нарушениях (по секторам: правоохранительная деятельность, социальная защита, здравоохранение, образование, финансы), а также участие в оценке правовых рисков при запуске экспериментов и пилотных проектов [15]. Именно эти механизмы позволяют превратить декларативные гарантии в реально работающую систему защиты.
Подводя итог, можно сказать, что высокотехнологичное право формируется как комплексная межотраслевая надстройка, призванная одновременно сопровождать цифровизацию государства (суд, полиция, экономика) и ограничивать технологические риски для прав и свобод человека. Технологическая эффективность сама по себе не является правовой ценностью: внедрение ИИ и цифровых инструментов допустимо лишь при приоритете процессуальных гарантий, проверяемости решений, прозрачности и персонализированной ответственности участников. Наиболее уязвимыми зонами выступают:
- автоматизация принятия решений и «смещение» усмотрения к алгоритму;
- киберриски и сбои как форма ограничения доступа к правосудию;
- расширение наблюдения и предиктивных практик;
- трудовые и гражданско-правовые последствия роботизации.
Следовательно, оптимальный путь развития – это сочетание точечного регулирования и экспериментальных режимов с системными ограничениями: единые стандарты данных и электронных доказательств, обязательный аудит и человеческий контроль, механизмы обжалования и компенсации вреда, меры против цифрового неравенства. Необходимо создание правового «каркаса доверия» к технологиям через укрепление гарантий прав человека и легитимности публичной власти.
1. Васильев А. А., Шпопер Д. Искусственный интеллект: правовые аспекты // Известия Алтайского государственного университета. 2018. № 6 (104). С. 23–26. DOI:https://doi.org/10.14258/izvasu(2018)6-03.
2. Васильев А. А., Шпопер Д., Матаева М. Х. Термин «искусственный интеллект» в российском праве: доктринальный анализ // Юрислингвистика. 2018. № 7/8. С. 35–44. EDN: https://elibrary.ru/YLQKSD.
3. Морхат П. М. Искусственный интеллект: правовой взгляд : монография. Москва : Буки Веди, 2017. 257 с. EDN: https://elibrary.ru/UNYDFF.
4. Понкин И. В., Редькина А. И. Искусственный интеллект с точки зрения права // Вестник Российского университета дружбы народов. Серия: Юридические науки. 2018. Т. 22, № 1. С. 91–109. DOI:https://doi.org/10.22363/2313-2337-2018-22-1-91-109.
5. Сесицкий Е. П. Проблемы правовой охраны результатов, создаваемых системами искусственного интеллекта: дис. ... канд. юрид. наук. Москва, 2019. 218 с. EDN: https://elibrary.ru/BEKRKD.
6. Харитонова Ю. С. Правовой режим результатов деятельности искусственного интеллекта : монография. Москва : Статут, 2019. 288 с.
7. Ястребов О. А. Искусственный интеллект в правовом пространстве // Вестник Российского университета дружбы народов. Серия: Юридические науки. 2018. Т. 22, № 3. С. 315–328.
8. Зорькин В. Д. Право будущего в эпоху цифр. Индивидуальная свобода или сильное государство? // Российская газета. URL: https://rg.ru/2020/04/15/zorkin-pravo-budushchego-eto-te-zhe-vechnye-cennostisvobody-i-spravedlivosti.html (дата обращения: 05.12.2020).
9. Удальцова Н. Л. Практика применения и проблемы внедрения искусственного интеллекта в бизнес-процессы компании // Экономика, предпринимательство и право. 2025. Том 15. № 3. С. 1487-1500. DOI:https://doi.org/10.18334/epp.15.3.122388.
10. Моргуненко Я. Д., Осовик А. Д. Перспективы совершенствования взаимоотношений правозащитных организаций и органов государственной власти в Российской Федерации // XXI Царскосельские чтения: материалы международной научной конференции, Санкт-Петербург, 25-26 апреля 2017 года. Том III. Санкт-Петербург: Ленинградский государственный университет им. А. С. Пушкина, 2017. С. 56-59. EDN: https://elibrary.ru/YPUNTD.
11. Кулемина А. Е. Некоторые проблемы деятельности российских правозащитных организаций // Актуальные проблемы гуманитарных и естественных наук. 2016. URL: https://cyberleninka.ru/article/n/nekotorye-problemy-deyatelnosti-rossiyskih-pravozaschitnyh-organizatsiy/viewer.
12. Заметина Т. В., Комбарова Е. В. Искусственный интеллект и конституционные вопросы его внедрения в современной России // Правовая политика и правовая жизнь. 2001. № 1. С. 182. DOI:https://doi.org/10.24412/1608-8794-2021-1-180-189.
13. Баренбойм П., Мишина Е. Уроки конституционного кризиса 2020 (посвящается памяти профессора МГУ Августа Алексеевича Мишина). Москва: ЛУМ, 2020. 154 с.
14. Хазипов Ф. Р., Кашапов Р. Р. Перспективы развития и области применения систем автоматизированного принятия решения // Достижения, проблемы и перспективы развития нефтегазовой отрасли: Материалы IV Международной научно-практической конференции, Альметьевск, 16-18 октября 2019 года. Альметьевск: Изд-во АГНИ, 2019. С. 598-599. EDN: https://elibrary.ru/GNJLJJ.
15. Сапко И. В. Право на обращение в эпоху цифровизации: специальный доклад Уполномоченного по правам человека в Пермском крае. Пермь, 2024. 32 с.
