Правовая сингулярность и искусственный интеллект

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред. 2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.

3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.

Айзек Азимов, «Хоровод» (1942 г.)

Постановка задачи. Правовая сингулярность определяется как состояние, при котором ИИ, особенно системы предиктивной аналитики, радикально улучшает право, делая его функционально полным (более сложным, но при этом ясным, справедливым и доступным). Это не просто автоматизация рутинных задач (узкое понимание правовой сингулярности ИИ), а фундаментальное изменение природы права, где ИИ анализирует юридические данные, предсказывает исходы дел и даже генерирует нормы права, пишет законы (путь к широкому научному пониманию правовой сингулярности ИИ). ИИ позволит преодолеть текущие пробелы в праве, такие как неопределенность, сложность и ограниченный доступ к юстиции, превратив право в инструмент, который лучше служит обществу (и в то же время – лучше им управляет).

Однако возникают вопросы: после таких преобразований права, будет ли право тем же, каким мы его представляем сейчас, насколько изменится природа права и к каким последствиям приведет изменение (трансформация) с помощью ИИ функций и принципов права в аспекте изменения природы последнего? Да, технологическая основа этой сингулярности лежит в развитии генеративного ИИ (GenAI), больших языковых моделей (LLM) и машинного обучения, которые уже сейчас используются для анализа правовых контрактов, поиска судебных прецедентов и прогнозирования судебных решений (роботы-судьи). Например, ИИ может обрабатывать миллиарды страниц юридических текстов за секунды, выявляя паттерны, недоступные человеку. Необходимо ли это человечеству?

Обзор научной литературы с целью введе- 1 См., например: Морхат П.М. Правосубъектность искусственного интеллекта в сфере права интеллектуальной собственности: вопросы теории и практики / Дисс… докт. юрид. наук. – М., 2018; Морхат П.М. Искусственный интеллект: правовой взгляд. Монография. – М., 2017.

2 Стрельников Д.О. Милитаризация NBIC-технологий: от военной необходимости к технологической сингулярности // Власть. 2024. № 1. С. 86-87.

3 Технологическая сингулярность трактуется как сценарий неконтролируемого прогресса, приводящий к переходу за рамки техногенной цивилизации и изменению ценностей. В правовом контексте подчеркивается размытость границ между военным и гражданским применением NBIC-технологий (нано-, био-, инфо-, когно-), включая ИИ и автономные системы вооружения (САС).

4 Хлыстова Н.Б. Эффективность уголовно-правовых санкций и сингулярность уголовного права // 2020. № 1. – С. 196. 5 Хабриева Т. Я. Право в реалиях технологической революции [Электронный ресурс]. 2025. URL: [https://izak.ru/upload/ (дата обращения: 14.09.2025).

6 Залоило М. В. Искусственный интеллект в праве [Электронный ресурс]. 2021. URL: [https://izak.ru/upload/iblock/16a/ Zaloilo_Iskusstvennyy-intellekt-v-prave_Blok.pdf](https://izak.ru/upload/iblock/16a/Zaloilo_Iskusstvennyy-intellekt-v-prave_Blok.pdf) (дата обращения: 14.09.2025).

7 Зорькин В. Право и вызовы искусственного интеллекта [Электронный ресурс] // Российская газета. 27.06.2024. URL: [https://rg.ru/2024/06/27/pravo-i-vyzovy-iskusstvennogo-intellekta.html](https://rg.ru/2024/06/27/pravo-i-vyzovy-iskusstvennogointellekta.html) (дата обращения: 14.09.2025).

ния в проблему. Если говорить о научном осмыслении данных проблем в России, то менее всего они исследованы именно с юридической точки зрения, есть лишь несколько работ российских ученых (И.Ю. Александров, М.О. Изотов, П.М.

Морхат

1

, А.Ф. Поломошнов, Д.О. Стрельников 2, Н.Б. Хлыстова), посвящённых этим вопросам (большинство их них – без акцента на право). В российском академическом дискурсе термин «правовая сингулярность» встречается редко; чаще обсуждается технологическая сингулярность 3 (technological singularity) в контексте права, ИИ, этики и регуляции. Без правового регулирования сингулярность может привести к дефектам в нормах (по И.В. Понкину), включая риски самосознания ИИ и катастроф. Некоторыми учеными предлагается междисциплинарный подход для баланса инноваций и этики. Например, по мнению Н.Б. Хлыстовой, сингулярность права следует понимать как кризис права (поглощение «антиправом»), снижающий эффективность санкций в уголовном праве 4. По мнению Т.Я. Хабриевой, подтверждается вывод о сохранении регуляторного потенциала права в условиях текущей технологической революции 5. Актуальной для современной юридической науки задачей, по мнению М.В. Залоило, является решение вопроса о правосубъектности искусственного интеллекта 6. По мнению В.Д. Зорькина, оцифровать человечность, любовь, эмпатию невозможно 7.

Как пишет П. Эбенхоч, «правовая сингулярность невозможна. Она нацелена на трансгуманные дистопии, которые жертвуют демократической прозрачностью и правовыми основами ради. По мнению В. Шульца и А.-К. Польстера, «будучи встроенными в интеллектуальные технологии, алгоритмы ежедневно принимают решения за нас». Как пишет С. Кольянизе, «…мы отвергаем любую категоричную попытку исключить возможность будущего административного государства, в котором алгоритмическая автоматизация направляет и даже иногда принимает ключевые решения» 10.

По мнению В. Магеш и Д. Хо, «…проблема галлюцинаций сохраняется на значительном уровне» Исследовательская часть. Термин «правовая сингулярность» (legal singularity) описывает гипотетическое состояние правовой системы, в котором искусственный интеллект (далее – ИИ) становится основным агентом интерпретации и применения права, тогда как люди смещаются в роли контролёров, стратегов и апелляционных инстанций. Правовая сингулярность как гипотетическое состояние, когда ИИ радикально трансформирует правовую систему, делая ее полной и предсказуемой, популяризирован в научных работах Абди Айдида и Бенджамина Алари, где подчеркивается, что ИИ может «преодолеть» недостатки права, сделав его более эффективным 13. Например, Б. Алари пишет о том, что «в ближайшие десятилетия мы станем свидетелями… реализации правовой сингулярности, полной спецификации налогового права (и, более того, всех остальных областей права)» 14.

По мнению Р. Вебера, «правовая сингулярность «угрожает подточить столпы предсказуемости и универсальности, на которых традиционно держалось верховенство права» 15.

_3fd5a9c716.html) (дата обращения: 14.09.2025). /) (дата обращения: 14.09.2025).

(дата обращения: 14.09.2025).

Основным доводом в пользу ИИ является то, что он способен анализировать огромные объемы юридических данных (законы, прецеденты, контракты) быстрее и точнее, чем люди, что позволяет переосмыслить природу права и его институтов (на первый взгляд, главное преимущество заключается в скорости обработки и осмысления данных, на самом деле, все более сложно, о чем пойдет речь далее в статье). Таким образом, ИИ делает правовую систему «функционально полной», устраняя неопределенности и обеспечивая мгновенные, справедливые и точные юридические решения. Закон становится более сложным, но одновременно ясным, предсказуемым и доступным. Таким образом решаются и проблемы доступа к правосудию. Автоматизация анализа документов, предсказание исходов дел и предоставление консультаций через ИИ-приложения сокращают барьеры, обеспечивая инклюзивность. ИИ может демократизировать право, сделав юридические услуги дешевле и доступнее. Это решает проблему, когда миллионы людей не могут позволить себе адвокатов из-за высоких затрат (один из прогнозов говорит о том, что рынок адвокатских услуг «рухнет», много адвокатов останется без работы. Безусловно, это вопрос не завтрашнего дня, а нескольких лет развития в этом направлении). ИИ минимизирует человеческие ошибки и предвзятость, улучшая качество юридических решений. Алгоритмы обеспечивают последовательное применение норм, усиливая верховенство права.

Приведенные выше изменения – только начало глобальных трансформаций, который повлекут за собой «тектонические» сдвиги в разных сопряженных сферах: в юридической практике, системе образования (и не только высшего), в судопроизводстве. Юристы (количество которых уменьшится) перейдут от рутинных задач к надзорным и стратегическим ролям, а суды станут быстрее благодаря автоматизации («рассматри- вать» судебные дела и «вести» процессы будут роботы-судьи (что уже происходит в Китае, более 90% судебных решений принимает ИИ), а судьи-люди будут контролировать принятие ИИ судебных решений). Однако эта трансформация несет значительные проблемы, опасности и вызовы для человечества, включая этические дилеммы, риски потери контроля за ИИ и социальные последствия. Для реализации сингулярности необходимы строгие этические рамки и правовое регулирование (которых сейчас нет). Для создания таких правовых рамок для ИИ, на наш взгляд, необходимо сотрудничество между законодателями, программистами, инженерами, учеными и обществом, чтобы направить ИИ на службу правосудию, минимизируя возможные риски. Таким образом, сингулярность — это не конец человеческого участия в праве, а его эволюция, где технологии максимизируют сильные стороны человека. ИИ трансформирует право, устраняя его недостатки и усиливая справедливость.

Система доказательств и научная аргументация. Большие скорости обработки данных неизбежно приведут к трансформации юридических институтов: от преподавания права и исследований (кардинально изменятся методики преподавания, учебники, курсы (хотя под вопросом их наличие в будущем и необходимость самих преподавателей этих курсов), до практики, судопроизводства и общественного доступа к юстиции (о том, что изменится сущность адвокатской профессии – мы писали выше). В итоге, как предполагается, ИИ сделает правовую систему более инклюзивной, решая кризис доступа к правосудию и юридической помощи для миллионов людей, но параллельно создавая другие большие проблемы: целые профессии и категории людей окажутся не нужными в профессиональном плане. Важно также понимать, что в случае, например, отключения электричества и сбоя в работе ИИ, возникнут сложности в принятии судебных решений, т. к. люди-судьи (которых станет в разы меньше по сравнению с до ИИ-эпохой) просто утратят навыки и опыт рассмотрения судебных дел и принятия судебных решений). Таким образом, каждый позитивный результат использования ИИ имеет обратной стороной негативные варианты последствий, в случае возникновения сбоя, например:

- Эффективность и скорость: ИИ ускорит обработку дел, минимизируя задержки в судах и административных процессах. Например, автоматизированный анализ контрактов может сократить время на юридическую экспертизу с дней до минут. Это неизбежно снизит количество юристов, но в экстремальной ситуации отключения ИИ, например, нужного количества специалистов с опытом работы, может не оказаться.

- Доступность и справедливость: снижение стоимости юридических услуг сделает правосудие доступным для всех слоев общества, решая проблему неравенства. ИИ может предоставлять персонализированные юридические консультации через приложения, аналогично тому, как чат-боты помогают в простых делах. Аналогично, уменьшится количество адвокатов и юристов, меньше специалистов будут обучаться на профессию юриста и получать статус адвоката, и в случае сбоя GenAI, может не найтись достаточного количества специалистов людей (не роботов), которые профессионально помогут решать юридические проблемы.

- Улучшение качества решений и повышение доверия к праву: принято считать, что ИИ минимизирует человеческие ошибки, предвзятости и субъективность, предлагая объективные предсказания на основе данных. Это может привести к более последовательному применению норм, усиливая верховенство права. В случае сбоя алгоритмов GenAI есть вероятностный негативный сценарий, при котором ИИ может выносить противоречащие действующему законодательству судебные решения и понадобится время, чтобы это понять и пересмотреть данные решения (в частности, судебные обвинительные приговоры). Эти преимущества, однако, зависят от правильной реализации, включая этические рамки (которые пока не сформулированы ни законодателем, ни научным сообществом) и регуляции. Несмотря на потенциал, правовая сингулярность несет значительные риски, которые могут подорвать основы общества. Ключевые проблемы (помимо указанных выше) включают:

А. Этические и социальные проблемы, а именно: предвзятость и дискриминация (ИИ, обученный на исторических данных, может «ретранслировать» предвзятости, присутствующие в прецедентах (например, расовые или гендерные); в юридических решениях это может привести к несправедливым исходам, таким как дискриминация в найме сотрудников на работу или судебных приговорах); потеря рабочих мест: автоматизация рутинных задач (анализ документов, подготовка контрактов, представление интересов доверителя в суде) может привести к массовым увольнениям юристов, адвокатов, особенно специалистов с минимальным опытом работы, усугубляя социальное неравенство и экономическую нестабильность.

Б. Опасности для человечества, например:

галлюцинации и ошибки (GenAI может генерировать ложную информацию, такую как вымышленные прецеденты, что уже приводило к санкциям против адвокатов. В критических решениях (например, в уголовном праве) это может стоить обвиняемому свободы или жизни); манипуляция и злоупотребления (ИИ может быть использован для манипуляции доказательствами или создания фейков, подрывая доверие к правосудию; системные риски (передача решений ИИ может привести к потере человеческого контроля, где алгоритмы принимают решения без учета нюан- сов, таких как мораль или контекст. Это создает экзистенциальные вызовы: от утраты ценности человеческого достоинства до сценариев, где ИИ эволюционирует за пределы человеческого понимания, потенциально вызывая социальный хаос. Без мер предосторожности сингулярность может усугубить неравенство, где только элита контролирует ИИ. Кстати, вопрос о полной подконтрольности ИИ законодателю до сих пор остается без ответа. Глобальные усилия по регуляции, такие как EU AI Act (2024), вводят риск-ориентированный подход, классифицируя ИИ по уровням риска и требуя прозрачности, но это не гарантирует полный контроль. EU AI Act — это Регламент (ЕС) 2024/1689 16, принятый 13 июня 2024 г. и вступивший в силу 1 августа 2024 г. Это первый в мире комплексный закон об ИИ, действующий и вне ЕС, если выход ИИ-системы используется в ЕС 17. Регламент применяется к провайдерам, деплойерам, импортёрам, дистрибьюторам и др., включая находящихся вне ЕС, если продукт/модель выводятся на рынок ЕС либо даже если только выход ИИ используется в ЕС 18. Определения «провайдера» и «деплойера» — в ст. 3 19. Сроки применения EU AI Act: 2 февраля 2025 г. начали применяться запреты и требования по AI-грамотности 20; 2 августа 2025 г. заработали правила для GPAI (в т.ч. сводка обучающих данных и авторское право), заработала система надзора/штрафов и структура управления (AI Office/национальные органы) 21; 2 августа 2026 г. - «общая» дата применения остальной части Акта (бóльшая часть обязательств для высокорисковых систем) 22; 2 августа 2027 г. - начинает действовать ст. 6(1) по классификации высокорисковых систем; дедлайн для провайдеров GPAI 23, выведенных до 02.08.2025 г. США, Китай и другие страны (Канада, Бразилия) уже вводят этические нормы и планы, а также планируют/прогнозируют совместное (межгосударственное) решение потенциальных проблем в случае неподконтрольной эволюции ИИ.

Полный (100%-й) контроль человека над ИИ маловероятен из-за: (1) динамичности ИИ, где самообучающиеся системы могут обходить правила и самообучаться с большими скоростями; (2) международных различий в подходах (рынок-ориентированный в США vs. права-ориентированный в ЕС); (3) риска подавления инноваций. Альтернативы, такие как «мягкое право» (этические руководства) или IP-права, предлагаются, но они не обеспечивают принуждения. В итоге ИИ может быть частично регулируемым, но полная подконтрольность требует глобального сотрудничества между всеми странами и адаптивных механизмов (в т. ч. этических, организационных, программно-технологических и правовых), что пока недостижимо.

Отдельно следует сказать о law-in-the-loop — это подход к ИИ-системам, при котором правовые требования и юридическая экспертиза встроены прямо в цикл работы продукта: от проектирования и обучения до запуска, мониторинга и «апелляций» по решениям. В отличие от «human/ lawyer-in-the-loop» (когда человек-юрист просто проверяет результаты), здесь правила «по закону» кодируются и исполняются автоматически (policy-as-code), а сложные случаи передаются людям. Например, law-in-the-loop для судебных решений — это способ внедрять ИИ в правосудие так, чтобы правовые нормы и процессуальные гарантии были «зашиты» в сам цикл работы:

от проектирования до вынесения и обжалования судебных решений. Ключевая идея состоит в том, что ИИ (робот-судья) - только помощник, а не «автосудья»; человек-судья остаётся ответственным за принятое судебное решение, а все выводы ИИ подлежат проверке, объяснению и апелляции.

Это соответствует этическому хартии CEPEJ и свежим регуляциям (EU AI Act), где судебные ИИ-системы отнесены к высокому риску и требуют жёстких защит.

Результаты исследования. Представляется, что роль ИИ должна сводиться к консультативной работе (advisory-only). Человек-судья может использовать ИИ для поиска фактов/права, анализа материалов, проектирования мотивировочной части судебного решения, но решение принимает человек-судья, который в любой момент может скорректировать выводы, к которым пришел ИИ. Важно информировать участников судебного процесса о том, что в ходе судебного рассмотрения их дела применялся ИИ. Кстати, одним из вариантов применения ИИ может стать наделение сторон судебного процесса выбором: применять в их конкретном судебном споре механизмы ИИ (digital court) или не применять (analog court). В случае применения в судебном процессе ИИ, автоматизированные выводы не должны становиться «единственным основанием» судебного решения; стороны должны иметь возможность их оспорить, а суд - пересмотреть. Это логика осно- вана на судебно-этических принципов Совета Европы (Council of Europe). При этом законодателем должны быть выработаны механизмы прозрачности и верифицируемости судебных решений. Логи промптов/выводов, источники, алгоритмы принятия решений - всё сохраняется для последующей проверки и апелляции вынесенных в digital court судебных решений.

Таким образом, правовая сингулярность ИИ предполагает «революцию» в праве, делая его эффективнее и справедливее, но несет большие риски предвзятости, потери контроля и социальных потрясений. Вызовы для человечества - от этических дилемм до экзистенциальных угрозтребуют баланса между инновациями и регуляцией. Полная подконтрольность ИИ законодателю маловероятна без глобальных усилий, подчеркивая необходимость этических рамок и междисциплинарного подхода. Будущие исследования должны фокусироваться на интеграции ИИ с человеческим надзором для минимизации рисков и максимизации преимуществ. Правовая сингулярность - не технологическая неизбежность, а управляемый проект. Его успех зависит от того, сумеем ли мы совместить вычислительную мощь с нормативной прозрачностью, публичной подотчётностью и процессуальной справедливостью.

Технические стандарты законности, аудит и институциональные сдержки и противовесы - необходимые условия этого проекта.