Какой должна быть взаимосвязь искусственного интеллекта и права?

На страже безопасности человека

Игорь Рогов, председатель Комиссии по правам человека при Президенте РК, член научно-консультативного совета при Конституционном суде РК:

– Анализ деятельности властных структур свидетельствует о том, что права человека реально защищаются, и многие человеческие проблемы находят решение именно благодаря цифровизации. На этом акцентировал внимание и Президент Касым-­Жомарт Токаев.

Между тем знакомство с новейшими достижениями науки и техники в области цифровизации показывает, что недостаточно проработана правовая сторона применения технологий. Причем эта проблема существует не только в Казахстане.

Цифровизация сегодня проник­ла во все сферы. Венецианская комиссия Совета Европы­ уже рассматривает применение цифровых технологий и ИИ даже в избирательных процессах.

Цифровизация ставит вопросы в тех областях, которые, казалось бы, вообще не подлежат обсуж­дению. Например, в европейских странах говорят о том, не пора ли отойти от представительной демократии – парламентов, избрания глав государств. Мол, какой в этом смысл, если цифровые технологии позволяют в считаные часы узнать волю большинства граждан страны по любому вопросу?

В Казахстане тоже есть законодательство о петициях, мы двигаемся в этом направлении и, конечно, требуется юридическое оформление того, что должен решать ИИ. Главный вопрос: кто виноват, если искусственным интеллектом причинен вред?

В ЕС также вовсю обсуждается вопрос о правосубъектности ИИ. Например, на кого распространяется авторство произведений, которые созданы с его помощью.

Эти задачи мы, юристы, и должны будем решать. Надо обеспечить безопасность человека, ведь ИИ применяется и в военном деле. И наша комиссия готова оказать необходимую помощь.

Информационные технологии в судах

Абай Рахметулин, судья Верховного суда РК:

– Возможности использования искусственного интеллекта в различных направлениях юрис­пруденции все чаще обсуж­даются учеными-юристами и практиками. Применение ИИ в судопроизводстве потенциально позволит снизить масштабы пробле­мы доступа населения к правосудию. ИИ обладает большим потенциалом для улучшения работы судебных органов и судей.

Согласно отчету Европейской комиссии по эффективности правосудия по итогам 2023 года Казахстан по использованию IT-технологий в судах вышел на четвертое место среди 47 стран. Впереди только Эстония, Латвия и Венгрия.

У нас действительно много делается с точки зрения цифровизации сферы правосудия. Так, в Верховном суде создано специальное хранилище окончательных судебных актов объемом более 5 миллио­нов документов. На основе этой базы данных разработаны две поисковые аналитические системы с применением технологий Big Data и машинного обучения – сервис «Судебная практика» и информационно-аналитическая система «Цифровая аналитика судебной практики». Таким образом, с одной стороны, будет обеспечиваться оперативность принятия решений, разгрузка судов от рутины, с другой – минимизироваться судебные ошибки.

Что сделано для граждан? С сентября 2023 года по гражданским и административным делам запущен онлайн-модуль «Ознакомление», который поз­воляет участникам судебных процессов дистанционно изучать иски, прослушивать аудиозаписи заседаний и знакомиться с материалами по своему делу.

Сервис «Судебный кабинет» дает возможность направить в суд доверенность и исковое заявление в электронном виде. Элект­ронная доверенность позволяет предоставить полномочия представителю в суде без посещения нотариуса.

Посредством модуля «Проверка материалов дела» пользователи могут получить доступ к материа­лам своих дел, ознакомиться с документами, связанными с их участием в судебном процессе. Для систематизации и легкости доступа к информации хранение дел и материалов осуществляется по годам отдельно. Это облегчает участие в судебном заседании.

Что сделано для судей? Автоматизирован процесс санкционирования постановлений судебных исполнителей об ограничении выезда за рубеж, а также вынесение судебных приказов о взыскании алиментов на несовершеннолетних детей.

На основе четких алгоритмов робот без участия человека проверяет все условия и готовит проект решения для судьи. Если тот согласен с полученными выводами, то санкционирует решение в один клик. Данные инновации соответствуют нормам закона и не нарушают конституционных прав граждан.

Роботизация позволила минимизировать ошибки и сосре­доточиться на рассмотрении более сложных дел. Это освободило значительные человеческие ресурсы и снизило нагрузку на судей в целом. Если раньше для принятия решения требовалось три дня, то сейчас – 30 минут. За три года с момента запуска робота судами санкционировано более 500 тысяч запретов на выезд должников, это 90% от всех поступивших материалов.

В целях обеспечения едино­образной судебной практики разработан модуль помощи судьям, который предназначен исключить возможность вынесения незаконного приговора. ИИ высчитывает, больше какого определенного законом срока нельзя назначать наказание, какой вид учреждения будет правильным назначить осужденному, какой вид рецидива имеется в его действиях и так далее.

После внедрения этого модуля факты неправильного применения мер наказания значительно уменьшились. И сегодня он широко используется судьями первой инстанции при рассмот­рении уголовных дел.

По гражданским делам с применением ИИ разработана система «Цифровая аналитика судебной практики». Она анализирует миллионы судебных актов в один клик и определяет категории дел и процент удовлетворения исков, результаты прохождения через апелляционные и кассационные инстанции.

Программа обучена понимать судебные решения, сравнивать их между собой, выявлять аномалии и исход рассматриваемого дела. Это не значит, что все делает ИИ, он лишь помогает. Окончательное решение выносит судья.

В ситуационном центре Верховного суда заложены 850 показателей работы судов. И можно определить, в каком регионе какие именно дела рассматриваются чаще всего, чтобы правоохранительные органы могли усилить работу именно в конкретных направлениях. В этом году планируем внедрять модули, касающиеся действий судопримирителей, чтобы до принятия решения спор был разрешен мирным путем.

Внедрять в законотворческий процесс

Жанна Тлембаева, профессор кафедры медицинского права и этики НАО «Медицинский университет Астана»,
к. ю. н., доцент:

– Современные реалии требуют скорейшего внедрения ИИ в сферу правотворчества. Однако этот вопрос не решается быстро ввиду разных причин, в том числе из-за консерватив­ности юридической сферы.

Задачи в сфере законотворчества диктуют необходимость трансформации подходов к подготовке, разработке и принятию законов. Технологии ИИ должны обеспечить не только удобные сервисы для всех участников законотворческого процесса, но и, главным образом, полноту и своевременность правового регулирования общественных отношений, согласованность и непротиворечивость законодательства.

ИИ будет незаменимым помощником в обработке огромных массивов информации, формировании статданных. Активное внедрение ИИ в законотворческую деятельность изменит и саму культуру субъек­тов правотворческого процесса. Но нужно помнить, что применение искусственного интеллекта в нормотворчестве не сможет полностью заменить человека.

Юридическое прогнозирование в сочетании с ИИ позволит не только облегчить законотвор­ческую работу сотрудников госорганов, депутатов, но и выявлять риски принимаемых законодательных решений. Однако только человек может смоделировать, какие изменения вызовет принятие закона в обществе, как он отразится на динамике правонарушений, поведении граждан.

В экспертной деятельности использование ИИ будет способствовать выявлению коллизий между нормативно-правовыми актами различной юридической силы, ускорению и повышению качества оценки НПА, экономии времени, финансовых, человеческих ресурсов. Экспертиза с использованием ИИ поз­волит минимизировать субъек­тивизм при ее проведении.

В судебной деятельности выделяют две сферы применения ИИ: делопроизводство и общие вопросы судебного разбирательства («цифровой протокол», хранение цифровых данных в «судебном облаке», цифровые исполнительные листы), а также оценка доказательств и установление юридически значимых обстоятельств по конкретному спору, например, отнесение сделки к категории крупных, определение срока исковой давности.

Конечно, речь не может идти о замене судьи роботом. Ведь ИИ не может учесть всех обстоя­тельств дела, определить глубину нравственных страданий, причиненных потерпевшему, реализовать принципы справедливости и гуманизма при назначении наказания. Оценку доказательств и принятие решений на основе внутреннего убеждения судьи нельзя полностью доверить искусственному интеллекту.

При использовании ИИ могут возникать и иные проблемы, связанные с конфиденциальностью данных, надежностью автоматизированных систем. К примеру, в США выявлены дискриминационные последствия алгоритма, используемого в программном обеспечении, цель которого заключается в оценке риска рецидивизма, когда судья должен определить наказание для того или иного лица.

Вопросы интеллектуальной собственности

Айдын Артыкова, заместитель директора РГП «Национальный институт интеллектуальной собственности» Министерства
юстиции РК:

– По данным Всемирной организации интеллектуальной собственности, с момента появления понятия «искусственный интеллект» было подано более 400 тысяч заявок на изобретения в этой области, большинство – из США и Китая.

Объектами патентного права могут быть изобретения, полезные модели, промышленные образцы, программы для ЭВМ, базы данных. Чаще всего патентуются технологии в области компьютерного зрения, в том числе по распознаванию образов, обработки естественного языка и речи, методы управления роботами.

Если говорить о соотношении ИИ и права, то можно выделить два направления: это авторские, исключительные и смежные права разработчика элементов ИИ – инфраструктуры, ПО, баз данных и алгоритмов, и авторские права на результат работы искусственного интеллекта – иллюстрации, музыку, сгенерированный текст.

19 октября 2023 года в Казах­стане впервые было выдано свидетельство на объект, сгенерированный двумя системами ИИ – графический роман «Искры восточных склонов: сага о талисманцах и империи златовершков». Оригинальная история и иллюстрации к ней были созданы с помощью генеративных систем.

По первой заявке Казпатентом был вынесен мотивированный отказ со ссылкой на статью 2 Закона «Об авторском праве и смежных правах», так как физическое лицо не может быть признано автором произведений, созданных генеративным ИИ (заявка подавалась на графический роман как литературное произведение).

Позже заявка была изменена и подана снова с указанием, что текст и изображения по-прежнему сгенерированы двумя сис­темами ИИ, а физическое лицо является автором графического романа, но лишь как составного произведения, то есть без предоставления правовой охраны тексту и изображениям по отдельности. В итоге заявка была удовлетворена.

Кто несет ответственность?

Мухтар Садыков, докторант Академии правоохранительных органов при Генеральной прокуратуре РК:

– На мой взгляд, следует четко различать решения, принимае­мые системой ИИ в случае ее нормальной работы, от решений в результате неправильного обучения, сбоя или внешнего вмешательства. Есть несколько вариантов позиций для определения ответственности систем на основе технологий искусственного интеллекта.

Это коллективная ответственность разработчиков с соз­данием специальных фондов компенсации вреда пострадавшим от действий (бездействий) подобных систем, безусловная и безвиновная ответственность как разработчика, когда исключены внешние факторы рис­ка, так и оператора системы, когда исключены внутренние факторы риска или система выполнила прямые команды оператора.

Также можно выделить солидарную ответственность оператора и разработчика и распределенную ответственность, где пропорции устанавливает государство. Вопрос о «личной» ответственности ИИ может быть поставлен лишь при наделении подобных систем правосубъектностью, что является вопросом отдаленного будущего.

При определении ответственности за решения и выводы систем ИИ могут возникнуть проблемы из-за различий в юрисдикциях. К примеру, в одной стране ответственность несет разработчик, который скрывается в другой стране, где подобная ответственность либо не предусмотрена, либо ее несет оператор системы.

В целом на данном этапе развития технологий искусственного интеллекта следует воспринимать данные системы как помощника в принятии решений, а не как замену человеку. Финальное решение всегда должен принимать человек.