Использование ИИ в судах

В Мониторинге №5 мы уже рассматривали вопрос использования ИИ в правоохранительной деятельности. Между тем формируется новый тренд – ограничение использования ИИ в судебном процессе. Суды стали получать жалобы на заключения адвокатов или доводы сторон, сгенерированные ИИ, содержащие ссылки на несуществующие судебные дела, нормы права или неподтвержденные аргументы.

Например, в 2023 г. Окружной суд Нью-Йорка наложил штраф в 5 тыс. долл. на стороны и их представителей за подачу письменных представлений, сгенерированных ChatGPT, включающих цитаты из минимум 6 несуществующих¹ судебных решений . Другой пример – решение Трибунала Налоговой палаты в Великобритании 2023 г. – в споре об уплате налогов сторона защиты использовала как минимум 4 ссылки на расследования налоговой службы, которых не² существовало .

Поэтому в июле 2024 г. Окружной суд Западного округа Северной Каролины³ США , ограничил использование ИИ для⁴ формирования адвокатами заключений . Установлено, что фактические и юридические ссылки в судебных документах, подготовленных с использованием ИИ, должны быть проверены сторонами, подающими документы. К любому представленному в Суд документу должно прилагаться заключение, что:

− при подготовке документа не использовался ИИ, за исключением ИИ, встроенного в стандартные онлайн источники юридических баз данных (как Westlaw, Lex1s);

− каждое заявление и ссылка на источники в документе должны быть проверены на предмет точности.

Аналогичные руководства были приняты и другими судами в США, например, в Манитобе , Юконе и пр., а также судами в ряде других стран, например, в Великобритании (по использованию чатботов) , Новой Зеландии , Австралии и др.

Устанавливается, что стороны и представители при использовании инструментов с ИИ в ходе судебных разбирательств должны:

− понимать, как работают инструменты.

Например, качество сгенерированного юридического ответа зависит от данных, на которых обучался чат-бот, а также качества запроса самого пользователя;

− соблюдать правила конфиденциальности: любая личная информация, введенная в чат-бот, сохраняется и может быть использована в запросах других пользователей;

− если стороны представляют себя в суде самостоятельно (без юристов) – уведомлять суд о применении ИИ в документах, чтобы участники знали о рисках;

− проверять достоверность сведений, если при формировании документов использовался ИИ.

Текст, сгенерированный ИИ, следует проверять, чтобы:

1) не использовалась версия ИИ, которая обучена на устаревших данных, не включающих более позднюю судебную практику или изменения законодательства;

2) сформированная информация была полной и точной (не содержала ссылки на выдуманные судебные дела или нормы);

3) использованная практика была применима к юрисдикции, а не взята из других юрисдикций с иными материальными законами и процедурными требованиями.

Опыт России

В июле 2024 г. на сайте Верховного Суда Российской Федерации появилось его заявление о возможностях использования ИИ при подготовке к судебному⁵ разбирательству . Кроме того, рассматривается идея подключения ИИ к ГАС «Правосудие» .

Тем не менее Верховному Суду рекомендуется разработать требования при использовании ИИ в российских судах, включая:

1) уведомление суда и участников процесса, если для подготовки документов, используемых в ходе судебного заседания, применялся ИИ;

2) требование проверки достоверности всех ссылок на законодательство, судебную практику и иные источники.

Материал из выпуска мониторинга №7, июль 2024. Скачать выпуск целиком (PDF) · страница выпуска на сайте Института Гайдара