Усиление регулирования ИИ

В декабре 2024 г. произошли события, свидетельствующие об усилении регулирования ИИ в разных странах: как имеющих специальные законы для ИИ (Испания), так и действующих в рамках общих норм (США).

Опыт США

3 декабря 2024 г. Федеральная¹ торговая комиссия опубликовала проект соглашения с американской компанией² IntelliVision Technologies . Компании запрещено распространять неподтвержденные сведения о точности и эффективности ее программного обеспечения с ИИ (используется в домашних системах безопасности и сенсорных панелях в умных домах) для распознавания лиц, а также о его результативности в распознавании лиц разного пола, расы и пр.

Комиссия утверждает, что компания не имеет доказательств своим рекламным заявлением о его высокой точности и непредвзятости результатов, а также тому, что ее технология защиты от имитаций обеспечивает невозможность обмана системы с помощью фото- или видеоизображения. Так, по результатам тестирований в Национальном институте³ стандартов и технологий в 2019–2023 гг., частота ошибок алгоритмов технологии компании различается в зависимости от демографических характеристик, в том числе⁴ региона рождения человека . Также компания обучала ИИ на значимо меньшем числе изображений, чем утверждала. При этом на разработчиков и поставщиков услуг систем ИИ распространяются общие принципы в отношении недобросовестной рекламы. Если соглашение будет принято окончательно, то его нарушение грозит компании штрафом более 51 тыс. долл.

Это второе за год возбужденное комиссией крупное дело о распознавании лиц с помощью ИИ. В декабре 2023 г. спор был урегулирован запретом в течение 5 лет использовать ИИ-технологию распознавания лиц компании Rite Aid для наблюдения за покупателями в магазинах, поскольку компания не внедрила меры безопасности, в результате чего технология ошибочно указывала на людей, особенно женщин и⁵ темнокожих, как на воров .

Опыт Испании

4 декабря 2024 г. в Испании вступил в силу Органический закон 5/2024 о праве на⁶ защиту при применении ИИ и других технологий при оказании юридических услуг. В Мониторинге № 7 уже поднимался вопрос применения ИИ в судах.

В Испании же установлено право лица быть информированным в ясной, простой, понятной и общедоступной форме о том, как цифровые платформы используют искусственный интеллект для выработки рекомендаций и принятия решений в юридических услугах. Например, как на основе ИИ осуществляется подбор юристов, юридических компаний.

Опыт Бразилии

10 декабря 2024 г. Сенатом Бразилии принят закон, регулирующий использование⁷ ИИ . Определение системы ИИ в этом документе соответствует обновленному в марте определению ОЭСР (см. Мониторинг № 3).

Закон заимствует подход, реализованный в принятом в июне Законе об⁸ ИИ ЕС (также анализировался в Мониторинге № 3): регулирование построено на уровне риска систем ИИ: чем выше риск, тем выше требования к разработке и использованию системы. Закон Бразилии выделяет те же, что в ЕС, категории ИИ по уровню риска:

1) запрещенные системы ИИ с чрезмерным риском;

2) разрешенные высокорисковые системы ИИ;

3) системы ИИ общего назначения, среди которых выделены генеративный ИИ и ИИ с системным, т.е. потенциально масштабным риском.

При этом состав запрещенных систем различается: Бразилия включает в эту категорию распространение материалов об эксплуатации несовершеннолетних, что является скорее уголовным составом, но не включает расширение систем распознавания лиц на основе изображений из интернета и определение эмоций в образовании и на работе (что отнесено к категории высокорисковых). Состав высокорисковых систем ИИ в Бразилии предполагается уточнить на подзаконном уровне, закон содержит примеры: безопасность, медицина, суды и пр.

Закон устанавливает право всех лиц на информирование о взаимодействии с системой ИИ, в том числе автоматизированной. Для высокорисковых систем ИИ дополнительно предусмотрены права на разъяснение, оспаривание решений системы и пересмотр их человеком.

Требования к разработчикам высокорисковых систем ИИ в Бразилии также выше, чем ИИ общего назначения: например, необходима оценка ее точности и испытания безопасности. При этом по сравнению с ЕС требования имеют более мягкий и рамочный характер. Так, оценка рисков, меры по их смягчению и оценка их эффективности необходимы для ИИ с высоким риском, но порядок оценки (критерии, периодичность) не определен.

Опыт России

В России в настоящее время законодательное регулирование использования ИИ осуществляется только через экспериментальные правовые⁹ режимы .

Материал из выпуска мониторинга №12, декабрь 2024. Скачать выпуск целиком (PDF) · страница выпуска на сайте Института Гайдара