Законы для искусственного интеллекта

ОЭСР

В марте 2024 г. ОЭСР опубликовала Разъясняющий меморандум по¹ обновленному определению системы ИИ .²

Прежнее определение системы ИИ модифицировано (с. 4): «Система ИИ – это машинная система, которая для явно или неявно выраженных целей выводит из получаемых ею входных данных, как генерировать выходные данные, такие как прогнозы, контент, рекомендации или решения, которые могут влиять на физическую либо виртуальную среду. Системы ИИ различаются уровнями автономии и адаптивности после введения в действие».

Определение расширяется вместе с развитием практики использования ИИ. Так, ОЭСР сочла системы ИИ, генерирующие контент, настолько значимым видом, что они получили отдельное упоминание в определении, хотя при желании их работу можно рассматривать как последовательность решений по выводу определенных слов/пикселей/звуков. В принципе определение систем ИИ обычно охватывает машинное распознавание объектов и речи, обработку языковой информации, интеллектуальные системы поддержки принятия решений, интеллектуальные роботизированные системы (с. 6, 9).

ОЭСР полагает, что постановку целей для ИИ всегда можно проследить до человека, который инициирует разработку системы ИИ, даже если цели заданы неявно. Однако некоторые системы ИИ могут разрабатывать неявные подцели и ставить цели для других систем.

Опыт ЕС и США

13 марта 2024 г. Европарламент³ одобрил проект Закона об ИИ .⁴ Законопроект выделяет следующие виды ИИ:

1. Запрещенные практики ИИ (8 категорий), например, для создания или расширения систем распознавания лиц с использованием изображений из Интернета либо с камер видеонаблюдения;

2. Разрешенные высокорисковые системы ИИ, например, системы удаленной биометрической идентификации;

3. ИИ общего назначения, среди которого выделяются модели ИИ с системным риском;

4. Определенные системы ИИ (4 категории), взаимодействующие с физическими лицами или производящие синтетический контент, например, генерирующие дипфейки.

Требования к разрешенным видам ИИ различаются в зависимости от их риска: чем он выше, тем большие и более комплексные требования предъявляются: от маркировки до систем управления рисками.

В США законопроекты, направленные на общее регулирование ИИ, в январе 2024 г. были внесены в законодательные собрания⁵ Вермонта и Вирджинии .

Законодательные инициативы этих штатов США заметно схожи между собой – вплоть до совпадающих формулировок, но есть и базовые различия:

1. Законопроект Вирджинии имеет более узкий перечень лиц, на которых распространяется регулирование, чем в Вермонте: он касается только разработчиков и эксплуатирующих лиц высокорисковых систем ИИ, тогда как в Вермонте предполагаются также нормы, предназначенные для разработчиков систем генеративного ИИ;

2. Законопроект Вермонта является более детальным в части определений и широким в части требований к разработчикам и эксплуатирующим лицам высокорисковых систем ИИ, в частности, в нем прописаны факторы алгоритмической дискриминации, тогда как в Вирджинии дана только отсылка на законодательный запрет;

3. Сфера ответственности в законопроекте Вирджинии по сравнению с Вермонтом сдвинута от разработчиков к эксплуатирующим лицам высокорисковых систем ИИ: например, избежание любого риска алгоритмической дискриминации в Вирджинии предписывается только последним, тогда как в Вермонте обоим.

В части сравнения подходов к регулированию ИИ в ЕС и рассмотренных штатах США можно отметить следующее:

1. Подход к регулированию ИИ в ЕС относительно штатов США:

а) значительно более комплексный: регулирование распространяется не только на высокорисковый и генеративный ИИ (в части, например, дипфейков), но и предъявляет требования к другим типам ИИ;

б) более строгий: определенные практики ИИ (например, распознавание эмоций на рабочих местах) запрещены, независимо от стандартов и требований к системам ИИ.

В принципе распознавание эмоций на рабочих местах может отвечать определению важного решения (сфера занятости) и соответственно попадать в спектр высокорисковых систем ИИ в рассмотренных законопроектах штатов США, если влияет, например, на увольнение при сокращении штата сотрудников, вместе с тем даже в этом случае эксплуатирующее систему ИИ лицо ограничено только обязанностью уведомить работников о функционировании и цели такой системы.

2. В части критериев высокорисковых систем ИИ в целом прослеживается та же тенденция: в ЕС они шире, соответственно режим жестче. Более широкое определение достигается за счет включения в число сфер высокого риска элементов обеспечения безопасности продуктов и безопасности критической инфраструктуры, тогда как в рассмотренных штатах США она касается только определенных интересов людей.

3. Ни одно из рассмотренных определений систем ИИ не является достаточно четким с точки зрения выделения квалифицирующих признаков именно ИИ. Как следствие, сужение предмета регулирования до высокорисковых/несущих определенные риски (например, личному пространству человека) систем ИИ может быть связано с нерешенностью на данный момент задачи четкого отделения ИИ от привычных устройств (например, датчиков температуры на приборах) и созданных человеком моделей (например, эконометрических).

Опыт России

В российском законодательстве ИИ определен, в частности, в Федеральном законе от 24.04.2020 № 123-ФЗ: это комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека. При этом технологии ИИ включают компьютерное зрение, обработку естественного языка, распознавание и синтез речи, интеллектуальную поддержку принятия решений и перспективные методы искусственного интеллекта.

Отметим, что российское определение технологий ИИ в значительной степени пересекается с направлениями применения систем ИИ, перечисленными ОЭСР, вместе с тем само определение ИИ, завязанное на имитацию когнитивных способностей и сопоставление с результатами интеллектуальной деятельности человека, выглядит спорным, поскольку они не измеримы однозначно и различаются между людьми.

Материал из выпуска мониторинга №3, март 2024. Скачать выпуск целиком (PDF) · страница выпуска на сайте Института Гайдара