Госзакупки высокорискового ИИ

Опыт ЕС

В марте 2025 г. ЕС опубликовал модельные контрактные положения для госзакупок высокорисковых систем ИИ (MCC-¹ AI-High-Risk) , которые госзаказчики могут включать в договоры с поставщиками ИИ-² систем. Регламент ЕС об ИИ (AI Act) к высокорисковым ИИ относит системы, связанные с критической инфраструктурой, биометрией, правами человека, образованием, трудоустройством и правосудием.

MCC-AI-High-Risk устанавливают типовые контрактные обязательства поставщиков, включая создание системы управления рисками, обеспечение качества данных, прозрачность работы ИИ-системы, человеческий контроль за генерируемыми ИИ решениями и пр. в соответствии с требованиями AI Act, (рассматривались в Мониторинге №3 за 2024 г.).

С точки зрения закупок внимание уделяется правам на используемые данные. MCC-AI-High-Risk разграничивают данные заказчика и поставщика. Данные заказчика (переданные госорганом или специально для него собранные) остаются в его собственности, а поставщик не вправе использовать их вне рамок договора и обязан по требованию вернуть или уничтожить их. Данные поставщика (например, модели и датасеты для обучения) остаются под контролем поставщика, однако заказчику предоставляется неисключительная³ лицензия на их использование в рамках эксплуатации системы.

Для обеспечения соблюдения всех требований контракта заказчик вправе на всех этапах (разработка, внедрение и эксплуатация) запрашивать у поставщика подтверждающую документацию и проводить аудит.

MCC-AI-High-Risk обязывают включать в исходную цену контракта все затраты, связанные с выполнением требований AI Act, включая расходы на аудит, подготовку сопроводительной документации, внедрение механизмов прозрачности и пр.

Опыт США

В США в сентябре 2024 г. Административно-бюджетное управление Администрации Президента (OMB)⁴ выпустило Меморандум M–24–18 по стандартизации закупок систем ИИ федеральными агентствами. Документ выделяет закупки особенног рискованного ИИ:

• правозатрагивающих систем, влияющих на права человека (например, автоматический отбор при трудоустройстве). Контрактные условия должны предусматривать обязательные меры прозрачности, механизмы исправления и непременный человеческий пересмотр спорных решений;

• систем, затрагивающих безопасность – влияющих на здоровье и жизнь граждан, инфраструктуру и др. (например, системы управления транспортом, энергетикой). Закупка должна сопровождаться полным доступом к информации о разработке системы, позволяющей оценивать её надежность и предотвращать негативные последствия.

В контрактах рекомендовано фиксировать следующие условия для контроля ИИ:

• использование тестовых наборов данных, сформированных госзаказчиком, для независимой проверки поставляемого ИИ. Такие наборы должны быть недоступны для подрядчика заранее и максимально близко имитировать реальные данные, с которыми система ИИ будет работать;

• обязанность подрядчика предоставлять доступ для проведения госзаказчиком испытаний в условиях, приближенных к реальным условиям использования системы (аналогичное требование в ЕС);

• право госзаказчика публиковать методы и результаты тестирования системы (не нарушая прав интеллектуальной собственности поставщика).

Меморандумом установлены требования для:

• генеративного ИИ – по обязательной маркировке контента (например водяными знаками), предоставлению подробной документации о методах обучения и тестирования и пр.;

• биометрического ИИ, осуществляющего идентификацию личности – требуется проведение независимых испытаний на точность распознавания, соблюдение стандартов качества входных данных, установление порогов точности поиска и обязательное ведение защищённых журналов запросов и идентификаций.

Меморандум закрепляет обязанность подрядчиков уведомлять агентства о серьёзных инцидентах, связанных с работой ИИ, для оперативного реагирования и предотвращения негативных последствий.

Опыт России

В России на данный момент отсутствует специализированное регулирование для госзакупок ИИ-систем. Однако утверждён ГОСТ Р 71752—2024 «Искусственный⁵ интеллект. Техническое задание» , устанавливающий требования к техническим заданиям на закупку и внедрение систем ИИ, включая государственные и коммерческие закупки. Минцифры РФ разработало Методические рекомендации по цифровой⁶ трансформации , рекомендующие интегрировать ИИ в бизнес-процессы государственных организаций, формировать стратегии по применению ИИ и оценке эффективности внедряемых решений.

Материал из выпуска мониторинга №3 (15), март 2025. Скачать выпуск целиком (PDF) · страница выпуска на сайте Института Гайдара