Ответственное использование ИИ
В июле 2025 г. в ЕС и Великобритании выпущены рекомендации по ответственному ИИ, касающиеся борьбы с дипфейками, безопасности ИИ. В США План по ИИ теперь включает поддержку стартапов, проверку иностранных систем ИИ на угрозы и иные темы. В России в Кодексе этики ИИ на финансовом рынке закрепляется право клиента на отказ взаимодействовать с ИИ, а также право знать, почему он принял то или иное реше
Из выпуска мониторинга №7 (19), июль 2025 · выпуск целиком, PDF · на сайте Института Гайдара
Опыт Великобритании
В июле 2025 г. опубликован доклад о1 практиках противодействия дипфейкам , включая методы маркировки контента, чтобы пользователи распознавали и помечали2 дипфейки: невидимые водяные знаки , метаданные происхождения файла, пометки на контенте («сделано с помощью ИИ») и пр.
Платформы должны использовать водяные знаки и метаданные для приоритизации модерации, а не перекладывать распознавание на аудиторию. Рекомендуется явным образом устанавливать различия между полностью и частично сгенерированным контентом, когда ИИ лишь редактировал оригинальный контент (накладывал фильтры, менял элементы в изображении и т.д.).
Опыт ЕС
В июле 2025 г. Еврокомиссия опубликовала Кодекс практик для ИИ общего3 назначения . Кодекс предполагает:
1) прозрачность. Кодекс содержит «модельную документацию» универсальную форму отчетности, по которой компании могут раскрывать информацию об ИИ: что система делает, на чем обучалась, сколько ресурсов тратит;
2) безопасность и системные риски4 (для моделей с системным риском ). Нести ответственность может менеджмент компании, команды, которые разрабатывают, обслуживают ИИ, аудиторы. «Перекладывать» ответственность на пользователя не предлагается;
3) защиту интеллектуальных прав. Например, рекомендуется внедрять правила для «краулинга» – автоматического сбора данных для обучения. Данные в этом процессе должны собираться только на законной основе. Системы ИИ общего назначения должны распознавать запреты на использование контента для обучения.5
Компания Meta отказалась присоединяться. При этом OpenAI, Amazon, Google, IBM и др. (более 25 компаний)6 заявили о присоединении к Кодексу.
Опыт США
В июле 2025 г. опубликован «План7 Америки по ИИ» . План закрепляет меры:
1) поддержки стартапов,8 разрабатывающих открытые модели ИИ и9 моделей с открытыми «весами» . Создаётся Национальный ресурс исследований в области ИИ, чтобы дать стартапам доступ к вычислительным мощностям, моделям и данным без дорогих контрактов с частными компаниями;
2) борьбы с дипфейками в судебной системе. Ложные ролики, созданные ИИ, могут попасть в суд как поддельные улики и лишить людей права на правосудие. Поэтому предлагается разработать обязательные стандарты распознавания дипфейков в судах;
3) государственные тесты иностранных моделей на «пропаганду и закладки». Минторг будет проверять зарубежные модели ИИ на наличие цензуры, возможностей тайно передавать данные или управлять системой ИИ без ведома пользователя и угрозы критической инфраструктуре. На данный момент США является единственной страной, где планируется внедрить такие правила.
Опыт России
В июле 2025 г. Банк России опубликовал Кодекс этики ИИ на финансовом10 рынке .
Кодекс выделяет 5 ориентиров: человекоцентричность, справедливость, прозрачность, безопасность и ответственное управление рисками. Например, клиенту должны дать право отказаться от общения с ботом и потребовать пересмотр человеком решений, принятых ИИ (например, в случае отказа в кредите). При оценке клиентов ИИ не вправе учитывать национальность или вероисповедание – наборы данных должны проверяться на такие «перекосы». Компании обязаны будут помечать, что рекомендации роботов-советников сгенерированы ИИ. Меры, предусмотренные Кодексом, должны будут сделать работу ИИ более прозрачной и понятной для клиентов банков и повысить доверие общества к технологии ИИ в целом.
- https://www.garant.ru/hotlaw/federal/1746698 ↑
- Токены, привязанные к активам/Токены электронных денег. ↑
- https://www.consultant.ru/document/cons_doc_LAW_358753/ ↑
- https://www.ofcom.org.uk/siteassets/resources/documents/online-safety/information-for-industry/deepfake-defences-2/deepfake-defences-2---the-attribution-toolkit.pdf?v=399908&__cf_chl_tk=_NpxVdIesx1t_BvJLNhgja0MEbGCtbbw.MA8VxcJEjk-1754490847-1.0.1.1-KvTusrBRDmHDEap6ht4r1YLweNiu9q2rVBfoKo3X5gM ↑
- Распознаваемые программами сигналы в изображении/аудио, которые показывают, что контент сделан с помощью ИИ. ↑
- ИИ общего назначения - это ИИ-модель, которую учат не под одну функцию, а на очень разнородных данных, чтобы она выучила общие закономерности языка/изображений/звука и умела решать множество задач без отдельной перепрошивки: отвечать на вопросы, писать тексты и код, переводить, резюмировать, разбирать картинки и пр. Важное отличие: это не готовое приложение, а компонент - как универсальный мотор, который можно запустить «как есть» через подсказки («промпты») или приспособить под отрасль с помощью донастройки. ↑
- «Модель с системным риском» - модель общего назначения, чьи высокие возможности потенциально могут причинять масштабный вред из-за охвата или по предсказуемым негативным эффектам для здоровья, безопасности, прав частных лиц и для общества в целом. ↑
- Признана экстремистской организацией в России. ↑
- https://digital-strategy.ec.europa.eu/en/policies/contents-code-gpai ↑
- https://www.whitehouse.gov/wp-content/uploads/2025/07/Americas-AI-Action-Plan.pdf ↑
- Открытые модели - это модели ИИ, у которых публично доступны все ключевые компоненты (исходный код, архитектура, обучающие скрипты и т.д.). Такие модели могут свободно использоваться, изменяться и распространяться всеми желающими (иногда с минимальными условиями, например, указать авторов). ↑
- «Веса» - это числовые параметры модели ИИ, которые она «выучивает» во время обучения. Модели с открытыми весами - это модели ИИ, у которых можно свободно скачать и запускать веса, но не обязательно открыт весь остальной «набор»: данные обучения, точные рецепты, часть кода или инструменты могут быть закрыты. ↑
- https://www.consultant.ru/document/cons_doc_LAW_509514/ ↑
Материал из выпуска мониторинга №7 (19), июль 2025. Скачать выпуск целиком (PDF) · страница выпуска на сайте Института Гайдара
