Ответственный ИИ в бизнесе и власти

Опыт ОЭСР

В сентябре 2025 г. ОЭСР опубликовала обзор первых отчётов компаний в рамках Хиросимского процесса по ИИ – инициатива стран G7 по формированию универсальных правил развития и использования систем ИИ. Исследовались практики компаний по 7¹ направлениям:

1) выявление и оценка рисков² организации . Для этого компании, например, Microsoft, Google, OpenAI, IBM и др. проводят испытания ИИ с имитацией нападений: команды пытаются «обмануть» модель, чтобы понять, где есть риски неправильной работы системы;

2) управление рисками через процедуры и технические меры. Сначала ИИ тестируется внутри компании, потом для ограниченного круга доверенных пользователей, и только затем выводится в широкий доступ. Реализуются технические меры: очистка и отбор обучающих данных, «доводка» модели под конкретные задачи и проверка результатов запросов до того, как их увидит человек;

3) раскрытие сведений о прозрачности систем ИИ. Например, если ИИ-продукты предназначены для массовой аудитории, то компании публикуют «паспорта» моделей и отчёты о прозрачности: что умеет система, где слабые места, как её тестировали. Продавцы B2B-решений, закрепляют обязательства о раскрытии информации в договорах;

4) управление инцидентами. При инцидентах есть прописанные сценарии: кто следит, кто фиксирует, кто отвечает – компании имеют команды специалистов. Создаются горячие линии для сообщений о проблемах ИИ (у KYP.ai и Rakuten), специальные процедуры пересмотра работы высокорисковых систем ИИ;

5) создание механизмов аутентификации и отслеживания ИИ- контента. Компании внедряют маркировку сгенерированного ИИ контента (как водяные знаки) и иными способами информируют пользователя, что он взаимодействует с ИИ;

6) инвестирование в безопасность ИИ. Больше всего компании вкладывают средств в кибербезопасность, в повышение доверия к информации (например, Google разрабатывает инструменты обнаружения фейков), а также выявления дискриминационного поведения ИИ (например, Fujitsu, OpenAI проверяют модели ИИ на предмет дискриминации);

7) вклад систем ИИ в достижение общественно важных целей. Крупные компании ведут исследования по устойчивости, честности, прозрачности работы моделей и подтверждению происхождения контента (у Microsoft - сеть AI & Society и лаборатория AI Frontiers). Многие проекты нацелены на здравоохранение, образование, доступность и климат, поддерживают ЦУР ООН.

Также ОЭСР опубликовала обзор³ использования ИИ для госуправления . Как и компании органы власти ориентируются на Рекомендацию ОЭСР по ИИ, правила Хиросимского процесса и пр. Например, в Канаде действует обязательная оценка воздействия алгоритмов для всех автоматизированных решений в госуправлении. Чаще всего (45 из 200 рассмотренных кейсов) ИИ внедряют в госуслугах – например, в Греции ИИ «читает» и анализирует документы на регистрацию недвижимости, что ускорило оценку таких сделок с нескольких месяцев до 10 минут. На втором месте по популярности – ИИ в открытом правительстве и взаимодействии государства с гражданским обществом. Например, в Архив Европарламента внедрили ИИ для помощи в поиске и анализе документов из архива. Также, ИИ часто используется в судебной деятельности, например, в Бразилии Верховный суд внедрил ИИ для первичного рассмотрения заявлений на предмет того, соответствуют ли они требованиям, и можно ли смотреть заявления по содержанию (например, подан ли достаточный пакет документов). Время рассмотрения заявлений в итоге сократилось с более чем 40 минут до нескольких секунд.

Опыт России

В России этические принципы разработки и внедрения систем ИИ заложены на уровне «мягкого» регулирования для отдельных отраслей. В Мониторинге № 7 (19) мы уже рассказывали о Кодексе этики ИИ на финансовом рынке Банка России. Также Альянс в сфере ИИ (входят Яндекс, VK, Сбер и др.) разработал добровольные кодексы: общий Кодекс этики ИИ, Кодекс этики в медицине, Декларацию по генеративному ИИ и др. Перечисленные документы частично повторяют Руководство ОЭСР по ИИ 2019 г.

Также в 2025 г. Правительство РФ инициировало эксперимент по применению генеративного ИИ в госуправлении: Минцифры разработает методические рекомендации и правила его проведения (включая критерии к сервисам и ограничения по сценариям применения), участие предусмотрено для федеральных и⁴ региональных органов. Представляется, что в ближайшие 1-2 года Россия перейдет от мягкого регулирования к базовым обязательным требованиям для ИИ в госуправлении и в отдельных секторах (например, транспорт, финансы, медицина). На базе эксперимента по генеративному ИИ Минцифры может оформить типовые методики: испытания систем ИИ перед выпуском на рынок, процедуры управления инцидентами, механизмы рассмотрения жалоб. Могут также внедряться отраслевые рекомендации (чек-листы для управления рисками систем ИИ по аналогии с финансовыми услугами, например, в сфере транспорта).

Материал из выпуска мониторинга №9 (21), сентябрь 2025. Скачать выпуск целиком (PDF) · страница выпуска на сайте Института Гайдара