В России разработают критерии проверки ИИ на соответствие закону и духовным ценностям
Введение обязательного тестирования ИИ-моделей на соответствие идеологическим критериям может увеличить административную нагрузку на российских разработчиков (Яндекс, Сбер, МТС). Однако доступ к господдержке для «национальных» моделей создает стимул для крупных игроков адаптироваться к новым правилам, что в долгосрочной перспективе может консолидировать рынок в пользу компаний с ресурсами на комплаенс.
В России разработают критерии проверки отечественных ИИ на соответствие закону и духовным ценностям Российские IT-компании смогут проверять свои модели на соответствие законодательству и традиционным духовно-нравственным ценностям, пишут «Ведомости». Для этого планируется создать независимые испытательные лаборатории. Порядок подтверждения соответствия ИИ-моделей нужным критериям определит Правительство, а в подготовке документов примут участие Минцифры, ФСБ и Федеральная служба по техническому и экспортному контролю (ФСТЭК). Проверять модели планируют с помощью специальных тестов. Положительное заключение станет одним из этапов для получения моделью статуса национальной, что в дальнейшем позволит претендовать на меры господдержки, сообщает источник издания. Тестирование поможет выявлять перекосы в ответах ИИ и донастраивать модель так, чтобы она могла показывать разные точки зрения, заявил в разговоре Readovka директор Исследовательского центра ИИ ИОН РАНХиГС Сергей Боловцов. Эксперт отмечает, что сформировать критерии оценки вполне реально на основе Большой российской энциклопедии или новых учебников по истории Мединского и обществознанию Медведева. Современные инструменты позволяют создавать на основе таких источников специальные тесты и проверять, насколько ответы модели смещены в ту или иную сторону. При этом даже успешное прохождение тестов не гарантирует, что в реальном использовании ИИ всегда будет отвечать так же. На поведение модели могут повлиять персонализация, история запросов или промпт-инъекции. По словам Боловцова, решить проблему помогут системы активного мониторинга: если они зафиксируют отклонение от базовых настроек, модель можно будет оперативно вернуть к исходному состоянию. Регулирование не должно тормозить развитие технологий или превращаться в поиск виноватых, подчеркнул эксперт. По его мнению, при выявлении проблем разработчиков достаточно уведомлять о слабых местах модели и давать им возможность оперативно их исправить. 🎉 Подписывайся на Readovka в МАКС