Контекст
«Яндекс» готовит тесты для ИИ на соответствие духовно‑нравственным ценностям.
На августовском совещании по регулированию ИИ компания представила властям концепцию тестовых заданий и эталонов для проверки ИИ на соответствие ценностям страны.
По словам участника совещания и близкого к Минцифры источника.
Такие тесты призваны оценивать соответствие ИИ духу времени и ценностям страны, сообщил источник.
Детали: пока проект находится на стадии концепции.
На совещании ФСБ настаивала на том, чтобы данные для тестов не становились публичными и чтобы разработчики не могли легко настроить модели под тесты.
Представитель бизнеса отметил, что закрытый датасет может быть слишком сложным для прохождения и помешать быстрому развитию моделей. Был предложен компромисс: для тестирования будут использовать и закрытые, и открытые данные с разными формулировками вопросов.
В конце июля президент подписал закон о суверенных и национальных моделях искусственного интеллекта. Такие модели должны соответствовать законам России и духовно‑нравственным ценностям.