Новый закон станет основой для разделения моделей по уровню самостоятельности и происхождения, а также может повлиять на государственные закупки и использование ИИ в чувствительных сферах. Эксперты считают, что следующим важным этапом станет создание прозрачных правил оценки и контроля качества нейросетей.
ИИ под контролем
Первый российский закон об искусственном интеллекте, подписанный президентом Владимиром Путиным 26 июля, создает основу для нового этапа развития отечественных технологий. Как рассказал в колонке для Forbes генеральный директор Института AIRI Иван Оселедец, документ запускает процесс формирования правовой архитектуры рынка ИИ – от определения статуса разработчиков до критериев национальных и суверенных моделей.
Закон появился на фоне глобальной конкуренции за технологии искусственного интеллекта. Крупнейшие страны стремятся не только развивать собственные нейросети, но и установить правила их использования, поскольку ИИ становится частью критически важных сфер – от промышленности и финансов до государственного управления и обороны.
Россия определяет требования к собственным ИИ-моделям
Одной из главных задач нового регулирования станет поддержка разработки отечественных фундаментальных моделей. Речь идет о больших языковых системах, которые создаются с нуля и способны решать широкий спектр задач без привязки к конкретному приложению.
По мнению Ивана Оселедца, создание таких технологий необходимо, даже если их непосредственная экономическая отдача пока ограничена. Фундаментальные модели становятся базовым уровнем цифровой инфраструктуры, на котором строятся многочисленные сервисы и бизнес-процессы.
Мировой опыт показывает, что государства стремятся контролировать развитие подобных технологий. В США разработчики крупнейших ИИ-систем активно взаимодействуют с властями по вопросам регулирования. В Евросоюзе действует комплексный закон EU AI Act, который устанавливает требования к системам искусственного интеллекта в зависимости от уровня риска.
Китай выбрал другой подход – там вводятся специальные правила для отдельных направлений, включая рекомендательные алгоритмы и генеративный ИИ.
Россия ранее также формировала базу для регулирования отрасли. В 2019 году была утверждена Национальная стратегия развития искусственного интеллекта, а в 2020 году в Москве начал действовать экспериментальный правовой режим для тестирования ИИ-технологий.
Суверенный и национальный ИИ могут разделить рынок
Одним из ключевых вопросов станет определение того, какие модели смогут получить статус российских. По мнению экспертов, в будущем может появиться различие между суверенными и национальными системами искусственного интеллекта.
Суверенный ИИ предполагает полный цикл разработки внутри страны – от создания архитектуры до обучения модели на собственных вычислительных мощностях и данных. Национальные модели могут включать технологии, созданные на основе зарубежных решений или адаптированные под российские задачи.
Такое разделение может стать важным фактором для государственных проектов и отраслей, где требуется максимальный контроль над технологиями.
Сейчас в России полноценную разработку крупных фундаментальных моделей с нуля ведет прежде всего "Сбер" со своим проектом GigaChat. У "Яндекса" также есть собственные языковые модели, однако часть современных решений компании связана с использованием и адаптацией зарубежных технологий.
Главным испытанием станет качество российских нейросетей
Новый закон направлен не только на классификацию моделей, но и на повышение их конкурентоспособности. Российским разработчикам придется доказывать, что отечественные решения способны конкурировать с ведущими мировыми системами.
Одной из проблем остается качество обучения моделей. Большие языковые системы анализируют огромные массивы информации, значительная часть которой представлена на английском языке. Это влияет на особенности работы нейросетей и может приводить к определенным культурным или языковым особенностям ответов.
Для решения этой проблемы эксперты предлагают создавать специальные системы оценки – бенчмарки, которые позволят проверять возможности моделей по единым критериям.
Также может появиться практика создания так называемых red-team – независимых групп специалистов, которые будут специально искать ошибки и уязвимости искусственного интеллекта.
Такой подход уже используется крупнейшими мировыми разработчиками ИИ. Перед запуском новых моделей компании проводят стресс-тестирование, чтобы выявить опасные сценарии использования технологий.
После закона потребуются четкие правила оценки моделей
Сам закон задает только общие рамки, а основные механизмы должны появиться в подзаконных актах. Именно они определят, как будет проходить признание той или иной ИИ-модели.
Среди возможных механизмов рассматриваются сертификация, регистрация или специальная аккредитация разработчиков. Важным вопросом станет и то, какой государственный орган будет отвечать за оценку технологий.
Кроме того, потребуется определить правила последующего контроля. Например, должна ли модель регулярно проходить повторную проверку после запуска, кто будет отслеживать изменения в ее работе и при каких условиях статус системы может быть пересмотрен.
От прозрачности этих процедур будет зависеть привлекательность российского рынка ИИ для разработчиков и инвесторов.
Новый этап конкуренции за искусственный интеллект
Принятие первого закона об ИИ показывает, что искусственный интеллект становится не только технологическим, но и стратегическим ресурсом. Страны конкурируют не только за создание более мощных моделей, но и за контроль над инфраструктурой их разработки и применения.
Для России ключевой задачей станет поиск баланса между регулированием и развитием отрасли. Слишком жесткие ограничения могут замедлить внедрение технологий, а отсутствие правил создает риски для безопасности и доверия пользователей.
В ближайшие годы главным вопросом станет не только появление новых российских нейросетей, но и способность создать полноценную экосистему вокруг них – с собственными специалистами, вычислительными ресурсами, стандартами качества и понятными правилами работы.
Андрей Лапин, ТКС.РУ
Общение: 