Отдельные рекомендации будут посвящены защите персональных и биометрических данных при работе с нейросетями, а основы цифровой безопасности собираются внедрять в образовательные и корпоративные программы.
Правительство России планирует разработать методы проверки контента на наличие признаков синтетической генерации, включая дипфейки. Соответствующие правила взаимодействия с системами искусственного интеллекта предусмотрены концепцией повышения уровня цифровой грамотности граждан, о которой сообщила пресс-служба правительства. Сообщение Правительства России
Проверка ИИ-контента станет частью цифровой грамотности
В рамках концепции предполагается сформировать специализированный перечень правил работы с системами искусственного интеллекта. Одним из направлений станет разработка методов верификации контента, позволяющих определять признаки его синтетической генерации.
Фактически речь идет о повышении способности пользователей отличать созданные нейросетями изображения, видео, аудио и другие материалы от контента, произведенного человеком. Особенно актуальной такая задача становится по мере распространения генеративных моделей, способных создавать реалистичные материалы, которые трудно отличить от настоящих без специальных инструментов.
При этом утверждение концепции само по себе не означает, что уже введен единый обязательный механизм автоматической проверки всего контента.
Отдельные правила коснутся персональных данных
Еще одно направление – снижение рисков при передаче нейросетям биометрических и других персональных данных.
Это особенно важно для сервисов, которые получают от пользователя фотографии, записи голоса, документы или другие сведения. В случае генеративных систем такие данные могут использоваться не только для выполнения конкретного запроса, но и создавать дополнительные риски с точки зрения конфиденциальности и последующего распространения информации.
Поэтому цифровая грамотность в новой концепции рассматривается не только как умение пользоваться нейросетями, но и как способность безопасно работать с ними.
Обучение начнут с образования
Рекомендации по безопасному поведению в интернете планируется включать в образовательные программы детских садов, школ, колледжей и вузов. Аналогичные материалы предполагается использовать в корпоративном обучении цифровой грамотности.
Отдельно предусмотрено обучение сотрудников, которые регулярно взаимодействуют с гражданами. В перечне названы педагоги, социальные работники, специалисты многофункциональных центров и центров занятости, а также сотрудники банков и операторов связи.
Такой подход показывает, что государство рассматривает распознавание цифровых угроз как массовый навык, а не исключительно как задачу специалистов по информационной безопасности.
Особое внимание уделят детям и пожилым
Премьер-министр Михаил Мишустин поручил при подготовке плана мероприятий уделить особое внимание наиболее уязвимым категориям населения – детям, подросткам и людям старшего возраста.
Для этих групп проблема имеет практическое значение. Дипфейки и другие синтетические материалы могут использоваться в мошеннических схемах, для имитации голоса или изображения знакомого человека, распространения недостоверной информации и социальной инженерии.
Поэтому проверка происхождения контента постепенно становится частью более широкой системы защиты пользователя.
Подход к ИИ смещается от использования к безопасной работе
Российская политика в сфере искусственного интеллекта уже включает задачи повышения компетенций граждан и доверия к технологиям. В Национальной стратегии развития ИИ до 2030 года отдельно закреплены направления, связанные с подготовкой кадров и повышением информированности населения о технологиях искусственного интеллекта.
Новая концепция цифровой грамотности расширяет этот подход практическими навыками: пользователю предстоит не только уметь применять нейросети, но и понимать риски, связанные с получаемым от них контентом и передаваемыми данными.
Для бизнеса это означает постепенное появление новых требований к внутренним правилам использования ИИ. Особенно это актуально для компаний, где нейросети работают с клиентскими данными, изображениями, голосовой информацией или документами.
При этом конкретные технические методы выявления синтетического контента, а также обязательность их применения должны быть определены на следующих этапах реализации концепции.
Ирина Лазарева, ТКС.РУ
Общение: 