Из 12 тысяч проанализированных в первом полугодии обращений из 150 компаний к открытым ИИ 43% пришлись на запросы от разработчиков, а 41% передаваемого материала — это исходный код, информирует ТАСС.
Коммерция и HR тоже в зоне риска
Помимо команд разработки, другие большие группы сотрудников, передающих приватные данные ИИ — коммерческие подразделения (26%), а также HR, финансовые специалисты, аналитики и маркетологи (23%). Коммерческий блок делится с искусственным интеллектом условиями сделок, историей переговоров, договорами и базами клиентов. Другие отделы отправляют таблицы, внутренние отчеты, презентации и документы с персональными данными. В топе передаваемых ИИ данных сразу после исходного кода идут персональные и финансовые данные с долей 30%.
Почему сотрудники передают данные в ИИ
В целом, по подсчётам "Солара", 38% обращений к ИИ содержат приватные данные. Масштаб проблемы значительно шире: за последний год объём корпоративной информации, отправляемой в публичные ИИ-сервисы, вырос в 30 раз. При этом около 60% российских организаций не имеют формализованных политик, регулирующих работу с ИИ, что создаёт критические риски для бизнеса.
Разработчики передают ИИ исходный код или информацию об ошибках, чтобы найти причину сбоев. Однако вместе с этими данными к ИИ может попасть приватная информация о внутренних системах и архитектуре. Сотрудники неосознанно становятся каналом утечек, стремясь оптимизировать работу: анализ данных, составление саммари, написаниe кода — рутинные задачи, для которых они используют доступные ИИ-инструменты.
Какие риски несут утечки через ИИ
Половина российских компаний (50,5%) либо подозревает утечки конфиденциальных данных через ИИ-инструменты, либо уже зафиксировала такие инциденты. Попадая в публичные сервисы, конфиденциальная информация может использоваться для обучения моделей, а условия предоставления сервисов зачастую предполагают сохранение и использование переданных данных в коммерческих целях.
Главная неудовлетворённая потребность в области безопасности ИИ — развитие компетенций и внутренних регламентов: 63,6% компаний отметили нехватку обучения сотрудников и разработки внутренних политик AI Security. При этом специалисты предупреждают: в программном обеспечении, созданном только с помощью ИИ, содержится в 15 раз больше уязвимостей, чем в написанном человеком.
Разработчики — главный канал утечек корпоративных данных через ИИ, на их долю приходится 43% обращений и 41% передаваемого кода. В условиях роста объёма таких утечек в 30 раз бизнесу необходимо внедрять чёткие политики использования ИИ, обучать сотрудников и контролировать передачу конфиденциальной информации в открытые сервисы. Игнорирование этой проблемы грозит не только утечками, но и юридическими рисками, включая штрафы до 20 млн рублей за утечку биометрических данных.
Андрей Лапин, ТКС.РУ
Общение: 