МОСКВА, 17 авг -. Слепое доверие к искусственному интеллекту может усугублять риск утечки данных, поскольку системы их предотвращения (DLP) действуют только внутри корпоративного периметра, рассказал руководитель направления по анализу безопасности компании «Криптонит» Борис Степанов.
«Слепое доверие к ИИ-агенту, который выглядит как безопасный диалог, лишь усугубляет ситуацию. В корпоративном секторе проблему пытаются решить с помощью систем предотвращения утечек (DLP), которые блокируют передачу чувствительных данных. Однако технически важно понимать: эта защита действует только внутри корпоративного периметра», — сказал Степанов информационному порталу РИАМО.
По словам эксперта, главная причина беспечности — «цифровая лень», желание получить готовый результат без редактирования исходников. Пользователи массово раскрывают конфиденциальные сведения, воспринимая нейросети как безобидных ассистентов, отметил Степанов. Он пояснил, что если сотрудник выходит в сеть с личного устройства, DLP бессильна, а осознанный обход защиты для быстрой отправки файла может классифицироваться как грубое нарушение и привести к увольнению.
Специалист также опроверг миф о том, что для защиты достаточно удалить названия компаний и имена: злоумышленники могут восстановить контекст по внутренним кодам, должностям или терминологии. Даже в обезличенном тексте нередко сохраняются ноу-хау и бизнес-логика, составляющие коммерческую тайну, подчеркнул Степанов.
«Использовать ИИ на работе не запрещено, но делать это нужно с умом, соблюдая базовые правила цифровой гигиены. Первое, что нужно выяснить перед началом работы, — есть ли в компании безопасная корпоративная версия ИИ-помощника, развернутая внутри защищенного контура. Категорически нельзя загружать документы с любыми ограничительными пометками («конфиденциально», «секретно» и т. д.) или содержащие персональные данные», — отметил специалист.
Степанов также порекомендовал перед использованием нейросети отключать в настройках сохранение чатов и использование данных для обучения модели, а также всегда перепроверять ответы, так как нейросетям свойственно ошибаться.
Источник: РИА