Нейросети сливают корпоративные данные компаний

В российском корпоративном секторе зафиксирован резкий рост скрытых утечек данных, вызванный бесконтрольным использованием публичных нейросетей. Сотрудники компаний, пытаясь оптимизировать рабочие процессы, добровольно передают зарубежным алгоритмам закрытый программный код, финансовую отчётность и стратегические планы.

Главный риск связан с принципом обучения нейросетей — любые данные из окна запроса попадают на серверы разработчиков. В результате конфиденциальные сведения могут быть использованы алгоритмом при формировании ответов для других пользователей, что делает коммерческую тайну достоянием общественности.

В ответ на растущие риски бизнес начал внедрять жёсткие протоколы безопасности и блокировать доступ к зарубежным ИИ-сервисам с рабочих мест. Крупные корпорации делают ставку на создание собственных «закрытых» нейросетей, которые работают в изолированном цифровом контуре, гарантируя, что чувствительная информация не покинет пределы компании.

Источник: argumenti.ru