Эксперт Таран объяснил, как внедрить в компании ИИ без риска утечки данных
Эксперт Таран рекомендовал обезличивать данные перед отправкой документов в нейросеть.
istockphoto.com
Использование нейросетей в компании для подготовки документов, анализа данных и автоматизации рутинных задач может привести к утечке данных. Об этом в беседе с «Известиями» заявил эксперт Сергей Таран.
По его словам, главный риск заключается не в самом использовании ИИ, а в отсутствии понятных правил работы с информацией. При загрузке данных в нейросеть компания теряет контроль над тем, где они хранятся и кто может получить к ним доступ.
При внедрении ИИ первым этапом должна стать инвентаризация данных. Компании стоит разделить информацию на категории: общедоступную, внутреннюю и сведения ограниченного доступа, куда входят персональные данные и коммерческая тайна. Для каждой группы документов должны действовать свои правила.
Персональные данные клиентов и сотрудников, сведения о сделках и критически важная информация, как подчеркнул эксперт, не должны попадать в открытые внешние сервисы без соответствующих правовых и технических оснований. Эффективным подходом для обращения с личными данными Таран назвал создание корпоративного ИИ-сервиса с разграничением прав доступа, журналом действий и настройками, которые запрещают использование внутренней информации для обучения сторонних моделей.
Таран указал, что алгоритму для выполнения задачи не всегда нужен полный документ или база информации. При анализе обращения клиента, например, можно убрать все персональные сведения, заменить реальные данные условными обозначениями.
Он рекомендовал компаниям объяснить сотрудникам, какие сервисы разрешены, какие сведения можно использовать в запросах к нейросетям, как правильно обезличивать данные и куда обращаться при ошибках.
ИИ-эксперт Надежда Широглазова рассказала «Газете.Ru», что ChatGPT запоминает личные разговоры через функцию Memory.
«Например, ChatGPT может учитывать имя человека, его профессию, место работы или учебы, город проживания, интересы, текущие проекты, предпочтительный формат ответов и личные обстоятельства», – пояснила эксперт
По ее словам, благодаря этому, в каждом новом разговоре не нужно заново объяснять, кто вы, над чем работаете и почему принимаете то или иное решение. При этом нейросеть сама решает, будет ли информация полезна для будущих разговоров и стоит ли ее запоминать. В результате нередко ChatGPT не сохраняет действительно нужный факт, а иногда придает значение случайной детали.
Чтобы максимально полно удалить переписку недостаточно удалить исходный чат. Нужно убрать обычные и архивированные чаты, а иногда даже проверить загруженные файлы и подключенные приложения.
Для чувствительных разговоров Широглазова посоветовала использовать Temporary Chat. Он не создает новую память, не использует существующую персонализацию, не появляется в истории и не используется для обучения моделей. Однако в целях безопасности его копия может храниться до 30 дней.
Эксперт рекомендовала не отправлять в ИИ пароли, коды подтверждения, приватные ключи, полные номера документов и банковских карт.
Ранее эксперт Зыков назвал ИИ одновременно благом и угрозой для человечества.