Бизнес хочет ИИ-ассистента, а служба ИБ спрашивает, куда уходят данные. Ответ «никуда» не подходит, потому что его нельзя проверить. Подходит ответ, в котором названо, где лежат данные, какие соединения уходят наружу, что пишется в журнал и как всё это проверить.
Ниже пять вопросов, которые стоит задать любому поставщику, прежде чем пускать его систему к документам, обращениям клиентов или коду. К каждому описано, какой ответ можно считать проверяемым.
1. Где лежат данные и где работает языковая модель
Это два разных вопроса, и их часто смешивают. К данным относятся база знаний, запросы пользователей, ответы и журнал. Нужно знать, в каком хранилище и на чьих серверах лежит каждая из этих частей.
Языковая модель может работать в трёх местах. Если открытая модель развёрнута в вашем контуре, запросы его не покидают. Если используется облачная модель по договору компании с её поставщиком, запросы уходят к нему, но это осознанное решение, оформленное договором и записью в межсетевом экране. Если модель работает на стороне поставщика ассистента, запросы вместе с фрагментами документов уходят туда, где компания их не контролирует.
Спросите прямо: какой вариант используется в пилоте, какой в эксплуатации и можно ли переключиться между ними без переделки системы.
В Мозаике языковую модель выбирает заказчик: российскую облачную по своему договору или открытую, развёрнутую в своём контуре. В закрытом контуре без выхода в интернет работает открытая модель внутри него.
2. Какие соединения уходят из контура
Попросите у поставщика список соединений. Для каждого исходящего соединения в нём должны быть адрес, назначение и что именно передаётся. Чаще всего поставщики не упоминают проверку лицензии, телеметрию, проверку обновлений, отчёты об ошибках и обращения к внешней модели.
Проверить список просто: закройте всё, чего в нём нет, и посмотрите, работает ли система. Если без обращения к серверам поставщика она не запускается, лучше узнать об этом до подписания договора.
Отдельно спросите про обновления самой платформы и языковой модели. Кто собирает пакет, как проверяется его подлинность, кто и когда его ставит и можно ли откатиться на прошлую версию.
В Мозаике исходящие соединения из контура — только те, что вы разрешили в своём межсетевом экране; перечень фиксируется в акте готовности контура. Обновления переносит администратор заказчика подписанным пакетом, и когда их ставить, решает заказчик.
3. Что пишется в журнал и кто его читает
Технических логов для ИИ-системы мало. Нужен журнал решений: кто задал вопрос или поставил задачу, на какие источники опирался ассистент, что он ответил или сделал и кто это подтвердил. Без него инцидент не разобрать: видно, что ответ был, но непонятно, почему именно такой.
- Попросите образец записи журнала, а не описание его возможностей.
- Уточните, где хранится журнал и можно ли выгрузить его в ваш SIEM.
- Проверьте, может ли администратор системы удалить или изменить записи и остаётся ли от этого след.
- Договоритесь о сроке хранения — он должен совпадать с вашими требованиями к расследованию инцидентов.
4. Кто получает доступ и через что
Пользователи должны входить через службу каталога компании (LDAP, Active Directory или OIDC), а не через отдельную базу учётных записей поставщика. Тогда увольнение сотрудника и смена роли работают так же, как для остальных систем.
Отдельно проверьте полномочия самого ассистента: что он делает сам, что только после подтверждения человека и чего не делает никогда. Хорошо, если эти границы записаны в настройках и видны в журнале. Если они есть только в презентации, вопросов к поставщику станет больше.
И наконец, доступ поставщика. Инженеры Мозаики заходят в контур только по регламенту компании и с её ведома. Постоянного доступа у них нет.
5. Как 152-ФЗ применяется к нейросетям
Федеральный закон № 152-ФЗ «О персональных данных» не делает исключений для нейросетей. Если ассистент обрабатывает персональные данные из обращений клиентов, записей разговоров или кадровых документов, это такая же обработка, и к ней применяются те же требования. Вот положения закона, о которых стоит помнить:
- Локализация (часть 5 статьи 18). При сборе персональных данных граждан РФ их запись, систематизация, накопление, хранение, уточнение и извлечение ведутся с использованием баз данных на территории России.
- Трансграничная передача (статья 12). Если запросы с персональными данными уходят к модели за рубежом, это трансграничная передача со своим порядком.
- Поручение обработки (часть 3 статьи 6). Если персональные данные обрабатывает внешний поставщик модели по вашему поручению, нужен договор с условиями, которые перечисляет закон.
- Меры защиты (статья 19). Ассистент, который обрабатывает персональные данные, становится частью вашей информационной системы, и меры защиты распространяются на него.
- Автоматизированные решения (статья 16). Решения, порождающие юридические последствия для человека, по общему правилу нельзя принимать только на основании автоматизированной обработки его данных.
Это не юридическая консультация. Статья пересказывает общие положения 152-ФЗ; как они применяются к вашей системе, определяют юристы компании и ответственный за организацию обработки персональных данных.
На практике проще всего с моделью в собственном контуре: данные не покидают его, а вопросы о трансграничной передаче и поручении обработки внешнему поставщику модели не возникают. Облачная модель по договору тоже возможна, но это решение стоит принимать вместе с юристами и до пилота.
Какие документы запросить у поставщика
- Архитектурную схему развёртывания.
- Описание потоков и классификацию данных.
- Матрицу ролей и доступов.
- Модель угроз и меры защиты.
- Процесс обновления и реагирования на инциденты.
- Порядок резервного копирования и восстановления.
- Перечень исходящих соединений, зафиксированный документом.
Отдельно договоритесь о праве провести тест на проникновение на своей сборке. Статусы сертификатов и включения в реестры сверяйте по документам и открытым реестрам.
У Мозаики открыты политика обработки ПДн и ответы на типовой опросник ИБ, остальные документы выдаются по запросу или под NDA. Полный перечень и текущие статусы собраны на странице «Безопасность».
Чего не стоит принимать на веру
- «Данные никуда не уходят», если нет списка исходящих соединений.
- «Модель своя», если нет ответа, где именно она работает.
- «Всё логируется», если нет образца записи журнала.
- «Соответствует 152-ФЗ», если нет описания, какие меры приняты и в какой части системы.
Каждое из этих утверждений может оказаться правдой. Но служба ИБ ставит подпись по документам и проверкам, и одной формулировки для этого мало.