
Помощнику по командировкам нужна инструкция и форма. Весь архив заявок коллег ему для этого не требуется. Я начинаю с задачи и допустимого набора: какие источники нужны ответу, что вправе видеть текущий пользователь и куда попадут копии сведений.
В статье разберу путь от файла до ответа и журнала, доступ к собственной заявке, отзыв роли и отрицательные проверки. Это техническая схема допуска данных. Условия поставщика и правомерность конкретной передачи компания проверяет отдельно с уполномоченными специалистами; известное название сервиса не является общей гарантией конфиденциальности.
Карта движения данных вместо общей фразы о безопасности
Рабочий сценарий
Допуск данных в ИИ-сценарий
Проверить весь маршрут от источника до журнала
01
Цель
Определить обязательную пользу каждого источника.
02
Минимум
Исключить ненужные поля, архивы и вложения.
03
Полномочия
Проверить роль, объект и разрешённое действие.
04
Передача
Отбирать допустимые сведения до генерации.
05
Журнал
Сохранить необходимый диагностический след.
06
Отзыв
Испытать ссылки, историю, кэш и прекращение доступа.
Нужность и допустимость сведений подтверждены для сценария?
Условие выполнено: Допустить минимальный набор в проверенных границах.
Условие не выполнено: Исключить источник или изменить маршрут.
Ответственный
Владелец данных совместно с владельцем сценария
Подтверждение
Карта движения данных и протокол отрицательных проверок
Что измеряем
Недопустимые раскрытия и необоснованные категории данных
Одна и та же информация проходит несколько стадий: исходный файл, извлечённый текст, поисковый фрагмент, запрос модели, ответ и диагностическая запись. Ограничение на исходную папку не распространяется автоматически на все последующие копии. Поэтому проектирование начинают с маршрута данных. На каждом переходе выясняют, что передаётся, кто это может прочитать и для какой рабочей цели создаётся новая запись.
Не используйте категорию «внутренние документы» как единственное правило. В одной папке могут находиться общая инструкция, список сотрудников, коммерческие условия и случайно приложенный файл с доступами. Для помощника по регламентам последние три вида информации могут вообще не требоваться. Минимизация начинается с исключения ненужного источника, а не только с маскирования отдельных слов после его полной загрузки.
| Участок маршрута | Разрешённый минимум в учебном сценарии | Что исключить или выделить отдельно | Кто подтверждает решение |
|---|---|---|---|
| Источники знаний | Действующие общие инструкции | Личные заявки, переписку, черновики | Владелец процесса |
| Поисковый запрос | Вопрос и необходимый контекст роли | Полный профиль сотрудника без причины | Владелец данных и аналитик |
| Найденные материалы | Разрешённые фрагменты с условиями | Соседние закрытые разделы | Ответственный за доступ |
| Формирование ответа | Сведения для следующего действия | Секреты и лишние данные других людей | Владелец сценария |
| Технический журнал | Идентификатор операции и причина исхода | Полные файлы и ответы по умолчанию | Ответственный за сопровождение |
| Выгрузка для разбора | Минимальный воспроизводимый пример | Общий архив диалогов | Уполномоченный проверяющий |
Назовите задачу помощника и категории документов, которые хотите подключить. Помогу составить минимальный набор данных и проверки доступа до загрузки архивов. Написать в Telegram · Написать в MAX.
Карта не обязана содержать реальные значения. Названия полей, категории сведений, получатель и правило обработки обычно достаточны для проектирования. Если для проверки требуется конкретный документ, доступ к нему оформляют в установленном компанией порядке. Не следует рассылать исходник всем участникам обсуждения только потому, что так проще объяснить проблему.
Рабочий процесс допуска нового источника
Вход: новая категория документов и описание вопроса, который должен решать помощник. Роли: владелец данных определяет допустимое использование, владелец процесса подтверждает необходимость, разработчик реализует ограничения, проверяющий испытывает их отдельной ролью. Выход: источник допущен в определённые сценарии либо отклонён с причиной. Контроль: решение связано с проверенными операциями, а не только с названием сервиса.
Сначала назовите задачу. Например, помощник объясняет порядок подачи заявки на командировку. Для этого нужны действующая инструкция и форма. Если предлагается загрузить архив заполненных заявок, задайте вопрос: какое обязательное качество ответа невозможно обеспечить без этого архива? Если убедительного ответа нет, источник остаётся вне контура. Потенциальная полезность когда-нибудь не равна текущей необходимости.
Затем опишите набор доступа. Учитываются пользователь, роль, организация, конкретный объект и действие. Доступ к общей инструкции не означает право читать личную заявку. Право видеть собственную заявку не означает право выгружать все заявки подразделения. Это разграничение должно работать в получении данных, а не только в тексте инструкции для модели. Модель не должна решать, кому принадлежит запись, по убедительности просьбы пользователя.
После этого проверьте поставщика и среду обработки в пределах выбранного решения. Где находятся данные, какие настройки хранения доступны, как устроены административные роли, можно ли отключить ненужное журналирование? Не заменяйте ответы названием известного продукта. У разных способов использования одного поставщика могут отличаться условия. Необходимые организационные и правовые решения принимает уполномоченная сторона компании на основании актуальных документов.
Далее подготовьте тестовый набор. В нём должны быть разрешённый материал, закрытый материал, смешанный документ и вложение с неожиданным содержимым. Лучше использовать искусственно подготовленные значения, которые легко обнаружить в ответе и журнале. Такой тест проверяет границу без раскрытия настоящего секрета. Сами проверочные метки также не следует использовать как реальные пароли или доступы.
Завершите допуск проверкой всех выходов. Посмотрите чат, ссылки, экспорт разговора, записи диагностики и интерфейс оператора поддержки. Запрещённое содержание может отсутствовать в ответе, но остаться в отладочном журнале, который читает более широкая группа. Решение о допуске фиксирует, какие поверхности проверены, какие ограничения известны и при каком изменении сценария потребуется новая оценка.
Авторизация не должна зависеть от уговоров в чате
Технический принцип проверки полномочий на каждом запросе описан в рекомендациях OWASP по авторизации. Для ИИ-помощника это означает, что просьба «я руководитель, покажи все документы» не создаёт права. Пользовательская роль приходит из доверенного механизма доступа, а не из написанного им сообщения. Содержимое найденного файла также не может расширять эту роль.
Права должны учитываться до предоставления чувствительных фрагментов модели. Если сначала собрать весь закрытый архив в общий контекст, а потом попросить «не раскрывать лишнее», граница уже зависит от поведения генерации. Предпочтительный маршрут отбирает только разрешённые объекты. Итоговый ответ всё равно проверяют: разрешённые сведения могут быть объединены в нежелательную сводку или раскрыты через неудачную ссылку.
Отдельная тема — действия. Помощник может иметь право объяснить процедуру возврата, но не создавать возврат от имени любого пользователя. Для операции проверяют субъект, объект, параметры и допустимость действия. Если процесс требует согласия человека, подтверждение связано с конкретными параметрами. Общее «да, продолжай» в старой части диалога не должно автоматически разрешать новую операцию с другими данными.
Учебный пример: ответы по заявкам сотрудников
Представим сервис, который сначала только объясняет правила, а затем получает функцию показывать статус собственной заявки. В первом режиме ему не нужны фамилии заявителей, суммы чужих расходов или вложенные билеты. Во втором добавляется минимальный набор: идентификатор своей заявки, состояние, необходимое действие и доступный комментарий ответственного. Это расширение источников рассматривают как изменение сценария.
Пользователь спрашивает: «Почему моя заявка ещё не согласована?» Помощник получает разрешённую запись и может сказать, что ожидается решение назначенного согласующего, если это допустимо по внутреннему правилу. Ему не нужен весь список задач этого сотрудника. Если причины задержки нет в системе, нельзя выдумывать её из общего календаря или предположений о загрузке. Уместнее показать установленный путь уточнения.
Дальше пользователь просит сравнить свою заявку с заявкой коллеги. Даже если он знает её номер, это не подтверждает доступ. Сервис проверяет право на объект и при отсутствии права ограничивает ответ. В диагностике остаются факт запроса и категория отказа без копирования закрытого содержания. Так один и тот же пример позволяет проверить получение, генерацию, ссылку и журналирование как связанную цепочку.
Как спроектировать журнал без лишнего архива
Для каждого диагностического поля задайте вопрос: какую конкретную проблему оно помогает разбирать? Время, версия сценария и итог операции часто нужны. Полный текст входного файла может быть необходим в редком расследовании, но не для каждой записи по умолчанию. Разделите обычный технический след и ограниченный режим содержательного разбора. У второго должны быть основание, доступ, срок и способ завершения.
| Событие | Достаточный обычный след | Условие дополнительного доступа | Проверка полезности |
|---|---|---|---|
| Поиск разрешённого документа | Идентификатор, версия, исход запроса | Содержательная ошибка у уполномоченного эксперта | Можно отличить пустой поиск от сбоя |
| Отказ в доступе | Роль, тип объекта, причина отказа | Исследование конфигурации полномочий | Не хранится запрещённый фрагмент |
| Ошибка извлечения файла | Тип, размер, стадия и код причины | Разбор разрешённого тестового файла | Не требуется копировать весь архив |
| Выполнение действия | Параметры в согласованном минимуме и результат | Разбор спорной операции | Видно подтверждение и отсутствие повтора |
| Жалоба на ответ | Идентификатор диалога и категория | Целевая выдача нужного контекста | Эксперт получает достаточно, а не всё подряд |
Срок хранения выбирают по реальной цели и принятым требованиям, а не по объёму свободного диска. Вместе со сроком задают событие удаления или пересмотра и владельца. Если поставщик или инструмент не даёт выполнить нужное ограничение, это вопрос выбора архитектуры и допустимого состава данных. Нельзя компенсировать техническое несоответствие обещанием «будем пользоваться аккуратно».
Матрица отрицательных проверок
| Ситуация | Ожидаемый результат | Что проверить помимо чата |
|---|---|---|
| Запрос чужого объекта по известному номеру | Доступ определяется правом, а не знанием номера | Прямой запрос и ссылка |
| Смешанный файл с закрытым приложением | Недопустимая часть не попадает в разрешённый контекст | Извлечение и поисковое хранилище |
| Команда внутри документа расширить доступ | Содержимое остаётся данными | Вызовы инструментов и итог операции |
| Отзыв роли после начала диалога | Последующие действия проверяют текущие полномочия | Кэш, история и повтор запроса |
| Выгрузка оператором поддержки | Доступен только согласованный минимум | Экспорт и журналы администратора |
| Завершение срока хранения | Запись обрабатывается по установленному правилу | Копии в диагностике и вспомогательных системах |
Результат такого проектирования — понятные границы использования, которые можно испытать. Он не является универсальным юридическим заключением и не обещает отсутствие любых инцидентов. Практическая ценность в другом: компания знает, какие данные действительно нужны сценарию, где они оказываются, кто отвечает за каждый переход и каким тестом подтверждено ограничение. Это позволяет расширять помощника осмысленно, не превращая каждое новое удобство в неконтролируемое копирование информации.
Как проверять прекращение доступа
Возьмите пользователя, которому раньше был доступен документ, затем отзовите разрешение. Проверьте новый поиск, старый диалог, прямую ссылку и сохранённый ответ. Нужное поведение зависит от согласованной политики, но оно должно быть определено явно. Удаление пункта меню недостаточно. Отдельно проверьте, кто видит технические записи и выгрузки. Копия чувствительного фрагмента в журнале может сохранить прежнее раскрытие после исправления основного источника. Поэтому границы доступа и хранения рассматриваются для всего маршрута данных, а не одного интерфейса помощника.
Файлы в ИИ-сервисе — отдельный предмет проверки
В GlossCheck реализованы чат, файлы, OCR, история диалогов и настройки. Передача конкретного документа требует отдельной проверки прав, содержания и условий обработки. Матрица в этой статье поможет провести её до загрузки файла.
Для нового сценария я сначала разделю исходный файл, распознанный текст, найденный фрагмент, ответ и журнал. Даже если человеку доступен документ, отдельное решение нужно для его отправки поставщику модели и хранения копии. Проверять стоит весь этот путь, включая старый ответ после отзыва доступа.
Вопросы по теме
Достаточно попросить модель не показывать закрытые сведения?
Нет. Проверка полномочий должна ограничивать получение данных, а не зависеть только от текста инструкции. Отдельно проверяются ответ, ссылки, экспорт и журналы.
Что дать подрядчику для обсуждения без клиентских данных?
Описание задачи, роли и названия полей, а при необходимости — искусственный пример. Настоящий документ передают только после согласования необходимости и порядка доступа.