Разделите публичное и внутреннее
У посетителя сайта не должно быть доступа директора компании. Разделите базы и сценарии, даже если интерфейсы похожи. Публичные материалы должны быть утверждены для этой аудитории. Не используйте частные документы для демонстрации без проверки прав и назначения.
Соблюдайте права пользователя
Определите роли и проверяйте права до получения данных. Знание ответа не даёт помощнику права расширять доступ человека. Проверьте смену роли, выход из системы и ссылки на закрытые документы. Ограничение должно работать на сервере и в источниках, а не только скрывать кнопки.
Ограничьте инструменты и секреты
Разрешайте только операции сценария. Не передавайте секреты в браузер или ответы. Проверьте данные внешним поставщикам и права изменения настроек. Инструкции внутри документа — его содержимое, а не разрешение помощнику выполнять действия.
Проверяйте соблюдение границ
Предусмотрите полезный журнал вопросов, источников и действий с согласованным хранением и доступом. Проверьте попытки получить данные другой роли. Определите отзыв доступа и расследование неверного раскрытия. Формулировка «безопасный AI» не заменяет такие проверки.
Главное
- Ответы должны соблюдать те же ограничения, что и исходные данные.