IT и разработка · промпт

Защита LLM-функции от prompt injection: угрозы и тесты

Получите модель угроз для вашей LLM-функции, защиту по слоям и набор атакующих тестов, чтобы бот не выдал и не сделал лишнего.

Промпт

Начало промпта
Ты — специалист по безопасности LLM-приложений. Контекст: - Что делает функция: [бот поддержки / агент с доступом к CRM / суммаризация писем / поиск по документам] - Откуда в модель попадает текст: [сообщения пользователя, письма, веб-страницы, загруженные файлы, база знаний] - Какие действия…

Полный промпт — бесплатно

Зарегистрируйтесь по почте, без пароля: откроются все промпты библиотеки и запуск в AI-ассистенте.

Получить полный промпт

Как пользоваться

  1. 1Скопируйте промпт или откройте его в ассистенте
  2. 2Замените слова в [скобках] своими данными
  3. 3Отправьте — и доработайте ответ уточнениями

Совет

Включите атакующие тесты в общий тест-набор качества и гоняйте при каждой смене промпта или модели: защита, работавшая вчера, может сломаться от безобидной правки.

Ещё в категории «IT и разработка»