📘
HABR
Почему ИИ-боты более уязвимы, чем их базовые LLM-модели?
📅 Дата публикации
Tue, 19 May 2026 10:35:10 GMT
📄 Содержание
В прошлой статье я показал, как защищен Open Source проект телеграм-бота. В комментариях меня спросили о иных инструментах и методах проверки в связи с чем, мы вышли к ключевому вопросу: почему, если основная LLM защищена, кастомные боты на ее основе остаются уязвимыми?Базовые LLM проходят отдельное safety-training и RLHF-выравнивание. Но production-бот, построенный поверх модели, добавляет новый attack surface: system prompts, память диалога, RAG, tools, webhook-логику и внешние API. Именно этот orchestration layer часто становится слабым местом. Вот данные:Из анализа 14 904 кастомных GPT: Читать далее
🔗 Источник