Промпт-инжиниринг в информационной безопасности. Как искусственный интеллект станет вашим союзником. Константин Михайлович Саматов

ошибки:

      Расплывчатые глаголы: «Проверь», «Проанализируй», «Улучши».

      Решение:

      Заменяйте на конкретные действия: «Сравни с базой MITRE ATT&CK», «Классифицируй по CVSS», «Сгенерируй пошаговый план».

      3. Ограничения: Чего AI делать не должен?

      Без ограничений AI может предлагать нереалистичные решения или нарушать политики безопасности.

      Примеры:

      Технические ограничения: «Не предлагать решения, требующие обновления программного обеспечения: наша система работает на Windows Server 2012».

      Бюджетные ограничения: «Максимальная стоимость внедрения – 500 000 рублей» или «Предлагай только Open Source. Не предлагай коммерческие инструменты».

      Организационные оганичения: «Не использовать внешние сервисы для обработки данных. Все решения должны работать внутри нашего периметра».

      Кейс из практики:

      Промпт без ограничений: «Напиши политику паролей для сотрудников».

      Результат выполнения промпта представлен на рисунке 1.

      Рисунок 1. Результат выполнения промпта

      Модель AI предложит 12 символов, возможно биометрию или многофакторную аутентификаци, но у вас, к примеру, есть промышленные системы поддерживающие только 8 символов.

      Промпт с ограничениями: «Учитывай: 1) Максимальная длина пароля – 8 символов. 2) Нет поддержки двухфакторной аутентификации.»

      Результат выполнения скорректированного промпта представлен на рисунке 2.

      Рисунок 2. Скорректированный результат

      4. Формат ответа: Как вы хотите получить результат (в какой форме)?

      Модель AI может выдать ответ в виде эссе, таблицы или пошагового руководства. Ваш выбор формата сэкономит часы на обработке данных.

      Примеры:

      Для анализа логов: «Ответ предоставь в виде таблицы с колонками: Время события\IP-источник\Уровень угрозы (низкий/средний/высокий) \Рекомендуемое действие».

      Для аудита политик: «Создай чек-лист соответствия 152-ФЗ в формате: Требование\Наш статус (соответствует/не соответствует) \Комментарий».

      Результат выполнения промпта представлен на рисунке 3

      Рисунок 3. Результат выполнения запроса по созданию чек-листа

      На рисунке 3 обратите внимание, что так как не было задано условие оставить колонку «наш статус» пустой, модель сама поставила везде статус «соответствует».

      Для генерации отчётов: «Напиши executive summary на 1 страницу. Структура: Основные угрозы за квартал. Топ-3 инцидента. Рекомендации для руководства».

      Вы можете использовать шаблоны, которые уже работают в вашей компании. Если вы привыкли к определённому формату отчётов – просто скопируйте его структуру в промпт.

      1.3. Где промпт-инжиниринг применяется в ИБ

      Промпт-инжиниринг, активно используется в информационной безопасности для повышения эффективности работы с искусственным интеллектом и решения сложных задач. Вот основные области применения