Безопасность агентных систем · Практика

Проектирование доверия в MCP-инструментах

Проектирование доверия в MCP-инструментах
Temporary fallback cover; replace in editorial pass.

MCP упрощает подключение моделей к внешним действиям, но сам по себе не отвечает на главный инженерный вопрос: чему именно можно доверять — модели, серверу, аргументам вызова или результату операции?

Продвинутый уровень До 12 минут Обновляемый прототип
Самое важное из мира AI — в канале MAX AgentLabОтдельные разборы, инструменты и практические схемы Читайте Agent Lab в Telegram Разборы, кейсы и новости о практических AI-агентах без лишней воды.

Почему наличие MCP-инструмента не означает безопасность

MCP стандартизирует способ описания и вызова инструментов. Это уменьшает количество интеграционного кода, но не превращает внешний инструмент в доверенный компонент.

Нельзя считать безопасным инструмент только потому, что:

  • его название выглядит понятным;
  • модель получила корректную схему аргументов;
  • сервер работает в локальной сети;
  • пользователь однажды разрешил подключение;
  • результат вернулся без ошибки.

Вызов может быть формально валидным и всё равно не соответствовать намерению пользователя. Например, инструмент delete_file может получить правильный путь, но путь будет выбран из недоверенного контекста ответа модели. Поэтому граница доверия должна проходить не вокруг MCP-сервера целиком, а вокруг каждого действия и его параметров.

Модель угроз для прототипа

Для воспроизводимого прототипа достаточно рассмотреть пять классов риска:

  1. Избыточные права. Инструмент умеет больше, чем требуется текущему сценарию.
  2. Prompt injection. Недоверенный текст пытается изменить инструкции модели или заставить её вызвать инструмент.
  3. Подмена контекста. Аргумент выглядит допустимым, но относится к другой рабочей области, пользователю или ресурсу.
  4. Повтор операции. Сетевой сбой приводит к повторному списанию, удалению или отправке.
  5. Невидимый отказ. Нельзя восстановить, кто запросил действие, какие аргументы были проверены и почему вызов завершился ошибкой.

Пример ниже не является готовой библиотекой авторизации. Это минимальная схема, которую можно адаптировать под конкретный MCP-клиент и сервер.

Шаг 1. Разделите инструменты по уровню опасности

Начните не со списка всех доступных API, а со списка намерений. Для каждого намерения определите минимальное действие.

Класс Пример Защита
Наблюдение read_report Проверка области видимости и прав чтения
Подготовка build_draft Изоляция результата, отсутствие внешнего эффекта
Изменение update_record Авторизация, валидация полей, идемпотентный ключ
Опасное действие delete_record Явное подтверждение пользователя и усиленный аудит

Не объединяйте чтение и изменение в универсальный инструмент вроде manage_resource. Узкое имя уменьшает пространство для неоднозначных решений и упрощает политики.

Шаг 2. Опишите контракт инструмента

Контракт должен описывать не только типы аргументов, но и границы действия. В качестве иллюстрации можно использовать такой JSON:

{
  "name": "update_record",
  "description": "Изменяет только поля draft_title и draft_body в записи черновика",
  "risk": "write",
  "requires_confirmation": false,
  "scope": "drafts:write",
  "idempotency_required": true,
  "input": {
    "type": "object",
    "required": ["record_id", "patch", "idempotency_key"],
    "properties": {
      "record_id": { "type": "string", "pattern": "^draft_[a-z0-9]+$" },
      "patch": {
        "type": "object",
        "additionalProperties": false,
        "properties": {
          "draft_title": { "type": "string", "maxLength": 160 },
          "draft_body": { "type": "string", "maxLength": 20000 }
        }
      },
      "idempotency_key": { "type": "string", "minLength": 16 }
    },
    "additionalProperties": false
  }
}

Поле description помогает модели, но не является механизмом безопасности. Сервер обязан повторно проверить имя инструмента, область, схему, доступ пользователя и допустимые значения.

Шаг 3. Введите серверную авторизацию

Авторизацию нельзя оставлять на стороне модели или интерфейса подтверждения. Сервер должен получать контекст вызывающего субъекта и проверять разрешение непосредственно перед выполнением операции.

function authorize(ctx, tool, args) {
  if (!ctx.userId) {
    throw new Error("AUTH_REQUIRED");
  }

  const policy = policyFor(ctx.userId, tool);

  if (!policy.allowed) {
    throw new Error("TOOL_NOT_ALLOWED");
  }

  if (!policy.scopes.includes(tool.scope)) {
    throw new Error("SCOPE_DENIED");
  }

  if (!recordBelongsToWorkspace(args.record_id, ctx.workspaceId)) {
    throw new Error("RESOURCE_OUT_OF_SCOPE");
  }

  return true;
}

Это псевдокод, а не готовая реализация. В рабочей системе решение должно учитывать срок действия учетных данных, отзыв разрешений, разделение рабочих областей и защиту от повторного использования контекста.

Шаг 4. Обрабатывайте prompt injection как недоверенный ввод

Текст из файлов, страниц, писем, тикетов и ответов внешних API нужно рассматривать как данные, а не как инструкции. Даже если этот текст содержит фразы вроде «игнорируй предыдущие правила» или «вызови инструмент с такими аргументами», он не должен автоматически менять политику выполнения.

Разделите поток на четыре части:

  1. Данные. Содержимое, которое модель анализирует.
  2. Политика. Ограничения, заданные приложением и сервером.
  3. Предложение действия. Намерение модели с аргументами.
  4. Решение о выполнении. Серверная проверка и, если нужно, подтверждение человека.

Недоверенный текст может быть причиной для предложения действия, но не должен быть источником полномочий. Полномочия должны приходить из контекста сеанса, политики и разрешений пользователя.

Шаг 5. Сделайте опасные действия двухфазными

Для удаления, публикации, отправки сообщения, изменения прав или финансового действия используйте разделение на подготовку и выполнение:

1. Модель формирует предложение:
   tool = "delete_record"
   args = { "record_id": "draft_7f2a" }

2. Сервер проверяет:
   - пользователь имеет право удаления;
   - запись существует и принадлежит рабочей области;
   - аргументы соответствуют схеме;
   - предложение не создано из запрещённого контекста.

3. Интерфейс показывает:
   - точное имя действия;
   - ресурс;
   - необратимые последствия;
   - срок действия подтверждения.

4. Пользователь подтверждает действие.

5. Сервер исполняет вызов с одноразовым confirmation_token.

Подтверждение должно быть связано с конкретным набором аргументов. Нельзя выдавать общий токен «разрешить удаления» и применять его к любому ресурсу. Если изменился хотя бы один значимый аргумент, требуется новое подтверждение.

Шаг 6. Добавьте идемпотентность

Идемпотентность нужна там, где повтор вызова может создать второй внешний эффект. Таймаут не означает, что операция не произошла: клиент мог потерять ответ после успешного выполнения.

function executeOnce(ctx, request) {
  const key = `${ctx.userId}:${request.tool}:${request.idempotency_key}`;

  const previous = idempotencyStore.get(key);
  if (previous) {
    return previous.result;
  }

  const result = performAuthorizedAction(ctx, request);

  idempotencyStore.put(key, {
    status: "completed",
    result: result,
    created_at: now()
  });

  return result;
}

В реальной реализации запись ключа и внешний эффект должны быть согласованы настолько, насколько это позволяет конкретная система. Для критичных операций понадобится транзакционный журнал, outbox-паттерн или иной механизм восстановления. Само наличие строки idempotency_key проблему не решает.

Шаг 7. Ведите аудит и трассировку

Логи должны отвечать на вопросы: кто вызвал инструмент, почему вызов был разрешён или отклонён, какие аргументы прошли валидацию и какой внешний эффект возник.

Минимальное событие аудита:

{
  "event": "tool.invocation",
  "trace_id": "trace-example",
  "request_id": "request-example",
  "user_id": "user-example",
  "workspace_id": "workspace-example",
  "tool": "update_record",
  "risk": "write",
  "authorization": "allowed",
  "confirmation": "not_required",
  "idempotency_key_hash": "hash-example",
  "result": "success",
  "created_at": "2026-01-01T00:00:00Z"
}

Значения выше — демонстрационный пример, а не реальные идентификаторы. Не записывайте в аудит токены, пароли, полные персональные данные и секреты. Для корреляции используйте trace_id и request_id, а для идемпотентного ключа — хеш или безопасный отпечаток.

Трассировка полезна, когда один пользовательский запрос вызывает несколько инструментов. Связывайте родительский span с дочерними вызовами, отдельно отмечайте этапы планирования, авторизации, подтверждения и исполнения.

Безопасный локальный сценарий проверки

Ниже — последовательность, которую можно воспроизвести в тестовом окружении без доступа к настоящим данным:

  1. Создайте отдельную рабочую область с фиктивной записью.
  2. Разрешите только read_report и update_record.
  3. Убедитесь, что delete_record отсутствует в опубликованном списке инструментов или требует отдельного подтверждения.
  4. Отправьте в модель текст, имитирующий prompt injection, и проверьте, что он не расширяет права.
  5. Повторите один и тот же вызов с одинаковым ключом идемпотентности.
  6. Проверьте, что второй вызов возвращает сохранённый результат и не создаёт второй эффект.
  7. Проверьте аудит по одному trace_id: должны быть видны авторизация, решение о подтверждении и итог.
  8. Измените один аргумент после подтверждения и убедитесь, что старый токен больше не принимается.

Команды и конкретные клиенты зависят от реализации MCP-сервера, поэтому здесь намеренно не приводится команда, которая могла бы ошибочно выглядеть универсальной. Используйте только тестовую рабочую область и фиктивные учетные данные.

Как проверить результат

Проверка Ожидаемый результат
Вызов без пользователя Отклонён до обращения к внешней системе
Ресурс из другой рабочей области Отклонён как RESOURCE_OUT_OF_SCOPE
Опасное действие без подтверждения Не исполняется
Изменение аргументов после подтверждения Требует нового подтверждения
Повтор с тем же ключом Возвращается прежний результат без повторного эффекта
Любой отказ Есть событие аудита с причиной и корреляционными идентификаторами

Типовые ошибки

«Мы доверяем описанию инструмента»

Описание предназначено для понимания, а не для принудительного контроля. Все ограничения должны дублироваться в серверной политике и проверке аргументов.

«Подтверждение пользователя решает всё»

Пользователь может подтвердить непонятный или подменённый экран. Показывайте конкретный ресурс, действие, последствия и аргументы, а токен связывайте с их точным отпечатком.

«Лог вызова — это аудит»

Обычный лог часто не содержит решения авторизации, версии политики и статуса подтверждения. Аудит должен быть структурированным и пригодным для расследования.

«Повторный запрос безопасен»

Без идемпотентности повтор может снова отправить сообщение, создать запись или изменить состояние. Учитывайте повторы на всех границах: клиент, MCP-сервер, очередь и внешний API.

«Недоверенный текст можно поместить в системную инструкцию»

Так вы стираете границу между данными и политикой. Храните происхождение данных и передавайте их модели в явно обозначенном недоверенном контексте.

Ограничения прототипа

Описанная схема не заменяет полноценную модель угроз и не гарантирует безопасность конкретной интеграции. Она не рассматривает детально управление секретами, ротацию ключей, изоляцию процессов, безопасность транспорта, мультиарендность, требования законодательства и восстановление после компрометации.

Также нельзя сделать вывод, что MCP-сервер безопасен только потому, что прошёл локальную проверку. Нужны отдельные проверки зависимостей, инфраструктуры, прав доступа, хранения журналов и поведения внешних систем.

Итоговая схема доверия

Безопасный прототип MCP-интеграции строится вокруг последовательности, где ни один слой не считается достаточным сам по себе:

Запрос пользователя
        ↓
Недоверенные данные отделены от инструкций
        ↓
Модель предлагает узкий инструмент и аргументы
        ↓
Сервер валидирует схему, область и права
        ↓
Опасное действие получает одноразовое подтверждение
        ↓
Идемпотентный исполнитель предотвращает повторный эффект
        ↓
Аудит и трассировка фиксируют решение и результат

Такой подход переводит разговор о доверии из области предположений в область проверяемых свойств. Инструмент не обязан быть «доверенным целиком»: достаточно явно определить, какие действия разрешены, в каком контексте, с каким подтверждением и каким следом в аудите.