RunGateКабинет
ДОКУМЕНТАЦИЯОбновлено: 2026-11-12

Модели и Prompt Caching

Актуальные модели в RunGate AI Gateway (Claude, GPT, Gemini, DeepSeek) и настройка Prompt Caching для снижения расходов на повторяющийся контекст.

Через единый шлюз https://gateway.rungate.ru/v1 доступны модели ведущих провайдеров без необходимости заводить отдельные иностранные аккаунты и карты.

Поддерживаемые семейства моделей

  • Anthropic: claude-sonnet-5.5 и актуальная линейка Claude для кода и анализа;
  • OpenAI: gpt-6.1-sol и серия GPT для рассуждений и tool calling;
  • Google: gemini-4-argon и модели Gemini с большим контекстным окном;
  • DeepSeek: deepseek-v4-pro для высокочастотных и бюджетных задач.

Актуальный список идентификаторов моделей и тарификацию за 1M токенов всегда можно получить в кабинете RunGate и на эндпоинте /v1/models.

Prompt Caching

Для агентов и длинных системных промптов RunGate пробрасывает и сохраняет заголовки кэширования провайдеров. Чтобы задействовать кэш:

  1. Выносите неизменяемую часть (системный промпт, документацию, описания инструментов) в начало массива messages.
  2. Передавайте маркеры кэширования согласно спецификации модели — повторные обращения к тому же префиксу тарифицируются со скидкой провайдера и отвечают быстрее.

Подробный разбор бенчмарков и экономики кэширования смотрите в статье Prompt Caching: как снизить расходы на API.