Перейти к основному содержимому

AWS Bedrock

VibeOS поддерживает Amazon Bedrock как нативного провайдера через Converse API — а не через эндпоинт, совместимый с OpenAI. Это даёт полный доступ к экосистеме Bedrock: IAM-аутентификация, Guardrails, кросс-региональные профили инференса и все фундаментальные модели.

Предварительные требования​

  • Учётные данные AWS — любой источник, поддерживаемый цепочкой учётных данных boto3:
    • IAM-роль инстанса (EC2, ECS, Lambda — без настройки)
    • Переменные окружения AWS_ACCESS_KEY_ID + AWS_SECRET_ACCESS_KEY
    • AWS_PROFILE для SSO или именованных профилей
    • aws configure для локальной разработки
  • boto3 — установите с помощью cd ~/.vibeos/vibeos-agent && uv pip install -e ".[bedrock]"
  • IAM-разрешения — как минимум:
    • bedrock:InvokeModel и bedrock:InvokeModelWithResponseStream (для инференса)
    • bedrock:ListFoundationModels и bedrock:ListInferenceProfiles (для обнаружения моделей)
EC2 / ECS / Lambda

На вычислительных ресурсах AWS прикрепите IAM-роль с AmazonBedrockFullAccess — и всё готово. Никаких ключей API, никакой настройки .env — VibeOS автоматически обнаруживает роль инстанса.

Быстрый старт​

# Установка с поддержкой Bedrock
cd ~/.vibeos/vibeos-agent && uv pip install -e ".[bedrock]"

# Выбор Bedrock в качестве провайдера
vibeos model
# → Выберите «More providers...» → «AWS Bedrock»
# → Выберите регион и модель

# Начало чата
vibeos chat

Конфигурация​

После выполнения vibeos model ваш ~/.vibeos/config.yaml будет содержать:

model:
  default: us.anthropic.claude-sonnet-4-6
  provider: bedrock
  base_url: https://bedrock-runtime.us-east-2.amazonaws.com

bedrock:
  region: us-east-2

Регион​

Установите регион AWS одним из следующих способов (приоритет по убыванию):

  1. bedrock.region в config.yaml
  2. Переменная окружения AWS_REGION
  3. Переменная окружения AWS_DEFAULT_REGION
  4. По умолчанию: us-east-1

Guardrails​

Чтобы применить Amazon Bedrock Guardrails ко всем вызовам моделей:

bedrock:
  region: us-east-2
  guardrail:
    guardrail_identifier: "abc123def456"  # Из консоли Bedrock
    guardrail_version: "1"                # Номер версии или «DRAFT»
    stream_processing_mode: "async"       # «sync» или «async»
    trace: "disabled"                     # «enabled», «disabled» или «enabled_full»

Обнаружение моделей​

VibeOS автоматически обнаруживает доступные модели через управляющую плоскость Bedrock. Вы можете настроить обнаружение:

bedrock:
  discovery:
    enabled: true
    provider_filter: ["anthropic", "amazon"]  # Показывать только этих провайдеров
    refresh_interval: 3600                     # Кэшировать на 1 час

Доступные модели​

Модели Bedrock используют идентификаторы профилей инференса для вызова по требованию. Средство выбора vibeos model показывает их автоматически, с рекомендуемыми моделями вверху:

МодельIDПримечания
Claude Sonnet 4.6us.anthropic.claude-sonnet-4-6Рекомендуется — лучший баланс скорости и возможностей
Claude Opus 4.6us.anthropic.claude-opus-4-6-v1Наиболее мощная
Claude Haiku 4.5us.anthropic.claude-haiku-4-5-20251001-v1:0Самый быстрый Claude
Amazon Nova Prous.amazon.nova-pro-v1:0Флагман Amazon
Amazon Nova Microus.amazon.nova-micro-v1:0Самая быстрая, самая дешёвая
DeepSeek V3.2deepseek.v3.2Мощная открытая модель
Llama 4 Scout 17Bus.meta.llama4-scout-17b-instruct-v1:0Последняя от Meta
Кросс-региональный инференс

Модели с префиксом us. используют кросс-региональные профили инференса, которые обеспечивают лучшую пропускную способность и автоматическое переключение между регионами AWS. Модели с префиксом global. маршрутизируются по всем доступным регионам мира.

Переключение моделей во время сессии​

Используйте команду /model во время разговора:

/model us.amazon.nova-pro-v1:0
/model deepseek.v3.2
/model us.anthropic.claude-opus-4-6-v1

Диагностика​

vibeos doctor

Доктор проверяет:

  • Доступны ли учётные данные AWS (переменные окружения, IAM-роль, SSO)
  • Установлен ли boto3
  • Доступен ли API Bedrock (ListFoundationModels)
  • Количество доступных моделей в вашем регионе

Шлюз (Мессенджеры)​

Bedrock работает со всеми платформами шлюза VibeOS (Telegram, Discord, Slack, Feishu и др.). Настройте Bedrock как провайдера, затем запустите шлюз обычным образом:

vibeos gateway setup
vibeos gateway start

Шлюз читает config.yaml и использует ту же конфигурацию провайдера Bedrock.

Устранение неполадок​

«No API key found» / «No AWS credentials»​

VibeOS проверяет учётные данные в следующем порядке:

  1. AWS_BEARER_TOKEN_BEDROCK
  2. AWS_ACCESS_KEY_ID + AWS_SECRET_ACCESS_KEY
  3. AWS_PROFILE
  4. Метаданные инстанса EC2 (IMDS)
  5. Учётные данные контейнера ECS
  6. Роль выполнения Lambda

Если ничего не найдено, выполните aws configure или прикрепите IAM-роль к вашему вычислительному инстансу.

«Invocation of model ID ... with on-demand throughput isn't supported»​

Используйте идентификатор профиля инференса (с префиксом us. или global.) вместо чистого идентификатора фундаментальной модели. Например:

  • ❌ anthropic.claude-sonnet-4-6
  • ✅ us.anthropic.claude-sonnet-4-6

«ThrottlingException»​

Вы достигли лимита скорости Bedrock для данной модели. VibeOS автоматически повторяет попытки с экспоненциальной задержкой. Чтобы увеличить лимиты, запросите увеличение квоты в консоли AWS Service Quotas.

Развёртывание в AWS в один клик​

Для полностью автоматизированного развёртывания на EC2 с CloudFormation:

sample-vibeos-agent-on-aws-with-bedrock — создаёт VPC, IAM-роль, инстанс EC2 и автоматически настраивает Bedrock. Развёртывание в любом регионе одним кликом.