AI Gateway

AI Gateway — это control layer для AI в Skitflow. Он позволяет маршрутизировать AI-функции через LiteLLM-compatible gateway, централизованно управлять provider credentials, атрибутировать usage по организациям, выдавать organization-scoped API keys и давать platform default model, когда не хочется требовать BYOK key от каждого tenant.

Он обслуживает AI Assistant, Ask AI actions, Compose analysis, Compose hardening и external agent integrations, которым нужен model catalog Skitflow без копирования provider secrets в каждый tool.

Что делает gateway

• Routes models per feature — можно настроить organization default, а затем отдельно переопределить Assistant, Ask AI или external agent routes.
• Supports BYOK and platform defaults — tenant-owned provider, platform-managed model или automatic fallback.
• Keeps usage attributable — calls идут через organization-scoped virtual keys, поэтому usage можно считать и ограничивать.
• Centralizes API keys — provider secrets хранятся server-side и не возвращаются в UI.
• Exposes controlled agent access — AI Gateway API keys дают approved agents и automation доступ к model catalog внутри Skitflow.
• Adds governance — operators могут смотреть usage и ограничивать budgets для platform-provided models.

Architecture

Gateway стоит между AI call sites Skitflow и реальными model providers:

1. Пользователь или approved agent вызывает AI feature, например Assistant chat, Ask AI, Compose review, Compose hardening или gateway API call.
2. Skitflow определяет route для active organization и feature.
3. Если AI Gateway включён и healthy, request идёт через LiteLLM-compatible gateway.
4. Gateway использует organization-scoped virtual key и вызывает BYOK provider model или platform default model.
5. Usage атрибутируется обратно к organization и отображается в gateway usage views.

Если gateway выключен, Skitflow использует direct provider configuration path. Если gateway включён, но недоступен, AI-функции возвращают понятную degraded-state ошибку, а не ждут мёртвый upstream.

Routing order

Для каждой AI feature Skitflow выбирает model в таком порядке:

1. Feature override, например Assistant или Ask AI.
2. Organization-wide default route.
3. Newest enabled BYOK provider в organization.
4. Platform default chat model.
5. Нет настроенной модели.

Так сохраняется прежнее BYOK-поведение, но operators могут постепенно включать platform defaults и per-feature routing.

Gateway sections в dashboard

AI Gateway включает такие разделы:

External agents

OpenClaw, Hermes Agent, internal scripts и другие custom agents могут использовать Skitflow без raw provider credentials. Создайте AI Gateway API key, выберите models, доступные organization, и пусть agent вызывает Skitflow как governed model access point.

Так model access остаётся внутри Skitflow: provider keys остаются server-side, usage остаётся attributable, а команда может менять underlying provider или model без переписывания каждой agent integration.

Security and privacy

• Provider keys write-only в management API. UI видит только факт наличия key, не значение.
• Gateway использует server-side routing decisions и organization-scoped keys для attribution.
• Assistant proposals не выполняются автоматически. Mutating actions требуют явного подтверждения и затем повторно проходят server-side authorization.
• Environment-variable diffs показывают только имена keys, без secret values.