YARP.DEV
← Всички проекти

Мултитенантен AI gateway · Платформена разработка

QWEN Hosting

Частен споделен AI backend, който централизира достъпа до модели, tenant/application контекст, инструменти, RAG и наблюдаемост.

Какво решава продуктът

Осигурява един управляван AI gateway за множество приложения, като моделите и runtime-ите остават заменяеми и policy-driven.

За кого е системата

  • Вътрешни продуктови екипи
  • Tenant приложения
  • Услуги с AI

Как е структурирана системата

Patterns и граници

Multi-tenancy · AI Gateway · Model routing · Tools · RAG · Local-first inference

Frontend

Administration / observability surfaces

Backend

Gateway APIs · Policy / model router · Tool orchestration

Инфраструктура

Local models · Cloud fallback · Observability · Cost-awareness

Проблеми, които си струва да бъдат показани

  1. 1

    Application → AI Gateway → Policy / Model Router → Model / Tools / RAG

  2. 2

    Local-first inference с cloud fallback

  3. 3

    Независимост от конкретен model/runtime между приложенията