Özet
RAG (pgvector), Redis cache, API key, rate limit. İstemciler Ollama’ya doğrudan gitmez.
Problem
Ekipler farklı modelleri doğrudan çağırınca denetimsiz maliyet ve güvenlik riski doğuyor.
Çözüm
Spring Boot gateway: purpose bazlı model yönlendirme, konuşma/audit kaydı, embedding + RAG.
Öne çıkanlar
- CHAT / CODING / EMBEDDING
- OpenAPI Swagger
- RAG playground
