rag-service

RAG Service

A self-hosted RAG service with hybrid search (semantic + BM25), admin dashboard, and Claude Code plugin for agent integration.

Architecture

                          rag-service
 ┌─────────────────────────────────────────────────────────┐
 │                                                         │
 │  ┌─────────┐   ┌──────────┐   ┌───────────────────┐    │
 │  │ Adapter  │──>│ Chunking │──>│  Embed & Upload    │    │
 │  │ (json,md)│   │ (H2+para)│   │                    │    │
 │  └─────────┘   └──────────┘   │  text-embedding-   │    │
 │       ^                        │  3-small (1536d)   │    │
 │       │ --input                └────────┬───────────┘    │
 │       │ --dry-run                       │                │
 │                                         v                │
 │  ┌──────────────────────────────────────────────┐       │
 │  │           InsForge (pgvector)                 │       │
 │  │                                               │       │
 │  │  poc_kb_chunks                                │       │
 │  │  ┌─────┬──────┬───────────┬──────────┐       │       │
 │  │  │ id  │ text │ embedding │ vis/tags │       │       │
 │  │  └─────┴──────┴───────────┴──────────┘       │       │
 │  │                                               │       │
 │  │  AI Proxy: embeddings + chat completions      │       │
 │  └──────────────────────────────────────────────┘       │
 │                         │                                │
 │              ┌──────────┴──────────┐                     │
 │              v                     v                     │
 │  ┌─────────────────┐   ┌──────────────────┐             │
 │  │   BM25 search   │   │ Semantic search  │             │
 │  │ (Intl.Segmenter │   │ (pgvector cosine)│             │
 │  │  + Porter stem)  │   └────────┬─────────┘             │
 │  └────────┬────────┘            │                        │
 │           └──────────┬──────────┘                        │
 │                      v                                   │
 │             ┌─────────────────┐                          │
 │             │   RRF Fusion    │                          │
 │             │ (keyword 0.25 + │                          │
 │             │  semantic 0.75) │                          │
 │             └────────┬────────┘                          │
 │                      v                                   │
 │  ┌────────────────────────────────────────────┐         │
 │  │  /api/query  →  chunks + optional LLM RAG  │         │
 │  │  /api/learn  →  add chunk (unverified)      │         │
 │  │  /api/report →  flag content issue          │         │
 │  │  /dashboard  →  admin UI                    │         │
 │  └────────────────────────────────────────────┘         │
 └─────────────────────────────────────────────────────────┘

            Agent Curation Loop
 ┌───────────────────────────────────────┐
 │                                       │
 │  search ──> learn/report              │
 │               │                       │
 │               v                       │
 │  triage ──> inspect ──> edit/verify   │
 │               │                       │
 │               v                       │
 │  curate (walks queue item-by-item)    │
 │               │                       │
 │               v                       │
 │  improved KB ──> better search ──>    │
 └───────────────────────────────────────┘

Getting Started

1. Create a Zeabur Project

Go to Zeabur Dashboard and create a new project.

2. Enable InsForge

In your project, go to Integration → InsForge → Enable InsForge. Additional charges may apply based on usage (pricing details).

3. Get InsForge Credentials

After enabling, open InsForge and go to Project Settings → API to find:

• Project URL (INSFORGE_URL): e.g. https://xxx.us-east.insforge.app
• API Key (INSFORGE_API_KEY): starts with ik_...

4. Deploy RAG Service

In your project, click Add Service → Marketplace, search for RAG Service, and fill in:

• The InsForge credentials from Step 3
• Zeabur AI Hub API Key: can be generated during deployment, or created in advance at Zeabur AI Hub

Schema migrations run automatically on first startup — no manual setup needed.

API Endpoints