RAG (Retrieval-Augmented Generation)

RAG — техника, при которой AI отвечает не из общих знаний, а из ваших документов.

Когда использовать

• Подходит: FAQ по сложному продукту (где общий GPT не знает деталей)
• Подходит: правовые консультации с привязкой к конкретным законам
• Подходит: поддержка по документации (товара, API, услуги)
• Не подходит: просто общие вопросы (избыточно)

Создание базы

Knowledge Base → "Создать":

• Название, язык, embedding-модель
• text-embedding-3-small (default, дёшево)
• text-embedding-3-large (точнее, дороже)

Загрузка документов

Поддерживаемые форматы:

• PDF (text + scanned with OCR)
• DOCX
• TXT, Markdown
• CSV (каждая строка → chunk)
• HTML (extract main content)

После загрузки документ разбивается на chunks по 500-1000 токенов с overlap 100.

Подключение к flow

Add блок "GPT" → включите "Use Knowledge Base" → выберите базу.

Промпт автоматически дополняется top-3 релевантными chunks.

Стоимость

• Embedding: ~$0.02/1M токенов (один раз при загрузке)
• Search: бесплатно (chromadb-style локальный)
• GPT call с context: как обычный GPT-4o-mini

Типичный запрос: ~3500 токенов prompt + ответ → $0.001 (≈0.1₽)