Поиск по коллекциямготовится

Коллекция — это набор ваших документов, загруженных в LibraChat заранее и разобранных на фрагменты. Когда коллекция подключена к запросу, модель сама находит в ней подходящие фрагменты и подставляет их в ответ. Вам не нужно самим искать нужный кусок текста и класть его в messages — вы указываете идентификатор коллекции, остальное делает сервис.

Планируется три шага: создать коллекцию, загрузить в неё файлы, дождаться разбора. Пока идёт разбор, коллекция имеет статус indexing и в запросах не участвует; готовая — ready.

# 1. создать коллекцию
curl -X POST https://api.librachat.kz/v1/collections \
  -H "Authorization: Bearer sk-libra-…" \
  -H "Content-Type: application/json" \
  -d '{"name": "Регламенты отдела"}'

# {"id":"col_7f3a…","name":"Регламенты отдела","status":"ready",
#  "files":0,"bytes":0,"created_at":1785312000}

# 2. загрузить документ (multipart/form-data)
curl -X POST https://api.librachat.kz/v1/collections/col_7f3a…/files \
  -H "Authorization: Bearer sk-libra-…" \
  -F file=@reglament.pdf

# {"id":"file_91cd…","collection_id":"col_7f3a…",
#  "bytes":2418176,"status":"indexing"}

# 3. проверить готовность
curl https://api.librachat.kz/v1/collections/col_7f3a… \
  -H "Authorization: Bearer sk-libra-…"

# {"id":"col_7f3a…","status":"ready","files":1,"bytes":2418176}

Список коллекций — GET /v1/collections, удаление коллекции — DELETE /v1/collections/{id}, удаление отдельного файла — DELETE /v1/collections/{id}/files/{file_id}. Удаление освобождает хранилище: с этого момента место за него не тарифицируется.

Коллекция подключается через инструмент file_search в поле tools — по конвенции OpenAI. В одном запросе можно указать несколько коллекций. Модель решает сама, нужен ли поиск: если вопрос не требует документов, вызова не будет и платить за него не придётся.

curl -X POST https://api.librachat.kz/v1/chat/completions \
  -H "Authorization: Bearer sk-libra-…" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "libra-pro",
    "messages": [
      {"role": "user", "content": "Сколько дней отпуска по нашему регламенту?"}
    ],
    "tools": [{
      "type": "file_search",
      "file_search": {
        "collection_ids": ["col_7f3a…"],
        "max_results": 8
      }
    }]
  }'

В ответе, помимо обычного choices[0].message.content, планируется блок с найденными фрагментами — чтобы вы могли показать пользователю источник ответа.

{
  "id": "chatcmpl-…",
  "model": "libra-pro",
  "choices": [{
    "index": 0,
    "finish_reason": "stop",
    "message": {
      "role": "assistant",
      "content": "По регламенту — 28 календарных дней…",
      "file_search_results": [{
        "collection_id": "col_7f3a…",
        "file_id": "file_91cd…",
        "filename": "reglament.pdf",
        "score": 0.87,
        "text": "…ежегодный оплачиваемый отпуск — 28 календарных дней…"
      }]
    }
  }],
  "usage": {
    "prompt_tokens": 1840,
    "completion_tokens": 96,
    "total_tokens": 1936,
    "file_search_calls": 1
  }
}

При stream: true фрагменты придут отдельным событием до начала текста, а счётчик file_search_calls — в последнем фрагменте вместе с usage (в нём choices пустой). Поток, как и сейчас, закрывается строкой data: [DONE].

Оплата складывается из трёх частей, и это важно понимать до подключения коллекций: сам поиск, хранение документов и обычные токены.

Цены поиска и хранения для коллекций

• Считается вызов поиска, а не запрос: если модель за один ответ обратилась к коллекции дважды, это два вызова. Если не обратилась ни разу — 0 ₽ за поиск.
• Найденные фрагменты подставляются в промпт и оплачиваются как обычные входные токены модели. Чем больше max_results, тем дороже ответ — на практике 5–10 фрагментов хватает.
• Хранение считается по фактическому объёму разобранных документов за каждые сутки. 1 ГиБ документов — 27 ₽ в сутки, около 810 ₽ в месяц.
• Баланс общий на аккаунт, предоплаченный; пополнение от 1 млн токенов по 450 ₽ за 1 млн. Все списания будут видны в журнале операций отдельными строками.
• При нехватке средств запрос вернёт 402 insufficient_balance. Лимиты ключа не меняются: 120 запросов/мин, 1 000 000 токенов/мин, max_tokens до 32 000.

• Коллекции привязаны к аккаунту, а не к ключу: любой из ваших ключей (их до 10) сможет обращаться к любой коллекции аккаунта.
• Разбор загруженного файла асинхронный. Пока status = indexing, запрос с этой коллекцией вернёт ответ без её данных.
• Планируемые ошибки: 404 collection_not_found, 409 collection_indexing, 413 file_too_large. Тексты ошибок русские, ответ отдаётся с Content-Type: application/json; charset=utf-8.
• Картинки внутри документов не индексируются: берётся только текстовый слой. Изображения в messages по-прежнему отбрасываются.