Milvus · Milvus 2.6
Корпоративный ассистент отвечает по внутренним документам. Сотрудник загружает PDF регламента на 40 страниц, сервис режет его на 120 чанков, вставляет в Milvus и через 300 мс выполняет поиск по вопросу.
Примерно в 15% случаев свежие чанки в выдачу не попадают, ассистент отвечает «в документах нет данных». Уровень согласованности не задавался.
В работе: RAG-сервисы: чтение собственных записей сразу после вставки.
Как проверяем
Движка Milvus в браузере пока нет, поэтому здесь не запрос, а выбор решения. Выберите один вариант. После ответа — почему каждый вариант верный или нет. Ответ один на подход: после него показываем разбор.
Источник: на данных корпоративного ассистента: поиск по документам сотрудников. Условие пересказано своими словами.
Давали на собеседовании?
Ответов пока мало — ваш поможет.
Как исправить с наименьшей ценой?
- Выполнять вставку и поиск в одной сессии клиента с consistency_level="Session"
- Ничего, уровень по умолчанию Strong
- Перейти на Eventually
- Делать flush после каждой загрузки