Войти Регистрация
Data base

189. Сколько памяти займёт IVF_PQ на 100 млн векторов

Сложная

Milvus · Milvus 2.6

Визуальный поиск по пинам: 100 млн эмбеддингов float32 размерности 768. Команда считает память перед выбором индекса.

Вариант — IVF_PQ с m=96 (96 подвекторов по 8 измерений) и nbits=8 (каждый подвектор кодируется одним байтом). Кодовые книги и центроиды IVF занимают несколько мегабайт, их не считаем.

В работе: Оценка железа под векторный индекс до закупки серверов.

Как проверяем Движка Milvus в браузере пока нет, поэтому здесь не запрос, а выбор решения. Выберите один вариант. После ответа — почему каждый вариант верный или нет. Ответ один на подход: после него показываем разбор.
IVF_PQквантизацияпамятьпредсказать результат

Источник: на данных визуального поиска: эмбеддинги пинов. Условие пересказано своими словами.

Давали на собеседовании? Ответов пока мало — ваш поможет.

Сколько займут сырые векторы и PQ-коды?

  • Сырые ≈ 307 ГБ, PQ-коды ≈ 9,6 ГБ, сжатие в 32 раза
  • Сырые ≈ 77 ГБ, PQ ≈ 9,6 ГБ, сжатие в 8 раз
  • Сырые ≈ 307 ГБ, PQ ≈ 77 ГБ, сжатие в 4 раза
  • Сырые ≈ 307 ГБ, PQ ≈ 1,2 ГБ, сжатие в 256 раз