Тег

#reasoning

Все топики с тегом #reasoning.

DS

PageIndex: RAG без векторных баз данных на основе логического вывода

PageIndex — векторless RAG на основе рассуждений. Вместо векторных БД и чанков использует иерархический древовидный индекс и LLM-рассуждения для поиска. Такой подход находит релевантное, даже если оно не похоже на запрос, что критично для сложных документов.

Индексация строится на структуре документа без LLM, поэтому достаточно базовой модели. Поиск выполняет более мощная модель, рассуждая по дереву. Стоимость индексации ~$0.001 за страницу, время — от 13 секунд до 4.5 минут для 1098 страниц.

Sonata

PrismML научилась сжимать LLM без потери качества

image source

Стартап PrismML, о котором пока мало кто знает, привлёк посевной раунд в $22,25 млн. Компания делает ставку на то, что мощные reasoning-модели не обязательно должны быть большими — их можно сжимать до размеров, подходящих для ПК и смартфонов.