Perplexity запустила Photon и быстрый режим Search API для агентов

Photon ищет страницы до того, как языковая модель соберёт ответ. Для поиска по словам он использует инвертированный индекс: каждому термину соответствует список документов, где он встречается. Короткие списки хранятся непосредственно в индексе, длинные разбиваются на блоки, а номера документов сжимаются кодированием Элиаса – Фано. Запись о странице содержит частоты и позиции слов, а также поля, в которых они встретились; её можно распаковывать частями. При двухэтапном ранжировании обход списков заранее отсекает документы, которым не попасть в выдачу.

Новый быстрый режим Search API сочетает Photon с ранжированием для агентных сценариев. По приведённым замерам, один поисковый вызов занимает 160 мс по медиане и 230 мс на 95-м перцентиле. На 3554 задачах из шести агентных бенчмарков режим получил 64,3% при оценочной стоимости модели и поиска $59,73; стандартный режим получил 64,0% при $187,60. Это сравнение итоговых результатов задач, а не доказательство одинакового качества каждой поисковой выдачи.

Во внутренних тестах качество выдачи быстрого режима было ниже: релевантность по DCG снизилась с 2,45 до 2,21, а доля запросов, для которых среди найденных страниц есть ответ, – с 59,6% до 56,7%. При этом в рабочей нагрузке задержка по 99-му перцентилю внутри Photon сократилась примерно с 800 до 65 мс; следующие стадии поиска в эту цифру не входят. Photon уже работает внутри Perplexity, а быстрый режим доступен через Search API.